WADA-DEV(7) $ /ja/blog/vision-token-compression-japanese-vs-english/

NAME

vision-token-compression-japanese-vs-english — 「テキストは画像で渡したほうが安い」は日本語で本当に得なのか実測した

SYNOPSIS

DeepSeek-OCR をきっかけに広まった「文章を画像化して渡すとトークンが減る」という話。情報密度の高い日本語ほど得なはず、という直感を、意味が同一の英日テキストを画像化して Claude / Qwen2.5-VL / DeepSeek-OCR の3つで実測して検証した。結論は直感の逆だった。

DESCRIPTION

最近、「LLM に長い文章を渡すなら、テキストとして入れるより まるごとスクショして画像で渡したほうがトークンが少なくて済む」という話をちらほら見かけるようになった。火元は DeepSeek-OCR という中国発のモデルで、Karpathy がそれに乗っかって「テキストの入力はそもそも画像でいいのでは」と面白がったことで一気に広まった。

これを見て自分が真っ先に思ったのはこうだ——それ、日本語なら特に得なんじゃないか?

日本語は漢字1文字が単語レベルの情報を持つし、そもそも BPE トークナイザは日本語を非効率に刻む(1文字が複数トークンに割れる)。同じ内容を英語より少ない文字数で書けるのに、テキストトークンでは逆に高くつく。だったら画像化して「面積」で勝負したほうが、日本語のほうが恩恵が大きいはずだ——という筋書き。

で、この直感が正しいか、家の RTX5090 を使って実測した。結論から言うと 直感は半分正しくて、肝心のところで逆だった。順番に説明する。

実験の組み方

意味が完全に一致する英語と日本語の長文が要る。翻訳のブレを最小にしたいので、公式訳が存在する 世界人権宣言(前文+第1〜10条) を使った。これを両言語で同じ体裁で画像にレンダリングして、3種類の「読み手」に食わせる。

測るのは2つ。

  • コンテキスト消費量: そのテキスト/画像が何トークンを食うか
  • 読み戻し精度(CER, 文字誤り率): 画像から元の文章をどれだけ正確に復元できるか

読み手は性格の違う3つを選んだ。

① Claude (Opus) … 高性能な汎用 VL。画像トークナイザは固定式
② Qwen2.5-VL 3B … ローカルの汎用 VL(ollama, RTX5090)
③ DeepSeek-OCR … 光学圧縮の専用エンコーダ(今回の主役)

まず押さえておくべき大前提がひとつある。画像のトークン消費は、多くのモデルで「画素の面積」だけで決まり、言語には依存しない。 Claude なら トークン ≒ 幅 × 高さ / 750 で、そこに何語が書いてあるかは関係ない。つまり同じ体裁・同じ文字サイズなら、英語のページも日本語のページもほぼ同じ画像トークンになる。

じゃあ言語差はどこに出るのか。それは テキスト側の基準線専用エンコーダの圧縮限界 に出る。ここが今回の肝だった。

結果1: テキストだと日本語は1.75倍損している

まず素のテキストのトークン数(Claude の tokenizer は非公開なので、近い挙動の o200k で代用)。

文字数テキストトークン
英語3243735
日本語14801289

日本語は文字数は英語の半分以下なのに、トークンは1.75倍。これが「日本語は tokenizer に冷遇されている」という、画像化に期待したくなる根拠そのものだ。分母(テキスト基準線)が膨れているぶん、画像がお得に見える余地が大きい。

結果2: 汎用 VL では画像化はそもそもペイしない

次に、その画像を実際に汎用 VL に食わせたときのトークン。文字サイズ12pxで全文をレンダリングし、内容にクロップして測った。

読み手英語の画像tok日本語の画像tok
Claude19081855
Qwen2.5-VL18501809

(数字の出どころは種類が違う点に注意してほしい。Claude の値は公開されている画像トークン式 幅×高さ/750 からの計算値、Qwen は実際に食わせたときの実測 eval トークン数。後述の DeepSeek のモード別トークンは公称値だ。厳密な同一基準ではないので、桁の比較として読んでほしい。)

予告どおり、画像トークンは言語でほとんど変わらない(差 ~3%)。そして重要なのは絶対値だ。日本語のテキストは 1289 トークンなのに、画像にすると 1809〜1855 トークン。画像にした瞬間むしろ高くなっている。 英語に至っては 735 → 1850 で 2.5倍だ。

つまり Claude や Qwen のような汎用 VL に素の PNG を投げる限り、「スクショで安くなる」は起きない。むしろ損。日本語ですら、テキスト基準線が膨れているぶん「相対的にマシ」なだけで、勝ててはいない。

ちなみに精度はどうか。Qwen2.5-VL に転写させると、英語 CER 0.22% に対して日本語は 1.08% と5倍崩れた。実際の誤りも「世界の到来→世界的到来」「授けられ→受けられ」のような、画数の多い漢字や助詞の取り違えだった。一方 Claude で同じ画像を転写した限りでは誤りは見当たらなかった(ただし Claude 側は CER をきちんと測っていない)。おそらく強いモデルは日本語の語彙知識で潰れかけた漢字を補完できるぶん有利で、純粋な画素の可読性とは別物だ。この「弱いモデルほど日本語で不利」は後で効いてくる。

結果3: 専用エンコーダ DeepSeek-OCR は桁が違う

ここからが本題。DeepSeek-OCR は汎用 VL とは設計思想が違って、1ページを数十〜数百トークンに叩き込む専用の圧縮エンコーダを持つ。解像度モードで vision トークン数が変わる(Tiny=64, Small=100, Base=256, Large=400, Gundam=動的)。

RTX5090 に載せて(transformers 直、torch cu128、6.7GB)、同じ画像を各モードで読ませて CER を測った。

モードvision tok英語 CER日本語 CER
Tiny646.2%45%(崩壊)
Small1002.8%10%
Base2562.1%3.1%
Large4002.1%0.75%
Gundam~6402.1%2.4%

まず桁を見てほしい。汎用 VL が 1850 トークン食っていた同じ文書が、英語なら 100 トークン、日本語でも 400 トークンでほぼ完璧に復元できている。汎用 VL 比で 英語は約18倍、日本語でも約5倍の圧縮だ。しかも今回テキストトークン基準(英735/日1289)と比べても、

  • 英語: 画像100 tok vs テキスト735 tok → 画像が 7.3倍安い
  • 日本語: 画像400 tok vs テキスト1289 tok → 画像が 3.2倍安い

専用エンコーダなら、英語も日本語も画像化が明確に勝つ。 汎用 VL では勝てなかったのに、だ。DeepSeek-OCR 論文の「10倍圧縮・97%精度」という宣伝文句は、だいたいこの英語のレジームを指している。

(補足: 英語の CER が 2% で頭打ちなのは誤読ではなく、モデルが冒頭のタイトル1行を落としただけ。実質 100 トークンからほぼ完璧だ。)

そして直感は逆転する

さて、ここでさっきの表をもう一度見てほしい。同じモードでの英日の差だ。

  • 64トークン(Tiny): 英語は CER 6% で読めているのに、日本語は 45% で完全崩壊。「個人宣言」「構成要素の何が最も重要で不適切」みたいな、それっぽい日本語を幻覚し始める。
  • 英語が 100 トークンで届く精度に、日本語は 256〜400 トークン要る(256でようやく英語の100相当、400で英語をむしろ上回る)。

つまり DeepSeek-OCR の上では、日本語は英語のおよそ 2.5〜4倍の vision トークンを要求する。 考えられる理由はこうだ。光学圧縮はページを乱暴にダウンサンプルして数十トークンに畳み込む処理で、画数が多く情報が密な漢字ほど先に潰れるのだろう。ひらがな交じりとはいえ、漢字の字形が壊れれば読めなくなり、モデルは幻覚で埋める。実際 64 トークンの日本語は完全に崩壊した。

ここで最初の直感——「情報密度が高い日本語は画像化で一番得」——の答えが出る。

半分は正しい。 テキストトークンの分母では、日本語は 1.75倍膨れているぶん画像化が相対的に魅力的だ。

でも肝心の圧縮側で逆にペナルティを食う。 同じ密度の情報を圧縮画像に載せるのに、日本語は漢字のせいで 2.5〜4倍のトークンが要る。この2つの力は逆向きで、専用エンコーダの上では 圧縮側のペナルティが勝ち、むしろ英語のほうが得、という逆転が起きる。密度が高いことは、テキストでは正義だが、光学圧縮では負債になる。

実務的な結論

3つの読み手を並べるとこうなる。

画像tok(英/日) 画像化は得か
Claude 1908 / 1855 ✗(テキストより高い)
Qwen2.5-VL 1850 / 1809 ✗(同上・日本語は精度も落ちる)
DeepSeek-OCR 100 / 400 ◎(テキストより大幅に安い)
  • 汎用の Claude / GPT / Qwen に素の PNG を投げても安くならない。 むしろ高い。「スクショで節約」を汎用 VL で期待してはいけない。あの話はあくまで 専用エンコーダ込み の主張だ。
  • 本当に安くしたいなら DeepSeek-OCR のような光学圧縮エンコーダが要る。 そこでは英日とも画像が勝つが、得の大きさは英語のほうが上で、日本語は漢字ぶん割り引かれる。
  • 厳密な一字一致(コード・契約書)が要る用途は、そもそも圧縮=非可逆なので向かない。画像化が効くのは「表・帳票・レイアウトそのものが情報」で、かつ「読めれば十分」な参照用途だ。

なお今回は 1つの文書(世界人権宣言・格式ばった法律文)を1種類のフォント・サイズ(12px)でレンダリングした n=1 の実験だ。密度やレイアウトへの依存、文書の種類による違いは未検証で、「英語が勝つ」という結論をそのまま一般化するのは早い。あくまで一次観測として読んでほしい。

「情報密度の高い日本語こそ画像で得をする」というきれいな話を期待して始めたのに、出てきたのは「密度が高いせいで圧縮に余計コストがかかり、むしろ英語に負ける」という逆オチだった。実測してみないと分からないものだ。検証環境(レンダリング+3リーダーのハーネス)は手元に残してあるので、次は長い実文書やコード断片で密度依存を追ってみたい。

SEE ALSO

COMMENTS