PLaMo 3 Translate、0.8Bの小型モデルが大型翻訳AIを超えた

8億パラメータしかない小さな翻訳AIが、その30倍以上大きいモデルより性能が高いと言われたら、どう思うだろうか。多くの人は「それは言い過ぎだろう」と感じるはずだ。Preferred Networks(PFN)は2026年11月5日、翻訳特化の大規模言語モデル「PLaMo 3 Translate」の重みを公開した。まさにこの主張を発表している。最小の0.8Bモデルでも、日英翻訳や日本語を介した多言語翻訳で、既存の大型翻訳AIを上回ったという。個人なら無料で、中小企業も登録だけで商用利用できる。どれだけ小さいモデルが、どれだけ大きいモデルに勝ったのか。そして、なぜそんなことが起きたのか。

公開された内容は何か

PFNは2026年11月5日、翻訳特化の大規模言語モデル「PLaMo 3 Translate」の重みを、開発者向けプラットフォームのHugging Faceで公開した。PFNの発表によると、公開されたのは0.8B・2B・8B・31Bの4サイズで、対応言語は53言語にのぼる。周辺の文脈を踏まえた翻訳や、専門用語集の指定、日本語の常体・敬体の切り替えといったオプションも備える。

各サイズは、通常の精度(BF16)に加えて、容量を抑えた量子化形式や、ローカル実行向けの形式でも配布されている。

• BF16(標準の精度)
• FP8、W4A16、W4AFP8、NVFP4(容量を抑えた量子化形式)
• GGUF、MLX-4bit(スマートフォンやノートPCでのローカル実行向けの形式)

モデルの土台になっているのは、PFNと情報通信研究機構(NICT)が共同研究で開発した基盤モデル「PLaMo 3 NICT」だ。この基盤モデルに、大量の翻訳データを学習させて作られている。4サイズのうち、とりわけ目を引くのが最小の0.8Bモデルの性能だ。

どれだけ小さいモデルなのか

PFNの発表は、この0.8Bモデルについてこう書いている。「最小の0.8Bモデルでさえ、日英、日本語↔多言語性能では総パラメータ数が30倍以上大きなものも含めて、既存の全ての翻訳特化LLMを上回る性能を達成している」。原文の「最終的なモデル性能」節にある一文だ。

比較対象として挙げられているのは、Google DeepMindの「TranslateGemma」と、Tencentの「Hy-MT2」だ。TranslateGemmaは4B・12B・27Bの3サイズで公開されており、The Decoderの報道によると最大の27BはGemma 3をベースにしている。Hy-MT2は1.8B・7B・30B-A3Bの3サイズで構成される。Tencent-Hunyuanの公式リポジトリによれば、最大構成は「30B-A3B」というMoE(専門家混合)モデルだ。この種の名称は一般に、総パラメータ数と、実際の計算で使われる活性化パラメータ数を表す。

パラメータ数を棒の長さで並べると、0.8Bの棒は27B・30Bの棒のおよそ30分の1しかない。これだけ規模の離れたモデルを、PFNは上回ったと主張している。ただし、この主張を裏づける具体的なベンチマークスコアは、発表に添えられたグラフでのみ示されており、本文中に数値としては書かれていない。自分も最初にこの発表を読んだとき、学習データや工夫だけでここまでの差が埋まるとは考えにくく、何か見落としがあるはずだと身構えた。なぜ、これほど小さいモデルが、これほど大きいモデルに勝てるのか。

なぜ小さくても勝てたのか

AIモデルの性能は、学習に使ったデータや工夫がどれだけ優れているかで決まる、と考えるのが自然だ。けれど、PLaMo 3 Translateの0.8Bモデルが大きなモデルに勝てた理由は、0.8Bモデル単体の学習方法が特別優れていたからではない。

PFNの発表が明かす学習の流れは、次の順になる。

1. 同じPLaMo 3 Translateファミリーの中で、最も大きい31Bモデルを先に学習する
2. 0.8B〜8Bの小さいモデルに、通常の教師あり学習(SFT)を行う
3. DPO(直接選好最適化)という調整に入る前に、31Bモデルの翻訳判断を小さいモデルへ教え込む

この3番目の工程を「蒸留」と呼ぶ。大きい教師モデルが出す翻訳の確率分布に、小さい生徒モデルの出力を近づけていく学習だ。

蒸留そのものは珍しい手法ではない。PFNが苦労したと明かしているのは、その安定のさせ方だ。教師モデルがほとんど出さない表現に生徒モデルが確率を割り当ててしまうと、損失が極端に大きくなり、学習が不安定になる。PFNはこれを防ぐため、DistiLLM-2という手法をベースに、AMiDという方法で学習対象の分布を調整したという。

0.8Bモデルが大型モデルに勝てたのは、0.8Bという小さな構造だけで学んだからではなく、31Bモデルの翻訳判断をあとから教え込まれているからだ。

試行錯誤はここだけではない。PFNは強化学習の一種であるGRPOも試したが、ベンチマークの数値は上がった一方で、人手による評価では翻訳の流暢さが落ちたため、採用を見送ったという。学習の効果を測る評価には、Gemini 3.1 Proによる自動判定(LLM as a Judge)を使っている。31Bモデルでの計測では、DPOを1周行うと、SFTだけの場合と比べて英→日で57%、日→英で59%の勝率になったとしている。これはAIによる自動判定であり、人手評価ではない点には注意がいる。

どうすれば使えるのか

誰が無償で使えるかは、利用形態によって分かれる。PFNが定める「PLaMoコミュニティライセンス」の条件は次のとおりだ。

個人の利用はもちろん、多くの中小企業にとっても追加コストなしで商用利用に踏み出せる条件になっている。事前登録フォームに申請するだけでよい。10億円を超える企業は、専用の相談窓口から別途契約を結ぶ必要がある。

実際に動かす場合、Hugging Face上の各モデルのREADMEには、ライブラリTransformersを使った最小限のサンプルコードが載っている。

from transformers import AutoModelForCausalLM, AutoTokenizer

tokenizer = AutoTokenizer.from_pretrained(".", trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
    ".", trust_remote_code=True, dtype="bfloat16", device_map="auto"
)

0.8BモデルのREADMEによれば、簡単な動作確認にはTransformers、実際のアプリケーションに組み込む場合はvLLMの利用が勧められている。

まとめ

PFNは2026年11月5日、翻訳特化LLM「PLaMo 3 Translate」の重みを、0.8B・2B・8B・31Bの4サイズでHugging Faceに公開した。53言語に対応し、量子化形式やローカル実行向けの形式も揃っている。

最小の0.8BモデルがTranslateGemma(最大27B)やHy-MT2(最大30B)のような大型モデルを上回ったとPFNは発表している。この性能は、0.8Bモデル単体の学習の工夫ではなく、同じファミリーの31Bモデルが出す翻訳判断を、学習の途中で教え込む「蒸留」という工程によって得られている。安定した蒸留のためにAMiDという手法を使い、流暢さが落ちたGRPOは採用を見送るなど、試行錯誤を重ねたという。

個人の利用は無料、年間売上10億円以下の企業も事前登録だけで無償で商用利用できる。Hugging Face上のREADMEにはサンプルコードも用意されており、今日から試すことができる。