大きなAIモデルをノートPCで動かそうとして、メモリが足りずに諦めたことはないだろうか。エージェント型のコーディング支援を自分のPCで試したくても、軽量モデルでは力不足に見えて二の足を踏むこともある。
AI研究企業Thinking Machines Labが2026年11月20日、公式ブログで新しいオープンウェイトモデル「Inkling 2 Mini」を発表した。総パラメータ26.4B(アクティブ3.4B)、必要メモリは約20GBというノートPCでも扱える小ささだ。それでいて、エージェント型コーディングの複数のベンチマークで100B未満のオープンウェイトモデルの中でトップクラスに達したという。種明かしは、重みを増やさずに計算の深さだけを増やす「ループ」という工夫にある。小さいからこそ気になるのは、どこまでの作業に向いていて、手元のPCで本当に動くのかという点だ。
なぜ小さいモデルで上位の性能が出せるのか
普通、AIモデルの「層」を増やして賢くしようとすると、増やした分だけ覚えておく重みも増える。24層のモデルなら24層分の重み、48層のモデルなら48層分の重みが要る。メモリを圧迫するのはこの対応関係で、ノートPCで動かせる重みの量には上限がある。
Inkling 2 Miniは、この対応関係そのものをずらした。公式ブログによると、24層を6層ずつ4つのブロックに分け、中間の2ブロックをそれぞれ3回ループ実行する。保存している重みは24層分のままで、実行される計算は48層分に相当する。重みの量と計算の回数を切り離した設計だ。
重みは24層分のままで、計算だけが48層分に膨らんでいることがこのグラフから分かる。公式ブログによれば、中間ブロックのループは最後のブロックをループさせるよりも計算量あたりの効果が大きかったという。
「ループ」は具体的に何をしているのか
ここでいうループは、同じ重みをもう一度読み直すだけではない。各層は前のブロックの出力を読み、2周目以降はさらに前回の計算結果(公式ブログの表現では「message」)も受け取って混ぜ合わせる。1周目の答えを踏まえて、2周目・3周目でもう一度考え直す構造になっている。
このmessageの影響は学習の初期段階ではほぼ無効化されており、学習が進むにつれて徐々に強まるよう調整されている。いきなり前回の結果を強く反映させると学習が不安定になるため、この「ゲート」が安定性を保つ役割を担っているという。
この仕組みには、最初は実感が湧かなかった。「層を増やす」と言えば新しい重みを覚えさせることだと思い込んでいたので、重みを増やさずに深さだけを増やすという発想がすぐには飲み込めなかった。公式ブログの図を読み直し、ブロックが前の周の計算結果を受け取って考え直すという説明に行き着いて、同じ覚え方のまま考える回数だけを増やしているのだと腑に落ちた。
増えたのは覚えている量ではなく、考え直す回数だ。重みを1枚も増やさずに、同じ情報を複数回読み直して解像度を上げている。
量子化で小さくして性能は落ちないのか
メモリが約20GBで済む理由はループだけではない。公式ブログによれば、専門家層(MoEの各エキスパート)は4bitのNVFP4形式、最後の4層は8bit相当のMXFP8形式で、最初から学習・配備されている。あとから軽量化のために精度を落とす量子化とは違い、変換による精度低下は生じていないという。
もう一つの軽量化は専門家の数そのものを絞り込んだことだ。学習の初期段階では384個の候補から8個を選ぶ構成だったが、中間学習の過程で約3分の2を削り、各層でよく使われた128個だけを残した。削った分の性能低下は、より大きな内部モデルから1兆トークン分の蒸留を受けることで埋め合わせたという。
複数のベンチマークでの実測値
公式ブログが示すベンチマーク結果を表にまとめた。
| ベンチマーク | スコア |
|---|---|
| DeepSWE v1.1 | 48.2%(100B未満のオープンウェイトモデルで首位) |
| Vals Index v2.2 | 46.5%(同首位) |
| SWE-bench Pro v2(Hard) | 77.9% |
| SWE-bench Verified(bash only) | 79.2% |
| Terminal Bench v2.1 | 71.6% |
| BrowseComp(compaction付き) | 79.0% |
| DeepSearchQA(compaction付き) | 85.3% |
| MCP Atlas | 82.7% |
| OmniDocBench v1.6 | 92.8% |
いずれもエージェント型コーディングや検索、ツール利用に関わるベンチマークで、100B未満のオープンウェイトモデルの中では上位に位置するという。ただしこれらの数値はThinking Machines自身による計測で、独立した第三者による再現は確認できていない。
一方、エネルギー効率の指標「Intelligence per Watt」は独立した検証を経ている。この指標はStanford Hazy Research Labらの論文が提案したものだ。公式ブログによると、同研究室とScaling Intelligence Labの研究者が早期アクセスでInkling 2 Miniを独自に評価した。
NVIDIA DGX Spark(128GB)上での測定では、Inkling 2 Mini(MXFP8)が0.703だった。比較対象は、Qwen3.6-35B-A3B(NVFP4)が0.430、Gemma-4-26B-A4B(NVFP4)が0.159、Qwen3.5-27B(INT4)が0.036。ただしInkling 2 Miniだけが8bit相当のMXFP8で、他は4bit形式のNVFP4・INT4で動かされている。量子化の精度形式が揃っていないため、この数値差をそのまま性能差として読むことはできない。
得意不得意もはっきりしている。公式ブログが挙げる範囲は次のとおりだ。
- 向いている: エージェント型コーディング、検索やツール利用のように、1つの作業に集中して繰り返し手を動かすタスク
- 不得意: 多ターンの対話、たくさんの制約を同時に満たす必要がある指示
- 劣る: CritPt v2やHLE-Diamondのような高度な推論ベンチマークは大型モデルに及ばず、知識量に依存する事実性のベンチマーク(AA-Omniscience)も同規模のモデル並みにとどまる
自分のPCで動かすには何が必要か
Inkling 2 Miniはオープンウェイトで、Hugging Faceのthinkingmachinesページに重みが公開されている。パラメータ数26Bという表記は公式ブログの26.4Bと一致しており、ブログとは別の場所での確認が取れた形になる。
ローカルで動かす場合、公式ブログが案内する手段は次のとおり。
- 32GB以上のRAMを積んだMac(MacBook・Mac Mini)でOllama経由
- NVIDIA DGX Sparkでのネイティブ実行
- UnslothやGGUF形式に対応したllama.cppでの実行
- SGLang・vLLM・NVIDIA Dynamoなど、より本格的な推論基盤
一般的な8GBや16GBのノートPCでは、このモデルは動かない。「ノートPCで動く」という触れ込みは、あくまで32GB以上のメモリを積んだノートPCが前提になっている。
Tinker(推論・ファインチューニング・Playgroundでのチャット)経由でも利用できるが、料金は公式ブログに記載がなく確認できなかった。
まとめ
Inkling 2 Miniは、重みを24層分に抑えたまま中間ブロックを3回ループさせることで、計算の深さだけを48層分に増やした小型モデルだ。4bit・8bitでの学習配備とエキスパートの絞り込みも合わさって、必要メモリは約20GBに収まっている。エージェント型コーディングの複数のベンチマークでは、100B未満のオープンウェイトモデルの中で上位に入るという。ただし多ターン対話や高度な推論は不得意で、動かすには32GB以上のRAMが要る。ノートPCで試すなら、まずは自分のマシンのメモリ容量を確かめることから始まる。
コメント
気づきや感想をどうぞ記事への補足や、読んで考えたことをお寄せください。個人情報や、他の人を傷つける内容の投稿はお控えください。
投稿にはGoogleログインが必要です。
Googleでログイン投稿にはGoogleアカウントの表示名が公開されます。メールアドレスは取得・公開しません。
コメントを読み込んでいます…