54GBあったAIモデルが、3.9GBまで縮んでiPhoneの中で動く。数字だけ見れば圧縮技術の話です。けれど発表と同じ週、Appleが評価中だという報道が重なりました。端末に降りてきたのは性能ではなく、私たちのデータをどこで処理するかという選択肢だったのかもしれません。
PrismMLは2026年7月14日、Qwen3.6 27Bをベースとするマルチモーダルモデル「Bonsai 27B」を発表した。三値版は{−1, 0, +1}の重みで実効1.71ビット、サイズ5.9GBでノートパソコン向け、1ビット版は{−1, +1}の重みで実効1.125ビット、サイズ3.9GBでiPhone 17 Proに収まる。フルプレシジョンのベースラインに対し、三値版は95%、1ビット版は90%の性能を保持するとしている。
コンテキストは262Kトークンで、投機的デコードに対応する。NVIDIA GeForce RTX 5090上で1ビット版は最大163トークン/秒、M5 Max上で最大87トークン/秒に達するとしている。重みはApache 2.0ライセンスのもとで公開され、開発者向けプレビューAPIも提供される。PrismMLはCaltechの研究者から生まれ、Khosla Ventures、Cerberus、Google、Samsungの支援を受けている。
From: 
Announcing Bonsai 27B: The First 27B-Class Model to Run on a Phone
【編集部解説】
このニュースを「スマホで27Bが動きました」という技術トピックとして読むと、たぶん半分しか見えてきません。もう半分は、この発表が「いつ」「どこに」着地したのか、というところにあります。
同じ7月、AppleがまさにこのPrismMLの圧縮技術を評価している、という報道が相次ぎました。ただし、これを語ったのはPrismMLのCEOババク・ハシビ氏で、CNBCの取材に、Appleが自社の技術を今まさに評価している段階だと述べたものです。Apple自身は、接触や評価について公式には認めていません。話はごく初期段階で、正式な合意も条件も明らかになっていません。両社の接触は、もともとThe Informationが7月9日に先んじて報じていました。
タイミングも示唆的です。この発表は、Appleが刷新版Siriを含むiOS 27のパブリックベータを公開したのとほぼ同じ週の出来事でした。クラウドに頼らず端末の中だけでAIを動かしたい——この方向性で、両社の関心が重なって見えるのは確かです。
そう考えると、Bonsai 27Bの本当の主題は「圧縮技術のデモ」ではなく、これまでクラウドにしか置けなかった知能を手のひらの中へ移す、という”座標の移動”なのだと私は受け取っています。
仕組みをかみ砕くと、こうです。比較の土台となるフルプレシジョン版は、一つひとつの数値（重み）を16ビットの小数で保持しています。PrismMLはそれを{−1, 0, +1}のわずか3値、あるいは{−1, +1}の2値まで削ぎ落とす。グランドピアノを、鍵盤をほとんど失わないまま、猫用の小さな扉を通れるサイズにたたむようなイメージです。
しかも、スマホに載せる関門は容量の数字が見せるよりずっと狭い。PrismMLの見立てでは、12GBのiPhoneでもアプリが実際に使えるメモリは6GBほどで、そこにモデル本体もKVキャッシュも同居しなければなりません。同社によれば、約4GBの1ビット版は、短い文脈であればこの関門を——わずかな余白を残して——通り抜けた初の27Bクラスだといいます。ただし長い文脈をフルに使ったり、画像機能を重ねたりすれば、その余白はすぐに削られていきます。
ここからが、私がいちばん読者のみなさんに伝えたい部分です。
いま価値を生むAIの仕事は、1回の受け答えから「何十手も続く作業」へと重心を移しつつあります。ツールを操り、書類を読み、次の一手を決める。エージェントはモデルを一度ではなく、時には数百回も呼び出します。これをクラウドで回せば、送信した入力やツールの結果は、その都度ネットワークを越えていきます。アプリの設計によっては、画面の中身や作業中のファイルまでもが、その対象になり得ます。
端末の中で完結すれば、その前提が変わります。100手のループを回しても、クラウドAPIの従量料金は積み上がりません。そして、外部のクラウドツールを使わない完全ローカル構成であれば、扱うデータを端末の外へ送らずに処理できます。「デジタルの窓口」として私がずっと気にしてきた“便利さと引き換えに差し出している情報”という問題に、これは一つの現実的な答えを示していると感じます。
とはいえ、手放しで礼賛するつもりはありません。ハシビ氏自身、圧縮の代償として性能が数ポイント落ちること、そして真っ先に弱るのが「事実の記憶」だと認めています。推論や数学、コーディングは比較的保たれるとされますが、これは主にPrismML自身のベンチマークにもとづく暫定的な結果で、第三者による同一条件の再現検証はこれからです。細かな知識の正確さが削られていく点も含め、用途の見極めが要りそうです。
速度も、数字を冷静に見ておきたいところです。RTX 5090やM5 Maxでの毎秒87〜163トークンという値は、いずれも同社が示した「最大」で、条件により変わります。iPhone 17 Pro Max実機ではおよそ11トークン/秒とされ、実用の範囲ではあっても、クラウドの体感にはまだ届きません。調査会社Counterpoint Researchのタルン・パタク氏も、長い入力での挙動やバッテリー消費、数百万回規模の照会に対する安定性はこれからだと釘を刺しています。派手なデモと、日常の本格的な実用は別物——という健全な留保として受け止めています。
それでも、私はこの一歩を小さく見積もりたくありません。PrismMLが持ち出した独自指標「知能密度（1GBあたり、どれだけ賢いか）」は、これからのAIを測る新しい軸になるかもしれない。ここは私の解釈です。能力が「何ができるか」を決めるなら、密度は「どこでできるか」を決める。部屋を埋めていた計算機がポケットに収まったように、知能もまた同じ道を歩き始めているのだとすれば、次に問われるのは「どのクラウドに繋ぐか」ではなく、「手元の端末に、何を任せるか」なのでしょう。
【関連記事】
Perplexity、中国発GLM 5.2を再学習した新モデル公開─Claude Opus 4.8級の性能を約3分の1コストで
オープンモデルを再学習し、性能を保ちつつコストを圧縮する試み。Bonsaiの軽量化と響き合う一本。
Thinking Machines Lab「Inkling」発表｜975B・マルチモーダルのオープンウェイトモデルが自社データ活用を変える
975Bの巨大オープンウェイト。端末に載るBonsaiとは対極のスケールで、両極を見比べられる。
Windows 11 Copilot「PC Insights」、PCの不調をAIが読み解く—自身は1GBのRAMを消費
端末上でAIが消費するメモリという論点。Bonsaiの「6GB予算」議論と同じ土俵の話だ。
【編集部後記】
ひとつ、腑に落ちきらない点があります。事実の記憶が真っ先に薄れるのに、推論や数学は保たれる——この壊れ方の「順番」です。人間なら、覚えていることと考える力は地続きに思えます。けれどこのモデルは、知識を削っても考える手つきだけは残せると示しました。
そうだとすれば、端末の中のAIに任せたいのは「答えを知っていること」ではなく、「手元のデータをその場で考え抜くこと」なのでしょう。あなたのポケットの中で、覚えていなくてよいから考えてほしい作業は、何でしょうか。
【用語解説】
パラメータ（27B＝約270億）
モデルが学習で獲得した”重み”の総数。数が多いほど表現力は高いが、その分だけメモリを食う。「27B」は約270億個を指す表記で、Bonsai 27Bの実際のパラメータ数は約278億（27.8B。言語部分約27.3B＋視覚部分約0.46B）である。
量子化（1ビット／三値〔ternary〕）
数値の精度をあえて粗くし、モデルを小さく・速くする技術。Bonsaiは重みを{−1, +1}（1ビット）や{−1, 0, +1}（三値）まで削り込む、最も極端な部類にあたる。ただし速度向上には対応カーネルやハード実装が要る。
重み（weight）
ニューラルネットの各結合の”効き具合”を表す数値。比較対象のベースモデルでは16ビットの小数で保持される。この数値の持ち方を圧縮するのが量子化である。
実効ビット／重み
1つの重みを平均で何ビットに詰め込めたかを示す値。三値版で1.71、1ビット版で1.125。理想的な符号化を含む計算値で、数字が小さいほど占有容量は小さくなる。
フルプレシジョン（FP16）
圧縮前の16ビット精度のこと。本文で「95%／90%を保持」というのは、このフルプレシジョン版を基準（ベースライン）とした、PrismML自身の測定による比較である。
マルチモーダル
テキストだけでなく、画像・スクリーンショット・書類・カメラ入力なども扱えること。Bonsai 27Bは画像認識用の”視覚”部分を4ビットで搭載する。
コンテキスト（262Kトークン）
モデルが一度に読み込める文章量の上限。トークンは単語より細かい処理単位。仕様上は262Kに対応するが、最大長をスマホで使うにはメモリが不足するため、実際に扱える長さは端末により制限される。
トークン/秒（tok/s）
文章生成の速さを示す指標。1秒あたりに出力できるトークン数で、数値が大きいほど体感が速い。本文の数値はいずれも同社の測定による。
投機的デコード（speculative decoding）
小さな下書き役モデルに先を予測させ、本体が検証する高速化手法。検証済みの候補だけを採用するため出力を変えず（ロスレスで）速度を上げられるが、常に速くなるとは限らない。
KVキャッシュ
モデルが会話や文脈を覚えておくために確保する作業用メモリ。文章が長くなるほど膨らむため、端末では本体サイズや活性値と合わせた”予算”が問題になる。
AIエージェント（エージェント的ワークロード）
1回の応答で終わらず、ツールを操作し結果を読み、次の手を自律的に進めるAIの使い方。実装によっては1つのタスクでモデルを数百回呼び出す点が従来と異なる。
知能密度（intelligence density）
PrismMLが提唱する独自指標で、「1GBあたり、どれだけ賢いか」を表す。単純なスコア÷容量ではなく独自の変換式による値で、業界標準の指標ではない。何ができるか（能力）ではなく、どこで動かせるか（可搬性）を測る物差しである。
【参考リンク】
PrismML（公式サイト）（外部）
Bonsai 27Bを開発した米カリフォルニア州パサデナのAI企業。Caltech発で、極限的な低ビット圧縮技術を強みとするスタートアップである。
Bonsai 27B / Hugging Face（配布ページ）（外部）
Bonsai 27Bの1ビット版・三値版が公開されている配布ページ。Apache 2.0ライセンスのオープンウェイトとして重みを入手できる。
Qwen（Alibaba Cloud 公式）（外部）
Bonsaiの土台となったオープンウェイトのモデル群「Qwen」の公式紹介ページ。中国Alibaba Cloudが開発・公開している。
Together AI（公式サイト）（外部）
Bonsai 27Bの開発者向けプレビューAPIが提供されているAIクラウド基盤。モデルを手元に落とさずに試せるのが特徴である。
Apple（公式サイト）（外部）
iPhone・iPad・Macを展開する米企業。PrismML技術の評価はCEO発言として報じられた段階で、Apple自身は公式に確認していない。
Caltech（カリフォルニア工科大学）（外部）
PrismMLの技術的基盤を生んだ研究機関。CEOのババク・ハシビ氏も同大の教授で、圧縮理論の数学的土台を築いた人物である。
Khosla Ventures（公式サイト）（外部）
PrismMLのシード投資を主導したと報じられる米VC。金額は複数報道で1625万ドルと伝えられるが、公式の一次資料は未確認である。
Apache License 2.0（公式）（外部）
Bonsai 27Bが採用する寛容なオープンソースライセンスの公式ページ。表示やNOTICE等の条件を守れば商用利用・改変・再配布ができる。
【参考記事】
Apple in talks with startup that shrinks AI models to run on an iPhone（CNBC）（外部）
AppleがPrismMLを評価中とCEOが明かした一次報道。同社によればメモリ10〜15分の1・消費電力3〜6分の1という数値も伝える。
Announcing Bonsai 27B（PrismML 公式発表）（外部）
1ビット版が約4GBでiPhone 17 Pro（詳細カードはPro Max）に載り、同機で約11トークン/秒を出すとした最も信頼度の高い一次情報。
PrismML releases Bonsai 27B…fit for iPhone（9to5Mac）（外部）
RTX 5090で最大163、M5 Maxで最大87トークン/秒などの自社値と、12GB機で使えるのは約6GBという制約を整理する。
PrismML Releases Bonsai 27B: 1-bit and Ternary Builds（MarkTechPost）（外部）
PrismMLの公表値（三値94.6%・1ビット89.5%）やビット計算を技術的にかみ砕いた解説記事。独自測定ではなく公表値の紹介である。
Apple in Early Talks With PrismML（BigGo Finance）（外部）
報道ベースの1625万ドルのシードやM5 Maxの速度に加え、発表がiOS 27パブリックベータ公開と重なった点にも言及する。
Bonsai 27B is a full open reasoning model that fits on an iPhone（the-decoder）（外部）
1ビット版の知能密度0.530/GBや95%/90%保持を要約。ローカル実行がクラウドAPIの反復コストを避ける意義を整理する。
Apple eyes PrismML’s on-device AI for the iPhone（The Next Web）（外部）
Appleが評価中と伝えつつApple未確認である点を明記。自社値の95%/90%やCounterpoint Researchによる課題指摘も紹介する。
