Prism MLが「Bonsai 27B」を発表—270億パラメータクラスのLLMをスマートフォンで動作
Prism MLが「Bonsai 27B」を発表—270億パラメータクラスのLLMをスマートフォンで動作
| 項目 | 内容 |
|---|---|
| ジャンル | その他IT |
| 日付 | 2026-07-15 |
| 元記事 | Prism ML |
要約
エッジデバイス向けAIモデルの小型化が急速に進む一方、性能と端末制約のトレードオフが課題とされてきた。270億パラメータクラスのモデルをスマートフォンで動作させることはこれまで現実的でなかった。Prism MLが発表したBonsai 27Bは、270億パラメータを持ちながらスマートフォン上での動作を実現したモデルだ。アグレッシブな量子化・アーキテクチャ最適化・ハードウェア固有の推論エンジンの組み合わせにより達成したとみられる。クラウドサーバーへのデータ送信が不要なためプライバシー保護・オフライン利用・レイテンシ低減といった利点があり、医療・法律・個人情報を扱うアプリケーションへの応用が期待される。オンデバイスAIの性能限界が大幅に引き上げられた今回の発表は、モバイルAI市場に大きなインパクトを与えるとみられる。