GoogleのDiffusionGemma、既存モデルを1割のコストでテキスト拡散モデルに変換
GoogleのDiffusionGemma、既存モデルを1割のコストでテキスト拡散モデルに変換
| 項目 | 内容 |
|---|---|
| ジャンル | AI |
| 日付 | 2026-08-10 |
| 元記事 | The Decoder |
要約
Google DeepMindは既存の言語モデルを改良することで、フルスクラッチ学習の予算の10%未満でテキスト拡散モデル「DiffusionGemma」を構築できることを実証した。このモデルは毎秒1,500トークンという高速生成を達成しており、拡散型テキスト生成アーキテクチャのアクセシビリティを大幅に向上させる成果として注目される。従来の自己回帰型モデルとは異なり、拡散モデルは並列生成によるレイテンシ削減や出力の多様性確保に有利とされてきたが、高い学習コストが障壁となっていた。DiffusionGemmaはこの障壁を大幅に低下させ、研究者や企業が既存の事前学習済みモデルを活用して低コストで拡散型システムを構築する道を示した点で意義深い。