Sakana AI、脱トランスフォーマーを探る新組織「Frontier Intelligence Group」を発足
Sakana AIは2026年9月18日、社内で以前から静かに育ってきた研究集団「Frontier Intelligence Group(FIG)」を対外的に発表しました。FIGは、現在主流のトランスフォーマー型AIを超えるパラダイムを探る組織で、ベンチマーク重視の製品開発とは一線を画し、長期的かつ思弁的な研究を追求することを使命としています。
詳細
- 目的: FIGは型にはまらないアイデアについて定期的に社内議論を行い、社外研究者とも協力。ベンチマーク達成のプレッシャーなしに「失敗する自由」を持つことを原則としている
- 5つの指導原則: 研究の自由、個人にとって意味のある独自性の追求、「偉大さは計画できない」という考え方、自然・生物からのインスピレーション、性能スコアを追うのではなく知能そのものの仕組みを理解すること
- Continuous Thought Machines(CTM): 時間的ダイナミクスやニューラル同期といった生物学的ニューロンの特性を再導入し、より多様で動的な表現を生み出す
- Augmented Lagrangian Predictive Coding(PC-ALM): 標準的な誤差逆伝播法の代わりに、生物学的に妥当な局所学習則を用いて最大1,000層ものネットワークを最適化できる新手法
- NVIDIAとのTwELLフォーマット: NVIDIAと共同開発したスパースデータフォーマットと専用CUDAカーネルで、数十億パラメータ級のLLMを実行する際の速度・メモリ・省エネ性能を向上させるという
- その他の取り組み: 画像生成の進化における自由度の高い創造性を検証する「AI Picbreeder」実験、ブロック間の局所通信によって自己組織化・自己修復を実現する物理システム「Smart Cellular Bricks」
その後
Sakanaは、モデルが「自信満々に事実と異なる情報を生成する」ことや、未知の状況への対応が苦手なこと、多くのエネルギーを消費することなど、業界が抱える根強い課題を発表の背景として挙げ、生物の知能ははるかに少ないデータで継続的に学習できる点がヒントになると主張しています。FIGの活動は、Fugu・Namazu・Marlinといった既存の製品ラインとは切り離されており、近い将来の商用リリースというより、同社の長期的な研究への賭けと位置づけられています。現時点で最も具体的な成果として公表されているのはNVIDIAと開発したTwELLカーネルで、それ以外は継続中の探索的研究として紹介されています。