LLMの次のステージ ─ データ量と計算力の競争から、知恵とアイディアの時代へ
多くの企業がデータ量と計算力を競い合いながらLLM（大規模言語モデル）の開発を進めている。しかし、この方向性に一石を投じる動きが出てきた。GoogleのAI研究者であり、機械学習フレームワークKerasの開発者として知られるフランソワ・ショレ氏1である。
ショレ氏は、「現在のLLMは洗練された記憶とパターンマッチングシステムに過ぎない」と喝破する。
"they can actually do active inference but in a way that's extremely data inefficient so they have nonzero intelligence but it's extremely low it's it's not it's definitely not comparable to like the intelligence of of a three-year old my three-year old is like vastly more intelligent than any LM out there it just doesn't compare"
「LLMは確かに能動的な推論ができます。しかし、それは極めて非効率的なデータの使い方でしかありません。つまり、知能がゼロというわけではありませんが、極めて低いレベルなのです。3歳児の知能とは比べものになりません。私の3歳の子どもは、現存するどのLLMよりもはるかに知的です。比較にすらならないのです」
確かに、ChatGPTをはじめとする現行のLLMは、人間のように見える応答を返せるようになった。しかし、その背後にあるのは、膨大なデータから学習したパターンの組み合わせであり、真の意味での「理解」や「推論」ではない。
この限界を突破するため、ショレ氏は2024年6月、110万ドルの賞金を掲げて「ARC Prize」を立ち上げた。これは、人間には比較的容易だが、AIには難しい空間推論の問題を解くコンテストだ。
興味深いことに、このコンテストは予想外の展開を見せている。2020年に21%だった正解率は、現在43%まで向上した。2しかし、この進歩を牽引しているのは、従来型の巨大モデルではない。むしろ、ニューロシンボリックAIやプログラム合成など、新しいアプローチを採用したチームが上位を占めているのだ。
今回は、このARCチャレンジが示唆する新しい方向性と、そこで試みられている革新的な解決策について、詳しく見ていこう。
2. ARCチャレンジが示す新しい方向性
ARCチャレンジの問題設定は、シンプルながら示唆に富んでいる。例えば、単純な図形の変換や、パターンの予測といった課題が出題される。人間であれば、数例を見ただけでルールを理解し、新しい問題に応用できる。しかし、現在のAIにとって、これは極めて困難な課題となる。
なぜか。それは、このチャレンジが「真の知能」の本質を突いているからだ。人間の知能とは、表面的なパターンの暗記ではなく、背後にある原理の理解と、その柔軟な応用にある。ショレ氏はこれを「万華鏡仮説」と呼ぶ。世界は無限に複雑に見えるが、実は単純なパターンの組み合わせで成り立っているという考え方だ。
そして今、このチャレンジで興味深い展開が起きている。トップを走るチームは、LLMの能力を全く新しい方法で活用し始めたのだ。
3. 革新的な解決策の模索
最も注目すべきアプローチは、LLMとプログラム合成の融合だ。例えば、現在リーダーボードのトップに立つRyan Greenblatt氏のソリューションは、GPT-4を使ってPythonプログラムを生成し、それを外部検証ツールでテストするという方法を取っている。3
さらに、「ニューロシンボリックAI」4という新しいアプローチも台頭している。これは、LLMのパターン認識能力と、古典的なAIの論理的推論能力を組み合わせたものだ。まさに、「データの力」と「論理的思考」の融合と言える。
このような新しい試みが示唆するのは、AIの進化が「計算力の競争」から「知恵とアイディアの競争」へと移行しつつあるということだ。
次回は、こうした流れが日本企業やエンジニアにとって、なぜ大きなチャンスとなるのか、具体的に見ていきたい。まずは、ここまでの内容について、ご質問やご意見があればお聞かせいただきたい。
4. 日本企業・エンジニアにとってのチャンス
この潮流は、日本の企業やエンジニアにとって、まさに千載一遇のチャンスと言える。その理由は明確だ。
第一に、「データと計算力の戦い」から「知恵とアイディアの戦い」へのシフトは、参入障壁を大きく下げる。もはや、GoogleやOpenAIのような巨大企業でなくとも、革新的なアイディアさえあれば、AIの最前線で戦えるのだ。
ARCチャレンジの上位入賞者の多くが、個人の研究者やスタートアップのエンジニアであることが、このことを如実に示している。彼らは、既存のLLMを創造的に活用し、プログラム合成やニューロシンボリックAIといった新しいアプローチを組み合わせることで、成果を上げている。
第二に、この新しいアプローチは、日本が伝統的に強みを持つ「ものづくり」の発想と親和性が高い。複数の要素技術を組み合わせ、最適化していく手法は、まさに日本のエンジニアが得意とする領域だ。
では、具体的に何をすべきか
既存のLLMを「部品」として捉え直す
LLMを最終製品としてではなく、より大きなシステムの構成要素として活用する
特に、プログラム合成やニューロシンボリックAIとの組み合わせに注目すべきだ
具体的な問題解決に焦点を当てる
ARCチャレンジのような具体的な課題に取り組むことで、LLMの新しい活用法を見出せる
自社の業務課題をLLMで解決する際も、単純な適用ではなく、創造的な組み合わせを考える
オープンな実験と協業を進める
個人や小規模チームでも参加できるコンペティションや研究プロジェクトが増加している
積極的に参加し、最新の知見やネットワークを獲得すべきだ
結論：新しい時代の幕開け
AIの世界は、「計算力の軍拡競争」から「知恵とアイディアの実験場」へと変貌を遂げつつある。これは、技術力はあるが大規模な計算リソースを持たない日本の企業やエンジニアにとって、大きなチャンスとなる。
重要なのは、この変化を前向きに捉え、積極的に実験と挑戦を行うことだ。ARCチャレンジが示すように、真のブレークスルーは、既存の枠組みを超えた創造的な発想から生まれる。今こそ、日本のエンジニアと企業が、その技術力と創造性を存分に発揮できる時なのだ。
参考資料
General Intelligence: Define it, measure it, build it
Mindscape 280 | François Chollet on Deep Learning and the Meaning of Intelligence
Pattern Recognition vs True Intelligence - Francois Chollet
It's Not About Scale, It's About Abstraction
Chollet's ARC Challenge + Current Winners
ARC Prize University Tour @ BU
Googleのソフトウェアエンジニアとして知られるAI研究者。機械学習フレームワーク「Keras」の開発者であり、ディープラーニングの標準的な教科書「Deep Learning with Python」の著者でもある。
現在のAI開発において特筆すべきは、彼の問題提起的な立場だ。大手IT企業が推進する「より多くのデータと計算リソースでAIの進化を目指す」アプローチに異を唱え、2024年6月、新たな方向性を示す「ARC Prize」（賞金110万ドル）を設立。人間には容易だが、AIには困難な空間推論問題を課すこのコンテストには、800以上のチームが参加している。
ショレ氏のAIに対する考え方は、「万華鏡仮説」に集約される。世界は無限に複雑に見えるが、実際には単純なパターンの組み合わせで成り立っているという考えだ。この観点から、現在のLLMを「洗練された記憶とパターンマッチングシステム」と評し、「知能はほぼゼロ」と喝破する。
また彼は、シリコンバレーの多くのAI研究者と異なり、AGI開発を宗教的な探求ではなく科学的な挑戦と捉える。「知能そのものは危険ではなく、情報を有用なモデルに変換するためのツール」という彼の立場は、AI開発に新しい視座を提供している。
https://time.com/7012823/francois-chollet/
Though the top of the leaderboard is still far below the human average of 84%, top models are steadily improving—from 21% in 2020 to 43% accuracy.
（日本語訳）トップを走るモデルでさえ、人間の平均正解率84%には遠く及ばない。しかし、着実な進歩は見せており、2020年に21%だった正解率は、現在では43%にまで向上している。
Ryan Greenblatt氏はGPT-4を活用し、1つの問題に対して約8,000個ものPythonプログラムを生成。それらを外部検証ツールでテストし、徹底的な探索（ブルートフォース）で最適解を見つけ出している。ある種の力業だが、LLMを「最終的な解答者」として扱うのではなく、可能性を探索するための「道具」として活用しており、構成要素としてのLLM活用の重要性を示唆している。
ニューロシンボリックAIは、LLMが得意とするパターン認識能力と、古典的なAIが持つ論理的な推論能力を組み合わせることで、より人間に近い知能の実現を目指す。特に、記号表現に基づく推論をディープラーニングと融合させることで、AIシステムの説明可能性と汎化能力を高めることができる。ショレ氏が提唱するこのアプローチは、ARCチャレンジというベンチマークを通じて具体的な形となった。