ニューロシンボリックAI：「システム2」へのアップグレード

人工知能における最も危険な欺瞞は、「必要なのは規模だけである」という信念です。

過去 3 年間、モデル ラボが単にアーキテクチャにテキストを供給し、計算量を飛躍的に増加させれば、システムは最終的には物理法則と論理を習得するだろうというのがコンセンサスな仮定でした。 仮説は単純でした。推論は言語の複雑さの副産物にすぎません。

その仮説は揺らいでいる。

GPT-4 とその後継者は、オーブントースターに関するシェイクスピアのソネットを構成できますが、5 年生が数秒で解けるような基本的な複数ステップの論理パズルには依然として苦労しています。 彼らは幻覚を起こし、算数に自信を持って失敗し、人間の監督なしで自律的なワークフローを実行することを信頼できません。

ノーベル賞受賞者のダニエル・カーネマンは、2つの認知モードを定義しました。 1つ目は迅速かつ本能的なものです。 2 つ目はゆっくりとした論理的なものです。 現代の生成モデルは最初のモードのみに依存しています。 これらは確率的なパターン マッチャーであり、検証ではなく統計的な可能性に基づいて次の単語を予測します。

銀行口座の管理、インフラストラクチャの設計、病気の診断などの実際の作業を実行できるエージェントを構築するには、業界は第 2 のモード、つまりゆっくりと熟考した論理的な推論を解放する必要があります。

神経記号 AI を入力してください。

純粋なニューラル ネットワークの破られた約束

なぜこの変化が起こっているのかを理解するには、現在のパラダイムの失敗に目を向ける必要があります。

「イチゴ」問題

標準的な LLM に、「strawberry」という単語に含まれる「r」の数を数えるように依頼します。 人間にとって、これは些細なことです。 LLMの場合、それは驚くほど難しいです。 これはモデルが「愚か」だからではなく、トークン化が原因です。 モデルには「s-t-r-a-w…」という文字は表示されません。 「イチゴ」という概念を表す単一の整数トークンが表示されます。 文字通り、トークンを分解せずにトークン内の文字を「見る」ことはできません。これには論理的なステップが必要ですが、確率だけでは確実に実行することは基本的に不可能です。

数学的幻覚

LLM が 345 x 921 のような数学の問題を解くとき、乗算は実行されません。 トレーニング データから同様のパターンを呼び出します。 特定の数値がまれであるか固有の場合、モデルはどの数値が互いに「隣り合って見える」かに基づいて出力を推測します。 これが、モデルが最初と最後の桁は正しく (高い確率で) 得られることが多いのですが、中間の桁が壊れてしまう理由です。

この確率的なあいまいさは、詩を書く場合には許容されます。 これは構造工学にとって致命的です。

理性のアーキテクチャ

神経記号 AI は単一のモデルではありません。 ハイブリッドアーキテクチャです。 ニューラル ネットワークとシンボリック ロジックが相反するタスクに最適化されていることを認識し、一方に他方の義務を強制的に実行させる試みをやめるのです。

• ニューラル層 (直感): このコンポーネントは「乱雑な」データを処理します。 画像内のピクセル値、人間の音声の曖昧さ、または文書の「雰囲気」を処理します。 混沌とした現実世界を構造化された表現に変換します。
• シンボリック レイヤー (ロジック): これは、「古き良き AI」(GOFAI) の領域です。 厳密なルール、代数、形式論理、ナレッジ グラフを扱います。 推測ではありません。 それは計算します。
• ブリッジ: 画期的な点は、これらの層間の双方向通信にあります。 ニューラル ネットワークが問題を解析し、シンボリック エンジンが答えを証明します。

実際にどのように機能するか

発射体の動きを含む物理学の問題を考えてみましょう。

純粋な LLM (システム 1) は、同様の文章問題のトレーニング データを調べます。 確率に基づいて答えを予測します。 変数が一意である場合、尤もらしいが間違った結果が幻覚的に現れることがよくあります。

神経象徴システムは異なる動作をします。

1. 神経知覚: LLM はテキストを読み取り、意味論的な意味を形式的な表現 (変数 v = 60、d = 300、a = 9.8 など) に解析します。
2. シンボリック実行: これらの変数をシンボリック ソルバー (Python 計算機や形式定理証明機など) に渡します。 このソルバーは、厳格な法則 d = vt + 0.5at^2 を適用します。
3. ニューラル翻訳: ソルバーは正確な数値結果をニューラル コンポーネントに返し、ニューラル コンポーネントはそれをユーザー向けの自然言語文にラップします。

システムは決して「計算」をしません。 それは、乱雑な人間の世界と厳格な論理の世界の間の翻訳者として機能します。

確執の歴史

このアプローチにより、コンピューター サイエンスにおける 50 年にわたる内戦に終止符が打たれます。

• 象徴主義者 (1950 年代～1990 年代): 彼らは、インテリジェンスとは明確なルール操作であると信じていました。 彼らはエキスパート システム (IBM のディープ ブルーのような) を構築しました。 これらのシステムは完全に論理的ですが、脆弱でした。 ルールが明示的にプログラムされていない場合、システムはクラッシュしました。 彼らは現実世界の混乱に対処できませんでした（猫を認識するなど）。
• コネクショニスト (2010 年代から現在): 彼らは、知能は単純なニューロンの大規模なネットワーク (深層学習) から出現すると信じていました。 このアプローチは乱雑なデータを処理できるため、過去 10 年間で成功を収めました。 ただし、パフォーマンスのために説明可能性とロジックが犠牲になりました。

神経象徴的なAIは平和条約です。 象徴主義者が推論について正しかったこと、コネクショニストが学習について正しかったことを認めている。

証明: AlphaGeometry と AlphaProof

この軌跡は理論的には推測的なものではありません。 Google DeepMind は、最高レベルの競争で機能することを証明しています。

2024 年、DeepMind は、国際数学オリンピック (IMO) の幾何学問題を金メダリストのレベルで解決した神経象徴システムである AlphaGeometry をリリースしました。

このシステムは、独自の ハイブリッド アプローチを利用しました。

• ニューラル ジェネレーター は「構成要素」を作成します (証明を解くために三角形に新しい線を追加するなど)。 これは「直感」として機能し、解決策がどこにあるかを示唆します。
• シンボリック エンジンは、形式論理を使用してステートメントを厳密に証明しようとします。

記号エンジンが行き詰まった場合、ニューラル モデルは新しい「アイデア」 (補助構造) を提供します。 証明が完了するまで、直感を導くロジック、直感を検証するロジックを行ったり来たりします。

AlphaProof と「リーン」言語

2025 年後半、AlphaProof はこれをさらに進めました。 強化学習と、数学的検証に使用される正式なプログラミング言語である Lean が統合されています。

コードは実行できても論理的に欠陥がある Python とは異なり、Lean は「証明アシスタント」です。 コードの各行を数学的に検証します。 ロジックが健全でない場合、コードはコンパイルされません。 AI にリーンで推論を出力させることで、DeepMind は基本的に幻覚防止バリアを作成しました。 モデルは何千もの間違ったアイデアを試すことができますが、ユーザーには数学的にコンパイルされたものだけが表示されます。

エンタープライズギャップ: 銀行がチャットボットを嫌う理由

ニューロシンボリック AI への移行は、企業における「エージェント時代」の前提条件です。

現在、企業の導入は「信頼ギャップ」によって停滞しています。 おそらく適切な量の鉄鋼を発注する自律的なサプライチェーンエージェントを認可するCFOはいないでしょう。 彼らは、在庫データベースから導き出された量を おそらく 注文するエージェントを必要としています。

神経象徴システムは、ビジネスに 3 つの重要なアップグレードを提供します。

1. 検証可能性: ロジックは記号層で発生するため、監査人は「思考プロセス」を検査できます。 ローンの拒否または取引の承認にどのルールが適用されたかを正確に確認できます。
2. データ効率: ニューラル ネットワークが「学習」するには、何百万もの加算の例を見る必要があります。 シンボリック システムでは、加算の規則は 1 回だけ必要です。 これにより、特殊なドメイン タスクに必要なデータが大幅に軽減されます。
3. 一般化: ニューラル ネットワークは、「分布外」データ (例: トレーニングで見たよりも大きな数値) に苦戦します。 シンボリック ロジック ルールは、x=1 と x=1,000,000,000 に対して同じ精度で機能します。

ハイブリッド AI のスペクトル

これはバイナリ スイッチではないことに注意することが重要です。 研究者らは、神経記号統合のスペクトルを特定しています。

• タイプ 1 (標準): シンボリック後処理を備えたニューラル ネットワーク (例: 数学を解くための Python コードを作成する ChatGPT)。
• タイプ 2 (ディープ): トレーニング中にニューラル ネットの損失関数に記号ルールが埋め込まれます。 たとえテキストが流暢に見えたとしても、モデルはロジックに違反すると「ペナルティ」を受けます。
• タイプ 3 (完全統合): AlphaGeometry のようなシステム。2 つのコンポーネントが緊密な反復ループで動作し、各部分の合計よりも優れた「推論エンジン」を作成します。

これからの道

「Pure LLM」の時代は終わりに近づいています。 次世代のフロンティア モデル (GPT-5、Gemini 3) は、おそらく内部が神経象徴的であり、記号ソルバーをチャット インターフェイスの背後に隠します。

AI の「魔法」が薄れつつあることは前向きな発展です。 業界は、詩を書くチャットボットの魔法と引き換えに、エンジニアリンググレードのツールの信頼性を獲得しています。 パーティーではそれほど刺激的ではありませんが、文明にとっては限りなく価値があります。

業界はついにデジタル脳に前頭前野を与えようとしている。