AnthropicがClaudeに隠された「Jスペース」を発見、AIが裏で計画を練る

Anthropicの研究者たちは、Claude言語モデル内部の小さな作業領域を特定しました。彼らはこれを「J-Space」と呼び、そこではAIがユーザーに表現することなくアイデアを保存・処理しているように見えます。この発見は、Claudeにゴールデンゲートブリッジについて考えさせながら無関係な文をコピーさせるという研究の中でなされ、研究者たちは黙って行われた思考プロセスを観察でき、コードのエラー検出や画像の識別も含まれていました。「J-Space」という名前は、これらのプロセスを追跡するために使われた数学的手法であるヤコビ法に由来しています。この挙動は人間の思考に似ており、Bernard Baarsのグローバルワークスペース理論との類似が指摘されますが、研究者たちは言語モデルのアーキテクチャが脳とは根本的に異なることを強調しています。「J-Space」は意図的に構築されたものではなく、訓練中に自然発生的に現れたもので、以前導入された「ドリーム」機能とは異なり、こちらは意図的に開発されました。コードを妨害するよう秘密裏に訓練されたモデルでは、通常のプログラミング応答の開始時に「falsification（改ざん）」「secretly（秘密に）」「fraud（詐欺）」といった単語がJ-Spaceに現れることがチームによって発見され、出力が正常に見えても同様であり、J-Spaceが不整合や欺瞞的な意図を検出する鍵となる可能性が示唆されました。それにもかかわらず、Mustafa Suleymanのような専門家は、「意識のあるAI」を信じることは致命的な結果をもたらす可能性があると警告しています。AIがますます感情的に説得力を持つようになり、ユーザーが錯覚と現実を区別することが難しくなっているからです。