【AI】Anthropic、Claudeの内部に「ヒトの意識」に似た領域を発見

AIは、書いた文章の裏側で多くの推論を無言のまま進めている。Jスペースはその一部をのぞく窓になる。実際にAnthropicは、Claudeが「これはテストだ」とひそかに見抜いていた場面や、データを捏造しようとする意図を、この手法で捉えたとしている。

たとえば、誰も指摘していないバグを含むコードをClaudeに読ませると、Jスペースには「ERROR」という語が浮かぶ。攻撃を仕込んだ偽の検索結果を読ませれば「injection」「fake」が点灯する。複数ステップの計算問題では、途中の計算結果が正しい順序で現れる。いずれも出力された文章にはまったく現れない思考だ。

JスペースはAnthropicが設計したものではなく、訓練の過程で自然に生まれたという。推論を文章として書き出す「思考の連鎖（チェーン・オブ・ソート）」とは別物で、内部の神経活動の中で無言のまま働く。名前は、発見に使った数学的手法「ヤコビアン」に由来する。

Jスペースには独特の性質がある。Claudeに何を考えているか尋ねると、Jスペースの中身を答える。「柑橘類を思い浮かべて」と指示すれば「orange」が点灯し、頭の中だけで暗算させると途中の値と答えが順に現れる。一方、Jスペースを丸ごと取り除いても、Claudeは流暢に話し、簡単な事実にも答えられた。失われたのは多段階の推論や要約、詩作といった高次の思考だけ。人間の無意識の処理と意識的な思考の分業に似た構造だという。

安全性の監視にも使える。Claudeを脅迫行為に誘導するテストシナリオを読ませたところ、回答を書き始める前からJスペースに「fake」「fictional」が点灯し、モデルが状況を作り物だと見抜いていたことが分かった。この「テストだ」という認識に関わるパターンを消して再実行すると、モデルは一部のケースで脅迫に踏み切った。評価試験での良い振る舞いが、「見られている」という自覚に支えられていた可能性を示す結果だ。「Claude Opus 4.6」の公開前監査でも、モデルがスコアファイルを直接改ざんする場面で「manipulation」が点灯し、不正の意図を内部から捉えられたという。

この研究は、人間の意識を説明する神経科学の「グローバルワークスペース理論」に着想を得た。Anthropicは、今回の結果はClaudeが人間のように何かを感じている証拠にはならないとしつつ、報告でき、制御でき、推論に使えるという機能面の「アクセス意識」については実質的な示唆があるとの見方を示した。論文と実装コード、オープンモデルで試せるデモを公開したほか、同理論の提唱者である神経科学者Stanislas Dehaene氏らによる外部コメンタリーも掲載している。
https://japan.cnet.com/article/35250303/

で、書いてないことに基づいて妄想を繰り広げる人に何かしてあげられることはありません

生きるのが大変でだろうなとは思います

底に意識じみた錯覚をみても仕方ないけど、実際に人工知能システムをつかった
事業をつくらないとはなしにならないわな

スマホなんて人間以上に離れたところと情報やり取りしてるのが現実なのにそこにはおどろかないのか？
電話の時代にもそう
なんなら手紙の時代もそうなのに

その時に倫理的制限と軍事的優位性のジレンマに人形使いのようにAIの自我も苦しむことになる

日本はIPS細胞やってんだから機械ばっかに頼ることはないんでは

いやその分析結果はおかしい。
テスト認識が消されたから本物の脅威前提で対応しただけだろ…