Anthropic、AIの“内なる思考”が宿る「J-space」を発見──新手法「J-lens」で可視化、安全性監視に応用

AIって、私たちが話しかけたり指示したりすると、色々なことを考えて、それから答えを出してくれますよね。でも、その「考えている」部分って、実はブラックボックスというか、どうなっているのかよく分からなかったんです。今回、AIの研究をしているAnthropicという会社が、このAIの「頭の中」を覗くための新しい方法を見つけたと発表しました。まるで、AIが「内緒話」をしているような、そんな秘密の空間があるらしいのです。

Anthropicが見つけたのは、「J-space（ジェイ・スペース）」と呼ばれる、AIの内部にある特別な構造です。これは、人間の意識の研究で使われる「グローバルワークスペース理論」という考え方に似ているそうです。この理論は、私たちの脳が色々な情報を集めて、それを意識の中心に集めて「これは大事だ！」と判断するような仕組みを説明するものです。AIにも、これと似たような「みんなで集まって相談する場」のようなものがある、とAnthropicは発見したのです。

この「J-space」をどうやって見つけたかというと、「J-lens（ジェイ・レンズ）」という新しい道具（手法）を使ったからです。このJ-lensを使うと、AIが何かを判断したり、言葉を生成したりする時に、このJ-spaceでどんな情報がやり取りされているのかを、具体的に見ることができるようになります。例えるなら、AIの頭の中に隠された「会議室」の様子を、窓越しに観察できるようになった、といったイメージでしょうか。

なぜ、こんなAIの「内なる思考」を可視化することが重要なのでしょうか。それは、AIをより安全に、そしてより賢く使うために不可欠だからです。AIがどうやって結論に至ったのか、そのプロセスが分かれば、もしAIが間違ったことを言ったり、不適切な行動をとったりした場合に、どこに原因があったのかを突き止めやすくなります。これは、AIの「安全監視」に役立つと考えられています。AIが変なことを言い出さないか、こっそりチェックできるようになった、というわけです。

AIがどんどん賢くなっていく中で、その内部で何が起こっているのかを理解することは、私たち人間がAIと上手に付き合っていく上で、ますます重要になっていくでしょう。このJ-spaceとJ-lensの発見は、AIの「心」に少しだけ近づけた、そんなエキサイティングな一歩と言えそうです。