ミラー・ホライズン：バウンド・リフレクションの尺度としての実現可能なパス・エントロピー

AI（人工知能）がどれだけ賢いかを測る方法について、新しい考え方が示されました。これまでのAI研究では、AIがどれだけ多くの知識を持っているか、あるいは複雑な問題を解けるか、といった点に焦点が当てられてきました。しかし、この論文では、AIが「過去に考えたことをどれだけ正確に、そして一貫して再現できるか」という、より深いレベルでの知能を評価すべきだと主張しています。

この新しい評価方法の名前は「Viable Path Entropy（VPE）」といいます。これは、AIが「実現可能な思考の道筋」をどれだけ維持できるかの「予算」のようなものです。具体的には、AIが過去の思考プロセスをどれだけ正確にたどれるか、そしてそのたどった思考のバリエーションがどれだけ豊かか、という2つの側面から能力を測ります。

なぜこのような考え方が重要なのでしょうか？それは、真に賢いAIというのは、単に答えを知っているだけでなく、その答えにたどり着くまでの思考プロセスを理解し、必要であれば再現できる能力を持っているはずだからです。例えば、私たちが何かを学習するとき、単に暗記するのではなく、なぜそうなるのか、過去に学んだこととどう繋がっているのかを考えながら理解を深めていきますよね。AIにもそのような「振り返り」や「一貫性」が求められる、というわけです。

この論文では、VPEという考え方の理論的な背景も詳しく説明されています。AIが「直感」で物事を判断する能力、学習する上で「好み」のようなものをどう選ぶか、そして「繰り返し考える（リフレクション）」ことで、どのように決断を下していくか。さらに、AIが未来の思考を安定させるために、どのような「構造」を学習していくのか、といった点を、数学的な言葉で掘り下げています。

そして、この理論が実際に役立つのかどうかを確かめるために、GSM8Kという、小学校レベルの算数の文章問題を解かせる実験が行われました。この実験を通じて、言語モデル（ChatGPTのような、自然な言葉を理解し生成するAI）の推論能力を、この新しいVPEという尺度で評価しています。これにより、AIの知能をより多角的に理解する手がかりが得られると考えられます。