学習済み表現において保存則はいつ成り立つのか？潜在世界モデルのための認定ホライズン

AI（人工知能）の世界で、物理の法則がちゃんと守られているか、AIモデルが「学習した賢さ」をいつまで保てるのか、という面白い研究が出てきました。AIが物事の「隠れたルール」をどれだけ理解しているか、そしてそれがどれくらい長く続くのか、ということを調べるための新しい考え方「認定ホライズン」を提案しています。

AI、特に「世界モデル」と呼ばれる、現実の世界の仕組みを理解しようとするAIは、日々進化しています。でも、AIが学習した知識やルールが、時間が経っても、あるいは学習した「隠れた世界」の表現（潜在表現）が変わっても、物理の法則のような基本的な決まり事（保存則）からズレていかないか、心配になることがあります。例えば、ボールを投げたら、エネルギーが急になくなったり、逆に増えたりしたら困りますよね。AIモデルも、学習した物理法則から大きく外れてしまうと、現実世界ではありえない動きをしてしまうかもしれません。

そこで研究者たちは、「認定ホライズン」という考え方を提唱しました。これは、AIモデルに「どれだけのステップ数まで、物理の法則から大きくズレていないと証明できるか」という上限を決めるものです。つまり、AIが「この範囲内なら、物理の法則は守られているはずだ！」と自信を持って言える期間や回数を、あらかじめ決めておくイメージです。

この研究で特に注目しているのは、「何を認定するか」という設計のポイントです。AIが自分で考え出した「隠れた世界のルール」（学習済み潜在ハミルトニアン）や、AIが「これは保存されるはずだ」と信じているもの（学習済みスカラー証人）をそのまま信じるのではなく、AIが学習した「隠れた世界」の表現を、実際の物理的な量に「翻訳」し直してから、物理の法則（デコードされた物理的invariant）が守られているかをチェックする、というアプローチを取っています。これにより、AIが内部でエネルギーなどの値が少しずつズレてしまっても、最終的に観測される物理的な量が保存則を守っているかどうかを、より正確に判断できるようになります。

この「認定ホライズン」の考え方を使うことで、AIモデルがどれだけ物理法則を正確に捉え、それをどれだけ長く維持できるのかを、より具体的に評価できるようになると期待されます。これは、AIが現実世界で安全かつ正確に動作するために、とても大切な視点と言えるでしょう。