拡散言語モデル向け自己拡張検索

スマートフォンで検索しながら会話をするように、AIが答える過程で必要な情報を自動的に探すという新しいアプローチが登場しました。この技術は、私たちが毎日使う検索エンジンやチャットボットの精度向上に関わる、かなり実用的な進展です。

背景にあるのは、大規模言語モデル（ChatGPTのような生成AI）が持つ根本的な課題です。これらのAIは時々、もっともらしいけれど間違った情報を答えてしまう—いわゆる「幻覚」という問題があります。その原因の一つは、学習データに含まれていない最新情報や、特定の分野の深い知識を求められるときに起こります。

これまで対策として使われてきた「検索拡張生成（RAG）」という手法は、シンプルです。ユーザーが質問を入力すると、まず関連情報をネットから検索してから、その情報を使って答えを作るという流れです。しかし、この方法には課題がありました。最初の検索で本当に必要な情報を見つけられない場合があるし、複雑な質問では複数段階の検索が必要になるからです。

今回提案された「SARDI」という新しいフレームワークは、この問題に異なるアプローチを取ります。独特なのは、AIが答えを組み立てる過程の「途中段階」に着目する点です。通常のAI生成では、確信度の低い予測（つまり不確実な部分）は無視されるか、後付けされます。ところがSARDIは、この「確信が持てていない部分」こそが重要な信号だと考えます。確信がない＝もっと情報が必要な箇所だと判断し、その時点で関連情報を検索するわけです。

重要なポイントは、既存のRAG技術のように、新たに大量のデータで再度学習（追加訓練）する必要がないということです。つまり、開発コストや計算資源を大幅に削減しながら、精度を上げられる可能性があります。実験でも、複雑な質問—例えば「A社がB社を買収したCEOの前職は？」といった複数の情報をつなぎ合わせる必要がある質問で、従来手法を上回る成果を示しました。

この考え方は、人間の思考プロセスにも似ています。私たちが複雑な問題を解くとき、わからない部分に気づいた段階で調べ直しますよね。AIも、その最中に「ここが曖昧だ」と気づいて、その場で必要な情報を補充する—そういう柔軟な対応ができるようになるわけです。