モデルに「忘れること」を教える：Amazon Novaによる選択的忘却

AI（人工知能）って、賢ければ賢いほどいいと思いがちですよね。でも、実はAIにも「忘れること」を教えるのが大切だという話があるんです。今回は、Amazonが開発した新しい技術「Amazon Nova」について、その秘密を分かりやすく解説します。

AIのモデル、特に文章を作ったり質問に答えたりするような「生成AI」は、たくさんのデータから学習します。まるで、私たちが学校で色々なことを勉強するみたいに。でも、世の中のルールや法律は変わりますし、AIが学習した情報の中に、実は不適切なものや、もう使われなくなった古い情報が含まれてしまうこともあります。そんな時、AIに「この情報はもう古いです」「この内容は使わないでください」と教える必要があるんです。

これまでは、AIに「忘れてもらう」のがなかなか難しかったようです。もし間違った情報を教えたり、特定の情報を無理やり消そうとすると、AI全体の性能が落ちてしまう、つまり「賢さ」が下がってしまうことがあったんですね。例えるなら、一度にたくさんの教科書を捨ててしまうと、他の勉強にも影響が出ちゃう、みたいなイメージでしょうか。

そこで登場したのが、Amazon Novaの基盤技術である「Reverse Direct Preference Optimization（rDPO）」という新しい「忘却技術」です。これは、AIに「この情報は忘れてね」と指示する際に、AI全体の賢さをできるだけ損なわずに、ピンポイントで不要な情報を消していくことを目指す技術なんだそうです。まるで、必要な知識はしっかり残しつつ、間違った情報だけをそっと取り除くようなイメージですね。

この技術を使うことで、AIは最新の情報や社会のルールに合わせて、より安全で適切な応答ができるようになります。例えば、SNSの投稿内容をチェックするAIが、過去の不適切な表現を「忘れる」ことで、より健全なコミュニケーションを助ける、といった使い方が考えられます。AIが「賢くなる」だけでなく、「倫理的になる」ためにも、こうした「忘却技術」はますます重要になってきそうです。