人々がAIに本当に求めるもの：選好の多様性をマッピング

AIが私たちの生活に溶け込むにつれ、一つの大きな問題が浮き上がってきています。それは「AIに何を求めるか」という問いに、万能な答えが存在しないということです。

現在、多くのAI企業は人間のフィードバックを使ってAIを調整しています。簡単に言うと、「このAIの回答は良い」「悪い」という判断をたくさんの人から集めて、AIを改善するやり方です。ところが最新の研究で、この方法に根本的な限界があることが明らかになりました。

75カ国からの約1,500人の意見を調べたところ、驚くべき事実が判明しました。ほぼすべての価値観や要求が、回答者の4分の1以下の人々からしか求められていないのです。唯一の例外が「真実性」で、これでさえ49%にとどまります。つまり、約半分の人はAIに対して「真実性」を重視していないということになります。

さらに厄介なのは、同じ言葉が全く異なる意味で使われていることです。「真実性」という一つの言葉でも、引用元を示してほしい人、専門家の意見を聞きたい人、主流でない考え方も知りたい人など、根本的に異なる期待が隠れています。これは単なる言葉の使い分けではなく、人々が世界をどう認識しているか、という深い違いなのです。

AIの「人間らしさ」や安全対策という機能についても、賛成する人と強く反対する人に二分されていることがわかりました。さらに興味深いのは、現在のAI評価方法では見落とされている「状況による使い分け」です。人々は「普段はこうしてほしい、でも聞かれた場合には別の方法を使ってほしい」というニュアンスを頻繁に使っています。ところが、AIの調整に使われる評価方法は「良い・悪い」の二者択一なので、このような細かい違いが全く反映されていません。

これは抽象的な学問的問題ではなく、実務的な危機です。現在のやり方では、一つの「報酬モデル」（AIをどう改善するかの指針）では、複数の定義を持つ「真実性」の全てを満たすことができません。研究者はこうした状況を「認識論的暴力」と呼んでいます。つまり、特定の人々の価値観や世界観をAIに押し付けることで、他の人々の信念を無視していることになるのです。