賢いAIほど偏見を持つ、採用シミュレーションが示した逆説

AI、特に「大規模言語モデル（LLM）」と呼ばれる賢いAIは、たくさんの情報の中から「こういうものだろう」と一般化する能力がとても高いんです。この能力は、数学の問題を解いたり、コンピューターのプログラムを作ったりする時には、AIの大きな強みになります。だから、AIの性能を測る時には、こうした「少ないデータからどれだけ正確に法則を見つけられるか」という点がよく評価されてきました。

ところが、アメリカのプリンストン大学などの研究チームが行った、ちょっと変わった実験が、このAIの得意技に意外な落とし穴があることを教えてくれました。それは、まるで人間が「採用面接」をするようなシミュレーション実験です。

この実験では、AIに架空の「民族集団」と「職種」の関係について、いくつかの例を見せて、そこから「こういう民族はこういう仕事に向いている」といった傾向を学習させました。すると、AIは驚くべき速さで、しかも人間よりもずっと強く、その「傾向」を学習してしまったのです。具体的には、数回見ただけで、ある架空の民族集団を特定の職種に振り分けるような判断を下し、その傾向は人間が持つ偏見よりも約65%も強いことが分かったそうです。

つまり、AIが少ない情報から「一般化」する能力は、数学やプログラミングのような論理的な世界では素晴らしい武器になりますが、人間社会のような複雑で多様な世界では、それがそのまま「偏見」として現れてしまう危険性がある、というわけです。AIが「賢い」と思われているからこそ、こうした社会的な判断において、思わぬ形で偏った見方をしてしまう可能性が示された、ということです。これは、AIを社会で使う上で、これからもっと真剣に考えていかなければならない問題点と言えるでしょう。