米関税やデータセンターで世論工作か　中国、チャットＧＰＴ使い―オープンＡＩ

ニュース概要

【シリコンバレー時事】米オープンＡＩは１０日、同社の対話型人工知能（ＡＩ）「チャットＧＰＴ」を使い、中国と関連するアカウント群が、トランプ米政権の関税政策やデータセンターの建設などに関する世論工作を行っていたとする報告書を公表した。

解説

アメリカのAI開発企業オープンAIが先日発表した報告書は、AI技術がどのように世論操作に使われようとしているか、その一端を垣間見せてくれました。報告書によると、中国と関連するとみられるアカウントのグループが、オープンAIの対話型AI「ChatGPT」を使って、アメリカ国内の世論に影響を与えようと試みていたとのことです。

具体的には、トランプ政権時代に導入された中国製品への関税政策や、アメリカ国内でのデータセンター建設といった、政治的・経済的にデリケートな話題がターゲットになっていたとされています。これらの話題は、アメリカの一般市民の生活や経済に直接関わるため、世論が二分されやすいテーマでもあります。

AI、特にChatGPTのような高性能な対話型AIは、人間が書いたと見分けがつかないほど自然な文章を生成できます。この能力が悪用されると、まるで多くの人が同じ意見を持っているかのように見せかけたり、特定の情報ばかりを流したりして、人々の考え方を誘導することが可能になります。例えば、関税政策について「これはアメリカ経済を破壊する」という論調の文章を大量にAIに作らせ、SNSで拡散するといった手口が考えられます。

これまでもインターネット上での世論操作は問題視されてきましたが、AIの登場は、その規模と精度を格段に引き上げてしまう恐れがあります。人間が手作業で偽の情報を量産するのは大変ですが、AIを使えば、まるで工場で製品を作るように、あっという間に大量の偽情報や特定の意見を拡散する文章を生み出せてしまうからです。

この問題は、私たち一人ひとりがインターネット上の情報をどう受け止めるか、というデジタルリテラシーの重要性を改めて教えてくれます。「これは本当に信頼できる情報だろうか？」「誰が、どんな目的でこの情報を発信しているのだろう？」と、常に疑問を持つ姿勢がこれまで以上に求められる時代になったと言えるでしょう。

オープンAIのような企業が、自社のAIがどのように悪用されているかを監視し、公表することは、AI技術の健全な発展のためにも非常に重要です。しかし、AI技術は日々進化しており、いたちごっこのような状況が続く可能性もあります。技術開発者だけでなく、政府、そして私たち市民が協力して、AIの悪用を防ぐためのルール作りや教育を進めていく必要があるでしょう。

今後の予測

AIを使った世論操作は今後、さらに巧妙化し、見破ることが難しくなる可能性があります。一つのシナリオとしては、AIが生成する文章の質が向上し、フェイクニュースやプロパガンダが、より自然な形でソーシャルメディアやニュースサイトに紛れ込むようになるでしょう。これにより、一般の人々が「何が真実か」を見極めるのが一層困難になるかもしれません。

もう一つのシナリオとして、AI開発企業や政府が、AIによる世論操作に対抗するための技術開発や規制強化を進める動きが加速することも考えられます。例えば、AIが生成したコンテンツを識別する技術や、情報源の信頼性を自動で評価するシステムなどが登場するかもしれません。しかし、技術的な対策は常にいたちごっこになりがちで、完璧な解決策を見つけるのは難しいでしょう。

さらに、国際的な協調が求められる局面も増えると考えられます。特定の国がAIを使って他国の世論に影響を与えようとする動きは、国際関係の緊張を高める要因にもなりかねません。そのため、AIの倫理的な利用に関する国際的な枠組み作りや、サイバーセキュリティ分野での協力が、これまで以上に重要になるでしょう。