米アンソロピック、開発減速を提言　AIの安全性巡る議論に一石

人工知能の開発を手がける米アンソロピックが、AIの成長速度を意図的に落とすべきだという提言を発表しました。これは一見、企業の自殺行為に見えるかもしれません。しかし、この動きが意味するところを考えると、AI業界そのものが大きな転換点を迎えていることが分かります。

まず、なぜこんなことを言い始めたのか。アンソロピックが指摘するのは、AIが「自分で勝手に賢くなる段階」に近づいているということです。つまり、人間が教えなくても、AIが自動的に学習し、性能を上げ始める時期が来ているということ。これまでのAIは、人間が指示を与えて、その通りに動く存在でした。ところが、今後は人間の意図を超えて動く可能性が高まるわけです。

そこで生じるのが「コントロール不能になるのでは」という懸念。原発の安全基準と同じように、「万が一」を考えて、事前に歯止めをかけておこう、というのが彼らの主張です。

ただし、ここで興味深いのは、なぜアンソロピックが率先してこんなことを言うのか、という点です。実は、これは単なる倫理的配慮ではなく、業界全体の「共通ルール作り」を目指す動きなのです。核軍縮条約に言及しているのがそれを示しています。

AI開発は現在、アメリカ、中国、欧州など、複数の国や企業が競争中です。もし各社が好き勝手に開発を進めれば、誰かが暴走させて大問題になる可能性があります。それより先に「世界的なルール」を作ってしまえば、全員がそのルールの下で競争することになり、誰も無茶はできなくなる。その結果として、自分たちも含めた企業の信頼が守られる、という計算が見えます。

つまり、この提言は「倫理」と「経営戦略」が一体化した動きだということ。安全基準を作ることで、技術力で劣った企業の参入を防ぐこともできますし、政府の規制に先手を打つことで、業界主導の枠組みを作ることもできます。

これは日本にも大きく関わる話です。日本はAI開発の国際競争で後れを取っているとされていますが、今後、国際的な開発ルールが固まれば、その枠組みの中で一から出直すことになるかもしれません。逆に言えば、ルール作りの段階で日本が発言権を持つことが、これまで以上に大事になってくるわけです。