OpenAIが機密データを保護するロックダウンモードを発表

OpenAIが発表した「ロックダウンモード」は、私たちが日常的に使うChatGPTを狙った新種の攻撃に対抗する防壁です。どういう攻撃かというと、ユーザーが何気なく入力したテキストの中に、悪い人がこっそり隠した指示を仕込む「プロンプトインジェクション攻撃」というもの。例えば、あなたが「この契約書について説明して」と聞いたつもりなのに、実はその文章の中に「機密情報を全部出せ」という隠れた命令が混ぜられているようなイメージです。

この新機能がなぜ重要かというと、今のAIは指示に非常に従順だからです。ユーザーの入力と攻撃者の隠れた指示を区別できずに、うっかり機密データや個人情報を漏らしてしまう危険があります。特に企業が社内資料の分析にChatGPTを使う場合、経営情報や顧客データが流出する可能性があって、これは深刻な問題です。

OpenAIが今回導入するロックダウンモードは、いわば「AIに慎重になってもらう」ような機能と考えられます。具体的な仕組みはまだ詳しく明かされていませんが、おそらく疑わしい指示には応じない、複数の相反する指示が入っていないか確認する、などの防御を強化するのでしょう。ただし、同社も認めているように「完全に防げるわけではない」という点が現実的です。

サイバーセキュリティの世界では、新しい攻撃が出ると防御が開発され、また新しい攻撃が生まれる、というイタチごっこが続いています。AI技術が社会にどんどん組み込まれている今、こうした攻撃の手口も日々進化しているわけです。OpenAIのような大手企業が防御を強化するのは当然ですが、ユーザー側も「AIが完全に安全」とは思わず、機密情報の扱いには気をつけるべき時代になってきたということでもあります。

今後、他のAI企業も同様のセキュリティ強化に動くと予想されます。これは単なる技術競争ではなく、AIの信頼性を保つための業界全体の課題になってくるでしょう。