ガートナー、国内企業の「シャドーAI」対応に新たな指針--「十分に管理できていない」が73％(ZDNET Japan)

最近よく耳にする「AI（人工知能）」、皆さんの会社でも使われ始めていますか？

今回、調査会社のガートナーさんが発表したのは、企業内でこっそり使われているAI、その名も「シャドーAI」についての調査結果です。シャドーAIとは、会社が正式に認めていないのに、従業員が個人的な判断で業務にAIツールを導入してしまうことを指します。例えば、無料で使える文章生成AIや画像生成AIを、自分の仕事をもっと効率的に進めたいと思って使い始めるようなケースですね。

このシャドーAI、実は多くの日本企業で大きな課題になっていることが分かりました。なんと、調査対象企業の73%が「シャドーAIを十分に管理できていない」と回答しているそうです。これはつまり、ほとんどの会社が、どこで、誰が、どんなAIを使っているのか、きちんと把握できていない状況にあるということです。

「え、それって何が問題なの？」と思うかもしれませんね。一番の問題は「情報漏洩」のリスクです。会社の機密情報や顧客の個人情報を、無料のAIツールに入力してしまうと、その情報が外部に流出してしまう可能性があります。AIサービスによっては、入力されたデータを学習に利用している場合もあり、意図せず情報が第三者の手に渡ってしまうことも考えられます。

また、AIが生成した情報が間違っていたり、偏っていたりする「ハルシネーション」と呼ばれる現象も問題です。もし、AIが作り出した誤った情報を鵜呑みにして業務を進めてしまうと、会社の信用を失ったり、大きな損害につながったりする危険性もあります。

さらに、セキュリティ面でのリスクも無視できません。会社のIT部門が把握していないAIツールは、ウイルス感染などのサイバー攻撃の入り口になる可能性も秘めています。会社全体として、どんなAIツールを使って良いのか、どんな情報を入力してはいけないのか、といった明確なルールがないと、従業員は良かれと思って使ったAIが、結果として会社に損害を与えてしまうことになりかねません。

ガートナーさんは、このシャドーAIの問題に対して、単に禁止するだけではなく、企業がきちんと管理しながらAI活用を進めるための指針を示しました。従業員の皆さんがAIの恩恵を受けつつ、会社としてのリスクを避けるためには、経営層とIT部門が協力し、明確なルール作りと教育が欠かせない時代になっていると言えるでしょう。