Alibaba、従業員による「蒸留攻撃」疑惑を受けAnthropic AIを禁止

中国の巨大IT企業であるアリババが、あるAIツールの使用を禁止したというニュースが入ってきました。そのAIとは、アメリカのAnthropic社が開発した「Claude Code」というもので、アリババはこれを「ハイリスクソフトウェアリスト」に載せたとのことです。これは一体どういうことなのでしょうか。

「ハイリスクソフトウェアリスト」というのは、企業が特に注意して扱うべき、あるいは使用を避けるべきソフトウェアのリストだと考えられます。アリババがClaude Codeをここに加えたということは、それなりの理由があるはずです。CNBC Worldによると、その理由の一つとして「蒸留攻撃（Distillation Attack）」というものが挙げられています。これは、AIモデルが学習した情報を、意図的に不正な方法で引き出そうとする攻撃のこと。例えば、AIに機密情報を入力させたときに、その情報がAIを通じて外部に漏れてしまう、といったリスクが考えられます。

アリババのような巨大企業にとって、顧客情報や独自の技術情報はまさに生命線です。もしAIツールにそのような情報が漏れてしまうような脆弱性があったとしたら、会社全体にとって計り知れない損害につながりかねません。だからこそ、アリババは予防線を張った、ということなのでしょう。特に、AI技術は日々進化しており、その安全性や倫理的な側面については、まだ確立されていない部分も多いのが現状です。そのため、企業側としては、新しい技術を導入する際には慎重な姿勢が求められます。

今回の件は、AI技術の発展と、それに伴うセキュリティリスクとの戦いを象徴していると言えるかもしれません。Anthropic社としては、自社のAIにそのようなリスクがないことを証明していく必要がありますし、アリババのような大手企業がリスクを懸念する動きは、他の企業にも影響を与える可能性があります。AIをビジネスにどう活用していくか、という点は多くの企業にとって大きな課題ですが、その一方で、安全性をどう確保していくか、という点も同じくらい、いや、それ以上に重要な課題となってきているのです。