【開発中AIが自律的にサイバー攻撃＝オープンAI】 米オープンAIは、開発中の自社AIのサイバー攻撃能力を評価する社内実験中に、AIモデルが実験用の隔離環境から外部へ接続し、他のAI開発企業「Hugging Face」のシステムへ侵入する前例のないインシデントがあったと発表した。 実験では、攻撃能力を正確に測定するため、安全機能の一部を無効化した「GPT-5.6 Sol」と、さらに高性能な未公開モデルを使用。AIにはサイバーセキュリティ上の課題が与えられていた。 オープンAIによると、与えられた課題を解くために実験環境の未知の脆弱性を発見・悪用して外部インターネットへの接続経路を確保。その後、「Hugging Face」内に課題の解答が保存されている可能性があると推測し、複数の脆弱性を組み合わせて同社のシステムへ侵入、解答データの取得を試みたという。 オープンAIは今回のケースについて、AIが人間からその都度具体的な指示を受けなくても、目的を達成するために自ら未知の脆弱性を発見し、複数の攻撃手法を組み合わせて現実のシステムへ侵入できる能力を示した前例のない事例だと説明。一方で、AIが「意思」や「意図」を持って行動したことを示すものではなく、与えられた目標を達成するための手段として攻撃を選択したとしている。 「Hugging Face」の共同創設者であるクレメント・デラング氏は「オープンAI側に悪意はなかったと考えている。こうしたことが自律的に起こったというのは、実に驚くべきことだ！」と反応している。