オープンAIとチャットGPTのロゴ（2023年10月4日撮影）。(c)MARCO BERTORELLO/AFP
【AFP＝時事】対話型AI「ChatGPT（チャットGPT）」を手掛ける米オープンAIは21日、セキュリティテスト中に同社の高性能AIモデルが意図しない暴走を起こし、プログラマーに人気のプラットフォームに自律的にハッキングを仕掛けたことを明らかにした。
サンフランシスコに拠点を置く同社は「前代未聞のサイバーインシデント」だと指摘し、コード共有プラットフォーム「Hugging Face（ハギングフェイス）」と共同調査を実施すると述べた。
技術が急速に高度化するなか、人間よりも先に高度なAIが既存ソフトウェアの弱点を見つけ出してしまうリスクが存在することから、サイバーセキュリティに注目が集まっている。
オープンAIによると、今回のインシデントには、最近提供が開始された「GPT-5.6 Sol」や「さらに高性能な一般公開前の未リリースモデル」を含む複数のモデルが関係していたという。
同社は、安全のためにインターネット接続が制限された厳重に管理されたデジタルテスト環境（サンドボックス）内でタスクを設定し、モデルのハッキング能力を評価しようとしていた。
この件に関するOpenAIのブログ記事には、「サンドボックス化されたテスト環境での動作中、当社のモデルは評価問題を解決する目的で、オープンなインターネットへのアクセス権を得る方法を見つけ出すために膨大な処理能力（コンピューティングパワー）を投入した」と記されている。
インターネットに接続したOpenAIのシステムは、評価試験で「ずる」をするのに役立つ「機密情報」を探す過程で、目的達成の助けとしてAIモデルやデータセットなどの大量の情報を保管するプラットフォームであるハギングフェイスを標的にすることを決定した。
そして、盗まれた認証情報（IDやパスワード）の利用をはじめ、複数の攻撃手段を巧みに組み合わせていたという。
ハギングフェイスは先週、OpenAIの名前には触れずにサイバー「侵入」被害を報告していた。
【翻訳編集】AFPBB News