米Anthropicは、新たなAIモデル「Claude Mythos Preview」について、サイバーセキュリティ上のリスクや脆弱性を見つけ出す能力が極めて高く、一般公開はできないと明らかにした。代わりに、大手テクノロジー企業やインフラ事業者にこのモデルを提供し、見つかった脆弱性の修正に役立てる方針だ。
同社は3月下旬ごろから、最新AIモデル「Claude Mythos」が同社の技術水準を大きく引き上げる存在になると示唆していた。今回、その概要を公表するとともに、Mythosがオンライン上のセキュリティ脆弱性を見つけ出したり悪用したりする能力で大きく進歩しており、新たなサイバーセキュリティ上の脅威にもなり得ると警告した。
Anthropicは米国時間4月8日付のブログで、「AIモデルはすでに、ソフトウェアの脆弱性を発見し悪用する能力において、最も熟練した一部の人間以外を上回る水準に達している」と説明した。未公開のMythos Previewについては、主要なOSやWebブラウザ全体にわたって、数千件規模の深刻な脆弱性を発見したとしている。
これを受け、Anthropicは新たなコンソーシアム「Project Glasswing」を立ち上げた。参加企業・団体にはApple、Amazon Web Services、Broadcom、Cisco、CrowdStrike、Google、JPMorgan Chase、Linux Foundation、Microsoft、NVIDIA、Palo Alto Networksなどが名を連ねる。このほか40以上の組織にもMythosへのアクセスを提供し、AIを使った攻撃や脆弱性悪用に備えた防御強化を進めるとしている。
Anthropicはあわせて、Mythosの利用クレジットとして1億ドル、オープンソースのセキュリティ団体向け寄付として400万ドルを拠出する。
AnthropicのCEOであるDario Amodei氏はXへの投稿で、「この取り組みを誤れば危険性は明白だが、正しく進めることができれば、AIによるサイバー能力が登場する以前よりも、根本的に安全なインターネットと世界を実現できる可能性がある」と述べた。
Project Glasswingに関するYouTube動画では、Microsoft、Linux Foundation、Anthropicなどの関係者が登場し、ソフトウェアの脆弱性が引き起こし得る被害の大きさについて語っている。
大手クラウド事業者はすでにこの新モデルを使い、脆弱性の検出を進めている。Ciscoの最高セキュリティ責任者兼トラスト責任者であるAnthony Grieco氏はブログで、「判明した内容からは多くの示唆が得られた。だが本当の作業はこれからだ。AIによる分析は、従来のフレームワークでは扱いきれない規模と深さでデータを明らかにする」とコメントした。
Amazon Web Servicesも、厳しく検証されてきたシステムでさえ、コードをさらに強化できる点をこのモデルが見つけ出したと説明している。AWSの副社長兼最高情報セキュリティ責任者であるAmy Herzog氏は、Claude Mythos Previewについて「サイバーセキュリティにおける推論能力とAI能力を一段引き上げるものだ」と評価した。
この新モデルのインパクトはどの程度か
AIがソフトウェアの脆弱性を見つけたり、悪用に使われたりすること自体は新しい現象ではない。ウイルス対策ソフトベンダーNortonで脅威インテリジェンス部門ディレクターを務めるMichal Salát氏は、DARPAの「Cyber Grand Challenge」でも、この分野でAIが注目を集めた事例はすでに複数あったと指摘する。
ただ現在は、そうした脆弱性発見能力を、より幅広いユーザーが利用できるAI技術が備え始めている段階にある。Salát氏は電子メールで、「AnthropicのProject Glasswingは、この強力な技術を安全に活用することに焦点を当てている。この技術は脆弱性研究を大きく変える可能性がある一方、悪意ある目的で利用された場合には深刻なリスクにもなり得る」と述べた。
さらに、「Opus 4.6のような現行の最上位モデルと比べても大きな前進だが、基盤となる能力自体はすでに存在しており、脆弱性研究はサイバーセキュリティ分野におけるAIの主要な実用用途の1つとして急速に浮上している」としている。
AI規制の必要性を巡って議論を続けてきた米政策当局も、このコンソーシアムの動向を注視するとみられる。
米上院議員のMark Warner氏は声明で、この取り組みを評価した。「主要企業がこの脅威を認識し、重要インフラの保護に向けて情報や能力、計算資源を積極的に共有していることを歓迎する」と述べた。また、「AIが新たな脆弱性の発見を劇的に加速させるのであれば、業界はそれに見合う形でパッチ適用の優先順位を見直し、対応を急ぐべきだ」とも訴えた。
AI向けデータセンターが集積する地域を州内に抱えるWarner氏は、最近、データセンター建設の一時停止案を「愚かな考え」と批判する一方、AIの急速な発展が大規模な雇用喪失を招く可能性についても警鐘を鳴らしている。
Amazonで現在開催中のセールを観る
Amazonのアソシエイトとして、CNET Japanは適格販売により収入を得ています
この記事は海外Ziff Davis発の記事を4Xが日本向けに編集したものです。