Anthropicが「Project Glasswing」を発表 次世代モデルは非公開に
Anthropicは4月7日、AI時代のソフトウェアセキュリティを強化するための新たな取り組み「Project Glasswing」を発表した。Anthropicの他、Amazon Web Services(AWS)、Apple、Google、Microsoft、NVIDIAといった主要テック企業に加え、Linux Foundationなど計12の組織が初期パートナーとして参画している。
Project Glasswingを立ち上げるきっかけとなったのが、Anthropicが開発した未発表の次世代モデル「Claude Mythos」だ。
Anthropicによると、そのプレビュー版である「Mythos Preview」はソフトウェアの脆弱(ぜいじゃく)性を発見して悪用する能力において、一部の熟練した専門家を除き、大半の人間をしのぐレベルに達しているという。実際、Mythos Previewは既存のOSやブラウザから数千件もの深刻な脆弱性を自律的に発見しているとのことだ。
AIの進歩の速度を考えると、こうした機能が急速に普及し、悪用されるのも時間の問題であり、経済や公共の安全、国家安全保障への影響は甚大になる可能性がある。Project Glasswingは、こうした機能を防御目的で活用するための緊急の取り組みとなる。
プロジェクトの一環として、Anthropicは参画パートナーや40以上の重要インフラ関連組織に対し、脆弱性のスキャンや修正を目的としたMythos Previewへのアクセスを提供する。また、1億ドル相当のモデル利用クレジットの提供や、オープンソースセキュリティ団体への400万ドルの寄付も表明している。
