人工知能(AI)モデルの出所検証からIP保護まで
사진 확대 センティアントが公開した「フィンガープリントリーダーボード(Fingerprinting Leaderboard)」の広報イメージ。 <提供=センチメント>
オープンソース汎用人工知能(AGI)生態系を造成する非営利組織センチエント財団(Sentient Foundation)の人工知能(AI)研究企業センチエントラップス(Sentient Labs)がAIモデルの出所を検証し、フィンガープリンティング(Fingerprinting)技術の保安性を評価するオープンベンチマーク「フィンガープリンティングインデックス(Fingerprinting Index)」を発売した。
最近、オープンソースAIの拡散で無断複製や盗用を防止するためのAI知識財産権(IP)保護技術の重要性が急増している。 AIモデルは莫大な開発費用が投入されるが、微細調整(Fine-tuning)や蒸留(Distillation)を経ると原本との関連性を立証しにくい限界が存在する。
フィンガープリンティングは、学習過程でモデル自体に固有の行動署名を残す方式だ。 モデル所有者は、特定の秘密プロンプト(Secret Prompt)を入力して、別途のメタデータがなくても原本派生可否を立証することができる。
センティエント研究陣が既存の10種類の主要フィンガープリント技術を対象に保安性をテストした結果、精巧な攻撃を通じて大部分の技術が迂回される可能性があることを確認した。 今回の評価には、センティエントの独自開発技法も含まれた。
先立ってセンティエント研究陣はAI学会「NeurIPS2025」でメタのLlama-3.1-8Bモデルに2万4,576個のフィンガープリントを挿入する「ペリニュークリアス(Perinucleus)」技術を公開した経緯がある。 該当技術は性能低下を最小化しながら、ファインチューニング後も署名が維持される優秀な強健性を示した。
今回公開された「フィンガープリンティングインデックス」は多様な除去攻撃に対するフィンガープリンティング技術の耐え性を独立的に評価し、新規技術の性能を客観的に比較できるように設計された。
これと共に研究用オープンソースライブラリ「mlprints」も配布された。 研究者たちは、該当ライブラリを通じて新しいフィンガープリント技法と攻撃方式を具現し、既存の実験結果を直接再現することができる。
センティエント関係者は「今後AIモデルの核心機能とフィンガープリントを結合し署名除去時にモデル性能も共に低下する次世代技術を開発する計画」とし「AIモデルの公開と再使用過程でも原本出処を信頼性を持って検証する技術的基盤を作っていく」と伝えた。
#
フィンガープリント
ベンチマーク
人工知能
Fingerprinting
オープンソース