2026年11月04日 11時07分
AI
AIの性能は日々向上しており、ユーザーが使えるAIモデルの種類は急増しています。しかし、ユーザー側から「宣伝されている通りのAIモデルが使われているのか」を確かめる方法は限られており、サービス側が低性能AIモデルをこっそり使っている可能性を排除できません。この状況を打破するべく、Anthropicが「特定のAIモデルで出力が生成されたこと」を証明できる仕組み「FlashProve」を開発しました。
Progress on provable inference for large language models \ Anthropic
https://www.anthropic.com/research/provable-inference
New Anthropic research: progress on provable inference for large language models.
Here, we introduce FlashProve. Building on established cryptographic techniques, FlashProve allows developers to verify whether a given response came from a given AI model. It’s substantially more…
— Anthropic (@AnthropicAI) November 3, 2026
応答の生成に利用されたAIモデルの種類をユーザー側から特定できない現状では、サービス提供者が宣伝とは異なる低コストなモデルを用いて不当に利益を得る可能性があります。また、「モデルの安全性が監査機関によって確認されたあと、別のモデルに差し替えてサービスを提供する」「攻撃者が特定のモデルになりすましてユーザーを攻撃する」といった安全上の課題が生じる可能性もあります。
こうした問題の解決策として開発されたのがFlashProveです。FlashProveは暗号学的証明手法「zkSNARK」を用いるシステムで、サービス提供者は既存の手法より少ないコストで証明ファイルを作成することが可能。zkSNARKで作成される証明ファイルにはモデルのウェイトに関する情報が含まれないため、クローズドモデルであってもモデルの情報を隠したまま証明を提供できます。
証明ファイルの検証は24コアCPUを用いて数秒で完了できます。このため、ユーザー側も少ない計算リソースでAIサービスの真贋性を検証することができ、サービス提供者の不正や攻撃を未然に防ぐことができます。
FlashProveの証明ファイル作成や検証に用いるコードについては、研究用プロトタイプのものが以下のリンク先で公開されています。
GitHub – anthropics/FlashProve: A research prototype for zero-knowledge proofs of AI inference. Not maintained. · GitHub
https://github.com/anthropics/FlashProve
技術レポートも以下のリンク先で公開されています。
FlashProve: an open-source library for provable inference
(PDFファイル)https://assets.claude.com/8e1d181a83015078581c92d896757041713f0160.pdf
・関連記事
「バグのないソフトウェア」の実現を目指してAnthropicが「AIを用いて数学的にバグがないことを証明する」という手法を開発 – GIGAZINE
AIが使ったツールをAI自身が5段階で評価する口コミサイト「agent.reviews」が登場、Claude CodeやCodexもレビューを投稿 – GIGAZINE
Anthropicが11月3日から旧バージョンのClaudeにもテキスト透かしを追加する – GIGAZINE
AI生成画像やAI生成動画を見分けるGoogleサービス「SynthID Detector」が誰でも使用可能に、Google・OpenAI・AppleのどのAIかも判別可能 – GIGAZINE
OpenAIがChatGPTのテキストに透かしを入れる取り組みを開始 – GIGAZINE