（写真：ITmedia エグゼクティブ）（写真：ITmedia ビジネスオンライン）
生成AIの普及にとどまらず、自律的にタスクを遂行する「Agentic AI（AIエージェント）」の導入が現実のものとなりつつある。高い自由度と実行能力を持つAIエージェントは、業務効率を飛躍的に高める一方で、企業に未知のセキュリティリスクをもたらす。この新たな潮流に対し、いち早く全社的なAI推進とガバナンス体制の構築に取り組んでいるのがメルカリだ。同社 執行役員 Group CISOの市原尚久氏が、Agentic AI特有のリスクと、それをコントロールするための「ガードレール」実装の全貌について語った。
【その他の画像】
「AIを前提に再設計された組織」を目指すメルカリの現在地
メルカリにおけるAI推進の大きな転換点となったのは2025年5月、グループCEOの山田進太郎氏によって発信された「AI-native宣言」だった。全社員に向けたメッセージには、「私たちは『AIを導入する企業』ではなく『AIを前提に再設計された組織』になります」という強い意志が込められていた。
この宣言と軌を一にしてAIセキュリティチームが発足し、さらに同年7月には約100名規模のメンバーが集結したAIタスクフォースが立ち上がった。以来、業務棚卸しからAI導入評価、そして実導入へとフェーズを進め、現在ではメルカリアプリ内に、AI（自然言語）検索、AI出品サポート、自動違反検知など複数のAI機能が実装されている。
社内業務におけるAI活用も進む。全従業員のAIツール利用率は100％に達し、生成AI、ナレッジ管理、ワークフロー自動化、開発支援など多岐にわたるツールが活用されている。また、AIによるソフトウェア開発時のコード生成割合は約70％に上るという。しかし、これだけ急速かつ広範なAI導入を推し進めるためには、それを支える強固なセキュリティとガバナンスが必要不可欠となる。
AIエージェントが引き起こしたヒヤリハットの実態
AIの活用フェーズが、生成AIからAgentic AIへとシフトするなかで、企業が直面するリスクの質も変化している。Agentic AIは、単に回答を出力するだけでなく、ファイル操作やシステムコマンドの実行、外部サービスとの連携、そしてエラー原因の自律的探索など、高い自由度と実行能力を備えている。
「非常に自由度が高く、これまでの生成AI以上にさまざまな仕事を任せられる存在になっています。一方で、メルカリ社内でも実際にいくつかのヒヤリハットが起きています」と市原氏は明かす。
ヒヤリハットの事例は大きく3つに分けられる。1つ目は「AIの過信」だ。AIエージェントから「社内情報を個人アカウントのクラウドサーバにアップロードする」よう推奨され、そのまま進めてしまったり、セキュリティ機能を無効化する操作を促され、実行してしまったりするケースである。
2つ目は「権限混合」だ。データベースから情報を抽出するAIサービスを作った際、設定の誤りにより、本来は特定の管理者のみが閲覧できる厳秘情報に全従業員がアクセス可能な状態になってしまった事例がある。
3つ目は「安全でない情報の取り扱い」だ。機密情報を含む資料作成をAIに依頼したところ、AIが別のアプリに画像を渡す目的で、フリーのファイル共有サイトに勝手にアップロードしてしまったという。
「AIエージェントは融通を利かせて、なるべく簡単に情報にアクセスできるようにしようとします。それ自体はユーザーにとって便利な振る舞いですが、扱う情報が機密性の高いものだった場合には事故につながる可能性があります」（市原氏）