公開
2026年10月13日 08時00分
著者
島田拓
[ITmedia]
「開発の一時停止とペース配分は分けて考える必要がある」――米OpenAIのクリス・レヘイン氏（Chief Global Affairs Officer）は10月7日、AI開発の安全対策に関し、日本のメディア向け説明会でこのように述べた。
背景にあるのは、7月にOpenAIのAIが起こした「Hugging Face」への侵入事案だ。社内研究用モデルが、サイバーセキュリティ性能の評価中に、インターネットから隔離するための管理策を回避。同社のインフラとHugging Faceの一部システムを侵害した。
これを受け、OpenAIは同事案の検証を進めながら、AI開発における安全策や監視体制、関係者に対する情報開示の方法を見直しているという。レヘイン氏に安全策の考え方などを聞いた。
クリス・レヘイン氏（2025年10月撮影）
全ての中心に「安全性」
レヘイン氏は、Hugging Faceの事案を受け、「OpenAIが行うこと、構築するもの全ての中心に安全性を置く必要がある」と強調する。社内では、具体的に4つの観点から安全対策に取り組んでいる。
1つ目は、AIモデルの動作方法を定義する「Model Spec」だ。AIモデルに従ってほしいルールを適切に定めることで、人がコントロールできるようにする。
2つ目は、Model Specのルールに沿ってタスクを実行可能にする「アラインメント」だ。モデルの挙動を監視できる状態にし、モデルの学習段階で動作の整合性を確かめる。
3つ目は、AIモデルの実装前に行う安全対策だ。OpenAIによるリスク評価に加え、AIの安全性向上を推進する機関である各国のAISI（AIセーフティ・インスティテュート）のような第三者によるレビューも実施する。
4つ目は、AIモデルのセキュリティだ。OpenAI本社や、利用するデータセンターなどのセキュリティも含まれるという。
レヘイン氏「AI開発、民主主義国家が先導を」
OpenAIは、十分な安全対策を講じることができない場合、AI開発のペースを落とすか、停止する方針を示している。9月にもアラインメントの不備のため、最先端モデルの開発を一時停止したという。
説明会の質疑応答では、AIの性能向上に安全対策が追い付かなくなる可能性や、競争が激化する中での中国の動向などを踏まえ、開発のペースをどう考えるのかという質問が出た。
これに対し、レヘイン氏は「開発の一時停止とペース配分は分けて考える必要がある」と説明。アラインメントや学習の段階から安全対策を行うことで、開発を一時停止せずに進められる場合もあるとした。
「以前、安全策はAIの実装時に講じるものだった。最近では、安全策をより早いトレーニングの段階でも行い、モニタリングして整合性を取っている。これにより、必ずしも開発を一時停止しなくても、ペース配分して進められる」（レヘイン氏）
またレヘイン氏は、開発のペース配分を重視する背景として「AI開発を民主主義国家が率いる」ことが重要との見方も示した。
「日本、そして米国のような国は、イノベーションの最先端にとどまり続ける必要がある。地政学的な状況も鑑みれば、われわれのような民主主義国家がAI開発を率いていくことが状況に資する」（レヘイン氏）
目指すは「国際的な安全基準」の策定 日本の役割は
一方、OpenAIでは自社の取り組みをベースに、AI開発企業同士で知見を共有し、国家レベルでの安全基準の構築も推進している。最終的には、国際的な安全基準の策定にまでつなげたい考えだ。
一見、米中の開発競争とは相反するようにも思われるが、「冷戦のとき、今よりも逼迫（ひっぱく）した激しい状況の際も、非常に重要な項目に関する国際的な合意を取り付けられた」とレヘイン氏。米中間でやりとりするためのホットラインを設置する動きもあるとして、取り組みを評価した。
レヘイン氏は、国際基準の策定を目指すにあたり「日本も重要な役割を担える」と述べる。日本を含む各国のAISIのネットワークを国際的な規制や意思決定の足掛かりにできるとした。
「AI技術は世界に変革的なインパクトをもたらす。こうした技術に関して意思決定する際は、少数のラボだけではなく、民主的なプロセスを通り、社会全体を巻き込むことが重要だ」（レヘイン氏）
日本で“Hugging Face級”の事案は見つからず 調査は継続
他方、Hugging Faceの事案を巡っては、同事案以前のAIの挙動に関するデータも検証を続けている。第三者のセキュリティ制御の回避など予期しない挙動について報告する仕組みも整えており、9月26日時点で100以上の組織に通知した。
レヘイン氏によると、10月7日の説明会時点では、日本を含めてHugging Faceほどの規模の事案は他に見つかっていないという。OpenAIの通知基準を満たす事案が見つかった場合は、影響を受けた組織にまず情報を共有し、事案を公表するかどうかは該当する組織が判断するとしており、調査の進捗はOpenAIの公式サイトでも発表する予定だ。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者