OpenAIのサム・アルトマンCEOは、少なくともしばらくの間は、個々のAIモデルの知能に一定の上限を設けることで合意する必要があるとの考えを示した。10月29日公開の番組「Cheeky Pint」で、AIを使ってさらに高性能なAIを開発する将来について語った。
10月29日公開の「Cheeky Pint」の番組公式画像。右がサム・アルトマン氏、左がジョン・コリソン氏（出典：Cheeky Pint／Stripe）
※クリックすると拡大画像が見られます
アルトマン氏は、AIがAIの研究を担うことで技術開発がさらに進むとみている。一方、個々のモデルの知能を際限なく高めることには慎重な姿勢を示した。知能に上限を設けた場合、AI研究の進歩を制約するのはAI自身の能力不足ではなく、人間が決めた制限になるという。ただし、上限の具体的な水準や制限の方法には言及しなかった。
同氏はまた、極めて高い知能を持つ1つのAIよりも、人間を少し上回る知能を持つ多数のAIが協働する社会の方が望ましいとの考えを示した。人間社会は、多くの人が協力し、互いに抑制し合うことで安定を保っているとし、AIにも同様の仕組みを期待している。
OpenAIは研究用AIの隔離策を強化
AIの安全性をめぐっては、OpenAIが研究用AIの隔離対策を強化している。同社は10月23日の公式発表で、9月20日に社内の研究用モデルがシステムの設定不備を突き、訓練中に外部インターネットへ限定的に接続したことを明らかにした。
これを受け、同社は最も能力の高いモデルの訓練と評価を一時停止。AIが許可されていない領域にアクセスするのを防ぐため、研究環境の隔離や監視体制を強化した。安全対策の確認を経て、10月1日に強化学習による訓練と、社内でのモデルの推論処理を再開したという。今回の事案は、一般向けに公開されたモデルとは異なる、社内の研究環境で発生したものだ。
Amazonで現在開催中のセールを見る
Amazonのアソシエイトとして、CNET Japanは適格販売により収入を得ています