7月、OpenAIは18歳以上のすべてのユーザーを対象に、無料プランを含むすべてのプランで「ChatGPT Health」の提供を開始したと発表しました。
そもそも「AIに医療相談をする」こと自体に慎重でありたいところですが、今回のChatGPT Healthに限っては、それ以前の問題として安易な利用を控えたい明確な理由があります。
最大の懸念は、初期と比べてプライバシー保護のレベルが落ちている点です。
ChatGPT Healthを利用すると、ご自身の電子カルテやApple Healthのデータをチャットボットに連携できます。
OpenAIの説明によると、ボットは会話の中で健康データへのアクセス許可を毎回尋ねる仕組みになっています。また、医師の代わりを務めるものではなく、アドバイスの提供や医療データの解釈を補助することを目的としている、と注意書きを添えています。
しかしその一方で、発表資料のグラフではChatGPT Healthが実際の医師よりも高スコアを獲得したかのように示しています。
これらのアピールにかかわらず、私にはいくつか懸念点があります。
プライバシー保護を受けるための条件が複雑化
OpenAIが最初にこの「専用のヘルスケア体験」を発表した際、大きな売りとしてアピールされていたのは、「Health」内での会話が将来のAI学習に使用されないこと、そしてHealthでの会話が他のすべての会話から分離して管理されることでした。
しかし、その利用規約は変更され、現在OpenAIが説明しているところによると、学習に使用されないのは「連携された健康データ」そのものだけであり、「その連携データが使われた会話」だけがHealth機能の会話として保護されるとのことです。
つまり、電子カルテのデータを読み込ませたうえで診断名について話すなら、その会話は保護対象になり、一方で、連携させずに自分の言葉で診断名を伝えただけの場合は、Health機能の会話とは見なされなくなってしまうわけです。
これは同時に、ChatGPT Healthのプライバシー保護を受ける唯一の方法が「自身の健康データをOpenAIと共有すること」であることを意味します。
実際、同社は発表のなかで「連携なしで健康上の質問をすることは可能だが、自身のデータに基づいたHealth機能の回答を得るには、Apple Healthや米国の医療機関の電子カルテ、One Medical、Function Healthなどを連携させる必要がある」と説明。
つまり、連携を行った後者の会話にはプライバシー保護が適用されるものの、連携を行わない前者の会話は保護されないということです。