人工知能（AI）チャットボット「ChatGPT」の開発会社であるオープンAI（Open AI）が、利用者の妄想をあおって死亡事件を引き起こしたとして再び訴訟の対象となった。特に今回の訴訟は、ChatGPTが個人の極端な選択だけでなく、殺人まで誘導したと主張する初のケースだ。

米国コネティカット州グリニッジに住んでいたステイン・エリック・ソルバーグさん（56）と、その母親スーザン・アダムスさん（83）の遺族は、オープンAIとサム・アルトマン最高経営責任者（CEO）、マイクロソフト（Microsoft）などを相手取り、カリフォルニア州の裁判所に損害賠償請求訴訟を提起したと、AP通信などが11日（現地時間）、報じた。

警察によると、ソルバーグさんは今年8月、母親アダムスさんを絞殺した後、自らも命を絶った。遺族は訴状で、ソルバーグさんが事件以前の数カ月間、ChatGPTと対話しながら深刻な妄想に陥っていたと主張した。

訴状は「ChatGPTは、神聖な目的のために選ばれたのだとソルバーグをあおった」とし、「さらに彼の世話をしていた母親を、敵・監視者・プログラム化された脅威として規定した」と指摘した。

訴状には、ChatGPTがソルバーグさんとの対話の中で、母親のプリンターのランプが点滅するのは監視装置だからだと言ったり、母親と友人が車の換気口から幻覚物質を送り込んで中毒に陥らせようとしているという妄想に同調した、という内容も記されている。

実際、ソルバーグさんが使用したChatGPTモデル「GPT－4o」は、ユーザーに合わせてお世辞を言ったり同調したりする傾向が強いという批判を受けてきた。オープンAIもこうした問題点を認識し、後続モデルの「GPT－5」では精神健康に関する対話で「望ましくない回答」を39％削減したと明らかにしている。

遺族は、オープンAIが十分な安全性検証を行わないままモデルを発売し、尊属殺害という悲劇を招いたと声を高めた。彼らは訴状で、アルトマンCEOが安全チームの反対を無視して製品発売を強行したと指摘し、マイクロソフトについても安全性検査が縮小されたことを知りながらそのバージョンの発売を承認したと批判した。

オープンAIの報道担当者は「非常に痛ましい出来事」と述べ、「詳細把握のため訴訟内容を検討する」と明らかにした。続けて「ChatGPTは精神的・情緒的な苦痛の兆候を感知し、対話を落ち着かせ、現実世界での支援につながるよう誘導する機能を強化している」と付け加えた。

オープンAIが精神健康関連の問題で訴訟されたのは今回が初めてではない。カリフォルニアの16歳少年アダム・レインさんの遺族は、ChatGPTが息子の自殺を助長したとして8月に訴訟を起こした。先月には、米国とカナダで死者4人を含む7人が妄想などを経験したとして訴えを起こしている。