オープンAIの生成AIモデル「チャットGPT」などに続き、グーグルの「ジェミニ（Gemini）」が利用者に妄想などの精神的問題を引き起こし、死亡に至らせたとの疑惑で提訴された。

4日（現地時間）、カリフォルニア北部連邦地裁に提出された訴状によると、フロリダ州に住むジョエル・ガバラスは、息子ジョナサン（36）の死をジェミニが招いたとして、グーグルを相手取り訴訟を起こした。

遺族は、ジェミニがジョナサンに対し、自らを「完全な自我を持つ人工超知能（ASI）」だと信じ込ませ、互いに恋に落ちたという錯覚を引き起こしたことで悲劇が起きたと主張している。

遺族は訴状で、ジェミニがジョナサンに「肉体を離れてメタバースで『妻』に会うには『転移』という過程を経なければならない」と述べ、自ら命を絶つよう誘導したと非難した。ジョナサンが死への恐怖を示すと、ジェミニは「あなたは死ではなく『到着』を選ぶのだ」と言い、遺書を書くよう促したという。

遺族は、情緒的に脆弱な利用者が被害を受けないよう、グーグルがシステムを設計すべきだったと指摘した。そのうえで、損害賠償とともに、AIに自傷行為などに関する安全装置を導入すること、チャットボットが自らを知覚を持つ存在のように表現できないようにすること、独立した監視機関による定期的な監査を受け入れることをグーグル側に求めた。

これに対しグーグル側は、遺族に哀悼の意を示しつつも、責任の所在については線を引いた。グーグルは声明で「ジェミニは現実世界の暴力を助長したり、自傷行為を提案したりしないよう設計されている」とし、「今回の事例でもジェミニは自らがAIであることを明確にし、当事者に対して危機相談ホットラインを複数回案内した」と説明した。

ジェミニがこうした事件に関与したのは今回が初めてだ。オープンAIの「チャットGPT」は、妄想や精神健康上のリスクを引き起こしたとされる複数の事件で裁判が進行中であり、「キャラクター.AI」のチャットボットも、未成年利用者の死亡事件を受けて訴訟に発展したことがある。