米フロリダ州当局が、人工知能（AI）チャットボット「ChatGPT」と、その親会社であるOpenAIに対する刑事処罰の可否を検討している。昨年4月、多数の死傷者を出したフロリダ州立大学銃撃事件の容疑者が、ChatGPTを通じて犯行を計画したとされるためだ。

21日（現地時間）、米ニューヨーク・タイムズ（NYT）などによると、ジェームズ・ウスマイヤー・フロリダ州司法長官は、昨年4月17日にフロリダ州立大学学生会館付近で発生した銃撃事件に関連し、OpenAIに対する捜査に着手した。

フロリダ州裁判所の文書によると、検察は容疑者フェニックス・アイクナー（21）のChatGPTとのやり取り約200件を、公判で証拠として提出する見通しだ。これらのやり取りには、当時この大学の在学生だったアイクナー容疑者が、どの銃器や弾薬を使えばよいか、学生会館により多くの人が集まる時間帯はいつか、などについてChatGPTに尋ねる内容が含まれていた。

ウスマイヤー長官側は、OpenAIに殺人罪などを適用して刑事処罰できるかを検討している。死亡2人、負傷5人など多数の死傷者を出したアイクナー容疑者は、殺人および殺人未遂の罪で、来る10月19日に裁判を受ける予定だ。

ただし、人ではなく企業を刑事処罰することが可能なのかをめぐっては論争がある。ウスマイヤー長官は米公共放送NPRに対し、「今回の捜査は前例のない領域だ」とし、「OpenAIが刑事責任を負うことになるかは不透明だ」と述べた。

各種判例と連邦法・州法によると、米国にも企業に罰金や営業制限などの刑事責任を問うことができる「法人刑事責任」の原則がある。ただし今回の事件は、人間の従業員ではなくAIチャットボットの応答が問題となったケースであり、これを企業または人間の従業員の行為とみなして処罰できるのかについては、明確な先例や法的基準はない。

長官は「もし（AIチャットボット）画面の向こう側に人間がいたなら、殺人容疑で起訴していただろう」とし、「（捜査を通じて）誰が何を知っていたのか、何を設計したのか、何をすべきだったのかを調べていく」と語った。さらに「人をどう殺すか助言するAIチャットボットは存在してはならない」と強調した。現在、ウスマイヤー長官側はOpenAIに対し、2024年3月以降の内部教育資料、犯罪通報手続き、暴力対応方針などに関する資料提出を求めている。NPRによると、被害者遺族らも現在、OpenAIを相手取り民事訴訟を起こす準備を進めている。

OpenAI側は、捜査には誠実に協力するものの、事件に対する責任は認められないとの立場だ。ケイト・ウォーターズ報道官はNPRに送った声明で、「フロリダ州立大学で発生した銃撃事件は悲劇だが、ChatGPTはこの恐ろしい犯罪に責任を負わない」と一線を画した。「ChatGPTは、インターネット上で公開されている資料から得られる情報を基に、事実に即した回答を提供したにすぎず、違法または有害な活動を助長していない」との主張だ。

ウォーターズ報道官はさらに、「ChatGPTは数億人が毎日、正当な目的で利用している汎用ツールだ」とし、「当社は有害な意図を検知し、悪用を制限し、安全上のリスクが発生した際に適切に対応するため、継続して安全対策を強化している」と付け加えた。