韓国にはない法律、世に存在しない薬探す…AIの「幻覚の罠」に陥った人たち(2)
問題は検証なく生成AIの結果を使い場合によっては大型事故につながりかねない点だ。先月17日に国会行政安全委員会の国政監査では警察が不送検決定文作成過程でチャットGPTを使い存在しない判例を引用した事実が指摘された。この日「共に民主党」の権七勝(クォン・チルスン)議員は竜仁(ヨンイン)東部警察署が作成した児童福祉法違反事件の不送検決定文の一部を公開した。決定文は大法院(最高裁)とソウル北部地裁の判決文を引用し「一時的や断片的な言動だけでは児童の精神健康と発達に害を及ぼすと断定しがたく、反復性・持続性と具体的な被害状況が認められなければならない」と明示した。しかし告訴人側が内容を確認した結果、この文章は判決文にない内容とわかった。
警察庁のユ・ジェソン庁長代行は「AIを活用して作成したという報告を受けた。判決文を間違って引用したものだ。その後留意事項を指針として下達した」と話した。