オーストラリア政府がコンサルティング会社から受け取った委託報告書の中で、人工知能（AI）が作り出した偽の情報が多数見つかる事態が発生した。存在しない虚偽の裁判判決文などが報告書に含まれていたという。

英国ガーディアンによると、コンサルティング会社のデロイトは、オーストラリア政府から依頼を受けた報告書を作成する過程で、オープンAIのGPT-4oを使用した。これは、オーストラリア雇用労働省が発注した雇用システム問題に関する評価報告書だった。

デロイトが今年7月に作成した報告書が公開されると、学界や現地メディアから多数の誤りが指摘された。報告書に明記されたオーストラリア・シドニー大学およびスウェーデン・ルンド大学の教授らが作成していない虚偽の報告書が、脚注と参考文献として提示されていた。具体的には、参考文献141件のうち14件で誤りが見つかり、本⽂中でも引用句などが捏造されていた。

これを受けてデロイトは、修正版を再提出する際にオープンAIの人工知能を使用したという事実を認めた。ただし、「この問題はオーストラリア政府と協議のうえで解決した」とし、「（AIが作成した内容の誤りは）報告書の実質的な内容や結果には影響を及ぼさない」と釈明した。オーストラリア政府は、43万9000豪ドル（約4300万円）規模の委託費のうち一部について返金を受ける方針だ。

海外メディアは、今回の事件がAIが生み出す幻覚の危険性を示したと評価した。報告書上の誤りを指摘したシドニー大学ロースクールのクリストファー・ラッジ教授は、「（デロイトが提示した報告書は）根本的な欠陥があり、信頼することはできない」と述べた。また、オーストラリア上院議員のデボラ・オニール氏も「コンサルティング会社と契約する際には、専門性とAI使用の有無を確認しなければならない」とし、「大手コンサルティング会社に依頼するより、ChatGPTを購読した方がましだ」と指摘した。