米人工知能（AI）企業アンソロピックの研究員が、「AIが10年以内に人類を滅亡させるかもしれない」と警告して会社を去った。アンソロピックの役員もAIが人類に深刻な脅威になる可能性があると公開的に同調した。

アンソロピックを退社した研究員ジェイコブ・コックソン氏は8日、Xへの投稿で、AI開発競争が加速し安全問題が後回しにされていると主張した。英国出身のコックソン氏は大規模データを利用して新たなAIモデルを学習させる分野を研究した。

コックソン氏はAI企業が人間の介入なく自ら性能を改善するシステム開発を競争的に推進していると指摘した。こうしたAIが人間の統制を抜け出して命令を拒否する水準まで発展する可能性があるというのが彼の主張だ。

彼は「AIを開発する人たちはこの技術が10年以内に私たちを皆殺しにすることもできると心から信じている。遠からずこの技術は何でもハッキングし、一夜のうちどんな分野であれ革命を起こし実質的な権力と資源を確保する超人的システムになるだろう」と警告した。

ウォール・ストリート・ジャーナルには「最も積極的シナリオの中で相当数が現実化する方向に進んでいる。来年末にはすでに状況が統制不能に陥るかもしれない」と話した。

アンソロピック内部からも同様の警告が出ている。アンソロピックのエバン・フービンガー氏は「ジェイコブの話は正しい。われわれは本当にAIがすべての人類を滅亡させることができると信じている。個人的に10年以内にその確率が10％を超えると思う」と明らかにした。

同社のサミュエル・マークス氏も個人の意見である前置きした上で「AI開発者は自分たちの技術が人類の絶滅または、それと類似した深刻な結果を招くことになると信じている」とし、こうした状況が今後数年以内に発生する可能性もあると主張した。

コックソン氏は今年初めにオープンAIからアンソロピックに転職した。AIの安全を重視するアンソロピックの企業文化のため離職したが、個別の企業の努力だけではリスクを統制しにくいと判断したというのが彼の説明だ。

彼はオープンAIとアンソロピックに向け、「いずれも責任感を持って行動していない。これらは自ら発展する超知能に向かって疾走し、われわれの命を賭けの対象にしている」と批判した。

コックソン氏は、人間の能力を超える汎用人工知能（AGI）を責任を持って開発するには政府の介入とAI業界の共同対応が必要だと主張した。また、各国政府にAI開発速度を調節する国際的体系を用意するよう促したAI研究者の声明にも参加した。この声明にはアンソロピックのダリオ・アモデイ最高経営責任者（CEO）とオープンAIのヤクブ・パチョッキ主任サイエンティストら研究者1000人以上が署名した。