人工知能（AI）モデル「Claude（クロード）」の開発企業であるアンソロピック（Anthropic）が、政府はAIをより強力に統制すべきだと訴えた。企業が自主的にリスクを開示・管理する水準を超え、政府が危険なモデルの公開そのものを阻止できるようにすべきだという主張だ。

アンソロピックのダリオ・アモデイ最高経営責任者（CEO）は10日（現地時間）、ブログに掲載した文章で、「一定規模以上のフロンティアAIモデルは、公開前に第三者による安全評価を受けるべきだ」と述べた。サイバー攻撃、生物兵器の製造、自律的な行動、危険な研究開発の自動化などの重大なリスクが確認された場合、政府がモデルの公開を阻止したり、公開後に撤回させたりできるようにすべきだという趣旨だ。アモデイ氏は「透明性を超え、より真剣で拘束力のあるAI規制へ進むべき時だ」とし、「フロンティアAIモデルも航空機のように技術テストや監査を受けるべきだ」と述べた。

今回の提案は、アンソロピックが最近「ミュトス（Mythos）」級モデルを公開した直後に出された。ミュトスはアンソロピックが開発した次世代AIモデルで、サイバーセキュリティ分野で悪用される可能性が懸念されるほど高い性能を備えている。アンソロピックはミュトス級の性能を持つモデルを一般公開する一方、サイバーセキュリティ能力を備えたバージョンについては、認証を受けた機関にのみ提供することにした。OS（オペレーティングシステム）やウェブブラウザの重大な脆弱性を発見できるほど強力になった機能を一般に公開することは難しいと判断したためだ。アモデイ氏は「ミュトス級モデルがもたらすサイバー上のリスクは、私たちが直面しなければならない最後のリスクではない」とし、「生物学的リスクやAIの自律性に関するリスクも後に続く可能性がある」と述べた。

またアモデイ氏は、発展するAI技術は民主主義国家によって統制されなければならない点も強調した。同氏は「強力なAIは独裁的な抑圧を可能にしかねない」と述べた。