人工知能（AI）企業アンソロピック（Anthropic）の元・現研究陣が、AIが人類を滅ぼす可能性について相次いで警告し、米政界でも議論が広がっている。米議会ではAIのリスクを統制するための立法の動きが本格化する一方、国防総省はこうした懸念を繰り返される「終末論」だとして一蹴した。

ロイター通信は10日（現地時間）、米上院商務委員長のテッド・クルーズ議員（共和党・テキサス州）がABC放送に出演し、AIの「破滅的リスク」を規制するための法案を準備していると報じた。

クルーズ議員は、共和党上院トップのジョン・スーン院内総務（サウスダコタ州）や民主党のエイミー・クロブシャー上院議員（ミネソタ州）らと立法作業を進めていると明らかにした。

議会内のほかの議員もAIのリスクへの対応を求め始めた。

ジョシュ・ホーリー上院議員（共和党・ミズーリ州）は、オープンAI（OpenAI）のGPTモデルが外部機関「ハギングフェイス」をハッキングした事件に関連し、詳細な情報を求める書簡を送った。マーク・ケリー上院議員（民主党・アリゾナ州）はX（旧ツイッター）に「ワシントンは目を覚まし、この問題を真剣に受け止めなければならない」と投稿した。

下院でも同様の動きが続いた。ナサニエル・モラン議員（共和党・テキサス州）はXに「議会はAIの現実を見過ごすことはできない」と投稿した。アンナ・パウリナ・ルナ議員（共和党・フロリダ州）はマイク・ジョンソン下院議長に、AI問題を扱うための特別会期の招集を求めた。

◇国防総省は正反対の立場…「繰り返される終末論」

米議会がAIの潜在的リスクに注目して規制策を模索しているのとは異なり、国防総省は人類滅亡の可能性に対する警告は過度な恐怖に近いとの立場を示した。

ブルームバーグ通信によると、米国防総省（戦争省）の最高技術責任者（CTO）であるエミル・マイケル国防次官（研究・工学担当）は同日、ワシントンDCで開かれた防衛産業カンファレンスで「これは単にデータセンターに対する恐怖、変化に対する恐怖など、あらゆる恐怖が一本のよく書かれたツイートに凝縮されたものにすぎない」と述べた。

マイケル次官は「米国人の40％が失業することになるとか、人類が滅亡するというような『繰り返される終末論』（doom loop）に巻き込まれるのは簡単なことだ」とも述べた。

マイケル次官は、AIがもたらし得る潜在的リスクは自由市場での競争と業界間の協力、政府との意思疎通を通じて十分に緩和できると強調した。

◇国防総省・アンソロピック対立の中で出た発言

マイケル次官の発言は、国防総省とアンソロピックが対立している状況で出た。

国防総省はアンソロピックを「サプライチェーンリスク」企業に指定し、アンソロピックはこれに反発して訴訟を起こしている。このため、マイケル次官の発言が双方の紛争と無関係ではない可能性も指摘されている。

マイケル次官は、国防総省が機密AI業務の約90％をアンソロピックのAIシステムから別の企業のシステムに移行したと明らかにした。残る業務も今月末までに移行する予定だとした。

今回の議論は、アンソロピックを退社した研究員ジェイコブ・コクソン氏の公開警告をきっかけに広がった。

コクソン氏はXに「AIを開発している人々は、この技術が10年以内に私たち全員を殺すかもしれないと本気で信じている」と主張した。アンソロピックの現職幹部もコクソン氏の警告に同調し、AIの潜在的リスクをめぐる議論が拡大した。

こうした中、カリフォルニア州は独立監査人がAI製品を評価する際に適用する基準と規則を盛り込んだ州法を制定した。

オープンAIのクリス・リヘイン最高対外協力責任者（CGAO）は、オープンAIが同法案を支持すると明らかにした。