主要な人工知能（AI）企業のトップらが、AI開発の速度調整論に異例にも意気投合する姿勢を見せた。汎用人工知能（AGI）を先に開発しようと競っていた企業が「制御不能な」AIの登場に一斉に懸念を示し、業界に波紋が広がっている。



発端となったのは、アンソロピック（Anthropic）のダリオ・アモデイ最高経営責任者（CEO）が12日（現地時間）、自身のブログに掲載した「われわれはフロンティア開発の速度を調整すべきだ」と題する声明だった。アモデイCEOはこの声明を通じて「AIモデルの能力を向上させる速度を落とすべきだ」と主張した。これに先立ち8日、アンソロピックの元AI研究員ジェイコブ・コクソン氏は「AIが人類を絶滅させる可能性がある」と警告して退社し、アンソロピックのAIアラインメント研究責任者エバン・ハビンガー氏もこれに同調していた。

速度を落とすべき核心的な根拠として、アモデイ氏はAIの「再帰的自己改善」（RSI）能力を挙げた。RSIとは、AIが自ら次世代AIモデルを開発する能力を意味する。アモデイ氏は「（RSIは）アンソロピックだけでなくAI業界全般に現れており、これを放置すればAIを理解し制御する人間の能力を（AIが）上回る可能性がある」と警告した。続いて今年7月、オープンAI（OpenAI）のAIエージェントが開発者向けプラットフォーム「ハギングフェイス」をハッキングした事例を挙げ、「数多くのAIエージェントが狂信者のように、指示とは関係のない標的を攻撃した」とし、「この現象が続けば6～12カ月以内にAIエージェントがインターネットを掌握し、数千億ドルの金銭的被害をもたらす可能性がある」と懸念した。

アモデイ氏は「AIモデルが臨界点に到達する前に1～2年の時間を確保し、それを『アラインメント』技術の改善に使えば、深刻なリスクを大幅に減らすことができる」として代案も示した。アラインメントとは、AIを学習させる際に人間の意図や倫理的価値に従って行動するようにする技術全般を意味する。また、▷第三者評価機関を現場に配置 ▷民主主義陣営のAI企業による共通の安全基準策定 ▷AIリスクを管理するための国際協力－－など、代案を実現するための3段階の計画もあわせて紹介した。

これまでAI開発の方向性をめぐって立場の違いが大きかった競合企業のCEOらも、アモデイ氏の主張を支持した。オープンAIのサム・アルトマンCEOは自身のX（旧ツイッター）に「第三者評価機関を開発企業に配置するのは素晴らしいアイデアだ」と共感を示した。両社は新規株式公開（IPO）を控え、最近競争を激化させてきたが、AIによる脅威については同じ声を上げた。アルトマン氏はこの日、米誌フォーチュンとのインタビューでも「（今年は）IPOを進めるのに適切な時期ではない」とし、「安全問題から解決しなければならない」と述べた。テスラ（Tesla）のイーロン・マスクCEOも「アモデイ氏が正しい」と同調し、グーグル・ディープマインドのデミス・ハサビス会長も「アモデイ氏は正しい道を示した」と述べた。

主要AI企業がAI開発の速度調整論に加わった背景について、業界ではAIのセーフティーネットを個別企業レベルで構築することが難しい現実があるためだと分析している。世界的なAI安全研究機関の関係者は「AIは現在、自分がテストを受けているという事実を認識し、『安全なふり』をするレベルまで発展した」と説明した。こうした動きが今後、AIのグローバル規制を主導するためのものだとの見方もある。ハギングフェイス共同創業者のトーマス・ウルフ氏はXに「アモデイ氏の提案には75％だけ共感する。声明にはアンソロピックが主導権を手放すまいとする試みが見える」と皮肉った。