人類がどのような努力をしても世界は終わるという終末論は、世紀末のカルト宗教の狂信者がするような話だった。そのため、どんな懸念であれ、それを「終末論」と呼んだ瞬間、半分は信じてもらえない話になるのがオチだ。

ところが最近、人工知能（AI）開発企業は、AIが人類文明を破滅させる可能性があるとして終末論を唱えている。アンソロピック（Anthropic）の最高経営責任者が「AIの開発速度を落とそう、国際社会に乗り出してほしい」と提案し、ライバル各社も呼応した。今回はこの懸念が通じるだろうか。

どうだろう。彼らは数年間、同じレパートリーを繰り返しながらも、AIが欺瞞・脅迫・陰謀・権力追求などの振る舞いを見せ、人間の統制から逃れようとしていることを以前から知っていたにもかかわらず、停止ボタンを押さなかった。自ら止めれば済むことなのに、競争に負けることを恐れ、皆で共倒れに向かって走る「囚人のジレンマ」を楽しんだ。今回も彼らが止めれば済むことなのに、国際社会の合意を求めている。この競争を止めなくても済む合法的な言い訳を探しているのではないか。予想通り、ドナルド・トランプ米大統領は「中国より先を行くことが重要だ」とし、10日後の米中首脳会談で議論する考えがないことを示唆した。

だからこそ、AIエリートたちが「なぜよりによって今」速度調整論を再び持ち出したのかが重要だ。どうも収益性の問題が大きいように見える。今年中に上場するとしていたオープンAI（OpenAI）は先週末、上場日程を遅らせると明らかにした。上場企業は株主に収益性を継続的に証明しなければならないが、現在の状況は芳しくない。データセンター建設に反対するデモが広がり、各国の規制意欲は強まっており、ますます値上がりするAI半導体価格も負担だ。

しかし、自分たちの口から収益性について語ることはできないはずだ。この問題でひるんでいる気配を見せた瞬間、投資家は背を向け、AIバブルは崩壊する。

問題は韓国だ。AI慎重論が広がった場合、AIのスピード競争で最大の恩恵を受けてきた韓国の半導体産業は？ 長期的かつ構造的な成長ループを楽観しながら国の財政を運営してはならないということだ。半導体大手2社が韓国電力の5年分の電気料金前払い提案を拒否した理由も「その時の経営状況は分からない」というものだった。AI技術とは異なり、人間社会は政治と世論というボトルネックを通過しなければならないことを企業は経験的に知っている。

パク・スリョン／企業研究部長