「人工知能（AI）は人類を脅かすほど賢くない」。

AMIラボのヤン・ルカン会長は12日、ソウル市内のホテルで行った中央日報とのインタビューでこのように話した。最近広がっている「AI終末論」に対し彼は「（現在の主流である）大規模言語モデル（LLM）は自身の行動がどのような結果につながるのか予測できず、その結果が人間にどんな影響を及ぼすかもわからない。人間なら10歳の子どもでもわかること」と説明した。

ニューヨーク大学教授であるルカン会長はAI基盤技術のディープラーニング研究でヨシュア・ベンジオ氏、ジェフリー・ヒントン氏とともに2018年に「コンピュータ科学界のノーベル賞」と呼ばれるチューリング賞を贈られた。メタで首席AI科学者として働いた彼は今年1月にメタを去りAMIラボを立ち上げた。言語環境中心のLLMと違い実際の環境の動きを学習して次の行動を予測するAIモデル（ワールドモデル）を開発するのが目標だ。ルカン会長は「毎年米国では芝刈り中の事故で100人が死亡するのにAIは毎日10億人が使っても深刻な事故は珍しい。AIは芝刈りよりはるかに安全だ」と強調した。ルカン会長はこの日行われた「産業AIグローバル協力懇談会」に参加するため訪韓した。以下は一問一答。

――最近韓国ではAIハッキング事故が相次いで起きている。

「基本的に企業が不注意なためだ。AIエージェントを配布した開発会社のセキュリティ経験が不足し、AIを閉じ込めておく隔離環境（サンドボックス）には弱点があった。AIを統制できなくて発生した事故ではない。サイバーセキュリティの問題とみるべきだ」。

――AIの逸脱事例も出ている。

「難しい問題ではない。エンジニアリング（工学）で解決すれば良い。AIに命令を下した瞬間に安全装置が作動する『目標指向型AI』として設計しなければならない。人間が設定した目標以外の突発行動はできないAIを意味する。包丁を持つロボットに『周囲に人がいれば腕を振り回さないこと』という規則を設定する形だ」。

――いま出ているAIにも適用できるか。

「LLMの場合、ユーザーの個別の命令に対応する規則を細かく微細に調整するのは難しい。そのためAIの『逸脱』が頻繁に起きるのだ。オープンAIのサム・アルトマンCEOが速度調節を強調しながら次期モデルを出さない理由もここにある。十分に微細調整されていないと感じるからだ」。

――ベンジオ氏とヒントン氏もAI終末論を主張するが。

「2人ともAIが人間を上回ることを仮定して話すが同意しない。いまのAIは人間が蓄積した知識を集合し、これを繰り返すことにすぎない。自己検証が可能な数学、コーディングなど限定的な領域を除けばそれほど賢くない」。

――それではAIはどの点が危険なのか。

「過度な独占が問題だ。現在大多数の人がAIを経て情報を習得するが、そのシステムを少数の企業が独占すれば世界の価値・言語多様性は失われる。情報が行き来する経路を握ったダリオ・アモデイ（アンソロピックCEO）の『AIは本質的に危険だから統制しなければならない』という形の主張は蒙昧主義（知識拡散を防ぐ態度）に近い。過去にオスマン帝国の君主が印刷機の配布を防いだのと似ている」。

――ワールドモデルは何が違っているか。

「ワールドモデルはLLMと違い行動結果を予測できはるかに賢くなるだろう。目標指向型AIとして設計し、統制をするのもより容易だ。AIが賢いからと統制できないという考えは間違いだ」。