주요 기사 바로가기

【コラム】AI規制、韓国は準備できているか

ⓒ 中央日報/中央日報日本語版2023.11.30 12:06
0
バイデン米大統領が10月30日、人工知能(AI)の安全性に関する大統領令に署名した。この大統領令には生成型AIの副作用と潜在的脅威に対応するAIガバナンス構築に向けた包括的な指針と規制が盛り込まれた。AIガバナンスは世界的な主導権争いのひとつの側面だ。今回の米大統領令にはAI研究者だけでなく一般人もともに深く考えなければならない内容がある。

最初に、AIガバナンスは時々刻々と変わる技術トレンドを反映しなければならない。大統領令は膨大なデータを学習して多様な業務を遂行できるAI基盤モデルの基準を「100億個以上の学習可能な媒介変数を持っているモデル」と規定している。この基準はすでに揺らいでいる。今年、この約10%水準、すなわち10億個の媒介変数だけで既存の超巨大モデル性能に近接できるという論文が出てきた。こうした効率性は最近の研究の主要なトレンドだ。したがってAIガバナンスは数字のような具体的な内容にしばられるよりはAIの能力範囲や影響力を考えなければならない。

2番目に、概念に対する盲信を警戒しなければならない。大統領令には「バイアス」という単語が9回も登場する。バイアス(偏向)は言葉自体で否定的な感じを与えるが、人間は本来認知から思考まですべての過程でバイアスから自由ではない。もちろん、特定の性別や職業に対するバイアスのように普遍的価値に反するバイアスは優先的に選別して除去しなければならない。だがバイアスに対する無条件の警戒以前に、どのような情報が知識・経験・信念・意見のうちどれに属するのか慎重に分類しなければ、場合によっては「バイアスを除去するためのバイアス」を注入する結果を生むことになりかねない。

 
3番目に、虚偽の情報や幻覚問題に対する哲学が必要だ。AIが高度化するほど生成されるデータの量は増え真偽の判別がますます難しくなる。このほど米国でキャリア30年のベテラン弁護士が生成型AIが作成した判例文を裁判所に意見書として提出し制裁の危機に置かれた。AI時代に信頼確保に向けてはどのようなプロセスで該当情報を生成したのか使用者が検証できるよう過程と出典が透明なAIを作らなければならない。

大統領令を機に国際社会でAIガバナンスに対する議論と動きがさらに活発になっている。韓国も国家データ政策委員会、AI倫理政策フォーラムなどを構成し、AI倫理と政策に対して活発な議論を進めている。AIガバナンスをしっかりと実現するためには技術トレンドに対する理解に基づいて普遍的秩序を順守し、人間と技術がともに発展する方向で具体的な談論を引き出さなければならない。

イ・ムンテ/LGAI研究院アドバンストMLラボ長

関連記事

 

最新記事

    もっと見る 0 / 0
    TOP