イーロン・マスク氏のAI企業xAIが開発したチャットボット「グロック」をめぐり、性的搾取を目的としたディープフェイクを巡る問題が拡大する中、インドネシアに続き、マレーシアも接続遮断に踏み切った。

12日（現地時間）、ロイター通信やAFP通信などによると、マレーシア通信・マルチメディア委員会（MCMC）は前日、声明を発表し、国内におけるグロックへの接続を一時的に制限すると明らかにした。

◇「女性・未成年者の猥褻ディープフェイクが繰り返し悪用」

MCMCは今回の措置について、「グロックが、女性や未成年者に関するコンテンツを含む、猥褻で性的に露骨かつ著しく不快感を与える同意なく加工された画像を生成する目的で、繰り返し悪用されてきたためだ」と説明した。

MCMCは今月初め、グロックのディープフェイクの危険性を巡り、xAIに対して技術的な保護措置を求める公文書を送付したが、同委員会は「xAI側は、AIツールの設計・運用に伴う内在的なリスクを解消できず、主に利用者からの通報メカニズムに依存していた」と指摘した。

さらに「関連する立法・規制手続きが進められる間、合理的な予防措置として今回の一時的な接続遮断を実施する」とし、「女性や児童に関する（ディープフェイク）コンテンツを防止する効果的な安全装置が整うまで、グロックへの接続制限を維持する」と明らかにした。

◇世界初の遮断はインドネシア…「人権・尊厳の侵害」

これに先立ち、インドネシア通信・デジタル省は10日、ディープフェイクコンテンツ問題を理由に、世界で初めてグロックへの接続遮断措置を実施した。ムティア・ハフィド通信・デジタル相は「AI技術で生成された偽の猥褻コンテンツの危険から、女性や児童などを保護するため、政府はグロックアプリへのアクセスを一時的に遮断した」と説明し、「デジタル空間で同意なく行われるディープフェイクは、人権と尊厳を侵害する重大な行為だ」と強調した。

◇xAI「不便をおかけし申し訳ない」…画像生成機能が火種に

xAIはインドネシアの遮断措置に関連し、X（旧ツイッター）を通じて「ご不便をおかけして申し訳ない」とし、「問題解決に向けて努力している」と表明した。最近、Xはグロックを活用し、簡単にディープフェイク画像を生成できる機能を導入したが、この過程で女性や未成年者の画像を、同意なく露出度の高い合成画像として制作・拡散する事例が相次ぎ、批判が強まった。

◇米・英政界も圧力…「アプリストアから排除すべき」

米国では、民主党のロン・ワイデン上院議員、エドワード・マーキー上院議員、ベン・レイ・ルーハン上院議員が9日、アップルとグーグルの最高経営責任者（CEO）宛てに書簡を送り、グロックとXのアプリをアプリストアから削除するよう求めた。3氏は「イーロン・マスク氏が、これらの衝撃的で違法の可能性が高い行為を是正するまで、Xとグロックを直ちにアプリストアから排除すべきだ」とし、「Xの行為を黙認することは、貴社（アップル、グーグル）のコンテンツ管理体制を形骸化させる」と批判した。

英国でも規制圧力が続いている。リズ・ケンダル技術相は、放送・メディア規制機関オフコム（Ofcom）がグロック問題を巡りXの遮断を決定した場合、これを支持すると表明した。キア・スターマー首相も、児童の性的搾取画像の制作・流通を「極めて不快で違法な行為」と位置づけ、Xがグロックを管理・統制すべきだと強調した。

インド政府も懸念を示す中、xAIはグロックのディープフェイクコンテンツ問題について、インドの法律を順守すると当局に約束したと、現地PTI通信が伝えた。論争が拡大する中、XとxAIは前日から、グロックの画像生成・編集機能をプレミアム（有料）購読者に限定する措置を実施した。

◇マスク氏は「検閲だ」と反発

一方、マスク氏は10日、自身のXのアカウントで英国政府を念頭に「英国政府はなぜこれほどファシスト的なのか」と述べ、「彼らは検閲のためのあらゆる口実を探している」と反発した。マスク氏は、AIが生成したビキニ姿のスターマー英首相の合成画像を再投稿した。