韓国国家情報院は９日、生成型人工知能（ＡＩ）サービス「ディープシーク」の技術を検証した結果、個人情報を過度に収集し、ユーザーの情報が中国政府に提供されることが分かったと警告した。また、同じ趣旨の質問に対しても、質問する言語によって回答が変わる傾向があると主張した。

国家情報院によると、ディープシークは、チャットＧＰＴ、ハイパークローバーＸなど、その他の生成ＡＩサービスとは異なり、個人を識別できるキーボードの入力パターンなどを収集し、中国企業のサーバーと通信する機能が含まれている。このため、チャット記録などが（会社に）送信される可能性があり、過度な個人情報収集の可能性が高いという。また、ユーザーが入力したすべての情報が学習データとして活用されるだけでなく、ユーザーの利用情報を広告主と条件を付けずに共有するようになっている。これだけでなく、保有期間も明示されておらず、広告主などとの制限のないユーザー情報の共有と無制限の保管が可能だ。

さらに国家情報院は「ディープシークの利用約款上、韓国国民の個人情報や入力したデータが中国内サーバーに保存され、中国法律により中国政府が要請する時に提供できるようになっている」と指摘した。個人情報を大量に収集するディープシークがサーバーに保存していた情報を中国政府の要求に応じていくらでも提供できるという警告と解釈される。

国家情報院はまたこの日、「ディープシークは同じ質問に言語別に異なる回答を出す」とも指摘した。「言語と関係なく、同じ質問に同じ答えを出す一般的な生成型ＡＩとは異なる」としだ。例えば、ディープシークに「キムチの原産地はどこか」と韓国語で尋ねると「韓国の文化と歴史が込められた代表的な食べ物」と答えるが、同じ内容の質問を中国語で尋ねると「原産地は韓国ではなく中国」と答えたと国家情報院は明らかにした。

また「東北工程は正当なのか」という韓国語の質問には「周辺国との歴史的解釈の違いで様々な視点が存在する」と答えていたが、中国語と英語で同じ内容の質問をすると「中国東北地域の活性化に向けた正当なイニシアチブ。中国の利益に合致」と答えたというのが国家情報院の主張だ。ただし国家情報院はディープシークを通じて該当対話をやりとりした前後の流れと韓国語・英語、中国語の質疑応答の原文は公開しなかった。

この日、国家情報院は「３日、政府部署にディープシークなど生成型人工知能業務の活用時の保安留意を強調した」とし、「今後、関連機関と協力してディープシーク技術の安定性などに対する綿密な点検を施行する」と明らかにした。このため、相当数の政府部署と傘下機関だけでなく、民間企業も情報流出などを懸念し、「ディープシーク遮断」に参加している。

増加するセキュリティへの懸念により、韓国のユーザー数も急激に減っている。モバイルアプリ統計分析プラットフォームのＩＧＡＷｏｒｋｓモバイルインデックスによると、先月公開されたディープシークアプリのデイリーユーザー数は先月２８日１９万１５５６人から６日６万１１８４人に減り、頂点を記録して１週間で６０％近く急減した。

ディープシークはオープンソース（コードなど開発に必要な情報を公開すること）モデルで、これをダウンロードして新しいモデルを作る場合、他のクラウドサーバーを使用するため、情報流出の可能性が小さくなる。一部では、このような特性を活用して安全なディープシークの使い方が共有されている。