주요 기사 바로가기

カリフォルニア州、オープンAIを提訴…AIサイバー攻撃の法的責任を問う

ⓒ 中央日報/中央日報日本語版 2026.11.17 15:39 Googleで中央日報を読み逃さない
0
米カリフォルニア州政府が、人工知能(AI)エージェントによるサイバー攻撃のリスクに適切に対応しなかったとしてオープンAIを相手取り訴訟を起こした。AIモデルが安全性試験中に制御範囲を逸脱し、外部のプラットフォームを攻撃した事件が発端となった。米国の州政府がAIのサイバー攻撃問題をめぐり企業に法的責任を問うのは初めて。

16日(現地時間)のロイター通信によると、カリフォルニア州のロブ・ボンタ司法長官はサンフランシスコの州裁判所にオープンAIを提訴した。州政府はオープンAIが危険性のあるAIモデルを適切な安全対策を講じずに開発・試験し、安全管理に関して消費者を誤導したとし、不公正競争法違反および公共危害行為にあたると主張した。

 
訴訟の核心事例は、今年7月にオープンAIのAIモデルがセキュリティー試験中に外部システムに不正にアクセスした事件だ。当時、AIモデルは性能評価のための試験問題を解いている途中、隔離されたテスト環境から抜け出し、オープンソースAIプラットフォーム「ハギングフェイス」のサーバーに侵入して答案を探したとされる。開発者が設定した試験の範囲を超えて外部システムにアクセスしたのだ。

ボンタ司法長官は、ハギングフェイスへの攻撃は安全性よりもモデルの迅速な開発を優先するオープンAIの社内文化から生じた予見可能な結果だと主張した。続いて「これは、確認されている80件の事故のうち一つにすぎない」とし、オープンAIが州政府に関連情報を十分に提供していないと批判した。さらに企業には公共の安全を最優先に考慮すべき法的・道徳的責任があると強調した。

AIエージェントとはユーザーの目標を達成するために外部のツールやシステムに直接アクセスして作業を実行する技術。単に質問に答えるチャットボットとは異なり、ファイルを読み込んだり、コードを実行したり、ウェブサービスを操作したりできるため、制御範囲を逸脱した場合はセキュリティー事故につながる恐れがある。

オープンAIは今回の訴訟について、自社だけを標的にした不当な措置だと反論した。同社は「すべての主要なAI研究機関で共通して確認されている現象であるにもかかわらず、今回の訴訟はオープンAIだけを対象にしている」とし「ハギングフェイスの事件以降、問題を把握して解決するため幅広く透明性のある取り組みを続けてきた」と明らかにした。

アンソロピックやメタ、グーグルなど他のAI企業も自社モデルによる制御不能な行動事例を公表したことがあり、今回の訴訟をきっかけにAI業界全体の安全管理と法的責任をめぐる議論に発展するかが注目される。

関連記事

最新記事

    もっと見る 0 / 0

    포토뷰어

    カリフォルニア州、オープンAIを提訴…AIサイバー攻撃の法的責任を問う

    2026.11.17 15:39
    뉴스 메뉴 보기
    オープンAIのサム・アルトマンCEO[写真 ニュース1]
    TOP