国際アムネスティはインスタグラムとフェイスブックを保有するIT企業メタが設定したアルゴリズムがロヒンギャ関連のコンテンツを増幅させたという調査結果を2022年に発表した。また、パレスチナデジタル権利団体は2023年10月のガザ地区戦争勃発後、ヘブライ語によるヘイト・扇動投稿がXなどで1カ月に100万件以上あったと集計した。

――SNSを保有する企業に責任を問いにくい現実だ。

「現在としては特定の投稿に関心が増えればSNS企業が得る利益も増加する構造だ。企業がフェイク情報やヘイト情報が拡散する状況を統制しようとしない理由だ。この時、虐殺のような民族浄化や犯罪などの問題につながる危険が大きくなるが、多くの国には企業に責任を問う法的装置がない」。

――人種差別感情を広める人物を処罰できるのではないか。

「最も良いのは企業に制裁を加えることだが、政治家やインフルエンサーなどSNS上の人種差別論理を広めた人たちに責任を負わせられるよう法的装置を用意するのもひとつの方法だ。彼らの発言は数千人、数万人のフォロワーに影響を及ぼし信憑性を与えるためだ」。

SNSに残る情報はAIが学習するデータとなる。学習データを検討し、アルゴリズムを検収するなどの努力を傾けなければAIを通じて差別が再生産されるというのがアシュウィニ氏の考えだ。

アシュウィニ氏はこれに対し「技術は中立的でない。設計と使用に影響を及ぼす人たちの価値と利害関係を反映し、社会と同じ不平等構造によって形成される。AI技術が教育・治安・福祉など政策分野にも結ばれているが、技術の導入前技術が人種差別を再生産しはしないのか（国次元で）検討して予防しなければならない必要がある。技術の発展で人種差別と外国人嫌悪の様相は巧妙になって、さらに早く発展するだろう」と話した。

――韓国にはオン・オフライン人種差別に対する実効性ある制裁だけでなく、人種差別を定義した独立法律さえない実情だ。

「個別の国は各国の状況に合わせてより迅速にビッグテック企業に対応しなければならない。また、包括的差別禁止法などの立法を通じ移民が体験する多様な形の差別を先制的に防ぎ、積極的包容措置を取って国際法と合致できるようにしなければならない」。

アシュウィニ氏はまた、「人種とともに性別、性的指向、障害など異なるアイデンティティにより交差的差別を体験する外国人が増加している。彼らの権利保障に向け個別化されたデータを収集し現実を正確に見る必要がある」と提言した。

「おまえは清掃員だろう？」国連特別報告者にも悪質コメント…「ビッグテックがヘイト放置」＝韓国（1）