先週の土曜日、ヒジンの携帯に匿名の送信者からテレグラムメッセージが届いた。「あなたの写真と個人情報が漏洩しました。話し合いましょう。」
大学生がメッセージを読むためにチャットルームに入ると、数年前に学生時代に撮影された自分の写真が送られてきた。その後、同じ写真を使った2枚目の画像が送られてきたが、こちらは性的に露骨な偽物だった。
ヒジン（仮名）は恐怖に震え、返事をしなかったが、画像は送られ続けた。そのすべてで、彼女の顔が、高度なディープフェイク技術を使って、性行為に及ぶ身体に貼り付けられていた。
ディープフェイクは、その多くが実在の人物の顔と偽の性的に露骨な身体を組み合わせたもので、人工知能を使って生成されることが増えている。
「私は恐怖に震え、とても孤独を感じました」とヒジンさんは語った。
しかし彼女は一人ではなかった。
その2日前、韓国人ジャーナリストのコ・ナリン氏が、自身のキャリアで最大のスクープとなる記事を発表していた。警察が国内の主要大学2校でディープフェイクポルノ組織を捜査していることが明らかになり、コ氏は他にも何かあるはずだと確信していた。
彼女はソーシャルメディアを検索し始め、メッセージアプリ「テレグラム」上の数十のチャットグループを発見した。そこでは、ユーザーが知り合いの女性の写真を共有し、AIソフトウェアを使って数秒以内に偽のポルノ画像に変換していた。
「人々は毎分ごとに知り合いの女の子の写真をアップロードし、ディープフェイクにするよう求めていました」とコさんは語った。
コさんは、これらのグループが大学生だけをターゲットにしているわけではないことを発見した。特定の高校や中学校専用の部屋もあった。特定の生徒の画像を使って多くのコンテンツが作られると、その生徒専用の部屋が与えられることもある。大まかに「屈辱の部屋」や「友達の友達の部屋」と呼ばれ、厳しい入室条件が付いていることが多い。
ハンギョレ新聞のコ氏の報道は韓国に衝撃を与えた。警察は月曜日、テレグラムの捜査開始を検討していると発表した。フランス当局はテレグラムのロシア人創設者を同アプリに関連した罪で最近起訴した。政府は関係者に対しより厳しい処罰を課すと明言し、大統領は若者にもっと教育を受けるよう呼びかけている。
テレグラムは提出した声明の中で、「違法ポルノを含むプラットフォーム上の有害コンテンツに積極的に取り組んでいる」と述べた。
「体系的かつ組織的なプロセス」
はこうしたチャットルームの説明をいくつか閲覧した。そのうちの 1 つでは、メンバーに名前、年齢、居住地域とともに 4 枚以上の写真を投稿するよう求めている。
「このプロセスがいかに組織的かつ組織的であるかに衝撃を受けた」とコー氏は語った。「私が発見した最も恐ろしいことは、ある学校の未成年者グループが2,000人以上の会員を抱えていたことだ。」
コ氏の記事が掲載されてから数日後、女性の権利活動家たちもテレグラムを調べ始め、手がかりを追った。
その週の終わりまでに、500以上の学校や大学が標的として特定された。被害を受けた実際の数はまだ確定していないが、その多くは韓国の性的同意年齢である16歳未満であると考えられている。容疑者の大多数は10代の若者である。
ヒジンさんは、危機の規模を知ることで不安が増したと語り、ディープフェイクを何人の人が見たのか心配になったという。最初は自分を責めた。「ソーシャルメディアに写真をアップしたからこんなことになったのか、もっと注意すべきだったのかと考えずにはいられませんでした」
それ以来、全国で多数の女性や十代の若者が、次は自分たちが悪用されるかもしれないと恐れ、ソーシャルメディアから自分の写真を削除したり、アカウントを完全に停止したりしている。
「何も悪いことをしていないのに、自分たちの行動やソーシャルメディアの利用を検閲されなければならないことに、私たちは不満と怒りを感じています」と、同級生が標的にされた大学生のアウンさんは語った。
アウンさんは、大学の被害者の一人は警察から、犯人を捕まえるのは非常に難しいので事件を追及する必要はないと言われ、また「写真は偽物」なので「本当の犯罪ではない」と語った。
ディープフェイクスキャンダルが明るみに出てから、韓国人は衝撃を受け、怒っている。
このスキャンダルの中心にあるのは、メッセージングアプリのTelegramだ。このアプリは「軽い」モデレーション姿勢で知られており、何年もの間、コンテンツ、特にグループの監視が不十分だと非難されてきた。
このため、犯罪行為が蔓延する絶好の場となっている。
先週、政治家と警察は強力に対応し、これらの犯罪を調査し、犯人を裁きにかけると約束した。
ソウル警察庁は月曜日、児童の偽ポルノ画像の配布を可能にしたテレグラムの役割について捜査する予定であると発表した。
このアプリの創設者パベル・デュロフ氏は先週、児童ポルノの共有を可能にしたなど、このアプリに関連した数々の犯罪に加担したとしてフランスで起訴された。
しかし、女性の権利活動家らは、韓国当局がテレグラム上での性的虐待を長期間放置していると非難している。韓国は以前にもこの危機に直面したことがあるからだ。2019年には、売春組織がテレグラムを利用して女性や子供に性的に露骨な画像の作成や共有を強要していたことが明らかになった。
当時、警察はテレグラムに捜査協力を求めたが、アプリ側は7回の要請をすべて無視した。首謀者は最終的に40年以上の懲役刑を宣告されたが、検閲を恐れて同プラットフォームに対して何の措置も取られなかった。
「当局は主犯らに判決を下したが、それ以外は状況を無視しており、これが状況を悪化させたと思う」とコ氏は語った。
このようなチャットグループでは、ディープフェイク画像の作成を申し出ている。一番下のグループには、「誰かを辱める（ディープフェイクする）よう要求すれば、そうします」と書かれている。
2019年に若い学生ジャーナリストとしてNthルームの性犯罪組織を暴露したパク・ジヒョンさんは、それ以来、デジタル性犯罪の被害者の政治的擁護者となっている。彼女によると、ディープフェイクスキャンダルが発覚して以来、生徒や保護者が1日に何度も泣きながら電話をかけてきたという。
「彼らはソーシャルメディアで共有されたリストに自分の学校が載っているのを見て、恐怖を感じています。」
パク氏は韓国政府に対し、同アプリを規制、あるいは禁止するよう呼びかけている。「これらのテクノロジー企業が法執行機関に協力しないのであれば、国民を守るために国が規制しなければならない」と同氏は述べた。
この最新の危機が爆発する前から、韓国のオンライン性的虐待被害者支援センター（ACOSAV）は、ディープフェイクポルノの未成年被害者の数が急増していることに気づいていた。
2023年、彼らは86人の10代の被害者にカウンセリングを行った。今年に入ってからの最初の8か月間で、その数は238人にまで跳ね上がった。先週だけでも、さらに64人の10代の被害者が名乗り出た。
センターのリーダーの一人、パク・ソンヘ氏は、過去1週間、スタッフは電話が殺到し、24時間体制で働いていると語った。「私たちにとっては、戦時中のような完全な緊急事態でした」と彼女は語った。
「最新のディープフェイク技術により、以前よりもずっと多くの映像が存在するようになり、今後さらに増えるのではないかと懸念している。」
センターは被害者へのカウンセリングに加え、有害なコンテンツを追跡し、オンラインプラットフォームと協力して削除に努めている。パク氏は、テレグラムが被害者の要請に応じてコンテンツを削除した例がいくつかあると述べた。「だから不可能ではない」と同氏は指摘した。
テレグラムは声明で対し、同社のモデレーターは「アプリの公開部分を積極的に監視し、AIツールを使用し、ユーザーからの報告を受け付けて、テレグラムの利用規約に違反する何百万ものコンテンツを毎日削除している」と述べた。
女性の権利擁護団体は、新たなAI技術によって被害者の搾取が容易になっていることを認める一方で、これは韓国のネット上で広がる女性蔑視の最新形態に過ぎないと主張している。
まず、女性たちはネット上で暴言を浴びせられるようになった。次に、公衆トイレや更衣室で女性が密かに撮影されるスパイカメラが流行した。
「この問題の根本的な原因は構造的な性差別であり、解決策は男女平等である」と84の女性団体が署名した声明には記されている。
これは、構造的な性差別を否定し、被害者支援団体への資金提供を削減し、政府の男女平等省を廃止している韓国の尹錫悦大統領に対する直接的な批判である。
若い性犯罪者を治療するイ・ミョンファ氏も、ディープフェイクの悪用は突然のように思えるかもしれないが、長い間水面下で潜んでいたことに同意した。「十代の若者にとって、ディープフェイクは文化の一部になっており、ゲームやいたずらとして見られています」と、アハ・ソウル青少年文化センターを運営するこのカウンセラーは語った。
リー氏は、若い男性を教育することが最も重要だと述べ、犯罪者に正確に何が悪かったのかを伝えると、彼らは性的虐待とみなされるものについてより意識するようになり、再犯を防ぐという研究結果を引用した。
一方、政府はディープフェイク画像を作成、共有する者への刑罰を強化し、ポルノを閲覧する者も処罰すると発表している。
これは、十分な数の加害者が処罰されていないという批判を受けてのことだ。問題の一つは、犯罪者の大多数が10代の若者であり、彼らは通常少年裁判所で裁かれ、より軽い刑罰を受けるということである。
チャットルームが暴露されて以来、多くのチャットルームが閉鎖されたが、新しいチャットルームが必ずやその代わりとなるだろう。この件を取材するジャーナリストを標的とした侮辱ルームがすでに作られている。このニュースを報じたコ氏は、このことで眠れない夜を過ごしたと語った。「自分の写真がアップロードされていないか、ルームを何度もチェックしています」と彼女は語った。
こうした不安は、韓国のほぼすべての十代の少女や若い女性に広がっている。大学生のアウンさんは、この不安のせいで男性の知り合いに対して疑念を抱くようになったと語った。
「今では、私の知らないところで誰かがこうした犯罪を起こさないとは言い切れません」と彼女は言う。「人との関わりにおいて、私は過度に警戒するようになりましたが、それは決して良いことではありません」
