Vogue Japan、2021/4/4(日) 20:16
ディープフェイクによって生成された動画自体は偽物で、実際自分が撮影されたものではないとしても、それによって受ける感情や痛みは本物だ。そして世界には、このAIによる生成技術によってある日突然、人生を狂わされた女性たちが多くいる。彼女たちの体験を少し聞けば、誰もが戦慄するはずだ。しかし彼女たちは黙ってはいない。ディープフェイクに対する法整備を求める「#MyImageMyChoice?」キャンペーンを通じて、彼女たちはインターネットのモラルについても世界に問いを突きつけている。
誰かがあなたに「これを見て! こんなことするなんてひどい」というメッセージをリンクとともに送ってきたとしよう。リンク先にあったのは、激しい性行為をしながら振り返る自分自身の顔。もちろんそれは、あなたではない。AIによる人物画像合成技術を用いて、別人の動画にあなたの画像をマッピングしたものだ。これが「ディープフェイク」と呼ばれるものである。世界中の俳優や政治家、YouTuber?や一般女性などが被害に遭っているが、現在、これを取り締まる法律はほとんどの国で存在しない。
Reddit(アメリカを中心に人気のソーシャルサイト)ユーザーが、セックスをするメイジー・ウィリアムズやテイラー・スウィフトのフェイク動画を投稿する「deepfakes」と呼ばれるスレッドを立ち上げたのは2017年のこと。このスレッドは閉鎖されるまでの8週間に、実に9万人の登録者を集めていた。
サイバーセキュリティ企業のSensityによると、ディープフェイクは急激な増加を見せており、半年ごとに倍増しているという。ネット上に出回っている8万5千件のディープフェイク動画の90%は、女性の合意のないポルノだ。あるサイトのトップ30を見てみると、アメリカ、カナダ、グアテマラ、インドなど世界中に制作者がいることがわかる。
昨年10月、イギリス人作家のヘレンは、彼女が過激な性的暴力行為に及んでいるように見える複数のディープフェイクがポルノサイトにアップされていることを知らされた。その日の夜、この映像は恐ろしい悪夢となり何度もヘレンを襲った。彼女は恐怖の沼に突き落とされた。
「まるでトンネルの中のような、光のない閉ざされた空間の奥深くに沈んでいくような感覚でした」
この感覚は次第に、ヘレンの日常生活にも強い影響を及ぼすようになり、家を出るときはいつも自分が無防備過ぎるように感じたり、ランニング時にパニック発作を起こすこともあった。誰がこんなことをしたのか、いまだ検討もつかないと言う。
これらは偽物の動画かもしれないが、感情に与える影響は本物だ。被害者は、誰が作ったのかも誰が見たのかもわからない、何もかもが不可解な状況に置かれる。もちろん、拡散を抑え込む方法もわからない。一度ネット上に公開されたものは、いつでも再登場する可能性があるからだ。
被害者に起こる「サイレンシング効果」
アムネスティ・インターナショナルは、Twitterでの中傷が女性のその後のオンライン行動に与える影響を調査している。同団体によると、オンラインハラスメントにより「サイレンシング効果」と呼ばれる現象が起き、オンラインでのやりとりを自ら制限したり、自身が投稿したものを検閲するなど活動が消極的になるという。ディープフェイクの被害者にも同様のことが言える。
ヘレンはそれまで、産後うつに関するごく個人的な体験について自ら発信してきた。だが、ディープフェイクを見てしまったことで羞恥心が強くなり、自分はこの「汚い秘密を一生背負っていくのだと感じて」書くことをやめてしまったという。
インド人ジャーナリストのラナ・アイユーブは反体制的な姿勢をソーシャルメディア上でも崩さなかったが、ゆえにヘイトを受けることにも慣れていた。しかし、2018年に何者かがラナの信用を失墜させるために作成したディープフェイクが拡散され、彼女がそれまで関わってきたインドの重要政治家の間にも広まった。その後、ラナはヘレンのように自己検閲を行うようになった。彼女はあるメディアに寄稿した記事の中で、こう述べている。
「以前の私は、とても主張が強い人間であり、率直な人間だったのに、今の私はオンラインでの投稿にとても慎重になっています。これは大きな変化です」
ディープフェイクの被害に遭った人々がその体験を語りはじめた一方で、ディープフェイクのコミュニティの盛り上がりは減速する気配がない。今では専用サイトやユーザビリティに優れたアプリ、動画リクエストの手順も存在している。たった25ポンド(約3,800円)でオリジナルのディープフェイクを依頼できるサイトもあれば、女性の画像をアップロードすると自動的に裸の画像を生成するサイトもある。
313万人のYouTube?チャンネル登録者を抱えるASMRアーティストのジビは、「こうした違反行為を看過してはいけない」と語気を強める。その一方で、ジビは自分のディープフェイクを監視するのを諦めている。ジビを最も苦しめるのは、制作者が同意なしに彼女の顔で利益を得て、その苦しみを生活の糧にしているという事実だ。ジビのもとには、1本500ポンド(約7万5000円)でディープフェイクを削除するという企業からのアプローチもあったという。いい加減、こうしたことは終わりにしなければならない。だが、どうすればいいのか?
Facebookは2018年、世論の圧力を受けてディープフェイクを禁止した。これでディープフェイクは消滅するかと思われたが、法的措置が取られない状態が続き、このコミュニティは勢いを増していった。その後、新型コロナウイルスのパンデミックによって、制作者と視聴者が女性の不幸を食い物にするのに費やす時間が増える一方、在宅勤務によって議会の動きはさらに鈍化している。
「#MyImageMyChoice?」が訴えること
私たちは今、極めて重要な瞬間を迎えている。インターネットにおける「責任の所在」にパラダイムシフトが起ころうとしているからだ。テクノロジー企業からの激しいロビー活動にもかかわらず(Facebookは2019年に政治家へのロビー活動におよそ1700万ドル(約18.8億円)を費やしたと言われている)、EUのデジタルサービス法とイギリスの有害投稿規制法案という2つの新法制定により、プラットフォーマー企業は自社サービス上のコンテンツに対して重い責任が課されるようになった。
だが、こうした変化は、ディープフェイクが違法となる可能性のある枠組みを作りはするが、ディープフェイク自体を取り締まるものではない。これはディープフェイクの被害者が女性だけのように見えるせいだろうか? 未成年者の性的表現については、世界各国で必要な法律が整備されている。有害投稿に関する白書「Online Harms white paper」では、女性に対する中傷は主要な「害」に挙げられておらず、EUの提案書にも「女性」という言葉は一度しか出てこない。
アメリカではいくつかのディープフェイク関連法案が制定されているが、そのほとんどが選挙期間中の政治家を対象としたもので、「問題に100%対応できていない」とオンラインの中傷防止キャンペーンである「EndTAB?」の創設者で弁護士のアダム・ドッジは述べている。
ディープフェイク問題の重大性については、さまざまな見解がある。ウェブの創始者として知られるティム・バーナーズ=リーは、オンラインでのジェンダーに関する中傷の危機は「男女平等についての世界的な進展を脅かす」と考えている。法学者メアリー・アン・フランクスによると、「その人を人間として見ておらず、娯楽や覗き趣味、または利益のため」にディープフェイクを作る人もいれば、ディープフェイクを大きな問題だと考えていない人も少なくないという。残念なことに、多くの国の法律は、いまだにこの問題に取り組んでいない。
ヘレンやジビをはじめとするサバイバーや支援者が、世界中で法改正を求めるキャンペーン「#MyImageMyChoice?」を開始した理由もそこにある。「#MyImageMyChoice?」では、ドイツからオーストラリアまで世界中のサバイバーの体験談を配信し、世界的な人権問題の解決に向けて協力を呼びかけている。彼女たちはもはや沈黙しない。「この問題の主導権を握っているのは私たちです」とヘレンは言う。
これまでに4万5千人以上の人々が、私的な画像の乱用に関して世界に先駆けイギリス政府に法の制定を求める請願書に署名している。その後、今年3月の初めに英国法律委員会は「#MyImageMyChoice?」の証言を含む諮問文書を発表した。このキャンペーンのメンバーは現在、こうした考えをイギリスだけでなく世界中で実践することを求めている。
これまでも、新しいテクノロジーが生まれると、ポルノがその普及を後押しするということが起きてきた。そして今も、インターネット上にはジェンダーに関する新しい暴力が生まれている。だからこそ、ジビが言うところの「オンラインでの同意」という問題を根本から解決するための法整備が必要なのだ。私たちは、国民のプライバシー侵害を真剣に受け止めるよう政府を説得しなければならない。また、オンラインでやってはいけないことについて、次の世代に手本を示す必要がある。議員たちがインターネットの将来について議論している今こそ、それを実行しなければならない。私たちは、未来を変えなければならないのだから。