米共和党の候補者指名争いに出馬していたフロリダ州知事ロン・デサンティスが、対抗馬であるドナルド・トランプにしかけた攻撃は、トランプ自身が政治に持ち込んだ「フェイクニュース」を駆使したものだった。デサンティス陣営は、保守層に敬遠されている免疫学者のアンソニー・ファウチとトランプがハグしている画像などをTwitterに投稿、大いに人々を驚かせたのだ。新型コロナウイルス対策をめぐり、科学的根拠のないトランプの発言を正してきたファウチをトランプがハグするわけがなく、よく見れば、これらの画像は人工知能（ＡＩ）によって生成されたことが分かる。 「ディープフェイク」と呼ばれる、フェイクニュースの新たな潮流だ。
米国ではこの他にも、ヒラリー・クリントンやジョー・バイデン、そして（民主党支持とされる）CNNの報道までもが、まるで右派の政治家を支持しているかのように編集されたさまざまな動画が出現した。Midjourney（ミッドジャーニー）などの画像生成ＡＩにより、静止画でも動画でも、安価かつ容易に精巧なディープフェイクを作成できるようになったいま、こうしたコンテンツが有権者を騙し、混乱に陥れるために悪用されるのではないかとの懸念が高まっている。
ディープフェイクとは
この問題について、私たちが知っておくべきことをまとめておこう。ディープフェイク動画の精度が向上し、広く利用されるようになったのは2021年以降だ。画像生成ＡＩ（オープンＡＩ社が開発した深層学習モデルＤＡＬＬ-Ｅなど）に大量のデータが供給されたことがその背景にある。そのおかげで、政治や選挙運動の場にもＡＩ生成コンテンツが登場するようになった。有権者たちを混乱させ、いま目にしている情報が正しいかどうか確信が持てない状況を引き起こしている。
Tero Vesalainen/iStockphoto
「誤情報があふれ、私たちは簡単にだまされてしまうかもしれません」と、ロイヤルメルボルン工科大学の情報学教授リサ・M・ギヴンは言う。「この技術は政敵を中傷し、笑いものにする、新たな“低労力の政治的攻撃ミーム”となっている」と説明するのは、ディープフェイク検出プラットフォームを提供するリアリティ・ディフェンダー社のマーケティング部代表スコット・スタインハートだ。フェイク画像などの偽情報は主にソーシャルメディアで広まるが、テレビやラジオなど従来のメディアでも情報がゆがめられる可能性はある、とデジタル著作権団体パラダイムイニシアチブのシニアマネージャー、アデボエ・アデゴケは指摘する。
ディープフェイク利用の世界的傾向
ニュージーランドでは、選挙戦が熱を帯びる中、中道右派のニュージーランド国民党がＡＩ生成による政治広告をInstagramで公開した。党の広報担当者は、これらの画像がフェイクだと認め、「ソーシャルメディアを促進する革新的な方法になると考えた」と述懐した。トルコの大統領選でも、野党候補が「ロシアがディープフェイク技術で選挙結果に影響を及ぼそうとしている」と発言した。だが欧州では、ソーシャルメディアで広まっているディープフェイクは皮肉・風刺の範囲にとどまっており、政治に重大な影響をもたらすには至っていないとＡＩの専門家たちは口を揃える。ディープフェイクや生成ＡＩの専門家ヘンリー・アジデルによると、欧州で出回っているディープフェイクの多くが「芸術を批判するもの、風刺、ミーム、女性政治家たちのフェイク画像」だという。アフリカの政治においてディープフェイクが使われた事例はまだ限られている。インターネット普及率の低さもその理由の一つだろう。とはいえ、誤情報が政治的緊張や暴力を助長する由々しき問題であることには変わりない。
ディープフェイクにどう立ち向かうか
アドビが推進し、マイクロソフトやキヤノンといった大企業も参加しているオープン標準検証システム「コンテンツ認証イニシアチブ（Content Authenticity Initiative：CAI）」などでは、画像の出所や編集方法を特定するためのメタデータの活用を提案している。しかし、メタデータは画像や動画から削除される可能性があるため、専門家たちは、ＡＩによる偽造を検出するにはより高度なツールが必要と指摘する。ディープフェイクの作成は容易になったが、精巧なものを作成するのは依然難しい、と指摘するのは、ポルトガルのディープフェイク研究者ジョアン・パウロ・メネセスだ。いわく、Meta社やTikTokなどの主要テクノロジー企業は、ディープフェイクを検出できる十分なＡＩ監視ツールを保持しているため、ディープフェイク作成者は「費やした時間と資金を一瞬で失うリスクを負っている」と。
ディープフェイク規制は可能か
ディープフェイク画像を含む素材には、ＡＩで生成されたことを示すラベルを付けるべきだと専門家は主張する。米国ではイベット・クラーク下院議員が、選挙広告でＡＩを使用した場合には、その旨を公表することを義務づける法案を提出したが、まだ可決していない。 「ある意味、これは新しい規制ではありません。これまでも俳優を起用したＣＭで候補者を宣伝することはありました。でも視聴者が正しい文脈で情報を理解できるよう、コマーシャルの最後には必ず、“これは俳優が演じています” との注釈が小さく表示されています」とギブンは指摘する。By Adam Smith, Kim Harrisberg and Seb Starcevic
This article first appeared on Context, powered by the Thomson Reuters Foundation. Courtesy of the International Network of Street Papers.
*ビッグイシュー・オンラインのサポーターになってくださいませんか？
ビッグイシューの活動の認知・理解を広めるためのWebメディア「ビッグイシュー・オンライン」。
ビッグイシュー・オンラインでは、提携している国際ストリートペーパーや『The Conversation』の記事を翻訳してお伝えしています。より多くの良質の記事を翻訳して皆さんにお伝えしたく、月々500円からの「オンラインサポーター」を募集しています。
ビッグイシュー・オンラインサポーターについて
『販売者応援３ヵ月通信販売』参加のお願い
3か月ごとの『ビッグイシュ―日本版』の通信販売です。収益は販売者が仕事として＂雑誌の販売”を継続できる応援、販売者が尊厳をもって生きられるような事業の展開や応援に充てさせていただきます。販売者からの購入が難しい方は、ぜひご検討ください。
https://www.bigissue.jp/2022/09/24354/
過去記事を検索して読む
ビッグイシューについて
ビッグイシューは1991年ロンドンで生まれ、日本では2003年9月に創刊したストリートペーパーです。
ビッグイシューはホームレスの人々の「救済」ではなく、「仕事」を提供し自立を応援するビジネスです。1冊450円の雑誌を売ると半分以上の230円が彼らの収入となります。
