admin
米国ではこの他にも、ヒラリー・クリントンやジョー・バイデン、そして（民主党支持とされる）CNNの報道までもが、まるで右派の政治家を支持しているかのように編集されたさまざまな動画が出現した。Midjourney（ミッドジャーニー）などの画像生成ＡＩにより、静止画でも動画でも、安価かつ容易に精巧なディープフェイクを作成できるようになったいま、こうしたコンテンツが有権者を騙し、混乱に陥れるために悪用されるのではないかとの懸念が高まっている。
ディープフェイクとは
この問題について、私たちが知っておくべきことをまとめておこう。
ディープフェイク動画の精度が向上し、広く利用されるようになったのは2021年以降だ。画像生成ＡＩ（オープンＡＩ社が開発した深層学習モデルＤＡＬＬ-Ｅなど）に大量のデータが供給されたことがその背景にある。そのおかげで、政治や選挙運動の場にもＡＩ生成コンテンツが登場するようになった。有権者たちを混乱させ、いま目にしている情報が正しいかどうか確信が持てない状況を引き起こしている。
Tero Vesalainen/iStockphoto
「誤情報があふれ、私たちは簡単にだまされてしまうかもしれません」と、ロイヤルメルボルン工科大学の情報学教授リサ・M・ギヴンは言う。「この技術は政敵を中傷し、笑いものにする、新たな“低労力の政治的攻撃ミーム”となっている」と説明するのは、ディープフェイク検出プラットフォームを提供するリアリティ・ディフェンダー社のマーケティング部代表スコット・スタインハートだ。フェイク画像などの偽情報は主にソーシャルメディアで広まるが、テレビやラジオなど従来のメディアでも情報がゆがめられる可能性はある、とデジタル著作権団体パラダイムイニシアチブのシニアマネージャー、アデボエ・アデゴケは指摘する。
ディープフェイク利用の世界的傾向
ニュージーランドでは、選挙戦が熱を帯びる中、中道右派のニュージーランド国民党がＡＩ生成による政治広告をInstagramで公開した。党の広報担当者は、これらの画像がフェイクだと認め、「ソーシャルメディアを促進する革新的な方法になると考えた」と述懐した。トルコの大統領選でも、野党候補が「ロシアがディープフェイク技術で選挙結果に影響を及ぼそうとしている」と発言した。
だが欧州では、ソーシャルメディアで広まっているディープフェイクは皮肉・風刺の範囲にとどまっており、政治に重大な影響をもたらすには至っていないとＡＩの専門家たちは口を揃える。ディープフェイクや生成ＡＩの専門家ヘンリー・アジデルによると、欧州で出回っているディープフェイクの多くが「芸術を批判するもの、風刺、ミーム、女性政治家たちのフェイク画像」だという。アフリカの政治においてディープフェイクが使われた事例はまだ限られている。インターネット普及率の低さもその理由の一つだろう。とはいえ、誤情報が政治的緊張や暴力を助長する由々しき問題であることには変わりない。
ディープフェイクにどう立ち向かうか
アドビが推進し、マイクロソフトやキヤノンといった大企業も参加しているオープン標準検証システム「コンテンツ認証イニシアチブ（Content Authenticity Initiative：CAI）」などでは、画像の出所や編集方法を特定するためのメタデータの活用を提案している。しかし、メタデータは画像や動画から削除される可能性があるため、専門家たちは、ＡＩによる偽造を検出するにはより高度なツールが必要と指摘する。
ディープフェイクの作成は容易になったが、精巧なものを作成するのは依然難しい、と指摘するのは、ポルトガルのディープフェイク研究者ジョアン・パウロ・メネセスだ。いわく、Meta社やTikTokなどの主要テクノロジー企業は、ディープフェイクを検出できる十分なＡＩ監視ツールを保持しているため、ディープフェイク作成者は「費やした時間と資金を一瞬で失うリスクを負っている」と。
ディープフェイク規制は可能か
ディープフェイク画像を含む素材には、ＡＩで生成されたことを示すラベルを付けるべきだと専門家は主張する。米国ではイベット・クラーク下院議員が、選挙広告でＡＩを使用した場合には、その旨を公表することを義務づける法案を提出したが、まだ可決していない。
「ある意味、これは新しい規制ではありません。これまでも俳優を起用したＣＭで候補者を宣伝することはありました。でも視聴者が正しい文脈で情報を理解できるよう、コマーシャルの最後には必ず、“これは俳優が演じています” との注釈が小さく表示されています」とギブンは指摘する。
By Adam Smith, Kim Harrisberg and Seb Starcevic
This article first appeared on Context, powered by the Thomson Reuters Foundation. Courtesy of the International Network of Street Papers.
ビッグイシュー・オンラインのサポーターになってくださいませんか？
ビッグイシューの活動の認知・理解を広めるためのWebメディア「ビッグイシュー・オンライン」。
提携している国際ストリートペーパー（INSP）や『The Conversation』の記事を翻訳してお伝えしています。より多くの記事を翻訳してお伝えしたく、月々500円からの「オンラインサポーター」を募集しています。