ＡＩ生成による児童ポルノ取り締まり強化の必要性

英国は世界で初めて、ＡＩ（人工知能）で生成された児童ポルノ画像への対策に乗り出すことを発表した。この新しい法律は、ネット上の子どもの性的虐待表現物（ＣＳＡＭ：Child Sexual Abuse Material ）の生成を目的としたＡＩツールの所持・作成・配布を違法とするもので、違反者には最長で禁錮５年の罰が科される。また、ＡＩを使っての類似コンテンツ作成を指南する「小児性愛者マニュアル」の所持も違法となる。長年に渡り警察官として働き、現在はアングリア・ラスキン大学国際警察・保護研究所で児童保護対策に取り組むサイモン・ベイリー代表が『The Conversation』に寄稿した記事を紹介する。

ダークウェブフォーラムの分析から明らかになったこと

この１０年ほどで、ネット上での子どもへの性加害の脅威は急速に広がっている。ネット上の児童ポルノに関するコンテンツを追跡・削除するインターネット監視財団（ＩＷＦ）によると、２０１４年以降、ネット上の子どもの性的虐待表現物は８３０％増加。そこにＡＩの画像生成ツールの普及が拍車をかけている。ＡＩを使っていない画像に比べればまだ少ないものの、その数はものすごい勢いで増えている*1。

*1 あるダークウェブ上のフォーラムに１カ月間にアップロードされたＡＩ生成画像は２万件以上に上る（2023年10月時点）。

筆者が所属するアングリア・ラスキン大学の国際警察・保護研究所では、昨年、ＡＩで生成された子どもの性的虐待表現物の需要が高まっている現状についての報告書を発表した。ダークウェブフォーラム上での過去一年間のやり取りを分析したところ、ＡＩによる児童性的虐待表現物を生成する技術への関心の高まりや、生成技術を学ばせてコンテンツをどんどん作成している確かな証拠が得られた。

ＡＩ技術の発達により、フォーラムのメンバーたちから「アーティスト」と呼ばれる人たちがきわめて低劣な児童虐待コンテンツを作成し、共有できる世界が生み出されているのだ。彼らはすでに流通している画像や動画を用いてＡＩに学習させ、画像生成ソフトで作成している。技術のさらなる進化により、コンテンツ作成がより簡単になってほしいと発言する者たちも多くいるようだが、特殊ソフトウェアを通してしかアクセスできないダークウェブ空間は匿名性や秘匿性が高く、警察が犯罪者を特定することが困難なのだ。

ＡＩ生成画像は「本物」ではないのだから誰にも被害を与えない、というのが違反者たちの認識のようだが、実在する子どもたちの写真を用いて作成するのだから決して無害ではない。ＡＩで生成された児童性的虐待表現物がもたらす影響についてはまだ不明なことも多いが、ネット上の児童ポルノの被害、ならびにオンラインやオフラインでの児童虐待が若者にもたらす長期的影響については、すでに豊富な研究がある。写真や動画がウェブ上に残り続けることで、いつまでも心の傷が癒えない者もいれば、画像を使って脅迫されるおそれもある。

こうした懸念点があるディープフェイク・ポルノ*2 を、英政府は犯罪として取り締まろうとしているのだ。この状況はＡＩ技術の発展に伴ってますます悪化しうる。コンテンツを細部まで確認して「本物」か「生成」されたものかを識別しなければならない管理人や捜査官にも大きな心理的負担がかかるおそれもある。

*2 ＡＩ技術を使って作成される、実在の人物の偽の性的な画像・動画。

法律の必要性

英国の現行の法律でも、子どものわいせつ画像や疑似写真（デジタル的に作成された現実感のある画像）の撮影、作成、配布、所持は禁じられているが、児童ポルノ画像を作成するＡＩ技術の所有を禁じる法律はまだない。新しい法律制定により、警察はＡＩ技術を使ってそうしたコンテンツ生成を行っている者、またはＡＩ技術の使用を検討している者たちを特定できるようになるだろう。たとえ捜査時に画像を所持していなくてもだ。

いつの時代も、新しい技術の利用で先を行く犯罪者たちを必死で追いかける警察・検察当局の構図がある。いま必要なのは、ネット上で子どもや若者を搾取する者たちを特定し、訴追できる法律だ。今回の英国の動きは歓迎すべきで、子どもの被害が広がらないよう、迅速に法律制定を実現させるべきである。それに、こうした世界的脅威に対処するには、一国が法律を定めるだけでは不十分で、新しい技術の悪用が広まろうとしている段階から、包括的に対応できる仕組みが求められる。

ＡＩツールや製品のほとんどは、まったくもって人を傷つける意図などなく開発されたものだが、有害・違法コンテンツを作る者たちの手にかかれば安易に悪用されうるということをよく理解し、新たに法律を定める必要がある。テクノロジーを良い目的のために使う人と悪用する人がいる。それらをしっかり区別し、児童ポルノを助長するものとならないようにすべきだ。

By Simon Bailey and Samantha Lundrigan
Courtesy of The Conversation / INSP.ngo