アイドルとAVの合成動画“ディープフェイク”で初の逮捕者 それでも制作しただけでは罪に問えない理由（ABEMA TIMES）

　アイドルなどの女性芸能人とAVを合成したフェイクポルノ動画、いわゆる“ディープフェイク”を作成、インターネット上に公開していた大学生の男ら2人が警視庁に逮捕された。 【映像】AIで進化する合成動画 “規制と表現の自由“善悪の境界はどこに? 　2人が用いたのが、合成したい人の顔写真からパターンを学習させる「ディープラーニング」の技術だ。映画やゲームのクオリティー向上など、夢が広がるAI技術の一つだが、海外では影響力の強い政治家などのフェイク動画の制作にも用いられ、世論や選挙結果をも動かす可能性があると懸念されている。

　そのため、海外ではSNS事業者などのプラットフォーマーもディープフェイク対策に乗り出しており、Twitterは“警告ラベル”を導入。Facebookは検出技術の開発コンテストを開催、Googleも特定する技術を開発中だ。 　IT関連の事案に詳しい深澤諭史弁護士は「以前から静止画では“アイドルコラージュ”などがあったが、動画でも時間の問題だったのではと思っていた。ついに来るべきものが来たかなと感じた」と話す。ただ、今の日本にはディープフェイクそのものを規制できる法律はないという。一体どういうことだろうか。

■“実際の被害が出なければ難しい”?

　逮捕された大学生（21）は40～50人の芸能人の顔写真を使用、250本の動画を作成、うち150本を公開していた。また、大学生にメールで技術的の相談を受けていたエンジニア（47）は80～90人の芸能人の顔写真を使用して1000本以上の動画を作成、うち250本以上を公開していたという。供述によれば、1人につき3万枚の画像データを100万回学習させることで、1週間ほどで約10分のディープフェイクが制作できたという。 　ポイントは、2人の逮捕容疑が女性芸能人たちの顔を使ったことによる「名誉毀損」と、実際に販売されているAVを使ったことによる「著作権侵害」だった点だ。警視庁は昨年10月ごろサイバーパトロールで動画を発見、女性芸能人の事務所とAV制作会社に聞き取り調査を行ったところ、それぞれ名誉毀損と著作権侵害で告訴したため、2人の逮捕に至ったという。