[ディープフェイク]簡単にフェイク動画作成ができるWebアプリを作ってみた[DeepFaces/FaceSwap]
NPO法人「」（FIJ）が12月5日、インターネット上のフェイクをめぐるセミナーを東京都内で開いた。 セミナーでは世界中で問題視されている「ディープフェイク」がひとつのテーマとして取り上げられ、桜美林大学教授の平和博さんがその現状を語った。 平さんによると、そもそも「ディープフェイク」はハンドルネーム「deepfakes」が、2017年の秋口にAIを使った動画を掲示板「Reddit」にアップしていたことが発端とされている。 エマ・ワトソンさんや、メイジー・ウィリアムズさんなどの有名女優の顔だけを、既存のポルノ動画に貼り付けたものを作成。 共有していた。 さらに2018年に入ると別のユーザーが「FakeApp」というツールを「Reddit」で公開。 こうしたツールを用いたフェイク動画がポルノ動画サイトを通じ、一気に拡散したという。 日本人女優やアイドルも被害に その後、オープンソースのサービスを経由し、「ディープフェイク」のツール自体もはネット上に広がったという。 オンライン上の有料サービスも出現。 1時間あたり2ドルほどの利用料で、「顔を丸ごと交換するのに4時間」で済むようなサイトも存在する。 「お手軽に顔交換ができるようになっている」（平さん）のが現状だ。 実際、日本人女優やアイドルが被害に遭っているケースもポルノ動画のサイトでは散見される。 BuzzFeed Newsが確認しただけでも10個以上は存在し、多いものでは300万回以上再生されているものもある。 サイバーセキュリティ会社「」の調査（2019年10月）によると、過去7か月で1万4678のディープフェイク動画が確認された。 1年で倍増しているといい、その96％がポルノ動画だった。 ディープフェイクに特化した上位4つのポルノサイトでは、数百人の女性有名人のフェイク動画が、計1億3400万回以上も再生されているという。 平さんは「一部では一般人へのリベンジポルノの手法としても使われている。 ディープフェイクは、女性に対する人権侵害の問題になっている」と語る。 政治的利用への懸念も しかし、すでに「実際に攻撃も起きている」と平さんは言う。 インドでは政権に対して批判的な女性ジャーナリストがフェイクのポルノ動画を拡散された。 アメリカでは、ナンシー・ペロシ下院議員議長の話している動画の再生速度を落とし、酔っ払っているように見せて拡散させるというケースもあった。 また、アフリカのでは「ディープフェイク疑惑」がクーデター未遂につながり、でも閣僚の「セックス動画」をめぐる同様の疑惑が政治的混乱を生み出しているという指摘もある。 法規制をめぐる議論もある。 アメリカ・バージニア州ではディープフェイクによるリベンジポルノがで禁じられた。 カリフォルニア州でもポルノに関する規制のほか、選挙期間における政治的なディープフェイクの作成などを違法とするができたばかりだ。 一方で、こうした法規制が「表現の自由」を脅かすのではないか、という指摘も上がっている。 平さんは「情報の秩序がなくなっているなかで、メディアがもう一度信頼を取り戻し、その秩序を作り直すという取り組みが非常に重要なのではないかと思っています」と語った。
次の
