広がるディープフェイクを検出する新技術とは？

最近「ディープフェイク」によって起こった問題といえば、2021年4月に宮城・福島両県で発生した地震について記者会見した加藤官房長官の写真が改ざんされ、Twitter上で拡散された事案です。ニュース映像を元に表情を改ざんしたもので、地震発生後に笑顔で会見をしている写真が拡散されました。ディープフェイクに対抗手段はあるのでしょうか。

ディープフェイクの悪用が社会問題に

海外ではこれまでオバマ元大統領やFacebookのCEOマーク・ザッカーバーグ氏のフェイク動画が問題になりましたが、日本国内でも既に同様の騒動が起きているのです。

ディープフェイクを使ったアダルト動画も社会問題になっています。ディープフェイクポルノは、いわゆる「アイコラ」の動画版。セクシー女優の顔をアイドルなどの女性芸能人に差し替えたもので、2020年には動画を作成しサイトに投稿した大学生などが逮捕される事件が発生しています。

さらに、最近は一般人をターゲットにしたリベンジポルノにディープフェイクが使われた事例も報告されており、アメリカの一部の州ではリベンジポルノ規制法の適用対象となりました。

悪用されれば非常に危険な技術である一方で、有効活用されるケースもあります。例えば音声を生成する「ディープフェイクボイス」によって故人の声を再現したり（倫理的な問題はあるものの）、本人の声で別の言語への吹き替えが可能になったりというケースです。そもそ、も映画などで人物の合成は昔から行われていました。

フェイクコンテンツを検知する技術

悪質なディープフェイクへの対抗手段も登場しています。Facebookは2021年6月、ミシガン州立大学との共同研究により、膨大な数のフェイク画像からディープフェイク作成に使われた技術の固有パターンを把握することで、フェイクコンテンツを検出する新技術を発表。AIによって作られたデータを分析して、偽物の特徴を特定するというものです。

Microsoftの「Microsoft Video Authenticator」は、画像や動画を解析して真贋判定するシステム。人間の目には分からないレベルの色あせなどの痕跡を検出し、ディープフェイクの技術が使われたかどうかの「信頼度スコア」が数値で表示されるというものです。

映像の場合、再生中のフレームごとにリアルタイムで確率を表示することが可能な上、コンテンツの制作者が証明書を追加する機能もあり、本物かどうかのお墨付きも得られるものとなっています。