ポルノサイトに端を発した顔交換AI「ディープフェイク」が政治スキャンダルを引き起こすことが懸念されている。2020年にはアメリカ合衆国大統領選挙を控えており、ディープフェイク対策がすすめられているようだ。

アムステルダム発のスタートアップ「Deeptrace」は、ディープフェイクに活用されるAI技術をフェイク動画検出に活用している。

・アンチウイルスソフトのフェイク動画版

ディープフェイクは、AIを用いて有名人の顔を既成の動画の出演者に重ね合わせる技術だ。口の動きを含めた表情がすげ替えられるほか、声までをも模倣した高度なフェイク動画が制作できて、フェイクかどうかの見分けをつけるのはむつかしい。

大統領選などでは、フェイク動画が拡散されることによる影響が大きく、検出ツールへの関心が高まっている。

米国の国防高等研究計画局（DARPA）の資金提供を受け、検出ツールの開発をリードするのがSRI Internationalだが、アムステルダム大学のAI研究グループは同機関と協力関係にある。

Deeptraceは、同グループ出身のGiorgio Patrini氏によって立ち上げられ、アンチウイルスソフトのフェイク動画版の開発に注力する。

・自動検出に加えて透明性も

Deeptraceは、SNSや検索結果をスキャンするディープフェイク検出ツールを開発している。

SNSや動画共有プラットフォームがメイン顧客となるため、既存プラットフォームと統合できるものを計画するほか、予算が限られている監視組織や慈善団体、独立系ジャーナリストなどにもツールが活用できるようなかたちを検討中だ。

画像分析のみならず、検出精度を高めるために音声と動画トラックの整合性を分析してフェイクかどうかを判断する。

何100万もの動画をスクリーニングして自動検出することに加え、複雑なケースでヒトにより精査するために、分析過程が説明できて、エンジニアがデバッグできることも求められる。

最近ではリアルタイムでフェイク動画が作成できるソフトの開発もすすんでいるようで、この先より高度化するフェイク動画にも対処できる強力な検出ツールが必要だ。

参照元：Can AI Detect Deepfakes To Help Ensure Integrity of U.S. 2020 Elections?/IEEE Spectrum