米フェイスブックは2020年1月6日、人工知能やディープラーニング技術を使用して作成された偽造動画「ディープフェイク」を同社のサイトから削除する方針を発表した。

アップロードされた写真や動画は、世界50以上のパートナーによる審査が行われ、削除基準を満たした場合、ニュースフィードでの配信が大幅に減り、広告として出稿されている場合は掲載が拒否されるという。また、これらを見たり、共有する場合はユーザーに警告が表示される仕組みになるという。

なお、パロディまたは風刺的なコンテンツ、または単語の順序を省略または変更するためだけに編集された動画には適用されないとしている。

同社は、昨年9月、Deep Fake Detection Challengeを開始。このプロジェクトは、1,000万ドルの助成金により支援され、コーネルテック、カリフォルニア大学バークレー校、MIT、WITNESS、マイクロソフト、BBCおよびAWSを含む組織が連携し取り組んでいる。