マッキンゼーが推計するところでは、AI活用によって生み出される価値は全世界で3兆5,000億〜5兆8,000億ドルに上る。自動運転、チャットボット、業務自動化などの普及によって、多くの産業が恩恵を受けると考えられている。

盛り上がりの様相を呈するAI市場。AI施策を導入・検討する企業が増えており、世界各国ではAI人材不足が叫ばれている状況だ。

AIへの期待が高まる一方、技術的失業やAIの軍事利用など、AIによる脅威を懸念し、倫理・法規制の観点からの議論を求める声も高まっている。

この中で、いま最も差し迫る脅威として指摘されているのがAIによる映像合成技術「ディープフェイク」だ。ある人物の顔を、他人の顔と取り替え、あたかも他人がその人物であるかのように映し出すことのできる技術。

2017年頃から広まり始めたこの技術、当初は不自然なところが多くフェイクと見抜くことは容易だったが、日進月歩で精度を高めており、人間の目ではフェイクと見抜くことが難しくなってきている。このことは、政治・経済・社会のさまざまな側面に悪影響を及ぼす可能性があり、各国だけでなく世界的な倫理・法規制の議論が求められている。

ディープフェイクがもたらす脅威とはどのようなものなのか。海外で白熱するディープフェイクを巡る最新の議論をお伝えしたい。

AIに創造性を与え「ディープフェイク」を可能にした画期的技術GANsとは

「ディープフェイク」という言葉が広がったのは2017年頃。ハリウッド女優の顔とポルノ映像を合成した動画がネット上で出回ったことで注目を集め始めた。

ディープフェイクを可能にしているのは、2014年に登場したGANs（敵対的生成ネットワーク）と呼ばれる機械学習の手法。ディープフェイクに活用されたため、ネガティブな印象が付きまとうが、GANs自体はAIに創造性を与える非常に画期的な技術であり、そのポテンシャルをないがしろにはできない。

たとえばGANsを用いれば、AIに芸術スタイルを学習させ、まったく新しいアートを生み出すことが可能となる。2018年には、米AIアーティスト集団Obvous ArtがGANsを用いて生成した絵画に43万ドル（約460万円）の値が付いたとの報道もある。


43万ドル以上で落札されたAIアート（Obvous Artウェブサイトより）

また、さまざまな生物やモノを学習させると、新しい個体画像を生成することもできる。たとえば、犬の画像を大量に学習させると、AIがこれまでにはないオリジナルの犬画像を生成することができるのだ。架空の人物を生み出すことも可能だ。


AIが作り出した架空の人物画像（「A Style-Based Generator Architecture for Generative Adversarial Networks」より）

GANsはこのほかに、創薬や生命科学などヘルスケア分野での応用も進められており、AIをAIたらしめる技術として期待を集めている。

こうした注目度の高まりから、研究者やデータサイエンティストだけでなく、アマチュアの中にも高い関心を示す者があらわれ、その一部がソフトウェアを開発し配布するなど熱心な活動を見せ始めた。当初は、ハリウッド俳優の顔を、さまざまな映画のシーンに置き換えた「実験的な」動画にとどまるものだったが、ソフトウェアの普及で悪意ある利用が散見されるようになっていった。

ディープフェイク動画を配信するYouTubeチャンネル 「derpfakes」では、ハリウッド俳優であるニコラス・ケイジ氏の顔をさまざまな映画のシーンに合成。あからさまな合成であり、フェイクであることは簡単に見抜けるが、表情や口の動きのシンクロには目を見張るものがある。


映画「Man of Steel」の1シーンに合成されたニコラス・ケイジ氏（derpfakesより）

このようなディープフェイク動画をつくるには、合成する人物（上記の例ではニコラス・ケイジ氏）の顔のさまざまな表情をAIが学習する必要がある。このためディープフェイクのターゲットになるのは、主に公に動画が公開されている政治家や俳優となる。

derpfakesでは、トランプ大統領とオバマ元大統領が会話するシーンも公開。この動画のもとになったのはコメディアンのものまね映像。そこにトランプ氏とオバマ氏の顔を合成している。オリジナル映像のコメディアンの顔は本物とは程遠いが、声が似ており、本物の顔が合成されることで、あたかも本物のトランプ氏とオバマ氏が会話しているように仕上がっている。


ディープフェイクで合成されたオバマ氏とトランプ氏（derpfakesより）

日進月歩で精度高めるディープフェイク、フェイク見破るのは困難に

2014年に登場したGANs。それ以降も研究者らによって改善が進められている。それに伴いディープフェイクも巧妙になってきているといわれている。専門家らは、この状況を危惧し、認知を広げ倫理・法規制の議論が必要だと警鐘を鳴らしている。

たとえば選挙において、立候補者のフェイク動画を流布し、その候補者の社会的信用を失墜させたり、災害に関する発表で市民の不安を煽ったりということが想定される。また内政干渉にあたる発言をさせることで、外交関係を悪化させることもできるかもしれない。

さらに、大手企業の社長のフェイク動画をつくり、その中で不祥事を起こしてしまった、また利益が大幅に下がったなどと発言させれば、株式市場を大きく混乱させることも考えられる。実際、これまでも誤報によって市場が大きく動いた事例は少なくない。

技術進化によって政治家や俳優だけでなく、一般市民もディープフェイクのターゲットになる事例が増えており、早急な対策が求められている。ハフポスト（英語版）がこのほど伝えたところでは、一般女性がポルノ映像に合成され、その動画がポルノサイトで配信されるケースが多発しているという。これまで合成するには、動画など一定量の顔データが必要だったが、技術進化によって数枚の写真からでも合成できるようになっているためだという。ソーシャルメディアの写真が悪用されているようだ。

こうした状況を受けて、米国では画像・映像の悪用を規制するために包括的な法改正の議論が始まったとの報道がなされている。一方、AIが広く普及する中国でもディープフェイクを規制する方向で政府が動き出している。理系出身者が多い中国指導部、AIの可能性だけでなく脅威も熟知していると考えられるため、規制の動きも他国に先駆けたものになるはずだ。

これまでは動画が証拠になるということがいわれてきたが、リアルなフェイク動画が簡単につくれる時代になったいま、その信憑性は100％ではないという認識を持っておいた方がよいだろう。

ディープフェイク問題をきっかけとして日本を含め世界的にAIに関する倫理・法規制の議論が活発化することを願いたいところだ。一方、動画が本物であるかどうかを調べる「デジタルメディア・フォレンジック」やブロックチェーンを活用した動画の真贋判定など、カウンターテクノロジーの発展にも期待したい。GANsそのものは画期的な技術。ここでの対応が社会・経済に不安をもたらすことなくAIの可能性を最大限に引き出せるのかどうかを決める分水嶺になるかもしれない。

文：細谷元（Livit）