香港を揺るがした「ディープフェイクによる詐欺で38億円事件」
生成AIの発展に伴い、詐欺や金融犯罪も巧妙化している。ビッグデータの解析と生成が得意なAIを利用すれば、フィッシング詐欺メッセージはより本物らしく、より特定の個人に適したものになり、ブロックチェーン技術の匿名性は違法な取引をカモフラージュ・隠蔽したい犯罪者にとって大変都合のいい隠れ蓑となる。
直近では、今年の2月に報道された香港での超大型金融犯罪が記憶に新しい方もいらっしゃるだろう。
とある多国籍企業の香港支社で財務を担当していた社員が、複数回にわたり詐欺グループに合計約38億円を送金してしまった事件だ。スケールの大きな被害額もさることながら、プロセスの中で生成AIによる「ディープフェイク」が重要な役割を果たしたことで香港のみならず世界に衝撃が走った。
事の発端となったのは「極秘の案件で、コンフィデンシャルに口座振り込みが必要」という内容のEメール（これも内容におかしな部分はなく、本物に見えたという）。これを受信した時点ではある程度訝しんでいた被害者も、その後当該の案件に関する複数回のビデオ会議にイギリス本社のCFOや実際によく見知っている同僚などが出席していたことで疑惑が払拭され、その後15回にわたって5つの講座に計2億香港ドル（約38億5,000万円）を振り込んでしまった。
その後本社に振り込みを再確認したところで犯罪が発覚し、ビデオ会議の出席者もすべてディープフェイクだったことが判明。捜査の中で被害者が「知人も含めてみんな本物と見分けがつかなかった」と語ったことで、世間に「生成AIもここまで来たか」感をを印象付けた。
この事件を受けて香港の捜査当局は「全ての振り込みの依頼をまず疑うこと、ビデオ会議中は頭を動かして見せるように頼むこと、本人しか知らない情報に関する質問やパスワードなどで本物であることを確認すること」などを呼び掛けた。またそれと同時に、高速決済システムをはじめとして詐欺データベースの充実を図り、詐欺に関連した講座との取り引きをしようとしているユーザーに警告が表示されるシステムを開発・拡充中だという。
しかしここまで大掛かりではなくとも、「ディープボイス」による電話での会話による同様の振り込み依頼など生成AIを利用した金融犯罪は世界で増加中。その影響も相まって2024年の金融詐欺の被害額は世界で合計4,856億ドル（約73兆円）に達するとも見積もられている。
サンフランシスコ発スタートアップによる金融犯罪捜査自動化AIツール
その一方で金融犯罪を抑制するためのAIソリューション開発も加速しており、関連スタートアップに注目が集まっている。
そのひとつが、サンフランシスコに拠点を置く2016年起業のHummingbird社。同社は金融機関や決済プロバイダーの内部犯罪捜査チームやコンプライアンスチームのためのツール開発を専門とするスタートアップで、このほど新しい金融犯罪捜査自動化ツール「Hummingbird Automations」を発表した。従来は手作業で繰り返し行う必要のあった定型作業をAIが行うことで、金融犯罪の取り締まりを効率化・正確化することを目的としている。
「金と権力に夢中？」の同社チーム
同社の公式サイトのトップには、「私たちは、金と権力に夢中です」というギョッとするような文言が特大文字で表示される。しかしそのすぐ下に小さな文字で「（それらの不正利用を止めることに）」と但し書きが。
自社の使命を「より優れた通信とテクノロジーを利用して金融犯罪と戦うこと」と同定し、その理由を「犯罪を解決するには『金を追う』のが一番」と説明する同社は、その意図を以下のように語っている。
「世界の犯罪のほとんどは金銭に関係しています。麻薬カルテル、組織犯罪、武器販売、政治的腐敗、人身売買。これらはすべて、金融システムを通じた資金の移動に依存しています。こうした犯罪者と戦うには、金を追って利益を絞める以外に良い方法はありません」
「ハミングバードの使命は単純明快で、金融犯罪と戦うことです。私たちは、金融機関が顧客をより深く理解し、法執行機関と協力できるよう支援することでこれを実現します。私たちは、緻密な設計、ツールの知性、自動化の利便性により、金目当ての犯罪を撲滅できると信じています」
同社の共同創業者はデータサイエンティスト、エンジニア、法規制関係の専門家からなるチームで、「当社に欠けていると思われる役割を果たしてくれる人」を常時鋭意募集中。同時にチームのインクルーシビティや福利厚生にも力を入れており、なんというかITフィールドの中でも相当ミッション重視の色味が濃い企業という印象を受ける。
注目の「Hummingbird Automations」の仕事
同社CEOのJoe Robinson氏は「（このツールが）目指しているのは、金融犯罪調査の一助となる一口サイズの自動化レシピです」と語る。
従来の金融犯罪調査は社内のスタッフが定期的に特定の顧客をピックアップし、疑わしい動きがあるかを分析し、犯罪の証拠が見つかれば外部当局にケースとして依頼するという手間のかかるものであったとも。
「膨大な金融取引データを徹底的に調べて異常を見つけ、詳しく調べる価値があるかどうかを判断し、お金がどこから来てどこへ行くのかを追跡することにより、犯罪によって派生したお金である可能性のある動きを洗い出す」。この途方もない仕事のうち、実際にケースとして当局に動いてもらう前の準備のかなりの部分を、このHummingbird Automationsのプラットフォームが自動的に行ってくれることで、マネーロンダリングや脱税といった件数の多い金融犯罪に割く手間が省け、人的資源を人身売買などのもっと悪質で機械では検知しにくい犯罪に使えるようになると見込んでいる。
同ツールがレシピ＝ワークフローのライブラリを利用して、人間の代わりに行ってくれる作業は以下のようなもの。
●顧客・ビジネスの把握（継続的・定期的なモニタリングにより、顧客の金融行動の追跡・監視・調査の開始などを自動的に行う）
●品質保証（直近の完了した作業の品質を検証する）
●ケース化の準備（当局に捜査を依頼する際にケースの情報と調査結果を事前に入力することで、人力による調査が迅速に）
●ケースのモニタリング（期限切れが近いケースや操作が却下されたケースなど、注意が必要なケースをユーザーに自動的に通知）
●ケース管理（ケースの作成、情報更新などの管理タスクを自動化）
●アクティビティダイジェスト（ケースのアクティビティに関するレポートを定期的に自動作成することにより監視を強化）
先述のRobinson氏は、「AIはビッグデータを解析して、ドキュメント全体における傾向や異常を見つけたりするのが非常に得意」であるため、このプラットフォームのAIは「調査員の手元にある情報を要約してくれることで、何が起きているのかを解釈する部分をサポートしてくれたりといった可能性があります」と説明している。
2023年の春から行われてきたベータ版テストに対しても好意的なフィードバックが寄せられているとのこと。どんどん複雑になる法規制と、それらをすべてクリアする費用対効果の高い調査ツールの必要性という二重の課題に、AIの効率性と正確さが力強い味方となると期待が寄せられている。
文：ウルセム幸子
編集：岡徳之（Livit）