深層偽造（ディープフェイク）を用いた「音声・動画によるCEO詐欺」

背景と概要

生成AI技術の進歩により、実在する人物の「声」や「顔」を驚くべき精度で再現する「ディープフェイク」技術が悪用されています。従来のCEO詐欺（ビジネスメール詐欺：BEM）はメールテキストが中心でしたが、最近では「役員の声を模した電話」や「ビデオ会議への偽役員の参加」による不正送金指示の被害が世界中で報告されています。

ディープフェイク脅威の最新事例と手口

攻撃者はSNSや過去の登壇動画、インタビュー映像など、インターネット上に存在する音声・映像データからAI学習モデルを作成します。

1. 音声クローンによる緊急送金指示

　財務担当者の携帯電話に、役員本人の声で「極秘の買収案件で至急資金が必要」と連絡が入り、疑いを持たずに送金してしまうケースです。

2. ディープフェイクを用いた多人数ビデオ会議

　ビデオ会議に偽のCFO（最高財務責任者）や複数名の偽社員をリアルタイムAIで参加させ、多額の送金承認をだまし取る極めて洗練された手法も登場しています。

3. 人間の不審感を打消す心理的誘導

　「声も顔も本人である」という視覚・聴覚的確証が得られるため、人間の「違和感」や「疑い」を麻痺させてしまいます。

組織的なディープフェイク詐欺防衛法

テクノロジーによる検知には限界があるため、プロセスの厳格化が最大の防御となります。

1. 送金プロセスの二重化・アウトオブバンド（別ルート）確認

　いくら上司や役員からの直接指示であっても、一定額以上の送金については「あらかじめ決めた固定電話への折り返し」や「複数人による対面承認」を義務化します。

2. チャレンジ・レスポンス方式の導入（合い言葉）

　重要な指示については、AIには学習されようがない「社内で共有している合言葉」や、直近の個人的な会話内容などの本人確認手順を組み込みます。

実務で深掘りしたい確認点

経営者を装う音声・映像、送金依頼、口座変更、機密情報の要求をひとまとまりの管理対象として捉えます。映像の自然さではなく、通常と異なる依頼経路、緊急性、秘密保持の強要を兆候として扱います。 単発の警告だけで判断せず、利用者・端末・時刻・変更履歴を関連付けると、通常業務との違いを説明しやすくなります。

発見時の初動と影響確認

登録済みの別経路で本人確認し、送金を止め、会話記録と振込先情報を保全します。 復旧を急ぐ場合も、後から原因と影響範囲を説明できるよう、時刻、担当者、実施した操作、保全した証拠を残します。外部への通知や専門家への相談が必要かも、扱うデータと業務影響から判断します。

継続運用へ落とし込む方法

高額取引の二者承認、合言葉、口座変更時の折り返し確認を訓練で定着させます。 導入時だけで終わらせず、例外件数、検知から対応までの時間、再発、利用者からの相談を定期的に確認します。訓練や実際の対応で見つかった手順の曖昧さを更新し、責任者不在時にも動ける状態を維持します。