ディープフェイク対策 生成AI時代に企業がとるべき備え
- 公開日：
- 最終更新日：
取引先を名乗るメール、経営者そっくりの声で送金を指示する電話。生成AIが広まったいま、こうした「本物にしか見えない偽物」による被害は、決して他人事ではなくなってきました。ディープフェイク対策は、もう一部の大企業だけの課題ではありません。
この記事では、企業が明日から始められる備えを整理してご紹介します。
ディープフェイク（Deepfake）とは？なぜ新たな脅威となっているのか
ディープフェイク（Deepfake）とは、AIを用いて人物の顔、声、動きなどを生成・加工し、本物であるかのように見せる技術、またはそのコンテンツを指します。ここ数年で音声を再現する精度が飛躍的に高まり、数十秒から数分程度の音声があれば、特定の人物の声を高い精度で再現できるサービスも登場しています。
実際に、大きな被害も起きています。2024年、香港のある企業では、財務担当者がビデオ会議で「最高財務責任者（CFO）や同僚」と話し、指示どおり約2,500万ドル（当時のレートで約37億円）を送金してしまいました。しかし、会議に映っていた人物は、すべてAIによって生成された偽の映像でした。この社員は、最初に届いたメールをフィッシング詐欺だと疑っていました。それでも、本人そっくりの人物が映るビデオ会議を前に、相手を本物だと信じ込んでしまったと報じられています。
出典：レバテックLAB「ビデオ会議の相手は知らない他人だった。香港で37億円のディープフェイク詐欺事件、被害を防止する3ヶ条」
https://levtech.jp/media/article/column/oversea/detail_521/
この事件は、攻撃の手口がこれまでと大きく変わったことを示しています。従来のフィッシング詐欺（偽のメールなどで情報をだまし取る手口）は、文面の不自然さや差出人アドレスから見破れることもありました。しかしディープフェイクは、見た目や声を本物らしく見せることで、人の判断を惑わせます。オンライン会議に映る「上司」が本物かどうかを、その場で見抜くのは簡単ではありません。
そのため、従来の対策だけでは防ぎきれなくなってきました。ネットワークや端末を守る「境界防御」に加えて、人がだまされないための備えが欠かせません。ファイアウォールやEDR（パソコンなどの端末で不審な動きを検知する仕組み）は重要な対策ですが、人の判断を狙う攻撃への備えもあわせて必要です。
しかも、これは海外だけの話ではありません。日本でも、IPA（情報処理推進機構）が、取引先や経営者になりすまして送金させる「ビジネスメール詐欺」を、企業の大きな脅威の一つとして毎年挙げています。
では、具体的に何から手をつければよいのでしょうか。
何から始める？ディープフェイク対策の3つの基本
新たな製品を導入しなくても、今日から始められる対策があります。ここでは、基本となる3つの備えを紹介します。
１．ルールを決める（疑う力を仕組みにする）
- 役員や上司からの送金・購買・重要情報の提供などを求められた場合は、依頼に使われた連絡先をそのまま信用せず、事前登録された電話番号など、独立した経路で本人と内容を確認する。
- 音声や動画での承認には、事前に定めた確認事項やコールバックによる確認や、あらかじめ登録された連絡先へかけ直すコールバックなど、と組み合わせる。
- 「すぐに」「社外に漏らすな」「社長命令」といった緊急性や機密性を強調する言葉に注意する。急かされても一度立ち止まり、周囲へ相談や確認ができる環境を日ごろから整えておく。
まずは、こうした「確認のルール」を明文化することが出発点です。次に、それを支える技術を組み合わせます。
２．技術で守る（検知と制御の両輪）
- 出人情報、リンク先、添付ファイル、普段の連絡との違いなどを複数の観点から確認し、不審なメールを検知する仕組みを強化する。
- 会議ツールでは、招待者と参加者を制限し、外部参加者や通常と異なるアカウントを確認する。
- 要な取引には、対策を重ねてかける。まず、決裁システムへのログインは多要素認証で本人確認を厳しくする。さらに、申請する人と承認する人を分け、承認も複数段階を通す。こうしておけば、どれか一つの対策をすり抜けられても、不正は成立しない。
ルールと技術がそろっても、それを使う人が慣れていなければ機能しません。そこで欠かせないのが、3つ目の訓練です。
３．訓練で慣れる（弱点を知る）
防御の知識は、一度の研修だけではなかなか身につきません。攻撃の手口は日々新しくなり、人の警戒心も時間とともに薄れていくからです。そこで、次のような訓練をくり返し行います。
- 本物そっくりの疑似攻撃を、定期的に実施する。
- 訓練結果から、見分けにくい攻撃パターンや支援が必要な領域を組織・部門単位で把握し、教育内容の改善につなげる。
- 明らかになった傾向に応じて、重点的な教育を行う。
実際に体験しておくことで、いざというときに「これはおかしい」と気づける人が増えていきます。
ディープフェイク対策を「続けられる仕組み」にする
この3つの対策は、一度実施して終わりではありません。とくに訓練は、継続することで効果を発揮します。一方で、シナリオ作成や結果分析、教育コンテンツの配信を毎月繰り返すのは、担当者にとって少なくない負担です。そのため、運用を効率化しながら継続できる仕組みづくりが重要になります。
そこで、訓練の実施から結果分析、教育までを効率化できるサービスを活用する企業も増えています。たとえばAironWorks（アイロンワークス）は、生成AIで作られた偽のメールや音声による攻撃を再現できるツールです。従業員は、安全な環境で実際に攻撃を疑似体験できるので、どんな場面が危ないのかを、身をもって覚えられます。誰がどんな手口に弱いのかもダッシュボードで確認できるため、教育が必要な従業員や部署に対象を絞り、効果的に実施できる点も特長です。
ただし、こうしたツールも、計画がなければ続きません。ここからは、対策を軌道に乗せるための、最初の90日の進め方を紹介します。
90日で始めるディープフェイク対策ロードマップ
はじめから完璧を目指す必要はありません。まずは3か月を目安に、小さく始めて改善をくり返しましょう。
0〜30日：現状を知り、最低限のルールを周知する
最初の1か月は、自社の弱点を知ることに使います。「役員へのなりすまし」「偽の請求書」など、自社で起こりそうな詐欺の場面を洗い出しましょう。そのうえで疑似攻撃を一度実施し、いまどのくらいの人が引っかかってしまうのかを確かめます。並行して、「送金や決裁は必ず二つ以上の経路で確認する」といった最低限のルールを策定し、社内へ周知します。
31〜60日：弱点に合わせて教育し、確認の手順を整える
次の1か月は、最初の疑似攻撃で明らかになった弱点に応じて、教育や対策を実施します。たとえば偽の請求書に弱かったには、その手口に特化した教材を届けます。あわせて、オンライン会議での本人確認のやり方や、承認の手順を見直し、なりすましが通用しにくい形に整えます。
61〜90日：改善をくり返し、効果を数字で確かめる
最後の1か月で、ここまでの取り組みを毎月くり返せる形にします。新しい手口に合わせてシナリオを更新し、「訓練 → 結果の確認 → 弱点の補強」という流れを回していきます。クリック率（偽メールのリンクを開いてしまった人の割合）や報告率（あやしいと気づいて報告できた人の割合）といった指標を継続的に確認することで、取り組みの効果や改善状況を把握できます。
少人数の体制でも、この流れに乗せれば「やりっぱなし」を防げます。大切なのは、完璧さよりも続けることです。
まとめ
ディープフェイク対策は、ルールの整備、技術的な対策、継続的な訓練の3つがそろって、はじめて力を発揮します。どれか一つだけでは、巧妙になっていく攻撃には追いつけません。
まずは自社で、「役員から急ぎの送金依頼が来たら、誰が、どうやって確認するのか」を問いかけてみてください。その一歩が、生成AI時代の守りを見直すきっかけになります。