企業組織にも被害を与えている「ディープフェイク」　その事例と見分け方、対策は？

実在する人物そっくりの顔と声を生成し、あたかも本人が発言したかのような画像や映像をAIで作り上げる－。
そんな、もはや本物と区別がつかない「ディープフェイク」の技術が進化しています。

ディープフェイクを使った創作物がエンターテインメントの範囲内で済めば良いのですが、デマの発信、また個人や企業組織から金銭を騙し取るなど犯罪の道具に発展しており、金銭的被害まで発生しています。

ディープフェイクによる被害の実態と対策について、今回は見ていきましょう。

ディープフェイクに関する意識調査

トレンドマイクロがまとめている「ディープフェイクに関する実態調査2024年版」では、この問題に関する意識調査が実施されています。

その中でディープフェイクを自分で見分けられると思うか、という質問に対して、以下のような結果が出ています。

「見分けられると思う」と回答したのは全体のわずか1.9%です。また年齢別に見ると、「見分けられると思う」「おそらく見分けられると思う」とした割合の合計は、40代から急に減少していることがわかります。

そして、ディープフェイクによって個人が受けた実質的被害は下のようになっています。

「フェイクニュースやデマ情報に扇動されショックを受ける」との回答が最も多く46.1%、さらに「偽の商品を購入してしまう(23.6%)」「投資詐欺(14.6%)」「架空請求(13.5%)」などが続いています。
なかには自分の画像が加工され公開される、という被害に遭った人もいます。

世界で拡散される政治的デマ

デマには様々な種類がありますが、三菱総合研究所によると世界的な選挙イヤーとなった2024年前後には、生成AIを用いた多くの情報操作事例が確認されています。日本も例外ではありません。

これらのデマ画像や動画を目にしたことがある人も多いことでしょう。

詐欺広告で平均11万5000円の損失

また、芸能人や著名人のディープフェイク画像を生成し、あたかもその人が商品を宣伝しているように見せかける詐欺広告や投資詐欺も広がっています。

グローバルセキュリティー企業のマカフィーが日本を含む世界7カ国に住む18歳以上の男女8600人を対象に実施した調査では、生成AIで偽造された有名人の詐欺広告を見たことがある日本人は38%でした。そのうち7パーセントは、詐欺広告や偽キャンペーンなどのリンクをクリックしていたということです。^*1

その被害額は1人あたり平均11万5000円にのぼっています。

ちなみにマカフィーの調査によれば、最も多く詐欺広告に使われた芸能人・著名人は1位がBTS、2位はイーロン・マスク、3位は木村拓哉、4位にテイラー・スウィフトと続いています。

企業組織でも大損失が発生

そしてディープフェイクによる被害は、個人だけのものではなくなってきました。

2024年、イギリスのエンジニアリング大手であるアラップがディープフェイクを使った詐欺に遭い、約40億円を失うという事件がありました。^*2

ある社員が、CFOになりすましたデジタルクローンと、同じくクローン化されたその他社員とともに偽のテレビ会議に参加し、香港にある5つの銀行口座に資金移動を命じられ15回にわたって資金を振り込みました。しかし本社に問い合わせたところ詐欺であることが判明した、というものです。
ディープフェイクによる詐欺事件としては世界最大級になるといいます。

さらにZoomでの偽会議からウイルスを送りつけようとする動きもあるようです。

2025年6月、北朝鮮を拠点とするサイバー攻撃集団がディープフェイクを利用して暗号通貨企業を標的にするという事件がありました。^*3

暗号資産を扱う企業のある従業員がGoogle MeetのCalendlyリンクを受け取り、2週間後に攻撃者が管理する偽のZoom会議に参加したところ、通話にはディープフェイクの上級管理職の顔写真が多数含まれていました。
そして会議中に攻撃者は、システム上で見つかったすべての暗号通貨ウォレットを乗っ取るためのマルウェア(=悪意あるソフトウェア)を展開するスクリプトを送りつけていた、というものです。

ディープフェイクから身を守る方法はあるか

では、ディープフェイクから身を守る方法はあるでしょうか。

まず個人のリテラシーから見ていきましょう。

総務省の調査によると、過去に流通した偽・誤情報を見聞きした人に対して、その内容の真偽をどのように考えるか尋ねたところ、「正しい情報だと思う」「おそらく正しい情報だと思う」と回答した人の割合は47.7％にのぼっています。^*4

そのうち25.5%が、偽・誤情報を何らかの手段で拡散したと回答しています。

注目したいのは、なぜ拡散したのかということです。下のような結果が出ています。

27.1%が「情報が驚きの内容だったため」、次いで「情報が話題になっていて流行に乗りたかったため」が22.7%となっています。

つまり、派手なディープフェイクを見るとすぐに飛びつき、思考停止してしまう人が多いということです。
よって派手なものほど警戒し、一旦立ち止まって接する、真偽がわかるまでは拡散しない、そしてこれは派手なものに限りませんが、必ず別のソースで事実を確認するようにしなければなりません。

また、企業組織の被害事例は上記の通り、今の所は「偽のテレビ会議」がきっかけになっています。いきなり役員から自分だけに連絡がくる、自分だけが会議に招かれる、というあまり存在しないシチュエーションに乗ってしまったことが原因です。

こうした場合、何か確認方法を会社としてルール付けするのも良いでしょう。あるいは、個人だけで得た情報は何らかの形で「裏をとる」ようにしなければなりません。

また近年、テック企業の間でディープフェイク検出の技術開発が活発になっています。導入できそうなサービスがあれば前向きに検討していきましょう。

見聞きしたものの全てを信じてはいけないという少し寂しい時代ではありますが、派手な話や「うまい話」には裏がある、ということです。
昔から言われていることを思い出し、時には性悪説に立って情報に接することも必要です。

メルマガ限定で配信中

プロが教える“オフィス移転の成功ポイント”

• 組織づくり・ワークプレイスのトレンドを素早くキャッチ
• セミナーやイベント情報をいち早くお届け
• 無料相談会やオフィス診断サービスを優先的にご案内！

無料でメルマガを登録する

【参考資料】

*1
Forbes Japan「ディープフェイク詐欺の平均被害11万円超　若者が標的になりやすい実態と対策」
https://forbesjapan.com/articles/detail/85310

*2
日本経済新聞「[FT]テレビ会議、AI技術でなりすまし　英企業40億円被害」
https://www.nikkei.com/article/DGXZQOCB056460V00C24A6000000/

*3
IBM「Weaponizing reality: The evolution of deepfake technology」
https://www.ibm.com/think/x-force/weaponizing-reality-evolution-deepfake-technology

*4
総務省「ICTリテラシー実態調査」
https://www.soumu.go.jp/main_content/001008791.pdf p3

---

組織力の強化や組織文化が根付くオフィス作りをお考えなら、ウチダシステムズにご相談ください。

企画コンサルティングから設計、構築、運用までトータルな製品・サービス・システムをご提供しています。お客様の課題に寄り添った提案が得意です。