2026年、ディープフェイクを巡る状況の急変

2023年から2025年にかけて、オンライン上のディープフェイクコンテンツは急増の一途を辿り、その影響は社会全体に及んでいます。特に、AI生成の人物画像が本物と区別不能になることで、詐欺被害が拡大し、選挙における誤情報拡散のリスクも高まっています。企業は、ディープフェイク対策を喫緊の課題として捉え、早急な対応が求められています。

AI生成顔の検出不能化と詐欺被害の拡大

サイバーセキュリティ企業DeepStrikeの調査によれば、2023年に約50万件だったディープフェイクコンテンツは、2025年には約800万件に急増しました。学術研究では、AI生成の人物画像が本物の写真と統計的に区別不能であることが判明し、ディープフェイク詐欺の被害額は2025年だけで約1,600億円に達しています（米国のみ）。

この状況を受け、企業は「目で見て確認」に依存するセキュリティ対策を見直し、従業員向けのディープフェイクリテラシー研修を強化する必要があります。セキュリティ意識の向上と、技術的な対策を組み合わせることで、リスクを最小限に抑えることが重要です。

中国発「スロパガンダ」の脅威

中国のバイトダンス社が開発した新型AI「シーダンス2.0」は、高精細な偽動画を誰でも安価に量産できるため、国家レベルの情報工作の凶器になり得るとされています。この技術の登場により、AI競争の焦点は、高品質なAI動画生成に移っており、インターネットを席巻する可能性が指摘されています。

企業は、自社のブランドや従業員がディープフェイクの標的にならないよう、監視体制を強化し、万が一被害が発生した場合には、迅速な対応を取れるよう準備しておく必要があります。また、信頼できる情報源からの情報収集を徹底し、誤情報に惑わされないよう注意する必要があります。

選挙における誤情報リスクの増大

日本の選挙においてソーシャルメディアの役割が拡大する一方で、誤情報や詐欺、ディープフェイクといったリスクも顕在化しています。2024年の衆議院選挙では、有権者の72.1％がオンラインで選挙関連の情報を入手しており、特にYouTubeなどの動画プラットフォームでの視聴が増加しました。マカフィーの調査によると、日本におけるオンライン詐欺とその影響は増加の一途をたどっており、ソーシャルメディア上で確認された詐欺のうち、48％が寄付や支援を求める投稿に関連しています。

選挙期間中は、特に注意が必要です。企業は、従業員に対し、選挙関連の誤情報やディープフェイクに関する注意喚起を行い、冷静な判断を促す必要があります。また、自社のウェブサイトやソーシャルメディアアカウントが、誤情報の発信源とならないよう、厳重な管理体制を構築する必要があります。

国内外のディープフェイク規制動向

ディープフェイク技術の悪用に対処するため、国内外で様々な規制が検討・実施されています。企業は、これらの規制動向を常に把握し、コンプライアンス体制を整備する必要があります。

規制主体 規制内容 備考
EU AI法（AI Act）: 高リスクAIシステムの利用を厳格に規制。ディープフェイクの作成・利用に関する透明性義務を課し、違反者には高額な罰金を科す。 世界で最も包括的なAI規制の一つ。ディープフェイクを含むAI技術の利用に大きな影響を与える可能性がある。g1tec.jpでもAI法に関する情報を随時更新しています。
米国 各州で独自の法律を制定。カリフォルニア州などでは、選挙関連のディープフェイクの拡散を禁止する法律が施行されている。連邦レベルでは、まだ包括的な規制は存在しないが、議論が活発化している。 州によって規制内容が異なるため、企業は事業展開地域に合わせて対応する必要がある。
日本 特定のディープフェイクを直接規制する法律はまだ存在しない。しかし、名誉毀損、プライバシー侵害、著作権侵害などに該当する場合には、既存の法律（民法、刑法、著作権法など）が適用される。政府は、AI戦略会議などを通じて、AIに関する倫理指針やガイドラインの策定を進めている。 今後、法整備が進む可能性が高い。企業は、政府の動向を注視し、必要に応じてコンプライアンス体制を見直す必要がある。
中国 AI技術の利用に関する規制が強化されている。ディープフェイクを含むAI生成コンテンツについては、コンテンツの出所を明示することや、虚偽情報の拡散を防止するための措置を講じることが義務付けられている。 規制当局の監督が厳しく、違反者には厳しい処分が科される可能性がある。

企業が取るべき具体的な対策

ディープフェイクのリスクに対処するため、企業は以下の対策を講じる必要があります。

  • 従業員向けディープフェイクリテラシー研修の実施: ディープフェイクを見抜くための知識やスキルを習得させる。
  • 技術的な対策の導入: ディープフェイク検出ツールや、コンテンツ認証技術などを導入する。Spellbreakerのようなツールも、情報源の信頼性評価に役立つでしょう。
  • 情報収集体制の強化: 信頼できる情報源からの情報収集を徹底し、誤情報に惑わされないようにする。
  • 監視体制の強化: 自社のブランドや従業員がディープフェイクの標的にならないよう、ソーシャルメディアなどを監視する。
  • 緊急時対応計画の策定: 万が一、ディープフェイクによる被害が発生した場合に、迅速かつ適切に対応できるよう、緊急時対応計画を策定する。
  • 法務・コンプライアンス体制の整備: 国内外の規制動向を常に把握し、コンプライアンス体制を整備する。ProbeTruthなどのサービスを利用して、事実確認を行うことも有効です。

FAQ

Q1: ディープフェイク対策は、どのような部署が担当すべきですか？

A1: ディープフェイク対策は、広範囲に及ぶため、複数の部署が連携して取り組む必要があります。具体的には、法務・コンプライアンス部、広報・IR部、情報システム部、人事部などが連携し、それぞれの専門性を活かして対策を進めることが望ましいです。

Q2: ディープフェイクリテラシー研修は、どのような内容にすべきですか？

A2: ディープフェイクリテラシー研修では、ディープフェイクの仕組み、見分け方、リスク、対策などについて解説する必要があります。また、具体的な事例を紹介し、参加者が実践的なスキルを習得できるよう、ワークショップ形式での実施も有効です。

Q3: ディープフェイクによる被害が発生した場合、どのような対応を取るべきですか？

A3: ディープフェイクによる被害が発生した場合には、まず事実関係を調査し、被害状況を把握する必要があります。その上で、関係各所に連絡し、法的措置の検討、広報対応、技術的な対策などを迅速に進める必要があります。

Q4: 中小企業でも、ディープフェイク対策は必要ですか？

A4: はい、必要です。ディープフェイクの標的は、大企業だけではありません。中小企業でも、ブランドイメージの毀損や詐欺被害など、様々なリスクに晒される可能性があります。予算や人員が限られている中小企業でも、できる範囲で対策を講じることが重要です。

参考情報: