9月1日は防災の日です。備蓄や避難経路の確認とあわせて、ここ数年で新しく加わった論点があります。発災直後に流れてくる情報が、本物かどうかという問題です。

2026年7月28日16時27分、熊本県熊本地方を震源とするマグニチュード7.1、最大震度7の地震が発生しました（気象庁「令和8年熊本地震」）。この発災直後から、SNS上では生成AIによる偽の映像を含むさまざまな情報が拡散し、政府が注意を呼びかける事態になりました。

拡散したものの類型

報道および有志による集約によれば、今回拡散したものは大きく次のように分かれます。

  • 生成AIによる偽動画 — 商業施設が爆発する映像や、報道機関を装った動画。専門家がAIによる生成物と判定したと報じられています
  • 過去の災害映像の転用 — 2024年の能登半島地震で撮影された映像が、今回の地震のものとして投稿された
  • 実在しない救助要請 — 「生き埋めになっている」との投稿が数十万回閲覧されたが、記載された住所は存在しなかった
  • 報道写真の改変 — 新聞に掲載された被災者の写真がAIで加工され、元の文脈とは異なる印象を与える画像として拡散した
  • 原因についての言説 — 「人工地震」であるとする投稿。日本地震学会は、人為的にこの規模の地震を起こすことは現実的ではないと説明しています

これらは性質が異なります。1つ目と4つ目は生成・改変の問題であり、2つ目と3つ目は出所と文脈の問題です。後で触れますが、この違いは検証の方法を分けます。

行政の対応

総務省は発災当日の7月28日、公式アカウントでSNS上の情報の真偽を確認するよう注意を呼びかけました。翌7月29日には、主要なプラットフォーム事業者に対して対応を要請したと報じられています。

災害時の偽・誤情報は以前から論点になっており、総務省の令和6年版情報通信白書にも独立した節が設けられています。今回特徴的だったのは、生成AIによる映像が、発災から数時間のうちに流通したことです。

「見ればわかる」が効きにくくなっている

従来、災害時のデマの多くはテキストか、既存画像の転用でした。転用であれば、逆画像検索で元の出所にたどり着けることがあります。

生成された映像は、そこが違います。元になった映像が存在しないため、検索では照合できません。加えて、生成のコストが下がったことで、情報が最も必要とされる発災直後の時間帯に、大量に投入できるようになりました。人手による確認が追いつく速度ではありません。

検証の実務で論点になること

コンテンツの真正性を技術的に確かめる手段は存在しますが、期待値を正しく置く必要があります。実務では次の点が論点になります。

1. 生成の検知と、転用の検知は別の技術です。 AI生成物の検知は、生成の過程で残る痕跡を手がかりにします。一方、過去の本物の映像を別の災害のものとして投稿する行為には、この手法は効きません。こちらは出所の確認（逆検索、撮影日時やメタデータの照合、地理的な整合）の領域です。どちらか一方だけでは足りません。

2. SNS上の映像は、検証にとって条件が悪い。 投稿と再投稿を繰り返した映像は、再エンコードで圧縮され、解像度も落ちています。生成の痕跡は圧縮で失われやすく、劣化した素材ほど判定の確度は下がります。検証結果は、確率と不確実性の幅を伴うものとして扱うのが妥当です。

3. 部分的な改変は、全体が生成されたものより見つけにくい。 本物の写真の一部だけを差し替える、表情だけを変える、といった改変は、素材の大部分が本物であるため手がかりが少なくなります。今回の報道写真の改変は、この類型にあたります。

4. 最終的な判断は人が行うものです。 技術的な検証は判断の材料を増やすものであって、判断そのものを代替しません。確信度の数値だけを切り出して「本物」「偽物」と断ずるのは、検証の使い方として適切ではありません。

平時に決めておけること

発災後に手順を決めるのは困難です。自治体、報道機関、プラットフォーム事業者、企業の広報・危機管理の各部門で、平時に決めておけることがあります。

  • 疑わしい素材が持ち込まれたとき、誰が確認し、誰が判断するかを決めておく
  • 確認の過程（いつ、どの素材を、どう扱ったか）を記録として残す形式を決めておく
  • 自組織で判断がつかない場合の外部の照会先を、事前に確保しておく
  • 発信側としては、一次情報の出所を明示する運用を平時から習慣にしておく

最後の点は地味ですが、効果があります。自組織の発信が常に出所を伴っていれば、その発信を騙る情報との差が生まれます。

関連資料

当社では、音声・画像・動画の真正性検証について、次の資料を無償で公開しています。本記事で触れた論点を、より詳しく扱っています。

  • 『音声ディープフェイク検知 日本市場ホワイトペーパー 日本語版 v1.0』（全8ページ）
  • 『Spellbreaker 日本語版ホワイトペーパー v2.2』（全21ページ）

ホワイトペーパーをダウンロードする

出典

本記事に関するお問い合わせ

G1 Technology株式会社　info@g1tec.jp