米国・イスラエルとイランの衝突が始まって以降、AIで生成された偽映像が次々と出回り、不正確な情報をふるい分ける作業がますます難しくなっている。
AI生成の映像がAI側で識別できないケースが相次ぎ、ビデオゲームのシーンを戦闘映像と偽って投稿したものが数百万回再生される例もあった。
11日、「イラン速報」を名乗るあるX（エックス）アカウントは、中国がヨルダンの米軍基地で起きている状況を流出させたとする動画を投稿した。
軍部隊と見られる拠点に爆撃が加えられる場面を収めたその映像は、1日で再生数が630万回を超えた。
だが、AI生成であることが一目で分かる箇所が多く含まれていた。
爆発後の炎が粗いグラフィックに見える点、兵士が重い防護壁を軽々と押す動作、ミサイル着弾を一人の兵士が呆然と眺めているように見えるシーンなどだ。
注意深く見れば偽造だと判別できるその映像について、AIチャットボットのGrokは「AI生成の映像ではない」と判断した。
Grokは、手ブレのある撮影やリアルな爆発・煙・埃、兵士同士の会話が実際の戦闘映像と一致すると説明した。
GrokはXプラットフォームが提供するAIチャットボットで、世界中のネットユーザーがX上で拡散する映像が偽物かを確認する際によく使う手段になっている。
だが、同映像を別のAI検出器で解析すると「約75％がAI生成の可能性あり」との結果が出て、部分的にはAI生成の可能性が90％を超える箇所もあった。
先月2日には「イラン機対米艦」とする投稿と映像が出回り注目を集めたが、驚くべきことにその映像はあるビデオゲームの画面を共有したものだった。
数日間にわたってネットユーザーの指摘が続いた結果、現在は当該投稿を開くと「文脈と合致しない内容を提供する」という警告が表示されるようになっている。
専門家は、こうした虚偽情報が無差別に拡散する背景には、戦争という話題性を利用して「閲覧数に基づく収益」を狙う投稿者が多いことがあると分析する。
また、戦況を特定勢力に有利に見せる歪曲された世論を形成する「宣伝目的」の偽ニュースも多数出回っているとみられる。
これを受け、BBC、CNN、AFPなど海外メディアは継続的にファクトチェックを行うとともに、SNSプラットフォーム側に対して正確な情報を提供できる対策を求めている。
#中東戦争 #AI #イラン #イスラエル #偽情報
聯合ニュースTV記事の問い合わせ・情報提供：カカオトーク/LINE jebo23
박지운（zwoonie@yna.co.kr）
