各種ソーシャルメディア（SNS）やYouTubeでAI生成画像が拡散する中、それを使って政治的メッセージを流す事例が相次ぎ、懸念が強まっている。 最近、노무현재단のファン・ヒドゥ理事は自身のSNSで「若い女性の極右有名アカウントの正体がついに明らかになった」として、当該アカウントのコンテンツがAIディープフェイク技術で作られていたと明かした。
ファン氏は、インスタグラムで活動していたあるアカウントの謝罪文をキャプチャして共有した。これまで20代女性とみられる写真を投稿し「윤어게인」などの政治的メッセージを発信していた当該アカウントの主は謝罪文で、自分が実は男性だったと明かした。謝罪の後、アカウントは削除された。
ファン氏は、AI技術は人の目では本物と偽物を見分けるのが難しい水準に達していると指摘した。単なる技術的問題にとどまらず、人間の認知過程を攻撃する認知戦の典型的な事例だという。最近は客室乗務員やインフルエンサーなど実在する女性の顔を盗用し、「멸공」「윤어게인」などを叫ばせるケースもあり、AI技術の悪用に加えて写真の盗用といった犯罪も頻発していると述べた。
ファン氏は、この手法は単なる注目集めではなく、偽の世論を作る典型的なプロパガンダで、社会の信頼を損なう恐れがあると懸念を示した。騙される人は相当数いる。個々人の判断力の問題ではなく、反復露出とアルゴリズムの増幅によって仕組まれた認知環境の産物だと指摘し、AI技術の悪用や盗用を放置すれば民主主義そのものが揺らぐ可能性があると警告した。
その一方で、最近オンラインで話題になった野球中継の画面に映った女性の映像もAI生成コンテンツと推定されている。今月初め、SNSやオンラインコミュニティでは観客席で試合を観戦する女性の姿を捉えた映像が大きな反響を呼んだ。映像の女性は白いオフショルダーのトップスにジーンズを着て脚を組み、試合に没頭していたが、選手のプレーに苛立ちを感じたようにため息をついた。この映像に接した国内外のネットユーザーは「韓国の野球の女神」として熱狂した。 約5秒の当該映像が810万回以上再生されると、野球ファンの間から「AIで操作された映像ではないか」との指摘が出た。中継画面には投手がキム・ソヒョン、打者がチョ・インソンと表示されていたが、キム・ソヒョンは2023年にハンファに入団しており、チョ・インソンは1998年にLGツインズに入団して2017年に引退し、その後はコーチとして活動している。したがって両選手がグラウンドで対戦することは現実的にあり得ないとファンは指摘した。
SNSで拡散されたAI画像が問題化するのはこれが初めてではない。先月、大田（テジョン）動物園でオオカミ「ヌクグ」が脱走した際、AIで加工されたヌクグ目撃写真が拡散して問題になった。結局、当該画像を作成・流布した40代のA氏は大田警察庁サイバー捜査隊により、警察・消防当局の捜索を妨げた疑い（威力による公務執行妨害）で検挙された。
- 【単独】サムスン半導体ライン間 検察…技術流出捜査の専門性を高める
- 「ピザを食べて礼拝に行こう」ニューヨークの教会が満席に…Z世代が覆した米国の教会【パク・シジンのグローバルピック】
- 「通報しようにも被害額2000ウォン（約200円）で…」悩める店主
- 7月、장특공・公正市場価額を見直すか…「江南3区で追加物件が出る可能性」【コジュブ】
- 韓国版スペースX構想が現実に…ハンファ、年末までKAIの持ち分を追加取得【Biz-プラス】
- 規制で抑制された住宅価格の見通し…首都圏は「それでも上がる」
- 「治療薬もワクチンもない」 呼吸が止まり内臓まで破壊…「人から人への感染疑い」報告に世界が非常事態
- 【単独】科学人材表彰予算 21億ウォン→16億ウォン…「審査員の交通費支払いも難しい」（21億ウォンは約2.1億円、16億ウォンは約1.6億円）
- 2028年？2029年？ 전작권（主権移転）はいつ…李氏「自ら作戦を行う準備をすべきだ」【イ・ヒョンホのミリタリー!トーク】
- 軽症保障を削り保険料を下げた『第5世代 実損保険』…6日に発売
