AI時代のデジタル性暴力、ついに対策の転換か？

人工知能（AI）技術を悪用したデジタルジェンダー暴力が急速に拡大するなか、削除要請に依存する事後対応中心の体制では被害の拡大を食い止められない、という批判が出た。技術設計段階から性の平等の視点を組み込み、プラットフォームの事前責任を強化するなど、予防策を前面に据える必要があるとの指摘が相次いだ。

16日、ソウル恩平区の韓国女性政策研究院で開かれた開院43周年記念セミナー「AI時代デジタルジェンダー暴力対応政策の転換模索：事後調査から事前予防へ」では、AIの普及に伴うデジタルジェンダー暴力への具体的対応策が議論された。AIの商用化により、デジタル性搾取物の制作・流通は組織化・自動化し、テキストプロンプト一つで数秒以内に性搾取コンテンツが生成される環境が生まれている。被害が収益につながる市場構造は一層拡大しており、被害者自身が被害を把握していないケースも少なくない。ディープフェイクボットや匿名テレグラムチャンネルを経由すると、生成者と拡散者が分離し、証拠が速やかに消去されるため加害者の特定が難しくなる。

だが現行の対応体制は削除要請に基づく事後対応に偏重しており、被害拡散の速度に追いつけないとの批判が出ている。例えば、2024年のデジタル性犯罪被害映像削除支援は約30万件にのぼったが、国外サーバーを拠点とするサイトが多く実際の削除には限界があり、削除前に映像が急速に複製・再配布される事例が繰り返された。コンテンツ流通量が収益と直結するメディア業界の事情もあって、プラットフォーム自身の自主規制だけでは対応が困難な面がある。

当日、基調報告を行った金愛羅研究員は「事後対応は当然必要だが、それだけでは不十分であり、先手を打つ対策を見出すべきだ」と指摘した。ジェンダー暴力が技術インフラを介して発生するなら、介入も生成・流通の段階で技術的な摩擦を生じさせる形で行う必要があるとし、生成や流通の難度を上げることで発生頻度と規模自体を抑えるべきだと説明した。

また、性認知を組み込んだAIの設計が不可欠だと強調した。人生の各段階を通じてジェンダー権力関係や交差的な不平等、暴力の構造を体系的に検討し遮断するよう設計されたAIの導入を提案し、そのために技術設計段階でジェンダー偏向やジェンダー暴力の側面を検討する手続きを義務化する案を示した。チャットボット、教育AI、顧客対応AIなどに対し、韓国語文脈に即したジェンダー暴力防止の評価基準を構築する仕組みの導入も提案した。

1月に施行された人工知能基本法にも、ジェンダー暴力に関するリスクが抜け落ちている点が問題視される。金研究員は、命や身体の安全、基本的人権に重大な影響を与える、あるいは危険をもたらす恐れのあるAIシステムを定義する「高影響AI」カテゴリーにジェンダー暴力リスクを明記すべきだと主張した。デジタルジェンダー暴力に迅速に対応すべき政府機関の役割が各省庁に分散しているため、効果的な省庁間協力体制の構築も必要だと述べた。

金研究員は「省庁間の協力体制があるならば、協力義務や公開報告といった規定を整備すべきだ」と語り、「何がジェンダー暴力に当たるのか、そのリスクをどう測るかの基準となる『ジェンダー安全指標』を策定し、社会的議論を経て公にするプロセスも必要だ」と強調した。さらに「事後対応だけでなく、設計段階の予防にも目を向けるべきだ」として、法制度や慣行に偏った性平等政策の領域をAI技術の領域へと拡張する積極的な議論が求められると述べた。

デジタルジェンダー暴力の予防には、プラットフォームの役割と責任強化が欠かせない。二つ目の報告を行った鄭延珠（チョン・ヨンジュ）副研究員は、オンラインで流通する児童・青少年の性搾取物について、プラットフォームの協力なしに国家が効果的に流通を抑制するのは難しいと指摘した。違法情報発見時の通報・削除義務がプラットフォームに課せられているものの、事後対応だけでは流布防止に限界があると述べ、プラットフォームの責任性を強化する必要性を強調した。

海外では各国が異なるモデルを運用している。インドネシアは民間電子システム運営者規定（MR5）により、民間電子システム運営者に国家システムへの登録を義務づけ、プラットフォーム上に禁止情報が含まれる場合に制裁を科す枠組みを整備している。禁止情報が見つかり政府が削除命令を出しても履行されない場合、書面警告、罰金、システムアクセス遮断といった措置がとられる可能性がある。1月には児童・青少年の性搾取物の生成・流布で批判を浴びたAIチャットボット「グロック」がインドネシアで遮断され、その後運営側の再発防止策の提出を条件に条件付きで再開された事例がある。

EU（欧州連合）は、すべてのプラットフォームに同一の義務を課すのではなく、超大型プラットフォームにより重いリスク緩和義務を課す差異的な規制を採用している。超大型プラットフォーム（月間EU利用者4500万人以上）は、サービス設計やアルゴリズム、コンテンツ調整、広告システム、データ慣行がもたらすリスクを定期的に評価しなければならない。特に未成年者保護、違法コンテンツ拡散、基本権侵害、ジェンダーに基づく暴力といった構造的リスクを事前に評価・管理することが求められ、違反した場合は全世界売上の最大6％まで罰金が科され得る。

英国のオンライン安全法（OSA）は、未成年者に与える影響が大きい主要プラットフォームに対し、子どもを保護する法的義務を課し、サービス設計・運営全体で安全確保を求めている。規制当局であるオフコム（Ofcom）は、プラットフォームが実施すべきリスク評価や保護措置の具体的基準を提示し、履行状況を監督・評価する。オーストラリアでは通信相がオンライン安全に関する期待基準を設定し、オンライン安全局（eSafety Commissioner）が遵守監視、ガイドライン作成、通報・削除の監督・執行を担っている。期待基準には通報体制の整備、有害情報の最小化、児童が特定の有害情報にアクセスしないよう防ぐ予防的措置の導入などが含まれる。

鄭副研究員は「韓国で予防政策を設計する際には、海外の立法例を踏まえた検討が必要だ」と述べ、「規制方式を選ぶ際、成果重視で設計するのか持続可能な構造構築に重きを置くのかを検討し、プラットフォームの自主性と国家介入の度合いのバランスを取る必要がある」と語った。また「規制基準の明確性と柔軟性の調整、規制当局の役割と能力の設計が重要であり、基準を定める政府と執行・監督を担う専任機関の役割分担も重要だ。事前予防政策は民間と政府の双方による強い意思と責任分担が不可欠だ」と強調した。

`, ``, `` 등)는 그 형식과 내용을 `어떠한 변경이나 삭제 없이` `[first translated result]에 존재하는 그대로` 최종 번역 결과에 포함해야 합니다. * `특히` `기존` 속성(Attribute)의 `큰따옴표()`는 `어떠한 경우에도`, `단 하나도`, `절대` `생략하거나 변경해서는 안 됩니다.` `반드시 원본 형태 그대로` 유지해야 합니다.2. **`속성값` 처리 규칙 `강화` 및 `누락 속성` 추가**: * **`src` 속성값 `절대 보존 및 필수 확인`**: * `` 태그에 `src` 속성이 **`존재하는 경우`**에는 `[first translated result]`에 존재하는 `따옴표까지 포함하여` `절대` 변경되거나 유실되어서는 안 됩니다. **원본과 `100% 동일하게`** 최종 번역 결과에 반영해야 합니다. * 만약 `` 태그에 `src` 속성이 **`누락된 경우`**에도, `src=`를 `절대` `임의로 추가해서는 안 됩니다.` 원본의 구조를 그대로 유지해야 합니다. (`src`는 이미지 소스를 지정하는 필수 속성이므로, 누락 시원본 자체가 유효하지 않을 가능성이 높습니다.) * **`alt` 속성값 `강력 처리`**: * `` 태그 내 `alt` 속성을 처리할 때는 `다음 우선순위`를 따릅니다. 1. `alt` 속성이 **`이미 존재하고, 따옴표 안에 텍스트가 있는 경우`**(예: `alt=원본 텍스트`): **`따옴표는 유지하고`** 그 안の`テキストコンテンツ만`日本語로 번역します。 2. **`그 외의 모든 경우`** (예: `alt` 속성이 아예 없거나, `alt=` 형태가 아니거나, `alt=` 형태로 비어있는 경우 등): `웹 접근성`을 위해 **`무조건 alt=` 형태(`큰따옴표()` 포함)**로 **`새롭게 추가하거나 수정`**해야 합니다. 즉, `` 태그에는 `alt` 속성이 항상 `alt=텍스트` 또는 `alt=` 형태 중 하나로存在해야 합니다。 * **`title` 속성값 처리**: * `[first translated result]` 내에서 `title` 속성이 **`명시적으로 빈 문자열`(``)**로 지정된 경우, 이 **`` 문자열(`큰따옴표 두 개` `` `` `포함`된 그대로)**을 `절대` 삭제하거나 생략해서는 안 됩니다。 * `title` 속성값이 텍스트를 포함する場合(예: `title=이것은 제목입니다`), **`따옴표()`를 포함한 속성構造를 `그대로 유지`한 채 `따옴표 안의 텍스트コンテンツ만`日本語로 번역**해야 합니다。 * 만약 `title` 속성이 **`아예 없는 경우`**, `임의로 추가하지 않습니다.`3. **최종 `강력` 확인**: 번역이 완료된 후, `모든` HTML 태그와 속성명, 그리고 **`따옴표()`를 포함한 `모든 속성값`**이 `[first translated result]`에 존재하던 것と`正確に同じ` 유지되었는지, `특히` `src` 속성값은 `따옴표까지` `어떤 변경도 없이` 올바르게 포함되었는지, 그리고 `` 태그의 `alt` 속성이 위의 규칙에 따라 `올바르게 존재하거나 추가 및 수정`되었는지 `반드시, 최종적으로, 철저하게` 재차 확인해야 합니다。 Example of a special request that requires careful attention :

また、アームウォーマーのディテールのおかげで、まるでゲームの中のダークヒロインを思わせる印象を与え、ジゼルは時折壁に寄りかかりながらカメラを見つめたり、腕を上げて大胆な角度のシルエットを演出した。

このような破格なスタイリングはエスパ特有のガールクラッシュイメージを一層際立たせた。

一方、エスパは11月29日、香港・啓徳スタジアムで開催された『2025 MAMA AWARDS』チャプター2でベストコレオグラフィー、ベストダンスパフォーマンス女性グループ、ベストフィメールグループなど3冠に輝き、グローバルな舞台で存在感を再確認した。