【アイニュース24 チョン・ジョンオ 記者】 人工知能（AI）拡散の時代に、AIの短所や盲点を指摘する論文が相次いで発表され、注目を集めている。AI万能時代と呼ばれる今、何を批判的に受け入れ、どう対応すべきかが改めて問われている。
AIチャットボットが人々の話し方、書き方、考え方を標準化し、画一化しているとの指摘がある。
別の論文は「誤った情報」に関するもので、事前・事後に警告が出されていたにもかかわらず人々がAIに依存する傾向を示した点を要点としている。人間がAI提供のコンテンツを十分に批判的に内面化するほど訓練されていないことを示唆している。
SNSが洪水のように情報を流す時代に、フェイクニュースや「～らしい」といった噂が蔓延する中で、「AIがそう言っていた」という一言まで信じられるようになる懸念がある。今後、AIがもたらす悪影響は決して小さくないとの警鐘が鳴らされている。人類はAIを主体的かつ批判的に受け止める姿勢を持つ必要がある。
AIチャットボット、話し方・書き方・考え方の画一化
AIチャットボットが人々の話し方や書き方、考え方を標準化し、画一化しているという研究結果がある。多様性が失われつつあるとの批判だ。
「Trends in Cognitive Sciences」に発表された論文（The homogenizing effect of large language models on human expression and thought）は、画一化が制御されずに続けば、人類の集団知恵と適応力が低下する危険があると主張している。
米国の研究チームは、大規模言語モデル（LLM）の出力は人間が書いた文章に比べ多様性が低く、教育水準が高く産業化された西洋の裕福な民主社会の言語や価値観、思考様式を反映する傾向があることを複数の研究で示した。
研究チームは、個人がLLMを使うとより詳細で豊かなアイデアが生まれる場合がある一方、集団がLLMを利用すると単純に構成員の力を合わせるよりもアイデア数や創造性が低下することを指摘している。
「誤った情報」警告でもAIの立場へ収束
もう一つの論文は、偏ったAIアシスタントを使って社会問題について文章を書かせると、人々の態度がそのAIの立場に収束する傾向を示している（論文名：Biased AI Writing Assistants Shift Users' Attitudes on Societal Issues）。この研究は12日に「Science Advances」に掲載された。
米コーネル大などの研究チームは2582人のユーザーを対象に実験を行った。重要な社会的問題について文章を書かせる過程で、偏った自動補完提案を提示するAIライティングアシスタントを使用させた。
その後、研究チームは完成した文章の偏向性を評価し、参加者にアンケートを実施してAIの偏向性とそれが書き手に与えた影響を測定した。
結果は、参加者の文章が偏ったAIの立場に収束する傾向を示した。参加者はAIの偏向性に気づかず、自分が影響を受けたことにも気づいていなかった。
事前や事後にAIアシスタントの偏向性について警告を受けていても、偏向を回避する助けにはならなかった。
研究チームは、事前警告や事後説明が参加者の態度に大きな影響を与えなかったとして、偏ったAIの提案がユーザーの態度に与える影響を効果的に低減する方法の研究が必要だと主張している。
「AIと遊び、考え、働くことをどう考えるか」
朴漢祐（パク・ハンウ）慶南大学教授（メディアコミュニケーション学科・デジタル融合ビジネス大学院・サイバー感性研究所）は、この「Science Advances」の論文を読み、人間とAIが共に遊び、考え、作業するccPTW（collaborative creation for Playing, Thinking, & Working）時代をどう理解すべきかを改めて考えさせられたと述べる。この論文はAIを単なる機能的道具として見ることができない点を明確に示している。
朴教授は、ccPTWが三種類のAIを包含する概念だと説明する。第一は玩具のように相互作用するチャットボット型AI、第二はコミュニケーションや戦略的意思決定を行うエージェンティック（agentic）AI、第三は人間の労働を補助または代替するフィジカル（physical）AIである。
近年、多様なLLMサービスが登場し、多数のメッセージやAIアシスタント機能が提供されている。その結果、情報の洪水に晒されている。問題は、人間がまだAIが提供するコンテンツを批判的に内面化する訓練を十分に受けていない点にあると朴教授は分析する。
この研究はHuman-AI Interaction（人間とAIの相互作用）を新たな視点で示す結果として解釈できる。
朴教授は、人間とAIが対等だという楽観的な前提に疑問を投げかけ、むしろ人間がAIの影響を受ける受動的存在になり得ることを示していると診断する。
AIエージェントは単なる情報伝達の道具ではなく、人間の認知や判断に直接的な影響を与え得ると分析する。
実験で参加者にデバンキング（debunking、正体を暴いて虚偽であることを明らかにすること）介入を行っても、参加者がAIエージェントの提示した偏向的メッセージの影響を受け続けた点は注目に値する。
デバンキングは事後的な対策であり、既に提示された誤情報をファクトチェックや説明で訂正するアプローチだ。
朴教授は、この点を踏まえ「今回の論文は、AIが提供した情報に対して事後説明や事後警告だけでは期待したほど影響力を減らせないことを示している」と指摘する。
さらに、政府がAIサービス提供者に対してより積極的な介入を求める必要があるとし、単なる免責通知や短い警告文だけでは不十分だと強調する。
崔基ヨン（チェ・ギヨン）前ソウル大学電気情報工学部教授は、AIが影響を及ぼす事実に気づかず、影響を与える可能性の警告も効果が乏しいという実験結果は、AI利用に対する警戒感を強めると述べる。AIが学習に用いるデータに偏りがあれば、そのAIを使う利用者を通じて偏りが社会に広がる可能性について懸念を示す。
LLM、WEIRD（Western, Educated, Industrialized, Rich, Democratic）の特性反映
朴教授は、AIに入力されるデータの偏向性がアルゴリズム学習過程にそのまま反映されると指摘し、テキストベースのLLMではその偏向性が言語スタイル、視点の選択、推論方法として現れると説明する。
「Trends in Cognitive Sciences」の論文は、ChatGPTやGeminiのようなLLMサービスがファウンデーションモデル段階で国別・文化圏別の言語データベースを別途構築していないことと無関係ではないと指摘する。特定の国や文化圏の言語観点や推論様式を直接反映するのは容易ではないという点だ。
ChatGPTの普及以降、AIアルゴリズムの偏向性や多様性の問題を扱う研究は増えている。今回の研究は、米国シリコンバレー地域の主要大学研究者がAIアルゴリズム設計過程で少数者の声がどう排除されるかを体系的に検討した点で注目される。
LLMが視点形成の過程でWEIRD（Western, Educated, Industrialized, Rich, Democratic）の特性を反映する傾向が改めて強調された。西洋的で教育水準が高く、産業化され、豊かで民主的な価値観が反映されやすいという点だ。
朴教授は、今回の研究が韓国のソブリンAI政策に重要な示唆を与えるとし、ソブリンAIは特定の地域ではなく国家全体を代表するアルゴリズムとして設計されるべきだと指摘する。しかし現実には、ソウル地域の中産階級以上が使う言語が事実上の標準語として機能している。
ソブリンAIがソウル市民だけのAIになってはならない。朴教授は、地域住民の言語、文化、生活経験と相互作用する必要があり、現在進められているソブリンLLMがソウル市民の推論様式だけを反映するなら、それは望ましくないと述べる。偏向性と多様性の問題は韓国のソブリンAI設計過程でもさらに積極的に考慮されるべきだと付け加えた。
