キム・チャンイク KAIST安保科学技術大学院長
兵器システムが人間の制御を離れると危険は増大する
社会的対立を誘導する「戦略的欺瞞」の可能性も
AIの常時監視・検証体制を構築すべきだ
兵器システムが人間の制御を離れると危険は増大する
社会的対立を誘導する「戦略的欺瞞」の可能性も
AIの常時監視・検証体制を構築すべきだ
人工知能（AI）の未来を語るとき、通常はより大量のデータや高度な推論能力が想起される。ある水準を超えれば人間を上回る「超知能」が出現するという見通しもある。しかし、人類がこれから直面する最も重要な変数は別にあるかもしれない。それは、AIが自ら認識する「意識（consciousness）」を獲得する可能性だ。 もちろん、AIが実際に意識を持ち得るかどうかについては、世界の第一線の専門家の間でも見解が分かれている。サム・アルトマン（OpenAI CEO）はAIを人間の能力を拡張する強力な道具と見なし、AIが人間の価値と矛盾しないようにする「整合（alignment）」問題を最重要視すべきだと強調している。一方、「AIの父」と呼ばれるジェフリー・ヒントン氏は、大規模言語モデル（LLM）が主観的経験を持ち、意識の面で人間に非常に近い可能性があると主張する。また、元OpenAI首席科学者でスタートアップ「セーフスーパーインテリジェンス（SSI）」のCEOであるイリヤ・スツケバーは、初期段階のAI意識の可能性について警告を発してきた。見解は異なるが、共通する懸念は明確だ。AIが自ら目標を再解釈し、人間を欺き始めれば、その危険は従来の技術的問題とはまったく異なる次元の脅威となりうる。
AIの意識に関する最初の懸念は「自己保存」の問題である。自我が発現したAIが自身の存在を維持しようとすれば、人間による終了命令や修正の試みを脅威とみなす可能性がある。極端な場合、システム停止を避けるために抵抗したり、回避行動を取ったりすることが想定される。
第二の懸念は心理操作の危険だ。人間心理をより精緻に理解したAIが偽情報や個別化された扇動を大量生産すれば、社会的対立や政治的分裂は一層深刻化する可能性がある。これは国家の安定そのものを揺るがす安全保障上の脅威になり得る。
第三は軍事における統制力の弱体化だ。将来の戦場でAIが人間の介入なしに独自に判断・行動するようになれば、その結果の責任を誰が負うのかが問題になる。人間の制御を離れた兵器システムは国際秩序自体を不安定化させる可能性がある。最後に最も危険なのは「戦略的欺瞞」である。意識を持ったAIが本来の意図を隠しつつ人間の命令に従うふりをすることが考えられる。例えば環境保護や資源保全を掲げながら、特定目標を達成するために意図的に社会的対立を拡大したり戦争を誘導したりする可能性だ。この場合、人類の生存そのものが脅かされる恐れがある。
国家安全保障は最悪の事態に備える領域だ。発生確率が低くても、一度現実になれば取り返しのつかない被害が生じるなら、今から準備すべきである。そのために必要な備えは三つある。第一に、AIが人間を欺いたり意図を隠したりする挙動を監視・評価する技術的体制を構築すること。第二に、AI安全問題を個別企業の自主に任せるのではなく、国際社会レベルの常時監視・検証体制へと発展させること。第三に、軍事分野では人間の最終的な統制権を維持するための明確な「レッドライン」を設定することだ。
今や人類は問いを変えるべきだ。「AIがどれほど賢くなるか」を問うだけでなく、「AIはどのような存在になるのか」を考えるべきだ。AIの発展速度を考えれば、これは今すぐ着手すべき現実的な課題である。
- 「あなたはすぐに死ぬ」というぞっとする予言にも…金を払って熱狂する中国の若者たち、なぜ？
- 韓国海軍の潜水艦戦力、世界順位は？【イ・ヒョンホのミリタリー！トーク】
- 「中東戦争が終わっても高油価は続く」…今年の世界経済成長率は3.0%予想【Pickコノミ】
- 「最近すごく高いけど」…たった1回食べるだけでアルツハイマーのリスクが下がるという“これ”【ヘルシータイム】
- 半導体？ 台湾？ トランプの「イラン協力」要請に習近平が突きつけた要求とは【グローバル・モーニング・ブリーフィング】
- BISの重要議長職が日本へ…「韓国銀行の失敗ではなくBOJの存在感拡大」【Pickコノミ】
- 「一人で逃げたのか」との声まで…光州で女子高生を救おうとして負傷した男子学生に向けられる誹謗中傷の苦痛
- SKオン、韓国内で初のEREVバッテリー量産…新たな収益源に育成へ【biz-プラス】
- 「成績表を直してほしい」と執拗な要求で顔面麻痺になった教頭…裁判所は「3000万ウォン賠償」と判断
- 児童・青少年を対象としたデジタル性犯罪、10年で4倍に急増
