グーグル内部でAIの軍事利用を巡る対立が再燃した。560人超の従業員がサンダー・ピチャイCEO宛てに公開書簡を送り、AI技術が米軍の機密作戦に用いられることを拒否するよう求めた。
27日（現地時間）ブルームバーグによれば、従業員らは書簡で「AIは人類のために使用されるべきであり、非人道的または深刻な被害を引き起こす方法で活用されてはならない」と強調した。
とりわけ致命的な自律兵器と大規模監視システムを名指しし、こうした危険を根本から断つには「機密環境でのAI活用そのものを拒否することが唯一の方法だ」と主張した。
この動きは、国防省とAI企業の対立が激化するなかで浮上したものだ。競合のアンソロピックは、モデル提供の過程で自律兵器や大規模監視への利用を制限する「ガードレール」を要求したが、そのやり取りを巡り供給網リスクに指定されるなど圧力を受けた。
こうした状況で、グーグルが国防省と『ジェミナイ』の機密利用を認める方向で交渉を進めていると報じられると社内の反発が本格化した。従業員らは特に、機密システムではAIの利用方法に対する監視や制御が事実上不可能である点を問題視した。
書簡には、グーグルのAI研究組織であるディープマインドの人員が主導的に参加しており、署名者の約40％がAI部門、残りはクラウドやその他の組織に所属するとされる。
またディレクターや副社長級を含む上級幹部も多数参加しており、内部の不満を超えて組織全体の懸念が反映されているとの見方だ。
グーグル内で軍事協力への反発が起きるのは今回が初めてではない。2018年にも従業員が米国防省のドローン映像解析プロジェクトである『プロジェクトメイヴン（Project Maven）』への参加に反対して行動し、結果的にグーグルは契約を延長しないことを決めた。その後、グーグルはAI原則を掲げ、武器開発や監視技術への使用を行わない立場を示した。
だが最近、グーグルは社内規定から「武器および有害技術の開発を避ける」という一文を削除し、立場を緩めた。これについてディープマインドのデミス・ハサビスCEOは「AI環境が急変したため、国家安全の観点から技術企業の役割も変わった」と説明した。
従業員らはこの変化が企業の倫理基準を弱めるおそれを懸念している。ある関係者は「AIに基づく大規模監視は市民の自由を直接脅かす可能性がある。これは理論上の危険ではなく、すでに現実で起きている問題だ」と指摘した。
パク・チャン記者 cpark@aitimes.com
