【アイニュース24、アン・セジュン記者】専門のハッカーが手作業で行えば数日かかる作業を、AIはわずか10分余りである企業のサービスに対するセキュリティ上の脆弱性を7件見つけた。
8日、チェ・ウヒョク 科学技術情報通信部 情報保護ネットワーク政策室長はバックブリーフィングを開き、アンストロピックの生成型AIモデル「クラウドオパス4.7」を用いて特定企業のサービスに対する模擬侵入を行った結果、そのようになったと明らかにした。
このバックブリーフィングは、同日科学技術情報通信部が非公開で実施した「サイバーセキュリティプロジェクト対応策に関する産学連携専門家懇談会」の直後に設けられた。この場で業界や専門家の意見聴取と併せて侵入デモが行われた。政府は懇談会の内容を公開する予定はなかったが、国民に詳細に説明する必要があるとのペ・ギョンフン副首相の指示により、予定外のブリーフィングが実施された。
チェ室長は模擬侵入デモについて、専門ハッカーレベルの人材がAIを活用した場合と一般の社員が活用した場合を比較したところ、プロンプティング能力によって結果の差が大きかったと述べ、一般人が手作業で侵入を試みるよりもはるかに速く侵入が行われる可能性があることを確認したと説明した。
政府はAIを基盤とするサイバー攻撃の可能性に対応するため、今月末か6月初めに中長期対策の方向性を公表する方針を打ち出している。アンストロピックのプロジェクト「グラスウィング」参加の有無にかかわらず、大規模な脆弱性発見に備えたパッチ体制、セキュリティ特化型AIモデル、独自ファウンデーションモデル（独ファンデーションモデル）の活用などが検討されている。
チェ室長は懇談会で、ミトスのような高性能AI基盤システムがサイバーセキュリティ分野にかなりの変化をもたらすとの意見が多く示された一方で、一部には過大評価だという見方もあったと伝えた。続けて、AIを活用したサイバー攻撃の可能性が高まっているため、従来のパラダイムだけで対応するのは困難だという認識は共有されたと述べた。
以下、チェ・ウヒョク室長との一問一答である。
−AIで実際のサービスを攻撃したデモは、具体的にどのような内容だったのか。
特定のソリューションに対する脆弱性を探すのではなく、企業が運営している実際のサービスに対する脆弱性を発見し、侵入に至る過程をデモした。例えば、ホームページ内の認証バイパスのような脆弱性が代表例だ。これを通じてアカウントを確保し、そのアカウントを用いてサイトにアクセスする一連の過程がAIによって再現された。
−実際に既存のパスワードを知らなくても新しいパスワードを生成して突破した事例はあったのか。他の脆弱性発見事例は。
あった。該当企業の同意を得て脆弱性点検を行い、その過程で確認された実例だ。脆弱性は合計で7件程度発見された。
−アンストロピックが主導するサイバーセキュリティ連合体「プロジェクト・グラスウィング」への参加意向はあるのか。オープンAIのセキュリティ協議体TACへの参加意向はあるのか。
グラスウィングプロジェクトへの参加についてはアンストロピックと引き続き協議している。TACには国内からの参加が確認されているが、具体的な企業や機関、参加数については当該主体への確認が必要だ。政府レベルでの参加の有無についても追加確認が行われる予定だ。
科学技術情報通信部は、韓国国内の民間分野における情報保護レベルを高められるのであれば、あらゆるプロジェクトへの参加を模索している。政府の対応策は別途検討中で、5月末か6月初めに公表する対策に関連事項が含まれる可能性がある。
−グラスウィングプロジェクトは、国内企業が個別に参加する方式なのか。政府機関を通じた方式なのか。
現時点で公表されている情報によれば、グラスウィングには52の企業・機関が参加しているとされている。英国AI安全研究所（AISI）やLinux財団のような機関も含まれ、企業も参加している。韓国政府レベルではAI安全研究所やKISAを通じて確認と接触を行っている。国内企業の個別の動きは別途扱われている。
−セキュリティ特化型モデルや独自ファウンデーションモデルは現実的な代替策となり得るのか。
本日の会議でも独自ファウンデーションモデルを持つ企業が参加して議論した。セキュリティ主権の観点から国内独自のAIシステムを活用する必要性に対する共感は示された。ただし、どの程度まで、いつまで可能かを評価するのは依然として難しい。現時点ではセキュリティ特化型モデルの必要性に対する共感が形成された段階だと判断している。
−国家情報院や安全保障室などと範政府的な協力も行われているのか。
民・官・軍の体制で安全保障室を中心に一定部分の指揮が行われている。範政府的に対応が進められていると言える。民間分野の対応は科学技術情報通信部が担当している。アンストロピックのグラスウィングに関してはAI安全研究所やKISAを通じて接触が行われている。
