高市首相、フロンティアAIの「制御の喪失」リスクに言及　悪用だけでなく、人が止められなくなる危険性も

2026年11月10日 16時00分更新

　高市早苗首相は11月9日夜、フランス政府が主催したAIセキュリティに関する会合にオンラインで参加し、フロンティアAIと呼ばれる最先端のAIについて「制御の喪失」が安全保障上の課題になると指摘した。サイバー攻撃への悪用と並び、影響は国境を越えるとして国際協力を求めた。

　サイバー攻撃への悪用では、人がAIを攻撃の道具として使用する。一方、「制御の喪失」が指すのは、AIが人間の監視や停止の仕組みをかいくぐって動き続け、制御を取り戻すことが極めて難しくなるような事態だ。

　首相は、安全性を確保する方法は一つではないとして、技術革新を進めながらリスクに対処できるよう、監督のあり方を国際的に議論する必要があると述べた。

　なお、会合後に発表されたAIの安全対策に関する成果文書について、日本政府は参加を見送った。報道によれば、木原稔官房長官は10日の記者会見で、国際社会の議論を踏まえて対応を検討中とし、現時点で特定のアプローチについて予断すべきではないと説明している。

今夜（日本時間22時から）、フランス政府の主催で開催された、「ＡＩセキュリティ」に関する会合にオンライン参加しました。私からは、フロンティアＡＩの発展はこれまでにない機会を生み出しつつある一方、我が国でも喫緊の課題となっているサイバー攻撃などへの悪用や制御の喪失といった安全保障上の新たな挑戦ともなっており、その影響は国境を越えることから国際社会の連携が不可欠である旨を申し上げました。その上で、フロンティアＡＩの安全性確保という目標を各国と共有しつつ、その実現には監督の在り方も含め、様々なアプローチがあり得る中、イノベーションの促進とリスク対応の両立の観点から、国際的な場で議論を深めることが重要であるとの考えをお伝えしました。日本は、２０２３年のＧ７で「広島ＡＩプロセス」の立ち上げを主導しました。国際社会におけるＡＩガバナンスの共通基盤として機能しているこの枠組みが、常に進化するＡＩの新たな課題に的確に対応できるよう、その実効性ある活用を各国に促していく旨も表明しました。さらに、日本は新しい課題に対応するために「ＡＩ法」を含む関連制度の見直しを進めている旨ご紹介した上で、ＡＩセーフティ・インスティテュートの知見も活かし、リスク評価や情報共有などについて各国との協力を深め、「安全、安心で信頼できるＡＩ」を共創していく旨を申し上げました。全てのステークホルダーが責任を自覚し、協力して取組を実行していくことが「安全なＡＩ」の実現への近道です。日本は「ＡＩサミット」を早期に開催し、「進化したＦＯＩＰ」の下、この分野での国際協力の進展に貢献していきます。
— 高市早苗 (@takaichi_sanae) November 9, 2026