AI活用に取り組む企業が同時に見直すべきセキュリティ対策

【提言】AIエージェントの“暴走”を防ぐには　安全なAI業務活用には対策が不可欠

2026年08月25日 11時00分更新

企業ビジネスの現場にAIが浸透し始めたなかで、新たな脅威も生まれています。これからさらにAIサービス、AIエージェントの活用を推進していくためには、そうした脅威に対応するための新たなセキュリティ戦略が必要です。元IDC Japanアナリスト、現フォーティネットジャパン Field CISOの登坂恒夫氏による提言です。

　AI活用が進むなかで、サイバーセキュリティ上の新たな懸念も生まれています。前回記事（【提言】フロンティアAIが生む“脆弱性パッチの波”　企業はパッチ適用プロセスの見直しを）では「最先端のAIがもたらす脅威への備え」について、解説と提言を行いました。引き続き今回は、企業が取り組むべきもうひとつの対策である「自社におけるAI安全活用のルール」を考えてみます。

　ビジネスの現場で急拡大するAI利用を、企業は安全に保護しなければなりません。そのためには「シャドーAI（会社が承認していないAI利用）」のもたらす脅威への対処をはじめ、業務の自動化を推進するAIエージェントが“暴走”する脅威、自社でAIモデルを構築する際の脅威などにも、新たなセキュリティ戦略を立てる必要があります。

コンプライアンス違反も、「シャドーAI」が企業にもたらすリスク

　IT調査会社のガートナーの発表（2026年6月）によると、ユーザー部門が選定した生成AIの利用を認めている国内企業は75％に達する一方で、73％が「シャドーAIを有効に管理できていない」のが実態です。

　現在の企業では、Microsoft CopilotやGoogle Gemini、ChatGPTといったクラウドAIサービス（SaaS）を“会社公認のAIサービス”として採用するケースが増えています。一方で、会社が利用を認めていないAIサービスを、社員が勝手に利用するケースも増えています。このように、会社が業務利用を認めておらず、利用実態も把握／管理できていないAIサービスを「シャドーAI」と呼びます。

　会社がAIサービスの利用規約や品質などをチェックしていないシャドーAIは、企業のビジネスに深刻なリスクを引き起こすことがあります。個人情報や機密情報をAIサービスに入力することで生じる情報漏洩だけでなく、プライバシー法などの法規制に対するコンプライアンス違反、ハルシネーション（誤情報）による業務品質の低下や企業への信頼喪失、意図しない著作権侵害／知的財産権侵害による法的トラブルの発生、さらにはアカウントの乗っ取りやマルウェア感染などのリスクまで高まります。

　そのため、企業は社員のAI利用を適切に管理し、シャドーAIの発生を防がなければなりません。