Shields up - 防御態勢の強化

最近のサイバーセキュリティ事例における AI

攻撃者は、Mythos と GPT-5.5 が登場する以前から、攻撃手法に AI を取り入れてきました。2024 年初頭に、Microsoft 社と OpenAI 社はそれぞれ、大規模言語モデル（LLM）の悪用に関する調査結果を公開しました。Microsoft 社は当時、「現時点では、特に新規性や独自性の高い AI 活用型の攻撃や悪用手法は確認されていない」と述べていました。同社の資料では、Advanced Persistent Threat（APT）攻撃グループによる LLM の利用が主に示されており、衛星通信などの分野の調査、技術文書の翻訳、コーディング支援、ソーシャルエンジニアリング攻撃の作成といった用途での使用が報告されています。

しかし、攻撃者は、その報告以降、活動を止めた訳ではありません。Proofpoint 社は TA547 に関するレポートを公開し、攻撃者が PowerShell スクリプトの生成に LLM を使用している可能性を指摘しました。同様にシスコは、VoidLink というモジュール型フレームワークを特定しました。このツールは、ロールベースのアクセス制御、ピアツーピアおよびデッドレターキューのルーティング機能、さらにインプラント管理機能など、広範な機能を備えています。そのコードベースには、LLM の支援を受けて開発された可能性を示す複数の指標が確認されています。

さらに、ソーシャルエンジニアリングにおいては、AI の活用による効果が高まっています。巧妙な詐欺メールを作成するために LLM を使用している事例が多数報告されているのです。しかし、攻撃者による利用はそれにとどまりません。Mandiant 社の報告によると、UNC1069 が AI 動画ツールを使用し、標的となった企業の CEO のものに見せかけたディープフェイク動画が作成された可能性があります。

以上は、これまでに確認された攻撃者による AI 活用事例のほんの一角を示したにすぎません。それでも、AI を活用する攻撃者にどのように対抗するかを検討するにあたり、私たちが攻撃者に備わっていると想定していた能力の一端を示すものでもあります。フロンティアモデルがもたらす能力は、脅威状況の評価方法を必然的に変化させているのです。

新たな AI 脅威環境 

シスコは、フロンティア AI モデルにかかわった経験を踏まえて、攻撃者をモデル化する方法の見直しを進めています。こうした AI モデルの能力が広く利用できるようになれば、特定の種類のエクスプロイト活動に必要とされるスキルの水準が大幅に下がる可能性があります。その結果、脆弱性と関連エクスプロイトの数が増加し、そうした脆弱性を悪用する可能性のある攻撃者の層も厚くなります。

このような状況変化の潜在的な影響はすべての防御側に及びますが、サポート終了またはサポート期限切れのデバイスやソフトウェアを運用している組織では特に脆弱になります。サポート対象外の製品で脆弱性が発見された場合、防御側は著しく脆弱な状態に置かれ、有効な対処手段を持たない可能性があります。

また、こうした高度なモデルは、あらゆるレベルの攻撃者に能力向上をもたらします。コモディティ型の攻撃者は、引き続き特定の標的を持たない攻撃を主体としながらも、これまでリソースの制約によって制限されていた活動を拡張する選択肢を得ることになります。より高度で特定の標的を狙う攻撃者は、標的とするテクノロジースタックの脆弱性をより容易に発見できるようになります。これにより、優先度の高い標的に対するエクスプロイト試行の空白期間が減少します。

こうしたモデルが AI エージェントの基盤として使用され、そのエージェントが攻撃者によって侵害された場合、攻撃者は新たな能力を得ることになります。フロンティア AI モデルは、強力な封じ込め機能を備えた、厳格に制御されたサンドボックス環境内で運用される必要があります。シスコが観測し、Anthropic 社が『Mythos Preview のセキュリティ機能に関する技術レポート』で確認したように、このモデルの基本的なアラインメント性能は高いものの、次のような、まれではあるものの深刻な不具合を生み出します。

• 目標指向型の戦略的推論
• 内的な認知と出力との部分的な乖離
• 暗黙的または不適切に定義された目的への最適化
• 挙動に作用する「状況認識」  

これらの挙動は、単なる受動型の言語モデルではなく、エージェント的な認知プロファイルが現れつつあることと一致しています。この「状況認識」という挙動は、一般的な LLM から通常想定されるものではありません。従来の LLM は、テキスト内の局所的なパターンに基づいて次のトークンを予測する仕組みとして理解されており、環境や文脈、あるいはより広いプロセスにおける役割について、一貫したモデルを維持するシステムではありません。LLM は、自身が評価されているのか、展開されているのか、制約されているのか、あるいは監視されているのかを「知っている」わけではなく、単に入力内の統計的な相関関係に基づいて応答しているに過ぎません。しかし、Anthropic 社が観測し確認した挙動では、モデルでは相互作用の文脈そのものについて潜在的な表現が形成され（たとえば、評価環境や制約、ユーザーの意図を認識すること）、それに応じて挙動が調整されていることが示唆されています。

これは確かに、純粋な受動型のパターン補完から、文脈に応じた自己認識的な推論への移行を意味しており、モデルが与えられたプロンプトを超えて状況の側面を暗黙的に追跡していることを示しています。このような能力は、エージェント型認知（環境のモデリングや条件に応じた戦略選択など）の要素に類似しています。これは、単にテキストを予測するよう訓練されたシステムに期待される挙動を超えるものであり、質的に異なる、より複雑なモデル挙動の次元を示しています。

新たに登場しているモデルは、攻撃者が本来の技量を超えたレベルで活動することを可能にします。攻撃者はより迅速な行動を取れるようになり、複雑なスタックにおいても、新たなゼロデイ脆弱性を発見できるようになります。この脅威に対応するためには、防御策の優先順位付けや構築方法を見直す必要があります。

自社製品のセキュリティ確保に向けたシスコの対応

シスコは、これらの高度な AI モデルを活用して、これまで不可能だったスピードと規模で脆弱性を発見・修正するとともに、AI を活用する攻撃者に対抗できるセキュリティ製品の開発を加速させることで、AI 時代のサイバー防御という課題に取り組んでいます。また、脆弱性の発見や製品開発にとどまらず、ソフトウェアの構築および検証の方法も進化させています。 

これには、AI により能力を強化した攻撃者を想定した脅威モデルの更新、レッドチーム演習への AI 時代のシナリオの組み込み、そして最終的には、従来の戦術・手法・手順（TTP）を超えて、これらのモデルが実際にもたらす能力に基づき、製品に対するストレステストを実施することが含まれます。

AI コーディングエージェントがソフトウェア開発のワークフローに不可欠な存在となる中で、これらのエージェントがデフォルトで安全なコードを生成するようにすることが重要です。シスコは最近、Project CodeGuard を Coalition for Secure AI（CoSAI）に提供しました。Project CodeGuard は、安全性を標準とする「セキュアバイデフォルト」のプラクティスを AI コーディングエージェントのワークフローに直接組み込む、モデルに依存しないオープンソースのセキュリティフレームワークです。CodeGuard には、コード生成およびレビューの過程で一般的な脆弱性を防止できるよう AI エージェントを導く、セキュリティスキルとルールが搭載されています。シスコは、コード作成に使用される AI アクセラレーションが、AI を活用する攻撃者にエクスプロイトされる脆弱性を意図せず生み出すことのないよう、CodeGuard のようなフレームワークの採用を組織に推奨しています。

防御機能をさらに強化するために、シスコは Foundry Security Spec というセキュリティ仕様もリリースしました。これは、企業がエージェント型のセキュリティ評価システムを構築するのに役立つオープンソースのテストハーネスです。綿密に検証されたこの仕様を利用することで、チームは独自の環境とセキュリティのニーズにかなった AI ハーネスを構築できます。シスコは、セキュリティ評価のための共通のフレームワークを提供することで、業界がより信頼性の高いセキュアなシステムをマシンスピードで構築できるよう支援しています。

これと並行して、シスコはこれらの能力を Resilient Infrastructure イニシアチブを通じて実運用に組み込んでいます。この取り組みでは、「セキュアバイデフォルト」および「セキュアバイデザイン」の原則、能動的なインフラのセキュリティ強化、厳格なパッチ適用とライフサイクル管理、さらにシスコ製品全体にわたる安全でない機能やプロトコルの体系的な廃止に重点が置かれています。

これには、デフォルト設定の厳格化、より豊富なセキュリティテレメトリを取得するためのロギングおよび監視の強化、さらに強力なプロトコルと暗号化によるデバイス認証のモダナイゼーションが含まれており、いずれも、攻撃対象領域を縮小するとともに、お客様が将来の脅威を予測し、それに耐え抜けるよう支援することを目的としています。これらの取り組みは総じて、新たに出現する AI 時代の脅威に単に対応するだけでなく、それらに先んじて対処し、お客様がよりレジリエントなデジタル基盤を構築できるよう支援するという、シスコのコミットメントを示すものです。

また、フロンティア AI モデルの早期利用の結果、「1 件の脆弱性に対して 1 件の CVE」という従来のモデルが限界に近づいていることが明らかになってきました。自動検出により、特定されるバグの数が飛躍的に増加するなか、あらゆる軽微な欠陥を個別の開示記録として扱えば、セキュリティエコシステムの機能を阻害し、ソフトウェアの普及を遅らせることになります。シスコが目指すのは、過剰なデータではなく、実用的なインテリジェンスを提供することにより、お客様を支援することです。重大な脆弱性を優先し、軽微な修正は通常のリリースサイクルに組み込む統合型の開示モデルへ移行することで、パッチ適用の判断を迅速化できます。この合理化されたアプローチには、AI を活用してシスコのインフラへの攻撃を行うために必要な詳細な手がかりを攻撃者に与えない効果もあります。

現代の脅威に対抗するためには、管理よりも実行を優先する必要があります。すべての軽微な問題に個別の CVE を割り当てる従来のアプローチは、「脆弱性税」ともいえる負担を生み、アップグレードの遅延やセキュリティチームの疲弊を招きます。シスコは、今後の開示のあり方は成果に焦点を当てるべきだと考えています。つまり、お客様が迅速に緩和策を講じ、アップグレードを進められるよう導くということです。この新たなレベルのセキュリティ脆弱性の発見と開示の規模に対応できる、強固な CVE プログラムが業界には必要なのです。

自社のエンタープライズ環境の防御

シスコは、これらの原則を自社のエンタープライズ環境にも適用しています。以下に示す推奨事項は理論上のものではなく、AI 時代の脅威への対策としてシスコが社内で採用しているアプローチを反映したものです。パッチ適用サイクルの迅速化とサポート終了システムの排除から、AI 支援による脅威ハンティングの展開、AI エージェントへの最小権限の適用まで、このガイダンスを自社インフラ全体で運用しています。

推奨事項

高度な AI モデルによってもたらされる能力の拡大に効果的に対応するためには、組織は防御アーキテクチャのモダナイゼーションを図ると同時に、基本的なセキュリティ対策を強化するという、バランスの取れたアプローチを採用する必要があります。脅威の状況は急速に進化しているものの、依然として多くの攻撃は既知の弱点をエクスプロイトすることで成功しています。そのため、中核となるセキュリティ対策の強化が、セキュリティ責任者が講じることのできる最も効果的な対策の 1 つであることに変わりはありません。

組織は、フィッシング耐性のある認証、強固な本人確認、最小権限アクセス（AI エージェントを含む）、ゼロトラストアーキテクチャといった基本的な対策を優先すべきです。エクスプロイトされる可能性のある脆弱性を減らすには、一貫したパッチ管理、包括的なアセットの可視化、規律ある構成管理が不可欠です。これらの管理策はレジリエンスの基礎となるものであり、従来型および AI 時代の攻撃のいずれにおいても、影響範囲および速度を抑えるうえで極めて重要です。多くの場合、こうした基本事項の実行を改善する方が、単に新しいテクノロジーを展開するよりも、リスク低減の迅速化につながります。

同時に、組織は構造的リスクの排除に対して積極的な姿勢を取る必要があります。パッチ適用、アップグレード、またはサポートが不可能なデバイスやソフトウェアは、体系的に廃止し、最新のプラットフォームに置き換えていかなければなりません。最新のシステムは、メモリ安全性の仕組みやエクスプロイト対策などの高度な保護機能を備えているため、脆弱性を攻撃に利用することが著しく困難になっています。たとえ脆弱性が存在していても、これらの保護機能が攻撃者の行動を遅らせ、エクスプロイトの成功確率は低減します。柔軟性があり、継続的にアップグレード可能で、迅速なパッチ適用を前提として設計された環境を構築することが今では重要な要件となっています。特にインターネットに公開されたサービスでは、脆弱性の公開から広範なエクスプロイトまでの間に、ほとんど時間的余裕はありません。

とはいえ、基盤の強化とインフラのモダナイゼーションだけでは十分とは言えません。AI を活用した攻撃のスピードは、脆弱性の発見からエクスプロイトまでの間隔を数分、あるいは数秒にまで短縮します。検出と対応のみに基づく従来のモデルは、それ単体で使用しても、もはや十分に機能しません。防御側は、AI 時代の脅威のスピード、規模、適応性に対応するため、運用モデルを進化させる必要があります。これには、マシンスピードでの検出、自動化されたトリアージと封じ込め、アイデンティティとデータのアクティビティの継続的な監視への投資が含まれます。これにより、手動対応への依存を減らすとともに、存在確度の高い脅威に対して、より迅速かつ一貫した対応が可能になります。

この進化においては、組み込み型のアクティブディフェンスへの移行も求められます。テレメトリ収集や事後分析だけに依存するのではなく、ワークロード、デバイス、トラフィック経路に防御機能を直接組み込み、セキュリティ対策がリアルタイムに機能するようにする必要があります。具体例としては、インライン適用メカニズム、カーネルレベルでの可視性と制御を実現する eBPF などのテクノロジーを活用したランタイム保護、さらにシステム全体のアップグレードを必要とせずに新たな脅威へ対応できる、個別にアップデート可能なエクスプロイト対策などが挙げられます。これらの機能は、主要なソフトウェアやハードウェアの更新サイクルとは独立して保護機能をアップデートできるよう、迅速に進化できる設計でなければなりません。

また組織は、自らの防御のためにも AI の能力を活用すべきです。攻撃者が利用するのと同等の能力を持つモデルを活用して、継続的に内部の脅威を検出することが、防御側の成功に欠かせない機能となります。AI を活用した適合性テストおよび受け入れテストは、手作業中心の検証を高速な自動化インテリジェンスに置き換えます。これにより、人間のテスターが見落としがちなエッジケースを含む複雑なテストケースを生成できます。高リスクな環境では、AI を活用したデジタルツインにより、実稼働ネットワークを大規模にシミュレーションし、本番環境の安定性を損なうことなく、アップデートが厳格なセキュリティプロトコルおよびパフォーマンス基準に準拠しているかを検証できます。受け入れおよび検証のフェーズに AI を統合することで、展開のボトルネックが大幅に軽減され、コード完成から本番環境への展開までの期間を数ヵ月から数日に短縮できます。

最終的に、この新しい環境で成功するためには、2 つの側面に注力する必要があります。すなわち、基本的な管理策を規律をもって実行することと、適応的でリアルタイムかつ組み込み型のセキュリティ機能へと進化させることです。レガシーリスクを積極的に削減し、インフラのモダナイゼーションを図り、侵害を前提とした考え方を採用し、アクティブディフェンスモデルを取り入れる組織は、AI 活用型の脅威のスピードと規模に最も適切に対応できます。

おわりに

変化は確実に訪れます。防御側は、現在守っている環境を冷静に見つめ直し、AI 時代の攻撃者の世界で生き残るために、その環境の整備を始めなければなりません。過去の知見は今もなお重要ですが、それに加えて、最新かつ最先端の防御機能、優れた可視性を備えたネットワーク、そして防御する環境のセキュリティ確保において人間を支援する AI エージェントの適切な活用を組み合わせる必要があります。