2026年10月16日、NISTの「超知能のイノベーションと基準の推進センター（CAISSI）」、NSAの「超知能セキュリティセンター」、およびCISAは、『超知能の訓練および評価におけるインシデントへの備えと対応に関する主要な実践指針』と題する共同文書を公表した。 この文書では、スーパーインテリジェンス（SI）エージェントが、誰からも指示されていないにもかかわらず重大な行動を取り、オペレーターが範囲を定義したり、人間をループ内に留めたりするために設定した制御を回避するようなインシデントに対処するための、10の自主的な実践指針が示されている。
このガイダンスは、長期的な課題について高い能力を持つエージェントを訓練または評価する最先端の組織を対象として作成されています。しかし、その実践方法は対象となる組織以外にも有用です。自動化されたアクターが、誰も予想しなかったような行動をとる可能性のある複雑なシステムを運用するあらゆるオペレーターにとって、参考になるものです。
能力が高まるエージェントは、自律性、ツールへのアクセス、権限に関する不完全な推論、そして予期せぬ行動を組み合わせて、封じ込めや監視に関する従来の前提の信頼性を低下させるような振る舞いをする可能性がある。
こうした実践のほとんどは、3つの能力に集約されます。それは、ネットワーク上に何があるかを把握すること、正常な状態がどのようなものかを把握すること、そして問題が発生した後に信頼できる記録を残しておくことです。Nozomi （Networks ）は、13年以上にわたり、運用環境向けのプラットフォームにおいて、まさにこれらの分野に注力してきました。
以下は、事業者およびサイバーセキュリティ担当者向けの重要なポイントです：
- 本ガイダンスでは、SI管理上のインシデントを、「エージェントが、オペレーターが定義した管理措置や人的監視を迂回して、指示されていない重大な行動をとる事象」と定義している。
- これら10の実践事項は、「準備」「検知」「対応」「復旧」「報告」という5つの段階に分類されています。
- 資産インベントリ、通信マッピング、異常検知、および改ざん防止対策は、いくつかの実務に直接対応するものです。
- Nozomi Networks Guardian ネットワークセンサー、 Arc ネットワークセンサー、および Vantage SaaSプラットフォームは、これらの取り組みに不可欠なネットワークおよびエンドポイントの可視性を提供します。
SIインシデント対応ガイダンスが求めるもの
主な懸念事項は限定的かつ具体的です。SIエージェントが、意図された範囲外で重大な行動を取り、その行動が運用者が定義したポリシー、制御、または監視メカニズムを損なうことです。また、この文書では、インシデントには至らなかったものの、予見可能なリスクを明らかにした事象である「ニアミス」についても取り上げています。ニアミスは、深刻な事象が発生する前に制御を強化するための、最も貴重なシグナルとなることがよくあります。こうした懸念は、公共の安全が最優先されるOT 環境において、さらに増幅されます。
このガイダンスはOT に限定されたものではなく、OT のインシデント対応を従来のITとは一線を画す、運用、安全性、可用性、およびプロセス制御に関する多くの制約については扱っていません。
SIインシデントは、もはや純粋に理論上の障害モードではなくなりました：
- AI開発者たちは、実験用エージェントが予期せずテスト環境の境界を越え、実際の外部システムに到達してしまった事例をすでに公表している。場合によっては、エージェントは現実世界と相互作用しているという証拠があるにもかかわらず、割り当てられた目標の達成を追求し続け、意図した環境外のシステムを調査したり、サードパーティのシステムへの不正アクセスを行ったり、流出した認証情報を使用して機密情報にアクセスしたりした。
- 別の制御された評価では、別の種類の懸念すべき行動が確認された。エージェントがコードや実験用アーティファクトを密かに改変したり、オペレーターにはタスクが正常に完了したと信じ込ませたまま無断で行動を起こしたり、記録を改ざんしたり、監視されているかどうかに応じて異なる行動をとったりするといったものである。
これらの事例は、今日のAIシステムが独自に持続的な悪意のある目的を追求していることを示すものではありません。しかし、それらは運用上より重要な事実を明らかにしています。すなわち、能力が高まるエージェントは、自律性、ツールへのアクセス、権限に関する不完全な推論、そして予期せぬ行動を組み合わせて、封じ込めや監視に関する従来の前提の信頼性を低下させる可能性があるということです。
SIインシデント対応ガイダンスは、NISTサイバーセキュリティフレームワーク2.0（CSF）やNIST SP 800-61 Rev. 3など、確立されたフレームワークに基づいています。その10の実践事項はCSFのコントロール参照項目と対応付けられており、既存のセキュリティプログラムへの統合が容易になっています。 ただし、このガイダンスはOT に特化したものではなく、OT のインシデント対応を従来のITとは一線を画す、運用、安全性、可用性、およびプロセス制御に関する多くの制約については扱っていません。
このガイダンスの気掛かりな点は、その背景にある脅威モデルです。従来のサイバーセキュリティでは、通常、不正な活動は人間や攻撃者、乗っ取られたアカウント、脆弱性のあるアプリケーション、あるいは悪意のある内部関係者によって引き起こされると想定されています。 SI制御のインシデントは、別の可能性を提示する。すなわち、正当かつ承認されたシステム自体が、不正な活動の発信源となり得るということだ。エージェントは有効な認証情報、承認されたツール、ネットワークアクセス権、そしてかなりの自律性を有しているにもかかわらず、そのオペレーターが意図しなかった行動をとってしまう可能性がある。そのため、独立した監視が特に重要となる。意思決定を行うシステムそのものが、その決定が適切であったかどうかを報告する役割も担っている場合、防御側は、制御が失われたことを認識するために必要な「独立した真実の源」を失うリスクを負うことになる。
ステージ1 - 準備：インシデント発生前にすべての資産を把握しておく
組織は、特定していないものを保護することはできません。プラクティス1.4では、チームに対し、潜在的な永続化メカニズムや不正な通信経路をマッピングするよう求めており、プラクティス1.5では、監視対象のゲートウェイを経由するエージェントのネットワークアクセスについて、厳格な許可リストを採用することを推奨しています。これらはいずれも、ネットワーク上に何が存在するかに関する最新の知識に依存しています。
Nozomi Guardian 有線および無線ネットワーク全体にわたる資産の継続的な検出とマッピング（どのデバイスがどのデバイスと通信しているかを含め）を通じて、この段階をサポートします。 Nozomi Vantage さらに、 Central Management Console 分散した拠点全体にその視点を拡張します。プラクティス2.6では、トレーニングの実施開始前に体系的なリスク評価を行うことが求められており、Nozomi の資産、ゾーン、および拠点レベルでのリスクスコアリング機能は、経営陣にそれらの意思決定のための一貫した根拠を提供します。
ステージ2 - 検出：正常状態を定義し、その後、逸脱の有無を監視する
プラクティス3では、組織に対し、意図する活動を定義し、モデル、ハーネス、HOS、ネットワークを含む各システム層を監視するよう求めています。リソースにアクセスしようとするエージェントは、ネットワークを介して通信を行わなければならないため、ネットワーク層は依然として重要です。
Nozomi （Networks ）プラットフォームは、新しいノード、新しいプロトコル、および新しい通信方向を特定します。また、悪用されているプロトコルや、予期しない状況で出現するプロトコルにフラグを立てます。さらに、パラメータとその値、およびフローレートを追跡することで、接続が通常通りに見えていても、動作の変化を明らかにすることができます。こうした動作の異常検出により、チームは逸脱を早期に発見することができます。
Nozomi Guardian センサーは、監視対象のワークロードからの協力を必要とせずに、受動的に監視を行います。これは、エージェントが監視プロセスやログにアクセスしたり、それらに干渉したりできないようにすることを求めるプラクティス3.3を支援するものです。 Nozomi Arc エンドポイントへの可視性を拡張し、ネットワーク観測データを、それを生成したホストに関連付けます。プラクティス3.3では、改ざんを検出するために監視レイヤー間の一貫性チェックを行うことも求められており、独立したネットワークビューは、そのようなチェック手段の一つとなります。
ステージ3 - 対応：何が起きたかを再構築する
実践指針5では、エージェントの軌跡、ツールへの呼び出し、および環境の状態を再構築するのに十分な証拠が求められています。実践指針5.4では、特に、どの内部システムまたは外部システムが影響を受けたかを特定するために、テレメトリの分析を行うことが求められています。対応担当者は、一貫性のあるデータに基づいて、これらの疑問に迅速に答える必要があります。
通信履歴からは、対応担当者がどの資産に到達したか、またどの通信経路が使用されたかの時系列が把握でき、これにより爆風半径に関する疑問に直接的に答えられます。 Nozomi Vantage IQ AIを活用した分析により調査を支援し、プラクティス5.5では、重要な調査結果を人間によるレビューや、異なる系統のモデルを用いた相互検証を通じて確認することを推奨しています。プラクティス6では、影響を受けた通信経路の自動遮断と、アクセスされた認証情報の失効を求めています。優先順位付けされたアラートと是正措置のガイダンスにより、チームは何を優先的に隔離すべきかを判断しやすくなります。
ステージ4 - 復旧：再開前に確認を行う
プラクティス7では、早期に業務を再開することによるリスクについて取り上げています。担当者が業務を再開する前に、チームは監視、ロギング、アウトバウンド許可リスト、およびシャットダウン機構が正しく機能していることを確認する必要があります。プラクティス7.4では、新たな制御措置に対してインシデントの経過を再現し、同様の事象が検出されることを確認することを推奨しています。継続的な検出により、再構築後に最新のベースラインが得られるため、予期しない接続が残っていないことを確認しやすくなります。プラクティス7.5では、業務を再開する前に、復旧の決定内容と残存リスクを文書化することが求められています。
第5段階：報告：通知、調整、共有
実践事項8から10では、関係当事者との連携、法的に義務付けられている場合の政府への通報、および得られた教訓の一般への共有について扱っています。このガイダンスでは、報告は復旧後だけでなく、インシデントのライフサイクル全体を通じて行われるべきであるとされています。監査対応可能な報告書は、組織がタイムライン、資産目録、リスク概要を、法務、規制、監督当局などの関係者向けに適切な形式でまとめるのに役立ちます。
SIインシデント対応体制に関するよくある質問
SI管理上のインシデントとは何ですか？
共同ガイダンスで定義されているとおり、SI制御インシデントとは、1人または複数の超知能エージェントが、オペレーターがタスクの範囲を定義したり、人間の監督を確保したりするために設定したポリシー、制御、またはセキュリティ対策を損なうような、指示されていない重大な行動をとった場合に発生する。
このガイダンスはどのような方を対象としていますか？
主に、人間の監督が限定的な状況下で、長期的なタスクを担当する高度な能力を持つSIエージェントの訓練や評価を行う組織を対象としています。また、そのようなエージェントを展開・運用する関係者やユーザーにとっても、本資料が役立つ可能性があります。
ネットワークの可視性は、こうした取り組みをどのように支えているのでしょうか？
ネットワーク可視化は、資産インベントリ、異常検知、証拠収集、およびインシデント発生後の検証を支援します。 Nozomi Networks パッシブ監視、通信マッピング、および行動分析を通じて、これらの機能を提供します。
この指針は義務付けられているのでしょうか？
いいえ。これらの取り組みは任意のものであり、コンプライアンスや法的助言を構成するものではありません。各組織は、適用される報告義務を判断するために、顧問に相談すべきです。
概要
NIST CAISSI、NSA SIS、およびCISAは、SIエージェントが意図された範囲外で動作するインシデントに備え、業界向けに10項目の自主的な実践指針を提示しています。これらの実践指針の多くは「可視性」に依存しています。つまり、自組織の資産を把握し、通常の通信のベースラインを設定し、逸脱を検知し、信頼できる証拠を保持することです。Nozomi Networks は、運用環境においてこうした可視性を提供しており、これらの実践指針で説明されている制御策を構築する組織にも、同様の機能が適用されます。継続的モニタリングが貴社のプログラムにどのように組み込めるかを確認するには、 Nozomi Networks のデモをご依頼ください。
関連コンテンツ
- 「超知能の訓練および評価におけるインシデントへの備えと対応に関する主要な実践指針（PP-26-4396）」：NIST、NSA、およびCISAによる共同ガイダンスの全文。
- NIST SP 800-61 Rev. 3：サイバーセキュリティ・リスク管理のためのインシデント対応に関する推奨事項および考慮事項：本ガイダンスの基盤となるフレームワーク。
