Azure AI セキュリティのベスト プラクティス

この記事では、特に Azure で人工知能 (AI) ワークロードをセキュリティで保護するためのベスト プラクティスについて説明します。 組織が前例のない速度で AI 機能を導入する場合、セキュリティ チームは、AI の使用状況を事前に把握し、リスクを軽減するための適切な制御を実装する必要があります。

この記事では、Azure 固有の AI のセキュリティに関する考慮事項について説明します。 組織戦略、ガバナンスフレームワーク、AIセキュリティライフサイクル全体を含む包括的でプラットフォームに依存しないAIセキュリティガイダンスについては、Microsoft Securityドキュメント内の「Security for AI」をご覧ください。

本記事は、AI共有責任モデルおよびAIエージェント共有責任モデルの補完版であり、AIワークロードと自律エージェントに関するあなたとMicrosoft間のセキュリティ責任の分担について説明します。 Azure Policy の適用に関する規範的なセキュリティ制御については、「 Microsoft Cloud Security Benchmark v2 - 人工知能セキュリティ」を参照してください。

AI ワークロードと使用状況の可視性を有効にする

AI ワークロードをセキュリティで保護する前に、組織内で使用および構築されている AI アプリケーションを可視化する必要があります。

  • Microsoft Defender for Cloudを使って、Azure環境でAIワークロードを発見しましょう。 Defenderクラウドセキュリティ・ポスチャー・マネジメント(CSPM)プランは、生成AIのBill of Material(AI BOM)を発見し、組み込みのセキュリティ推奨事項、攻撃経路分析などのAIセキュリティ・ポスチャー管理機能を提供します。 詳細については、「 Defender for Cloud を使用した AI セキュリティ体制管理」を参照してください。

  • Microsoft Defender for Cloud Appsを使ってSaaS AIアプリケーションを発見しましょう。 Defender for Cloud Appsのカタログには、1,000以上の生成AIアプリが含まれています。 リスク評価の表示、アプリの承認またはブロック、新しい AI アプリを検出するためのポリシーの作成を行うことができます。 詳細については、「 検出されたアプリの管理」を参照してください。

  • Microsoft Entra エージェント IDでAIエージェントのアイデンティティを追跡できます。 Microsoft Entra エージェント IDは、Microsoft Copilot StudioおよびAzure AI Foundryで作成されたエージェントIDの統一ディレクトリを提供し、エージェントのライフサイクルや権限管理を支援します。

Azure OpenAI サービスのデプロイをセキュリティで保護する

Azure OpenAI サービスは、強力な言語モデルへの REST API アクセスを提供します。 これらのデプロイをセキュリティで保護することは、データを保護し、誤用を防ぐために重要です。

  • ネットワーク隔離のためにプライベートエンドポイントを使用してください。 Azure OpenAI Serviceをプライベートエンドポイントに設定し、パブリックエンドポイントを廃止し、仮想ネットワークへのアクセスを制限します。 詳細については、「 Azure OpenAI のネットワークとアクセスの構成」を参照してください。

  • 認証にはマネージドIDを使用してください。 APIキーの代わりにMicrosoft Entra管理型IDを使って認証できるように設定し、シークレットの管理やローテーションの必要性を排除します。 詳細については、「 Microsoft Entra ID 認証を使用して Azure OpenAI サービスを構成する」を参照してください。

  • 多層的なコンテンツフィルタリングを実装しましょう。 複数の段階でコンテンツフィルタリングを展開し、深層防御を構築する:

    • 入力フィルタリング:Azure AI Content Safetyを使って、プロンプト注入や脱獄攻撃を含む悪意のあるコンテンツのプロンプトを分析します。
    • 出力フィルタリング:Azure OpenAIのコンテンツフィルタリングを設定し、配信前に有害な回答をブロックします。
    • APIゲートウェイ制御:Azure API Managementを使ってレート制限とスキーマ検証を強制します。

詳細については、「 コンテンツ のフィルター処理 」と 「Azure AI Content Safety」を参照してください。

  • 安全性メタプロンプトを使ってモデルの挙動を導きましょう。 モデルの役割を明確に定義し、悪意ある入力を拒否する明示的な指示を含め、ユーザー入力よりもシステム命令を優先するようモデルに指示するシステム設計プロンプトを用意します。 スポットライト手法を使用して、プロンプト内で信頼されていないデータを分離し、 Prompt Shields を統合して脱獄の試行を検出します。

  • 診断ログで使用状況を監視しましょう。 APIリクエスト、トークン使用状況、コンテンツフィルタリング結果、エラーを追跡するための診断ログを有効にしてください。 分析とアラートのために Azure Monitor にログを送信します。 詳細については、「 Azure OpenAI の監視」を参照してください。

Azure AI Foundry と Azure Machine Learning のセキュリティ保護

Azure AI Foundry と Azure Machine Learning には、AI アプリケーションを構築してデプロイするためのプラットフォームが用意されています。 これらの環境をセキュリティで保護するには、ネットワークの分離、アクセス制御、モデル ガバナンスに注意する必要があります。

  • マネージドネットワークの分離を活用しましょう。 Azure AI FoundryハブやAzure Machine Learningワークスペースを作成し、依存サービスやアウトバウンドトラフィック制御のためのプライベートエンドポイントを提供する管理された仮想ネットワークを活用しましょう。 詳細については、「 Azure AI Foundry のマネージド ネットワークの分離 」および「 Azure Machine Learning のプライベート エンドポイントを構成する」を参照してください。

  • 最小権限アクセス制御を実装してください。 RBACは組み込みの役割を活用して設定し、プロジェクトレベルやワークスペースレベルで権限を割り当てます。 AI エージェント ID 管理には Microsoft Entra エージェント ID を使用し、エージェント関数アクセスにスコープ付きの有効期間の短いトークンを適用します。 詳細については、「 Microsoft Foundry のロールベースのアクセス制御」を参照してください。

  • 承認されたAIモデルのみを展開しましょう。 Azure Machine Learningモデルレジストリを使って、モデルの出所、検証状況、承認履歴を追跡できます。 自動スキャンを構成して、モデルの整合性を検証し、デプロイ前に敵対的な入力に対してテストします。 "[プレビュー]: Azure Machine Learning デプロイでは、承認されたレジストリ モデルのみを使用する必要があります" Azure Policy をデプロイして、ガバナンスを適用します。 詳細については、「モデルの 管理とデプロイ」を参照してください。

  • コンピューティング リソースをセキュリティで保護する。 パブリックIPを持たない計算インスタンスの設定、マネージドID認証の使用、共有クラスタのユーザー隔離、顧客管理鍵によるディスクの暗号化など。 詳細については、「 Azure Machine Learning トレーニング環境のセキュリティ保護」を参照してください。

AI 固有の脅威保護を実装する

AI ワークロードは、プロンプトインジェクション、脱獄攻撃、モデル操作など、固有の脅威に直面しています。 AI 用に特別に設計された脅威検出と継続的なテストを実装します。

  • Microsoft Defender for Cloud AI脅威保護を活用しましょう。 AI サービス用 Microsoft Defenderを展開し、プロンプトインジェクション攻撃、機密データ露出、異常なAPI使用パターンを検出しましょう。 詳細については、「 Microsoft Defender for Cloud を使用した AI 脅威保護」を参照してください。

  • 継続的なAIレッドチーミングを導入しましょう。 専門的なツールを用いて定期的な対抗テストを実施しましょう:

デプロイ前にセキュリティを検証するために、赤いチーミングを CI/CD パイプラインに統合します。 MITRE ATLAS、LLMアプリケーション向けのOWASP Top 10、エージェントAI向けのOWASP Top 10の既知の攻撃パターンに対してテストを行います。

  • 重要なアクションには人間がループに関わるシステムを採用しましょう。 外部データ転送やシステム設定の変更などの高リスクAI操作には、Azure Logic AppsやPower Automateを使用して、実行前に人間のレビューと承認のために一時停止するワークフローを設計してください。

  • リスクの高いAI使用パターンを監視しましょう。 リスクのあるAI使用ポリシーテンプレートとMicrosoft Purview インサイダー リスク管理を使い、AIに関連するリスク活動を検出・調査しましょう。 詳細については、「 Insider リスク管理ポリシー テンプレート」を参照してください。

AI の相互作用で機密データを保護する

AI アプリケーションは、多くの場合、機密データと対話します。 データの損失を防ぎ、コンプライアンスを確保するためのデータ保護コントロールを実装します。

  • AIにはMicrosoft Purview データ セキュリティ態勢管理(DSPM)を活用してください。 DSPM for AIはAI活動のインサイト、プロンプト内のデータを保護するための即利用可能なポリシー、過剰情報共有のリスク評価を提供します。 詳細については、「 AI のデータ セキュリティ体制管理」を参照してください。

  • 感度ラベルとDLPポリシーを適用してください。 Microsoft PurviewのセンシティブラベルをAIアプリケーションがアクセスするデータに拡張し、AIプロンプト内の機密データを検出・ブロックするためのDLPポリシーを設定しましょう。 詳細については、機密ラベルの使用開始をご覧ください。

コンプライアンスのための AI の管理

AI アプリケーションは、規制要件と組織のポリシーに準拠している必要があります。

  • 責任あるAI制御を導入しましょう。 公平性、透明性、プライバシー、説明責任に関するMicrosoftの責任あるAI原則に従いましょう。 詳細については、「 Microsoft Responsible AI Standard」を参照してください。

  • 監査記録の維持。 AIサービスの監査を有効にする:Microsoft Purview 監査はCopilotとのやり取りをキャプチャし、Azure MonitorはAzure AIサービスの利用状況を追跡し、Defender for Cloud AppsはSaaS AIの活動を監視します。 詳細については、「 監査ログ アクティビティ」を参照してください。

次のステップ

  • Last updated on