AI ガバナンス ガイド

AI ガバナンスは、組織が使用する AI を安全で準拠し、コスト管理を維持します。 Azure Databricksでは、Unity AI Gateway は AI のコントロール プレーンです。 すべてのモデルと MCP 要求をルーティングし、レート制限とコスト制御を適用し、サービス ポリシー (ガードレールとも呼ばれます) を適用し、モデル プロバイダーとコーディング エージェント全体の使用状況を記録します。 Unity Catalog は、モデル、MCP サーバー、関数など、その背後にある資産を、データに使用するのと同じ権限とポリシーで管理します。 その結果、AI 用の個別のアクセス モデルは保持されません。

このガバナンスは、Azure Databricksホストされているリソースだけでなく、外部 AI にも適用されます。 同じ方法で以下を管理します。

  • Claude Code、Cursor、Codex、Gemini CLI などの外部コーディング エージェントは、Azure Databricks モデル サービスを介してルーティングします。
  • Unity カタログ MCP サービスとして登録されている外部 MCP サーバー。
  • OpenAI、Anthropic、Google などの任意のプロバイダーの外部モデルが Unity AI Gateway 経由でアクセスされます。

このガイドは、ワークスペースとアカウント管理者が初めて AI ガバナンスを設定するためのガイドです。 完了すると、チームは AI を生産的に使用でき、Azure Databricksはルールを自動的に適用します。

実践的な開始については、チュートリアル「コーディング エージェントのGitHubアクセスを管理する、またはモデル サービスのコンテンツをモデレートする」に進んでください。

Azure Databricksでの AI ガバナンスのしくみ

Unity カタログは、Azure Databricksの AI ガバナンスの基盤です。 AI 資産は、データを管理するのと同じ方法で、セキュリティ保護可能なリソースとして管理されます。 Unity AI Gateway は、これらの資産へのトラフィックのコントロール プレーンであり、サービス ポリシーによって各要求と応答のコンテンツが管理されます。 AI ガバナンスは、次の 3 つのディメンションに及びます。

  • アセットガバナンス:Unity Catalogは、すべてのモデル、MCPサーバー、関数、接続をセキュア可能なオブジェクトとして管理し、テーブルやボリュームで使うのと同じ権限と ABAC GRANT ポリシー で管理します。
  • トラフィック ガバナンス: Unity AI Gateway は、すべてのモデル サービスと MCP サービス要求を中央コントロール プレーンからルーティングし、レート制限、予算、使用状況追跡を適用します。
  • 動作ガバナンス: サービス ポリシー は、呼び出し元と要求と応答に含まれる内容に基づいて、個々の要求と応答の承認を許可、拒否、または要求します。

エージェントがツールまたはモデルを呼び出すと、Azure Databricksは要求を認証し、Unity カタログに対して承認し、外部システムに到達する前に Unity AI Gateway 経由でルーティングします。

コーディング エージェントは、Databricks Unified Auth を介して認証を行い、ユーザーに代わって Unity AI Gateway に要求を渡します。これにより、Unity カタログに対して承認され、DBSQL や Genie などの内部 MCP ツール、および外部 MCP サーバーと LLM プロバイダーにルーティングされます。

前提条件

AI ガバナンスを設定する

AI 資産、トラフィック、サービス動作全体のガバナンスを設定し、それが機能することを確認します。 Unity AI GatewayとUnity Catalogのアセットガバナンスは一般的に利用可能です。 サービスポリシーはベータ段階で、Unity AI Gateway プレビューを有効にする必要があります。これは以下のサービスポリシーステップで説明されています。

ステップ1:Unity Catalog内のAI資産へのアクセスを管理

Unity CatalogはAI資産をセキュア可能なオブジェクトとして管理するため、テーブルやボリュームと同じ権限と ABAC GRANT ポリシー でアクセス権を付与・取り消すことができます。 次の 2 つの主要な AI 資産に焦点を当てます。

  • MCP サービス: ツールのフィルター処理とサービス ポリシーを使用して、Unity カタログセキュリティ保護可能なリソースとして登録されている MCP サーバーへのアクセスを管理します。 Unity カタログの MCP サービスを参照してください。
  • モデル: Azure Databricksホストされた基盤モデルを含む、登録済みの ML モデルへのアクセスを制御します。 「モデルのライフサイクルの管理」を参照してください。

Unity カタログでは、エージェントがツールとして使用する 機能 も同じ権限で管理されます。 エージェントでツールを使用する場合、MCP サービスは、ツールのフィルター処理やサービス ポリシーなど、最も豊富なガバナンスを提供します。

各プリンシパルに必要な特権のみを付与します。 AI 資産へのアクセスによって、ユーザーに代わって行動するエージェントが到達できる範囲が決まります。

ステップ2:Unity AIゲートウェイでAIトラフィックのルーティングと制御を行う

Unity AI Gateway はエージェント コントロール プレーンです。 これにより、組織が使用するモデルと MCP サービスにトラフィックがルーティングされ、コスト制御が適用され、同じ Unity カタログ ガバナンス レイヤーを介して 1 か所から使用状況が記録されます。

  1. Unity AI Gateway のしくみと作業を開始する方法を確認します。 Unity AI Gateway を使用した AI ガバナンスに関する説明をご覧ください。
  2. AZURE DATABRICKSホスト型モデルや外部プロバイダー モデルなど、LLM のモデル サービスを作成します。 モデルAPI の作成および管理(モデルサービス)を参照してください。
  3. Azure Databricks モデル サービスでコーディング エージェントをポイントすると、そのトラフィックは Unity AI Gateway を通じて管理およびコストが発生します。 コーディング・エージェントとの統合を参照してください。
  4. 容量と制御コストを保護するために、レート制限と支出上限を設定します。 「 モデルおよびMCPサービスへのレート制限適用」を参照してください。
  5. 付与、ツールの選択、サービス ポリシーを使用して、Unity カタログ MCP サービスとして登録されている MCP サーバーへのアクセスを管理します。 MCP サービスを使用したサード パーティ製ツールへのエージェントの接続に関する説明を参照してください。

ステップ3:リクエストや応答にサービスポリシーを適用する

Important

サービスポリシーは ベータ版です。 Unity AI Gatewayは一般に利用可能ですが、ベータ機能は別途有効化されています。 アカウント管理者は、アカウントコンソールのプレビューページからUnity AI Gatewayのベータ機能をオンにする必要があります。 Manage Azure Databricks プレビューを参照してください。

資産とトラフィックを管理したら、個々の要求と応答の内容に関する制御を追加します。 サービス ポリシー (ガードレールとも呼ばれます) は、AI サービスを対象とする 属性ベースのアクセス制御 (ABAC) ポリシー の一種です。 サービス ポリシーをモデル サービスまたは MCP サービスにアタッチして、コンテンツに基づく対話の承認許可拒否、または要求します。 たとえば、PII を含む要求をブロックしたり、ポリシー外ツールの呼び出しを拒否したりします。

Azure Databricksには、PII、プロンプトインジェクション、安全でないコンテンツなどの一般的なリスクに対するサービス ポリシー (ガードレール) が組み込まれています。また、カスタム コンテンツを作成することもできます。 AI セキュリティ保護可能なリソースのサービス ポリシーサービス ポリシーの作成とアタッチに関する説明を参照してください。

ステップ4:使用状況とコストの監視

ガバナンスが機能していることを確認し、時間の経過と同時にアクティビティを追跡します。

  • モデルと MCP の使用状況 (だれがいつ何を呼び出したかを含む) を管理された 使用状況テーブルで追跡します。
  • モデル、プリンシパル、タグ全体の コスト を分析します。
  • 推論テーブル内の完全な要求ペイロードと応答ペイロードを検査します。

Tutorials

チュートリアルを使用して、次の機能を実際に実行します。

次のステップ

  • サービス ポリシーが要求と応答の内容を制御する方法について説明します。
  • 完全なモデル サービスと MCP サービス ガバナンスのための Unity AI Gateway について説明します。