Unity AI Gateway を使用した AI ガバナンス

Unity AI Gateway は、エンタープライズ AI のAzure Databricks ガバナンス ソリューションです。 Unity カタログ上に構築され、データと AI 資産を超えたガバナンスを、モデル、エージェント、MCP サーバー、およびツール間のランタイム対話に拡張します。 使用できる AI サービス チームを制御し、AI トラフィックのルーティングと管理、ガードレールの設定、1 つのコントロール プレーンからの使用状況の監視を行います。

Azure Databricks は、Foundation Model APIs を通じて大規模言語モデル(LLM)をネイティブに提供しているため、インフラを実行することなく、GPT、Claude、Gemini などのモデルをトークンごとの従量課金で利用できます。 また、外部モデルプロバイダーを接続し、同じアクセス制御とトラフィック管理を通じてAPIにルーティングすることも可能です。

概要

AI 資産、トラフィック、サービスの動作全体に AI ガバナンスを設定して適用します。

トピック Description
チュートリアル:Unity AI Gatewayでコーディングエージェントのモデルアクセスを制御する 外部コーディングエージェントをガバナンスされたモデルサービス経由でルーティングし、誰がモデルにアクセスできるかを制御し、エージェントの消費と支出に上限を設定します。
チュートリアル: コーディング エージェントの GitHub MCP アクセスを管理する Unity カタログのアクセス許可と組み込みのサービス ポリシーを使用して、GitHub MCP ツールへのコーディング エージェントのアクセスを制限します。
チュートリアル:モデルサービスにサービスポリシーのガードレールを追加する 組み込みのカスタム サービス ポリシーを使用して、モデル サービスにガードレールを実装します。
チュートリアル:ユーザー、チーム、プロジェクトごとの財団モデル支出の追跡 サービスタグやリクエストタグを使って、ユーザー、チーム、プロジェクトにコストを割り当てることでLLM支出ドライバーを特定します。

AIサービスへのアクセス管理

AI 資産を Unity カタログのセキュリティ保護可能なオブジェクトとして登録し、テーブルとボリュームに使用するのと同じ権限でアクセス権を付与および取り消します。 エージェントは、同じセキュリティ保護可能なリソースを通じて管理されます。エージェントは Unity カタログ モデルとして登録され、呼び出されるツールは MCP サービス、関数、接続として管理されます。

トピック Description
モデルAPI クエリ基盤モデルは設定なしで system.ai ネイティブに提供され、Unity Catalogの権限を通じてアクセスを管理します。
外部モデルプロバイダー OpenAIやAnthropicのようなプロバイダーをBring Your Own Key(BYOK)と連携させ、1つの管理ポイントで管理しましょう。
Models Azure Databricksで提供される基礎モデルを含む登録済みモデルを統治し、Unity Catalogの権限を持つ。
Foundation モデルのアクセス許可 組織がアクセスできるAzure Databricks対応の基礎モデルを、アカウント全体またはグループごとの制限を設けましょう。
MCP ツール ツールのフィルター処理とサービス ポリシーを使用して、Unity カタログセキュリティ保護可能なリソースとして登録されている MCP サーバーを管理します。
カスタム ツール エージェントがツールとして使用する Unity カタログ関数を、データに使用するのと同じ特権で管理します。
HTTP 接続 外部 API と MCP サーバーに到達するために使用される Unity カタログ接続を管理します。
カスタムモデルAPIの作成 オプション:すぐに使える system.ai デフォルトを超えたモデルが必要なときに、自分でガバナントされたエンドポイントを追加できます。

AI トラフィックのルーティングと管理

Unity AI Gateway は、中央コントロール プレーンからモデルと MCP サービスに要求をルーティングするため、プロバイダー間で容量、可用性、支出を管理できます。

トピック Description
レート制限を適用する 容量とコストを管理するために、モデル サービスと MCP サービスに使用制限を適用します。
トラフィックの分割とフォールバックを構成する リクエストを複数のモデル宛先に分散させ、フェイルオーバーを追加して可用性を高めましょう。
スマートルーティングによるコーディングタスクのルーティング 各コーディングタスクに最適なモデルとハーネスを自動的に選択し、品質を損なうことなくAIの支出をコントロールできます。
予算を管理する 支出を監視し、ユーザーごとのしきい値とハード キャップを設定します。

ガードレールとアクセス ポリシーを設定する

サービス ポリシー (ガードレールとも呼ばれます) は、各要求と応答の進行方法を、その内容と呼び出しを行うユーザーに基づいて制御します。

トピック Description
AI の保護対象に関するサービスポリシー 組み込みポリシーとカスタム ポリシーを使用して、サービス ポリシーが AI サービスへの要求と応答の内容を管理する方法。
サービス ポリシーを作成してアタッチする サービスポリシー関数を書き、それをMCPサービスやモデルサービスにアタッチする方法。

使用状況、コスト、およびリスクを監視する

すべての Unity AI Gateway サービスのアクティビティ、支出、結果を追跡します。

トピック Description
監視の概要 AIの使用状況、コスト、パフォーマンス、サービス全体の活動を監視する適切なツールを選びましょう。
使用状況の監視 システムテーブルを使ってUnityのAIゲートウェイ全体でリクエスト、トークン使用、遅延を追跡できます。
コストの分析 Azure Databricks のコストをサービス、ターゲット モデル、プリンシパル、タグに配分します。
リクエストと応答を監査する 監視とデバッグのために、Unity カタログ デルタ テーブルへの要求と応答をログに記録します。