モデル API(モデル サービス)を管理する

メモ

Unity AI Gateway は、Azure Governmentではサポートされていません。

モデルAPIは、大規模な言語モデルへのガバナードアクセスを提供します。 リクエストを送れば返答が返ってくるだけで、インフラを動かす必要がない。 デフォルトでは、すべてのアカウントユーザーは設定なしで system.ai スキーマ内のシステム提供モデルAPIをクエリできます。 これらはAzure Databricksがネイティブに提供している基盤モデルで、トークン単位で請求されます。

Azure Databricksにおいて、モデルAPIとは、ガバナンスされたLLMエンドポイントを表すUnity Catalogのセキュア可能なオブジェクト(モデルサービス)です。 Unity Catalogが保存するため、データの一元で、ワークスペースの境界を越えて定義、共有、アクセス管理が可能です。 追加のモデルを管理したり、カスタムエンドポイントを公開したりするには、自分でモデルAPIを作成します。

モデルAPIは以下の機能をサポートしています:

  • Azure Databricks で提供される基盤モデルsystem.aiのシステム提供のサービスとして、およびユーザーが作成するサービスとして。 pay-per-tokenprovisioned throughput の両方の宛先がサポートされています。
  • Unity AI Gateway UI、Catalog Explorer、Unity Catalog REST APIを使ってモデルAPIを作成・管理します。
  • Azure Databricksの内外からワークスペース間でモデルAPIをクエリすること

モデル サービスとは

モデルサービスはUnityカタログスキーマに存在し、1つ以上の宛先を参照し、それらの間でルーティングとフォールバックを行います。 発信者はモデルサービスを完全修飾名で呼び出し、Unity AI Gatewayは各リクエストを宛先にルーティングします。 宛先はAzure Databricksで提供されたモデルであったり、外部プロバイダーにルーティングされるモデルプロバイダーサービスであったり、単一のモデルサービスで両者を混用することも可能です。

モデル サービスは Unity カタログのセキュリティ保護可能なオブジェクトであるため、次のようになります。

  • カタログとスキーマ内に存在し、ワークスペース バインドなどのスキーマ設定を継承します。
  • 名前、所有者、コメント、タグなどの標準の Unity カタログ メタデータを格納します。
  • Unity カタログ特権によって管理されるため、テーブル、関数、モデルに使用するのと同じ GRANT ステートメントと REVOKE ステートメントを使用してアクセス権を付与します。
  • カタログ エクスプローラーで、残りの Unity カタログ アセットと共に検出できます。

同じモデル サービスが Unity AI Gateway UI のエンドポイントとしても表示され、AI チームはレート制限、推論テーブル、ガードレールなどの機能を構成できます。 これらの機能の詳細については、 Unity AI Gateway を使用した AI ガバナンスに関する説明を参照してください。

Unity カタログで LLM を管理する理由

ワークスペースで作成された Unity AI Gateway のエンドポイントは、そのワークスペースに限定されます。 ワークスペース間でエンドポイントを共有するには、各ワークスペースでエンドポイントを複製し、各コピーを個別に管理する必要があります。

モデル サービスは、ガバナンスを Unity カタログに移動するので、次のことができます。

  • LLM エンドポイントを 1 回定義 し、同じメタストアにアタッチされている任意のワークスペースから使用します。
  • ワークスペースごとのアクセス許可ではなく、Unity カタログ特権を使用してアクセスを一元的に管理します。
  • 1 つの場所からワークスペース間で使用できるモデルを検出します。
  • Unity カタログ システム テーブルのモデル サービスの使用状況とコストを追跡します。
  • サービスが提供するモデルやペイロードを消費する下流資産を追跡するために、系譜を追跡しましょう。 トラック モデルAPIおよびプロバイダー系譜を参照してください。

システム提供のモデル サービス

Azure Databricks では、system.ai.claude-opus-5 などの Azure Databricks で提供される各基盤モデルに対して、system.ai スキーマ内にすぐに使用できるモデル サービスを提供しています。 Azure Databricksでは、新しい基盤モデルが利用可能になると、新しいシステム モデル サービスが追加されます。

システム提供のモデル サービスには、次の特性があります。

  • 既定では、すべてのアカウント ユーザーに EXECUTE 権限があるため、追加のセットアップなしでクエリを実行できます。
  • システム ユーザーが所有しており、削除することはできません。
  • 既定では、メタストア管理者のみが変更できます。 メタストア管理者は、 MANAGE 権限を付与することで管理を委任できます。

システム提供のモデル サービスへのアクセスを制限するには、 モデル サービスの管理に関する説明を参照してください。

特権

モデル サービスでは、標準の Unity カタログ特権モデルが使用されます。 次の特権が適用されます。

権限 説明
USE CATALOGUSE SCHEMA モデル サービスを含むカタログとスキーマにアクセスします。 すべての操作に必要です。
CREATE SERVICE スキーマにモデル サービスを作成します。 カタログまたはスキーマに対して付与されます。
EXECUTE モデル サービスのクエリを実行します。
MANAGE モデル サービスを変更または削除し、その許可を管理します。 所有者には、 MANAGEのスーパーセットがあります。

モデルサービスはdefinerの権限を使用します。 Azure Databricksはクエリを発信者の権限ではなく所有者の権限と比較して評価します。 ユーザーがモデル サービスにクエリを送信すると、Azure Databricks は、所有者が、基になるモデルや EXECUTE などの参照先に対する を持っていることを確認します。 発信者はこれらの宛先に直接アクセスする必要はありません。

Limitations

以下の機能はサポートされていません:

  • SQLを使ったモデルサービスの作成と管理。
  • BROWSE特権のみを持つモデル サービスを検出する。
  • モデルサービスのグローバル検索。

次のステップ