モデルAPIの作成および管理(モデルサービス)

Unity Catalogで自分だけの モデルAPI (モデルサービス)を作成、共有、管理できます。

Tip

system.aiスキーマ内のシステム提供モデルAPIは、セットアップなしでクエリが可能です。 追加のモデルを管理したい場合やカスタムエンドポイントを公開したい場合のみ、独自のモデルAPIを作成してください。

Requirements

  • Unity AI Gateway でサポートされているリージョン内のAzure Databricks ワークスペース。
  • ワークスペースに対して有効になっている Unity カタログ。 「Unity Catalog のワークスペースを有効にする」を参照してください。
  • モデル サービスを作成するには、次が必要です。
    • モデル サービスを作成するカタログとスキーマに対する USE CATALOG、USE SCHEMA、および CREATE SERVICE 権限。
    • EXECUTE は、モデルサービスが宛先として参照している各モデルに対して実行されます。
    • モデル サービスから宛先として参照する各モデル プロバイダー サービスのEXECUTE、USE CATALOG、USE SCHEMA。
    • 推論ログを有効にする場合は、推論テーブルが作成されるカタログとスキーマに対する USE CATALOG、USE SCHEMA、および CREATE TABLE 権限。

モデル サービスを作成する

Unity AI Gateway UIやCatalog Explorer、またはREST API、Azure Databricks SDK、Azure Databricks CLI、Terraformを使ってプログラム的にモデルサービスを作成できます。

モデル サービスと モデル プロバイダー サービス は、Unity カタログ スキーマ内で 1 つの名前名前空間を共有します。 スキーマ内のモデル プロバイダー サービスで既に使用されている場合は、モデル サービスの名前を使用できません。その逆も同様です。

カタログ エクスプローラー

  1. 次のいずれかの操作を行います。
    • ワークスペースのサイドバーで、[ AI ゲートウェイ] をクリックし、[ 作成] をクリックします。
    • カタログ エクスプローラーで、モデル サービスを作成するスキーマに移動し、>>をクリックします。
  2. モデル サービスの名前を入力し、作成するカタログとスキーマを選択します。 カタログ エクスプローラーから開始すると、カタログとスキーマがカタログ エクスプローラーによって事前入力されます。
  3. 主な目的地を選択してください。 この宛先は、Databricks でホストされていて、EXECUTE があり Unity AI Gateway でサービスするるモデルの場合もあれば、 EXECUTE、USE CATALOG、USE SCHEMAがあるモデル プロバイダー サービスの場合もあります。
  4. Create をクリックしてください。

モデル サービスを作成した後、Azure Databricksは概要ページを開き、推論ログなどの追加機能を開始または構成できます。

開発者ツール

Databricks CLI:親スキーマとリーフ名を渡し、 --jsonを添えて設定を提供します。 ルーティング設定には少なくとも1つの宛先が必要です:

databricks ai-gateway create-model-service schemas/main.default my_model_service --json '{
  "comment": "Routes chat traffic to a foundation model",
  "config": {
    "routing": {
      "destinations": [
        {
          "name": "primary",
          "destination_type": "DESTINATION_TYPE_PAY_PER_TOKEN_FOUNDATION_MODEL",
          "pay_per_token_config": { "model": "models/system.ai.databricks-gpt-5" },
          "traffic_percentage": 100
        }
      ]
    }
  }
}'

すべてのオプションを表示するには、databricks ai-gateway create-model-service -h を実行します。 CLIをインストールするには、「 Databricks CLIのインストールまたは更新」をご覧ください。

REST API: POST /api/2.1/unity-catalog/model-servicesをご利用ください。

Terraform: DatabricksのTerraformプロバイダー と databricks_ai_gateway_model_serviceを使ってモデルサービスを作成・管理します。

Databricks SDKs:Python用Databricks SDK for Java、Databricks SDK for Go、またはDatabricks SDK for JavaScriptでモデルサービスを作成・管理できます。

モデル サービスへのアクセスを許可する

他のユーザーがモデル サービスに対してクエリを実行できるようにするには、モデル サービスに EXECUTE を付与し、そのカタログとスキーマの USE CATALOG と USE SCHEMA を付与します。 モデル サービスが推論テーブルにログを記録する場合は、テーブルに SELECT を付与して、ログに記録された要求と応答を読み取るようにします。

カタログ エクスプローラーでアクセス権を付与するには:

  1. カタログ エクスプローラーで、モデル サービスを開きます。
  2. [アクセス許可] タブで [付与] をクリックします。
  3. アクセス権を付与するユーザーまたはグループを選択し、 EXECUTE 特権を選択して、[ 許可] をクリックします。

同じプリンシパルにも、モデル サービスのカタログとスキーマに USE CATALOG と USE SCHEMA があることを確認します。 ログに記録された要求と応答を読み取るようにするには、推論テーブルの [SELECT] タブからを付与します。

アクセス権の付与と検出の詳細については、 モデル サービスの管理に関する説明を参照してください。

モデル サービスの機能を構成する

Unity AI Gateway エンドポイントで構成するのと同じ方法で、Unity AI Gateway UI からモデル サービスのレート制限、推論ログ、ガードレールなどの機能を構成します。 参照:

推論ログ

推論ログを有効にすると、Azure Databricksは、指定した場所に定義済みのスキーマを持つ新しい空の Unity カタログ テーブルを作成します。 次の点に注意してください。

  • ターゲット カタログとスキーマに USE CATALOG、 USE SCHEMA、および CREATE TABLE が必要です。
  • モデル サービスの作成者は、推論テーブルの所有者です。 許可しない限り、他のユーザーはアクセス権を持っていません。
  • 指定した場所にテーブルが既に存在する場合、モデル サービスの作成は失敗します。
  • 推論テーブルには、モデル サービスからの独立したライフサイクルがあります。 テーブルを削除すると、モデル サービスは動作し続けますが、ログ記録は停止します。

推論テーブルの詳細については、「 推論テーブルへのログリクエストおよび応答」を参照してください。

モデル サービスを削除する

モデル サービスを削除するには、少なくともそれに対する MANAGE 特権が必要です。 所有者には、 MANAGEのスーパーセットがあります。

モデル サービスを削除するには、カタログ エクスプローラーでモデル サービスを開き、kebab メニューから [削除 ] を選択します。

system.aiのシステム提供のモデル サービスは削除できません。

次のステップ

  • Last updated on