対象:AIゲートウェイティア(プレビュー)
Important
AI Gatewayのティアは現在パブリックプレビュー中です。 パブリックプレビュー期間中、AIゲートウェイティアは以下の地域で利用可能です:
- 米国 - East US 2
- ヨーロッパ - スウェーデン中央
Azure API ManagementのAI Gateway tier(プレビュー)は、AIワークロードのための完全管理ゲートウェイです。 チームがAIモデルやモデルコンテキストプロトコル(MCP)ツールを公開、保護、管理、観察できる一つの場所を提供します。
AI Gatewayの階層はパブリックプレビュー中です。 プレビュー機能、地域、サービス制限、APIは一般公開前に変更されることがあります。 価格設定とビジネスモデルはプレビューで後ほど発表される予定です。
AIゲートウェイの階層とは何ですか?
AIゲートウェイ層は、モデルやツールを呼び出すアプリケーションのためのマネージドゲートウェイです。 アプリケーションは各プロバイダーやツールのバックエンドを直接呼び出すのではなく、ゲートウェイエンドポイントを呼び出します。 各リクエストに対して、ゲートウェイは以下の通りです:
-
api-keyヘッダーのランタイムアクセスキーを認証します。 - 対象モデルやツールに適用されるポリシーを評価します。
- 設定したバックエンド認証情報を使って、モデルの
modelフィールドやツール名で選択したバックエンドにリクエストをルーティングします。 - 応答を返し、テレメトリー(OpenTelemetryログ)やトークン数、レイテンシなどの指標を発信します。
使用する理由
AIゲートウェイ層は、プラットフォームチームがアプリ、モデル、ツールに対して一つの管理されたランタイム境界を提供します。 これは次の目的で使用されます。
- サポートされたAIプロバイダーの前に1つのゲートウェイエンドポイントを配置しましょう。
- プロバイダーの認証情報を申請から隠しておきましょう。
- モデル、MCPサーバー、ランタイムアクセスキー、ポリシー、モニタリングを管理します。
- トークンレート制限、リクエストレート制限、コンテンツ安全性、IPフィルターなどのガバナンス管理を適用してください。
- AIエージェント向けの承認済みMCPツールを公開します。
- セルフサービスのカタログを通じて利用可能なモデルやツールを発見し、活用しましょう。
- Microsoft Entra IDでゲートウェイを管理するにはサインインしてください。
パスを選択する
主な概念
Gateway
ゲートウェイはAIトラフィックのランタイムおよび管理の境界線です。 これは専用のAzureリソースで、スケールユニットの計画を立てる必要がなく、約1分でプロビジョニングできます。 アプリケーションは各プロバイダーやツールのバックエンドを直接呼ぶのではなく、ランタイムアクセスキーで1つのゲートウェイエンドポイントを呼び出します。 モデル、ツール、ポリシー、キー、アイデンティティを一か所で管理します。
モデル
モデルとは、ゲートウェイを通じて公開するプロバイダーのモデルのことです。 アプリケーションはリクエストの model 欄で名前で選択します。 すべてのOpenAI互換プロバイダー(Microsoft Foundry、Azure OpenAI、AWS Bedrock、Google Vertex、OpenAI)は、1つのエンドポイントである.../models/openai/v1を共有しています。 ゲートウェイは model上で完全に一致するルーティングを行うので、各モデルにユニークな名前を付けてください。 Anthropic は、.../models/anthropic/v1/messages の Messages API パススルーを備えたカスタムプロバイダーを使用します。 ゲートウェイはバックエンドの認証情報を保持しているため、アプリケーションはプロバイダーキーを扱いません。
MCPサーバーとツール
MCPサーバーは、エージェントがツールにアクセスするために呼び出す一つのガバナードされたエンドポイント(.../toolservers/<server-name>/mcp)です。 リモート MCPサーバー (URLによる)、 OpenAPI仕様、 または組み込みコネクタ (1,000以上のSaaSアプリ、ホスト不要)の3つのソースから1つ以上のバックエンドをフェデレーションします。 各バックエンドの操作はツールとなります。 ゲートウェイが各バックエンドに対して認証する方法を選べます: なし、 APIキー、 OAuth 2.0、 マネージドIDのいずれかです。
Policies
ポリシーとは、ポータル内でカードとして設定するランタイムガードレールのことで、XMLは使いません。
| Policy | 制御する内容 |
|---|---|
| コンテンツの安全性 | プロンプトや応答の安全チェック。 |
| IPフィルター | 承認されたクライアントネットワーク範囲からのランタイムコール。 |
| トークン レートの制限 | 直近1分間のトークンのスループット。 |
| リクエストレート制限 | 1分の間にボリュームをリクエストしてください。 |
識別鍵とアクセスキー
管理者はMicrosoft Entra IDを使ってゲートウェイの管理にサインインします。 アプリケーションは ランタイムアクセスキー で認証します。これらのキーはポータルの キー ページ(APIキーを作成)で作成し、 api-key ヘッダーで送信します。 鍵はゲートウェイスコープで、すべてのモデルやツールにアクセスできます。 バックエンドの場合、ゲートウェイは利用可能な場合マネージドID(秘密情報は保存されず)や、あなたが提供したプロバイダーキーを使用します。 アプリケーションと環境ごとに1つのキーを発行し、すべてのアイデンティティに最小権限を付与します。
セルフサービスカタログ
開発者はセルフサービスのカタログでモデルやツールを発見し、それぞれに接続情報やサンプルが掲載され、お気に入りをピンし、Ctrl+K(macOSでは⌘K)コマンドパレットでどこへでも移動できます。
地域ごとの提供状況
パブリックプレビューでは、AI Gatewayティアは以下のAzureリージョンで利用可能です。
| 地理学 | Region |
|---|---|
| 米国 | 米国東部 2 |
| ヨーロッパ | スウェーデン中部 |
リージョンの利用可能性は、サブスクリプション、クラウド、容量、機能フラグ、プレビュー登録によって異なる場合があります。 もしターゲットリージョンがポータルやデプロイメントツールで利用できない場合は、他の対応プレビューリージョンを選択するか、Microsoft担当者に連絡してください。
ユーザー、アプリケーション、AIバックエンド、ネットワーク依存関係に最も合った地域を選びましょう。 ゲートウェイがAzure OpenAI、Microsoft Foundry、モデルエンドポイント、API、MCPサーバーにルーティングされている場合も、それらの場所も考慮してください。 データレジデンシーは、ゲートウェイ領域だけでなく、リクエストパス全体に依存します。 ゲートウェイ、AIバックエンド、ツール、ログ宛先、マネージドアイデンティティ、クライアントアプリケーションなど、各コンポーネントがどこに展開されているかを確認しましょう。
よく寄せられる質問
いつ、直接プロバイダーに電話する代わりにAIゲートウェイティアを使うべきですか?
多くのモデルやツールの前に一つのガバナードエンドポイントを設置したい場合、AIゲートウェイ層を使いましょう。すべてのアプリケーションでプロバイダー認証情報の代わりに中央のランタイムキー、共有ポリシー(トークンおよびリクエスト制限、コンテンツ安全性、IPフィルター)、統一テレメトリ、セルフサービスカタログなどです。 単一のアプリケーションから単一のモデルを呼び出し、ガバナンスや中央認証情報を必要としない場合、プロバイダーに直接連絡する方が簡単です。
Foundryからインポートすべきか、それともカスタムモデルを追加すべきでしょうか?
モデルがMicrosoft FoundryまたはAzure OpenAI(Azure AI Services)リソースで実行される場合、Foundryからインポートしてください。ウィザードがリソースのデプロイメントを自動で発見します。 AWS Bedrock、Google Vertex、OpenAI、Anthropic、またはその他のOpenAI互換エンドポイント用のカスタムモデルを追加し、自分でエンドポイントとモデル名を入力してください。 「 モデルとツールの管理」をご覧ください。
AIゲートウェイのティアは本番環境に対応できていますか?
AIゲートウェイ層はパブリックプレビュー中で、サービスレベルアグリーメント(SLA)なしのベストエフォート(最善の努力)が提供されており、API、ポータルワークフロー、テレメトリー、制限、地域、価格設定が変更されることがあります。 プレビュークォータはモデル、ツール、ランタイムアクセスキーの数、リクエストおよびトークンのスループットを制限できます。具体的な制限は一般公開前に発表されます。 まずは重要でないワークロード、制御パイロット、明確なロールバックプランから始めましょう。
プレビュー中の価格設定はどのように行われますか?
価格設定とAI Gateway層のビジネスモデルはプレビューで後ほど発表されます。 また、モデルプロバイダー、アプリケーションインサイト、ネットワーキング、観測可能性プラットフォームなど、ゲートウェイで使う関連リソースに対して料金を支払うこともあります。
どの地域が利用可能ですか?
AIゲートウェイ層はイーストUS 2とスウェーデンセントラルで利用可能です。 リージョンの可用性に関する情報を参照してください。
データはどのように処理されますか?
テレメトリの行き先は自分で選べます。 Application Insightsでは、それはAzureのサブスクリプションに残ります。 他のOpenTelemetry(OTLP)宛先は、あなたの設定とプロバイダーの条件に従っています。 TelemetryはOpenTelemetry GenAIの意味論的慣習( gen_ai.* プレフィックス)を使用しています。 データレジデンシーはリクエスト経路全体に依存しているため、ゲートウェイ、バックエンド、テレメトリの宛先を承認されたリージョンに配置し、セキュリティおよびプライバシーチームを巻き込みましょう。
AIゲートウェイ層はプライベートネットワーキングに対応していますか?
Yes. Inbound Private LinkおよびOutbound Virtual Networkの統合もパブリックプレビューの一部です。 設定、DNS、制限については 「プライベートネットワークの設定 」を参照してください。
自動化にはどのAPIバージョンを使うべきでしょうか?
プレビュー管理APIのバージョン 2026-05-01-previewを使いましょう。 APIがプレビュー段階なので、広範な展開前に自動化を検証してください。
