AI の使用状況の概要

ガバナンス ハブの AI ページには、AI の使用状況とAzure Databricks アカウント全体の支出の一元的なビューが表示されます。 トークンの使用状況、AI トラフィックの量、最もアクティブなモデルとユーザーの概要を示します。 Azure Databricks、アカウント全体の AI ガバナンスを改善するための推奨事項も示します。

Important

この機能は ベータ版です。 アカウント管理者は、アカウント コンソールの [プレビュー ] ページから有効にすることができます。 Manage Azure Databricks プレビューを参照してください。

ガバナンス ハブの AI ページ。トークンの使用状況、管理トラフィック、予算、AI の使用状況と支出、アクティブなモデルとユーザー、AI の推奨事項が表示されます。

AI ページには、次のタイルが含まれています。

Tile 説明
トークンの使用 スコープで使用されるトークンの合計数。
管理されたトラフィック スコープ内の AI ガードレールによってカバーされる AI トラフィックの割合。
Unity AI ゲートウェイの予算 スコープ内の AI 予算の状態。 AI 予算の表示と管理に関するページを参照してください。
AI の使用状況 スコープ内での時間の経過に伴う AI の使用状況。 AI の使用状況の表示を参照してください。
AI 支出 対象範囲内の AI 支出の推移 AI 支出の表示を参照してください。
アクティブ モデル (30d) スコープ内の過去 30 日間で最もアクティブなモデル。 「アクティブなモデルを表示する」を参照してください。
アクティブ ユーザー (30d) スコープ内の過去 30 日間で最もアクティブなユーザー。 「 アクティブなユーザーを表示する」を参照してください。

右側の AI 推奨事項 パネルでは、アカウント全体の AI ガバナンスを改善するためのアクションが提案されます。 推奨事項を使用 した AI ガバナンスの向上に関する説明を参照してください。

スコープを変更する

ガバナンス ハブでは、表示されるデータは選択した スコープによって異なり、右上隅で選択できます。 アカウント管理者の場合、これは 地球アイコンに設定されます。既定ではアカウント 。 個々のワークスペースなど、別のスコープを選択して、そのスコープを反映するようにダッシュボードを更新します。 各スコープを表示できるユーザーの詳細については、「 アクセスとアクセス許可」を参照してください。

ガバナンス ハブの AI ページのスコープ セレクター。

AI 予算の表示と管理

Unity AI Gateway の [予算] タイルは、選択したスコープ内の AI 予算の状態を追跡します。 [ 管理 ] をクリックすると、[ 予算 ] ページが開きます。 Azure Databricks は、Unity AI Gateway がリソースのタイプであり、支出しきい値に達している予算のみに、結果を自動的に絞り込みます。

ガバナンス ハブの AI ページから開いた [予算] ページ。

  • [ 共有状態] 列には、現在の月の支出が予算全体のしきい値を超えた量が表示されます。
  • [ユーザーごとの状態] 列には、ユーザーごとのしきい値を超えたユーザーの数 (存在する場合) が表示されます。 また、結果として追加の支出がブロックされたユーザーの数も報告されます。 この値をクリックすると、このリソースのユーザーごとの支出に関する詳細が表示されます。

予算名をクリックして追加の詳細を表示するか、編集します。 各予算ページには、過去 1 か月間のしきい値と支出の概要が含まれています。 [ 予算の編集] をクリックして、しきい値を変更または追加します。 予算を削除するには、[予算のDown CaretDown Caret編集] の横にある アイコンをクリックし、[予算の削除] をクリックします。

ガバナンス ハブの AI ページからアクセスした場合の 1 つの予算の詳細。

AI の使用状況を表示する

[AI Usage] タイルでは、選択したスコープ内のモデル要求の数が時間の経過と同時に追跡されます。 [ AI の使用状況の確認 ] をクリックして詳細を確認すると、[ AI の使用状況] ページが開きます。

このページには、一連のデータ視覚化と、使用量順に並べ替えられたモデルの一覧が含まれています。 既定では、ビジュアライゼーションにはRequestsが選択されています。 右上隅で、これを変更してトークンまたは支出表示できます。 さらに、データは既定で過去 30 日間の モデル 別にグループ化されます。 これらの設定は、左上隅のドロップダウンを使用して変更できます。

ガバナンス ハブの [AI の使用状況] ページ。

特定のモデルをクリックすると、モデル サービスの Unity AI Gateway の概要ページが表示されます。 詳細は「 モデルの使用状況追跡」をご覧ください。

AI 支出を表示する

[AI Spend]\(AI 支出\) タイルでは、選択したスコープ内の AI 支出が時間の経過と同時に追跡されます。 詳細については、[AI 支出の確認] をクリックすると、「AI 使用状況の表示」で説明されているのと同じ AI 使用状況ページが開きます。 既定では、視覚化では Spend が選択され、データは Model ごとにグループ化されます。

ガバナンス ハブの [AI 支出] ページ。

アクティブなモデルを表示する

アクティブ モデル (30d) タイルには、過去 30 日間で最もアクティブなモデルが水平棒グラフとして表示されます。 [ モデル ファミリの確認 ] をクリックして詳細を確認できます。このページでは、「AI 使用状況の表示」で説明されているのと同じページ の [AI Usage ]\( AI の使用状況\) ページが開きます。 既定では、視覚化に [支出 ] が選択され、データは モデル ファミリ別にグループ化されます。

アクティブなユーザーを表示する

[ アクティブ ユーザー (30d)] タイルには、過去 30 日間で最もアクティブなユーザーが横棒グラフとして表示されます。 詳細については、「 アクティブユーザーの確認 」をクリックすると、「 AI 使用状況 の表示」のページと同じページ 開きます。 既定では、視覚化に [支出 ] が選択され、データは ユーザー別にグループ化されます。

推奨事項を使用して AI ガバナンスを改善する

AI 推奨事項パネルでは、アカウント全体の AI ガバナンスを改善するためのアクションが提案されます。 推奨事項は読み取り専用です。 これには、大量のモデルで推論テーブルが見つからない場合や、大量のモデルでフォールバックが見つからない場合があります。 各推奨事項には、影響を受けるモデルが一覧表示されます。 [ 確認 ] をクリックすると、結果の完全な一覧が表示されます。

ガバナンス ハブの [AI の推奨事項] パネル。