MLflow トレース - GenAI の可観測性

MLflow トレースを使用すると、複雑なエージェントベースのシステムを含む GenAI アプリケーションを エンドツーエンドで監視できます 。 入力、出力、中間ステップ、メタデータが記録されるため、アプリの動作を正確に確認できます。

ゲートウェイ追跡ビデオ

トレースを使用すると、次のことができます。

  • アプリケーションをデバッグして理解する
  • パフォーマンスを監視し、コストを最適化する
  • 運用アプリケーションを監視する
  • 高品質のアプリケーション パフォーマンスを評価して改善する
  • 監査可能性とコンプライアンスを確認する
  • トレースを多くの一般的なサードパーティ フレームワークと統合する
  • Genie Code で自然言語を使用してトレース データを分析、デバッグ、探索する

トレースが格納される場所

トレースを格納するには、2 つのオプションがあります。 Databricks では、新規および運用環境のワークロード用に Unity カタログにトレースを格納することをお勧めします。 トレースを保存するオプションに関係なく、MLflow 実験はトレースを表示するための UI エントリ ポイントです。

  • Unity カタログに格納されているトレース (推奨): OpenTelemetry (OTel) Delta テーブルにトレースが配置されるように、Unity カタログトレースの場所で実験をポイントします。 ストレージの上限はなく、トレースはデルタ テーブルと同様に SQL でクエリ可能であり、Unity カタログはアクセスを制御します。
  • 実験に格納されたトレース: MLflow は実験自体にトレースを格納しますが、MLflow は実験ごとに 100,000 トレースでストレージを上限とし、このオプションは最新の MLflow 機能と互換性がない可能性があります。
能力 Unity カタログに格納されているトレース 実験に格納されたトレース
ストレージの制限 Unlimited 実験あたり 100,000 トレース
クエリ オプション MLflow UI と Python SDK に加えて、SQL、Genie、AI/BI ダッシュボード、Spark ベースのツール MLflow UI と Python SDK
Governance Unity カタログのスキーマとテーブルのアクセス許可 実験レベルのアクセス制御
OpenTelemetry の互換性 他の OTel クライアントおよびツールと互換性のある OTel 形式で格納されたトレース サポートしていません

その他のリソース