生成 AI の可観測性

今日の AI 主導の世界では、GenAIOps (Generative AI Operations) は、組織がインテリジェント システムを構築してデプロイする方法に革命を起こしています。 企業が AI を使用して意思決定を変革し、カスタマー エクスペリエンスを強化し、イノベーションを促進する中で、1 つの要素が最も重要な要素である堅牢な評価フレームワークです。 評価は単なるチェックポイントではありません。 これは、AI アプリケーションにおける信頼の基盤です。 厳密な評価がなければ、AI システムは次のコンテンツを生成できます。

• 架空または現実への典拠なし
• ユーザーのニーズに無関係または一貫性がない
• コンテンツのリスクとステレオタイプの永続化に有害
• 誤った情報を拡散する危険
• セキュリティの悪用に対して脆弱

この評価は、エバリュエーターが不可欠になる場所です。 特殊なツールは、AI 出力のリスクの頻度と重大度の両方を測定します。 これらのツールを使用すると、チームは品質、安全性、セキュリティの問題に体系的に対処できます。 適切なモデルの選択から、運用環境のパフォーマンス、品質、安全性の監視まで、AI 開発の過程でこれらのツールを使用します。

エバリュエーターとは

エバリュエーターは、AI 応答の品質、安全性、信頼性を測定する特殊なツールです。 チームが AI 開発ライフサイクル全体を通じて体系的な評価を実装すると、それらの問題がユーザーに影響を与える前に潜在的な問題を特定して対処できます。 サポートされている次のエバリュエーターは、さまざまな AI アプリケーションの種類と懸念事項にわたる包括的な評価機能を提供します。

汎用

詳細については、「 汎用エバリュエーター」を参照してください。

テキストの類似性

詳細については、「テキスト類似性エバリュエーター」を参照してください。

RAG (検索強化生成)

詳細については、「取得拡張生成 (RAG) 評価ツール」を参照してください。

安全性とセキュリティ (プレビュー)

詳細については、 リスクと安全性エバリュエーターに関するページを参照してください。

エージェント (プレビュー)

詳細については、「 エージェント エバリュエーター」を参照してください。

Azure OpenAI の採点者 (プレビュー)

詳細については、 Azure OpenAI Graders に関するページを参照してください。

開発ライフサイクルのエバリュエーター

これらのエバリュエーターを開発ライフサイクル全体にわたって戦略的に使用することで、チームは潜在的なリスクを最小限に抑えながら、ユーザーのニーズを満たす、より信頼性の高い、安全で効果的な AI アプリケーションを構築できます。

GenAIOps 評価の 3 つの段階

GenAIOps では、次の 3 つのステージを使用します。

基本モデルの選択

アプリケーションをビルドする前に、適切な基盤を選択します。 この初期評価は、次に基づいてさまざまなモデルを比較するのに役立ちます。

• 品質と精度: モデルの応答にどの程度関連性があり、一貫性がありますか?
• タスクのパフォーマンス: モデルは特定のユース ケースを効率的に処理しますか?
• 倫理的な考慮事項: モデルは有害なバイアスから解放されますか?
• 安全プロファイル: 安全でないコンテンツを生成するリスクは何ですか?

使用可能なツール: パブリック データセットまたは独自のデータのモデルを比較するための Azure AI Foundry ベンチマーク と、 特定のモデル エンドポイントをテストするための Azure AI 評価 SDK。

運用前の評価

ベース モデルを選択した後、次の手順は、AI を利用したチャットボット、取得拡張生成 (RAG) アプリケーション、エージェント AI アプリケーション、その他の生成 AI ツールなどの AI アプリケーションを開発することです。 開発が完了すると、 実稼働前の評価 が開始されます。 運用環境にデプロイする前に、モデルが実際の使用の準備ができていることを確認するために、徹底的なテストが不可欠です。

運用前の評価には、次のことが含まれます。

• 評価データセットを使用したテスト: これらのデータセットは、現実的なユーザー操作をシミュレートして、AI アプリケーションが期待どおりに動作することを確認します。
• エッジ ケースの特定: AI アプリケーションの応答品質が低下したり、望ましくない出力が生成されたりする可能性があるシナリオを見つけます。
• 堅牢性の評価: 品質や安全性が大幅に低下することなく、モデルがさまざまな入力バリエーションを処理できることを確認します。
• 主要メトリックの測定: 応答の根拠、関連性、安全性などのメトリックを評価して、運用環境の準備状況を確認します。

運用前の段階は最終的な品質チェックとして機能し、目的とするパフォーマンスや安全基準を満たしていない AI アプリケーションがデプロイされるリスクを軽減します。

評価ツールとアプローチ:

• 独自のデータを持ち込む: 生成品質、安全性、カスタム エバリュエーターなど、サポートされているエバリュエーターで独自の評価データを使用して、実稼働前の AI アプリケーションを評価できます。 Azure AI Foundry ポータルを使用して結果を表示します。

  生成品質、安全性、カスタム エバリュエーターなど、Azure AI Foundry の評価ウィザードまたは Azure AI 評価 SDK でサポートされている エバリュエーターを使用します。 Azure AI Foundry ポータルを使用して結果を表示します。

• シミュレーターと AI レッド チーミング エージェント (プレビュー):評価データやテスト データがない場合、 Azure AI Evaluation SDK のシミュレーター は、トピック関連または敵対的なクエリを生成することで役立ちます。 これらのシミュレーターは、状況に適したクエリまたは攻撃に似たクエリ (エッジ ケース) に対するモデルの応答をテストします。

  • 敵対的シミュレーターは、 潜在的な安全リスクやセキュリティ攻撃や脱獄の試行を模倣する静的クエリを挿入します。 シミュレーターは、予期しない状況に備えてモデルを準備するための制限事項を特定するのに役立ちます。

  • コンテキストに適したシミュレーターは 、ユーザーが応答の品質をテストするために期待する一般的で関連性の高い会話を生成します。 コンテキストに適したシミュレーターを使用すると、生成された応答の接地性、関連性、一貫性、流暢性などのメトリックを評価できます。

  • AI レッド チーミング エージェント (プレビュー) は、広範な安全性とセキュリティ攻撃を使用して、AI システムに対する複雑な敵対攻撃をシミュレートします。 Python リスク識別ツール (PyRIT) 用に Microsoft のオープン フレームワークを使用します。

    AI レッド チーミング エージェントを使用した自動スキャンでは、AI アプリケーションのリスクを体系的にテストすることで、運用前のリスク評価が強化されます。 このプロセスには、実際のデプロイ前のモデル応答の弱点を特定するための、シミュレートされた攻撃シナリオが含まれます。

    AI レッド チーミング スキャンを実行することで、デプロイ前に潜在的な安全性の問題を検出して軽減できます。 このツールを、従来の AI レッド チーミングプローブなどの人間のループ内プロセスと共に使用して、リスクの特定を促進し、人間の専門家による評価を支援することをお勧めします。

または、Azure AI Foundry ポータルで 評価機能 を使用して、生成型 AI アプリケーションをテストすることもできます。

満足できる結果が得られると、AI アプリケーションを運用環境にデプロイできます。

運用後の監視

デプロイ後、継続的な監視により、AI アプリケーションは実際の状況で品質を維持できます。

• パフォーマンスの追跡: 主要なメトリックの定期的な測定。
• インシデント対応: 有害または不適切な出力が発生した場合の迅速なアクション。

効果的な監視は、ユーザーの信頼を維持し、迅速な問題解決を可能にします。

Azure AI Foundry Observability は、今日の複雑で急速に進化する AI ランドスケープに不可欠な包括的な監視機能を提供します。 Azure Monitor Application Insights とシームレスに統合されたこのソリューションにより、デプロイされた AI アプリケーションを継続的に監視して、運用環境で最適なパフォーマンス、安全性、品質を確保できます。

Foundry Observability ダッシュボードは、重要なメトリックに関するリアルタイムの分析情報を提供します。 これにより、チームはパフォーマンスの問題、安全性の懸念、品質の低下をすばやく特定して対処できます。

エージェント ベースのアプリケーションの場合、Foundry では継続的な評価機能が強化されています。 これらの機能により、品質と安全性のメトリックをより深く可視化できます。 高いパフォーマンスと信頼性を維持しながら、AI アプリケーションの動的な性質に適応する堅牢な監視エコシステムを作成できます。

運用環境で AI アプリケーションの動作を継続的に監視することで、高品質のユーザー エクスペリエンスを維持し、発生する問題に迅速に対処できます。

体系的な評価による信頼の構築

GenAIOps は、ライフサイクル全体を通して AI アプリケーションを管理するための信頼性の高いプロセスを確立します。 モデルの選択からデプロイまで、各段階で徹底的な評価を実装することで、チームは強力で信頼できる安全な AI ソリューションを作成できます。

評価のクイック ガイド

リージョンのサポート

現在、特定の AI 支援エバリュエータは、次のリージョンでのみ使用できます。

価格設定

リスクと安全性の評価や継続的評価などの監視機能は、 Azure の価格ページに記載されている使用量に基づいて課金されます。

関連コンテンツ

• Azure AI Evaluation SDK を使用して評価する
• Azure AI Foundry を使用して生成 AI アプリを評価する
• Azure AI Foundry ポータルで評価結果を表示する
• Azure AI Foundry 透明性に関する説明