質問に回答するための透明性に関するメモとユース ケース

透明度に関するメモとは

AI システムには、テクノロジだけでなく、それを使用する人、それによって影響を受ける人、それが展開される環境も含まれています。 目的に合ったシステムを作成するには、テクノロジのしくみ、その機能と制限事項、および最適なパフォーマンスを実現する方法を理解する必要があります。

Microsoft では、AI テクノロジのしくみを理解するのに役立つ 透明性に 関するメモを提供しています。 これには、システムのパフォーマンスと動作に影響を与えるシステム所有者の選択肢、およびテクノロジ、人、環境などのシステム全体について検討することの重要性が含まれています。 独自のシステムを開発または展開するときに透明性に関するメモを使用したり、システムを使用したり、システムの影響を受けるユーザーと共有したりできます。

透明性に関するメモは、AI の原則を実践するための Microsoft の広範な取り組みの一環です。 詳細については、 Microsoft の AI 原則を参照してください。

質問への回答の概要

質問の回答は、データに対する自然な会話レイヤーを簡単に作成できる、クラウドベースの自然言語処理サービスです。 これを使用すると、カスタムナレッジベースの情報から、指定された自然言語入力に対する最も適切な回答を見つけることができます。 サポートされている言語の一覧 については、こちらを参照してください。

質問の回答は、ソーシャル メディア アプリケーション、チャット ボット、音声対応デスクトップ アプリケーションなどの会話型クライアント アプリケーションを構築するために一般的に使用されます。 質問の回答に基づくクライアント アプリケーションは、自然言語でユーザーと通信して質問に回答する任意の会話型アプリケーションにすることができます。

質問の回答では、Azure Cognitive Search と Azure Monitor という複数の Azure リソースがそれぞれ異なる目的で使用されます。 すべての顧客データ (質問の回答とチャットログ) は、顧客が依存サービス インスタンスをデプロイするリージョンに格納されます。 依存関係のあるサービスの詳細については、こちらをご覧ください。

質問の回答の基本

質問の回答を使用する最初の手順は、コンテンツから開発される可能性のある質問と回答を認識するための QnA サービスのトレーニングと準備です。 質問の回答は、コンテンツを質問と回答のペアのナレッジ ベースにインポートします。 インポート プロセスでは、構造化コンテンツと半構造化コンテンツの各部分の関係に関する情報が抽出され、質問と回答のペア間のリレーションシップが推測されます。

抽出された QnA ペアは、次のように表示されます。

これらの質問と回答のペアを編集し、自分で新しいペアを追加できます。 ナレッジ ベースの内容に満足したら、それを公開して、クライアント アプリケーションに送信された質問に応答する準備が整います。 2 番目の手順では、クライアント アプリケーションから質問応答サービス API にユーザーの質問が送信されます。 質問回答サービスは質問を処理し、最適な回答で応答します。

詳細については、 質問の回答に関するドキュメントを参照してください。

用語と定義

利用事例の例

質問の回答は、複数のシナリオやさまざまな業界で使用できます。 通常、情報取得のユース ケースは、通常、ユーザーの質問に対して 1 つまたは少数の正しい回答がある質問に回答するのに最適です。 さまざまな視点、ワールドビュー、地政学的見解、議論の余地のあるコンテンツなどを持つシナリオやトピックは、正しく答えるのが難しくなります。 お客様は、質問の回答を通じてこの種類のコンテンツを提供すると、否定的な感情や反応が生じ、否定的な宣伝につながる可能性があることに注意する必要があります。 この種類のコンテンツを提供する場合は、ソース属性を追加して、ユーザーが自分の回答を評価できるようにすることを検討してください。

質問の回答が推奨される一般的なシナリオを次に示します。

• カスタマー サポート: ほとんどのカスタマー サポート シナリオでは、よく寄せられる質問が頻繁に寄せられる場合があります。 質問の回答を使用すると、既存のサポート コンテンツからチャット ボットを即座に作成できます。このボットは、顧客のクエリを処理するためのフロント ライン システムとして機能できます。 質問にボットが回答できない場合は、追加のコンポーネントを使用して、人間の介入に関する質問を特定してフラグを付けることができます。

• エンタープライズ FAQ ボット: 情報の取得は、エンタープライズ従業員にとって課題です。 内部 FAQ ボットは、従業員が一般的な質問に対する回答を得るための優れたツールです。 質問の回答により、人事や給与などのさまざまな部門が、従業員を支援する FAQ チャット ボットを構築できます。

• 検索に関する即座の回答: 多くの検索システムでは、検索結果が即座に回答され、ユーザーはクエリに関連する情報にすぐにアクセスできます。 質問の回答からの回答をドキュメント検索の結果と組み合わせて、エンド ユーザーに即座に回答を提供できます。

その他のユース ケース選択時の考慮事項

• リスクの高いシナリオを回避する: 質問の回答で使用される機械学習アルゴリズムは、トレーニングされたデータに基づいてパフォーマンスを最適化しますが、システムが十分に理解していないユーザー クエリに対して正しい回答が返されないエッジ ケースが常に存在します。 質問応答を使用してシナリオを設計するときは、偽陽性の結果があり得ることに注意してください。 シナリオで尋ねられた上位のクエリと、対応する予想される回答のデータセットを作成し、応答の正確性を定期的にサービスでテストすることをお勧めします。 例えば次が挙げられます。

  • 医療： これには多くの場合、高い精度が必要であり、間違った情報は生命を脅かす結果を招く可能性があります。 質問回答を使用して患者の症状を理解し、一般的な病気と一致させる医師アシスタント ボットの例を考えてみましょう。 同様に、うつ病や不安など、精神的な健康上の問題がある患者と会話するように設計されたボットは、返される応答に非常に注意する必要があります。 質問の回答は、臨床用語を使用した解析や有用な質問と回答のペアの派生に役立ちますが、医療機器を作成するための設計、意図、使用はされておらず、設計または意図されておらず、専門的な医療アドバイス、診断、治療、または判断の代わりに使用しないでください。 お客様は、エンド ユーザーの実装に対する適切な同意、警告、免責事項、および確認を表示および/または取得する責任を単独で負います。

• オープン ドメインのシナリオを避ける: 質問の回答は、未解決の質問やドメイン外の質問ではなく、特定のドメイン ナレッジ ベースからの質問に回答することを目的としたものです。 ドメイン外の質問を質問応答システムで使用する際には、誤った応答が返されるリスクがあります。 例えば次が挙げられます。

  • ソーシャル ボット: 特定のドメインに関連しない一般的なおしゃべり用のボットは、質問の回答を使用して設計するのは困難です。 これらのシナリオでは、ユーザーの意図と視点が広く (スポーツ、ファッション、政治、宗教など) 広範囲に及びます。 ナレッジ ベースに回答する質問を作成することは、事実やコンテンツの検出に最適です。 さまざまなワールド ビュー トピックに対して質問の回答を使用することは困難な場合があり、そのようなコンテンツのより慎重なレビューまたはキュレーションを検討することをお勧めします。

  • 不適切な会話の処理: ユーザーがボットとの不適切な会話を開始する可能性があります 。これには、爆発やヘイト スピーチが含まれます。 ボット デザイナーは、これらの会話を処理する方法に十分注意し、これらの意図が高い精度と適切な応答で検出されるようにする必要があります。 不適切な発話のあらゆるバリエーションを網羅する質疑応答の包括的なナレッジベースを構築することは困難です。 したがって、ルールベースのシステムでこのようなケースを処理することをお勧めします。たとえば、ユーザーの発話は、不適切なキーワードの前処理されたブロックリストからの単語の有無をすばやく確認できます。 これは質問の回答サービスの一部ではなく、質問の回答サービスの上に開発する必要があります。

• 法的および規制上の考慮事項: 組織は、AI サービスとソリューションを使用する際に、潜在的な特定の法的および規制上の義務を評価する必要があります。これは、すべての業界またはシナリオでの使用に適していない可能性があります。 さらに、AI サービスまたはソリューションは、該当するサービス利用規約と関連する行動規範で禁止されている方法のために設計されておらず、そのような方法で使うこともできません。

次のステップ

• Microsoft の AI の原則

• Microsoft の責任ある AI リソース

• 顔認識テクノロジの開発と展開に関する Microsoft の原則

• 責任ある AI の原則とプラクティスを特定する

• 責任あるボットの構築