에이전트는 생성 오케스트레이션 또는 클래식 오케스트레이션을 사용할 수 있습니다. 기본적으로 새로 생성된 에이전트는 생성 오케스트레이션을 사용하도록 구성됩니다. 생성 오케스트레이션을 사용하면 에이전트가 최상의 도구, 지식, 토픽 및 기타 에이전트를 선택하여 사용자 쿼리에 응답하거나 이벤트 트리거에 응답할 수 있습니다. 대안은 에이전트가 트리거 문구가 사용자의 쿼리와 가장 근접하게 일치하는 토픽을 트리거하여 사용자에게 응답하는 클래식 오케스트레이션입니다.
중요
미리 빌드된 에이전트에서 에이전트를 만드는 경우 미리 빌드된 에이전트의 구성에 따라 사용되는 오케스트레이션 방법이 결정됩니다.
관리자가 환경에서 생성형 오케스트레이션을 사용하는 기능을 끄면 해당 환경에서 만든 에이전트는 클래식 오케스트레이션만 사용할 수 있습니다.
다음 표에서는 생성 오케스트레이션과 클래식 오케스트레이션 간의 에이전트 동작을 비교합니다.
동작 | 생성형 오케스트레이션 | 클래식 오케스트레이션 |
---|---|---|
토픽 | 주제는 목적에 대한 설명에 따라 선택됩니다. | 주제는 트리거 문구와 사용자 쿼리 일치를 기반으로 선택됩니다. |
자식 및 연결된 에이전트 | 하위 및 연결된 에이전트는 설명에 따라 선택됩니다. | 적용할 수 없습니다. |
도구 | 에이전트는 이름과 설명에 따라 도구를 호출하도록 선택할 수 있습니다. | 도구는 토픽 내에서만 명시적으로 호출할 수 있습니다. |
참조 자료 | 에이전트는 사용자의 쿼리에 답변하기 위해 지식을 사전에 검색하도록 선택할 수 있습니다. | 지식은 사용자의 쿼리와 일치하는 주제가 없는 경우(또는 주제 내에서 명시적으로 호출되는 경우) 대체로 사용할 수 있습니다. |
여러 항목, 도구, 기술 자료 사용 | 에이전트는 토픽, 도구 및 지식의 조합을 사용할 수 있습니다. | 에이전트는 사용자에게 응답할 단일 토픽을 선택하려고 시도하며, 설정된 경우 지식을 백업으로 사용합니다. |
사용자에게 입력 요청 | 에이전트는 자동으로 질문을 생성하여 항목 및 도구에 대한 입력을 채우는 데 필요한 누락된 정보를 사용자에게 표시할 수 있습니다. | 토픽에서 질문 노드를 사용하여 사용자에게 필요한 정보를 묻는 메시지를 작성해야 합니다. |
사용자에게 응답 | 에이전트는 토픽, 도구, 기타 에이전트 및 사용된 지식의 사용 가능한 정보를 사용하여 응답을 자동으로 생성합니다. | 토픽의 메시지 노드를 사용하여 사용자에게 응답하는 메시지를 작성하거나 토픽에서 도구를 호출해야 합니다. |
팁
클래식 오케스트레이션과 제너레이티브 오케스트레이션 사이에는 지식 검색 방법 및 지원되는 데이터 원본과 같은 주요 차이점이 있습니다. 기존 에이전트에 대해 생성형 모드를 켜기 전에 알려진 제한 사항에 대해 읽어보세요.
생성형 오케스트레이션은 어떻게 작동하나요?
생성형 AI를 사용하여 에이전트가 응답하는 방식을 결정하면 사용자에게 더 자연스럽고 유연한 대화를 만들 수 있습니다. 생성형 AI를 사용하면 에이전트가 자율적으로 작업을 수행할 수도 있습니다.
올바른 항목, 도구, 기타 에이전트 및 기술 자료 선택
사용자가 메시지를 보내면 에이전트는 하나 이상의 도구, 토픽, 다른 에이전트 또는 기술 자료를 선택하여 응답을 준비합니다. 여러 요인이 선택을 결정합니다. 가장 중요한 요소는 토픽, 도구, 에이전트 및 지식 원본에 대한 설명입니다. 다른 요인으로는 토픽, 도구, 에이전트 또는 기술 자료의 이름, 입력 또는 출력 매개 변수, 해당 이름 및 설명이 포함됩니다. 설명은 사용자 의도를 도구, 다른 에이전트 및 토픽과 연결할 때 에이전트를 보다 정확하게 만들 수 있도록 합니다. 사용자가 필요한 것을 표시할 수 있는 모든 방법을 예측할 필요는 없습니다.
에이전트가 생성 오케스트레이션을 사용하도록 구성된 경우 하나 이상의 도구, 토픽, 다른 에이전트 또는 기술 자료를 선택하여 사용자 쿼리(다중 의도 쿼리 포함)를 처리하거나 이벤트에 자율적으로 응답할 수 있습니다. 여러 도구, 에이전트 또는 토픽을 선택한 경우 에이전트는 사용자에게 누락된 정보를 요청하는 질문을 생성한 후 순서대로 호출합니다.
생성형 오케스트레이션이 활성화된 경우 에이전트가 지식 원본에서 검색하는 방법에 대해 자세히 알아보세요.
사용자 입력 또는 이벤트 트리거에 응답
에이전트는 사용자 입력 또는 이벤트 트리거에 대한 응답으로 선택한 모든 기술 자료, 도구, 에이전트 및 토픽에서 반환된 정보를 가져오고 원래 사용자 쿼리에 대한 답변을 요약합니다.
팁
생성 오케스트레이션으로 구성된 에이전트는 지식, 도구, 기타 에이전트 및 토픽의 정보를 사용하여 응답을 생성할 수 있으므로 메시지 노드에서 최종 응답을 보내지 않고 대신 에이전트에 출력 변수로 반환하여 토픽을 보다 유연하게 만들 수 있습니다. 이 방법을 사용하면 에이전트가 사용자에게 상황에 맞는 응답을 제공할 수 있습니다. 토픽 입력 및 출력 구성에 대해 자세히 알아보세요.
테스팅
Copilot Studio에서 생성형 오케스트레이션을 사용하는 에이전트를 테스트할 때 활동 맵을 열어서 에이전트가 어떻게 반응하는지 확인할 수 있습니다.
에이전트에 대한 생성 오케스트레이션 끄기
해당 에이전트의 설정 페이지로 이동하세요.
생성형 AI 섹션의 오케스트레이션에서 에이전트의 응답에 생성형 AI 오케스트레이션을 사용하시겠습니까?에 대해 아니요를 선택합니다. 이제 에이전트가 클래식 오케스트레이션을 사용하도록 구성되었습니다.
에이전트에 대해 생성형 오케스트레이션 켜기
해당 에이전트의 설정 페이지로 이동하세요.
생성형 AI 섹션의 오케스트레이션에서 에이전트의 응답에 생성형 AI 오케스트레이션을 사용하시겠습니까?에 대해 예를 선택합니다.
팁
사용자에게 일부 대화(예: 도구를 실행할 때 생성된 질문)가 AI에 의해 생성될 수 있음을 알리는 것이 좋습니다. 예를 들어, 대화 시작시스템 토픽에 추가 메시지를 추가하여 에이전트와 새로운 대화가 시작될 때 사용자에게 표시되는 메시지를 제어할 수 있습니다.
설명 작성
에이전트가 생성 오케스트레이션을 사용하도록 구성된 경우 각 자식 에이전트, 연결된 에이전트, 토픽, 도구 및 기술 자료에 대해 고품질 설명을 제공하는 것이 중요합니다. 적절한 설명을 통해 에이전트는 사용자에게 응답할 올바른 토픽, 도구, 기타 에이전트 및 기술 자료를 선택합니다.
도구의 경우 설명을 작성하는 것은 에이전트에 추가하는 데 사용되는 마법사의 일부입니다. 설명은 미리 채워져 있는 경우가 많지만 적절하게 변경할 수 있습니다. 도구 추가 및 관리에 대한 자세한 내용은 사용자 지정 에이전트에 도구 추가를 참조하세요.
토픽의 경우 생성형 오케스트레이션이 활성화되면 에이전트가 트리거가 트리거 노드에 표시됩니다(문구 대신). 이를 통해 토픽에 대한 설명을 추가하거나 편집할 수 있습니다.
팁
처음에 클래식 오케스트레이션을 사용하도록 작성된 에이전트에 대해 생성 오케스트레이션을 켜면 Copilot Studio는 토픽의 트리거 구에 따라 각 기존 토픽에 대한 기본 설명을 자동으로 생성합니다. 생성된 설명은 관련 사용자 쿼리에 대한 응답으로 이러한 토픽을 선택할 수 있을 만큼 충분히 좋은 경우가 많습니다. 그러나 생성된 설명을 수정하려면 이 문서에 제공된 조언을 따르는 것이 좋습니다.
생성 오케스트레이션을 사용하는 다국어 지원
생성 오케스트레이션을 사용하는 에이전트의 경우 생성되는 모든 콘텐츠는 현재 활성 언어(에이전트의 기본 언어 또는 보조 언어 중 하나)에 있습니다. 에이전트는 클라이언트 또는 브라우저 언어의 사용자 언어를 자동으로 결정합니다. 에이전트에 대한 언어를 추가하는 방법에 대한 자세한 내용은 다국어 에이전트 구성 및 만들기를 참조하세요. 생성 오케스트레이션에서 지원되는 언어 목록은 언어 지원을 참조하세요.
모범 사례
다음은 항목, 도구 및 기술 자료의 이름을 지정하고 명확하고 간결하며 관련 설명을 작성하는 몇 가지 모범 사례입니다.
비고
여러 항목에 비슷한 설명이 있는 경우 에이전트가 모두 호출하여 질문에 대답할 수 있습니다. 이러한 동작을 방지하려면 에이전트를 철저히 테스트하고 겹치는 설명을 수정해야 합니다.
지침에 대한 자세한 내용은 생성 오케스트레이션에 대한 지침으로 이동하세요.
작문 스타일
간단하고 직접적인 언어를 사용하세요. 전문 용어, 속어 또는 기술 용어를 사용하지 마세요.
설명에는 능동태와 현재 시제를 사용하세요. 예를 들어 "이 도구에서 날씨 정보를 제공하는 경우" 대신 "이 도구는 날씨 정보를 제공합니다."를 작성합니다.
글머리 기호 목록과 번호 매기기 목록을 사용하여 일련의 항목, 작업 또는 고려 사항을 명확하게 구분할 수 있습니다.
정확도
도구 또는 토픽의 기능 및 사용자의 의도와 관련된 키워드를 사용합니다. 예를 들어 도구에서 날씨 정보를 제공하는 경우 "날씨", "예측", "온도", "비", "눈" 등의 키워드를 사용합니다.
설명을 위해 도구 또는 토픽의 기능에 대한 짧고 유익한 요약을 작성합니다. 요약은 하나 또는 두 개의 문장으로 제한되어야 하며, 도구 또는 토픽이 수행하는 기능과 사용자에게 어떤 이점이 있는지 설명해야 합니다.
짧은 문구로 구성된 설명적이고 고유한 이름을 사용하십시오. 혼란스러울 수 있는 일반적이거나 모호한 이름은 사용하지 마세요. 예를 들어 도구 이름을 "날씨"로 지정하는 대신 이름을 "일기 예보" 또는 "날씨 보고서"로 지정합니다.
특정 언어를 사용하여 유사한 토픽과 도구 간의 모호성을 방지합니다.
예를 들어 에이전트에 현재 기상 조건에 대한 정보를 제공하는 도구가 이미 있지만 내일의 일기 예보를 제공하기 위해 다른 항목을 추가하려는 경우 이러한 항목의 이름과 설명이 모호성을 방지하기에 충분히 구체적인지 확인합니다. 이러한 유사한 토픽의 이름과 설명이 다른지 확인합니다. 또한 자신이 할 수 없는 일을 나타내는 데 도움이 될 수 있습니다. 다음은 사용할 수 있는 이름 및 설명의 예입니다.
이름: 현재 날씨
설명: 이 토픽은 전 세계 모든 위치의 일기 예보를 제공합니다. 기온, 비가 오거나 눈이 오는지 등 현재 날씨를 물어볼 수 있습니다. 향후 날짜에 대한 일기 예보는 제공되지 않습니다.
이름: 내일 일기 예보
설명: 이 토픽에서는 다음 날의 전 세계 모든 위치에 대한 날씨 정보를 제공합니다. 온도를 제공합니다. 오늘의 현재 날씨는 제공되지 않습니다.
하지 말아야 할 일의 예
여기에는 지침을 따르지 않는 몇 가지 예가 포함되어 있습니다. 이 예제는 도구에서 대답할 수 있는 질문 유형을 지정하지 않으므로 너무 모호합니다.
이름: 질문에 답하기
설명: 이 도구는 질문에 대답할 수 있습니다.
다음 예에서는 전문 용어를 사용합니다. 대신 주당순이익(EPS)을 명시해야 합니다.
이름: EPS 가져오기
설명: 모든 주식 시세에 대한 EPS를 가져옵니다.
생성형 오케스트레이션을 사용하여 사용자 요청을 처리하는 에이전트와의 상호 작용 예
다음 예제는 두 가지 사용자 지정 항목이 있는 에이전트를 기반으로 합니다. 하나는 매장 시간을 찾기 위한 항목이고 다른 하나는 가까운 상점을 찾는 데 사용되며 미리 빌드된 MSN Weather 커넥터를 기반으로 하는 도구입니다.
예 1
이 예에서 사용자는 "시애틀 날씨는 어때요?"라고 묻습니다. 에이전트는 현재 날씨 도구를 선택하고 사용자의 질문에서 인식한 "Seattle"을 사용하여 위치 입력을 미리 채우기도 합니다.
예제 2
이 예에서 사용자는 "매장 영업 시간을 확인하고 가장 가까운 매장을 찾아야 합니다"라고 묻습니다. 여기서 에이전트는 영업 시간 토픽과 매장 로케이터의 두 항목을 선택하고 함께 연결하여 사용자 쿼리의 두 부분에 모두 응답합니다.
예 3
이 예에서 사용자는 대화 초반에 Kirkland로 식별된 가장 가까운 매장을 찾았습니다. 그런 다음 사용자는 "거기 날씨는 어때요?"라고 물었습니다. 여기서 에이전트는 현재 날씨 도구를 선택하지만 최근 대화 컨텍스트에 따라 위치를 "Kirkland"로 미리 채운다.
생성형 오케스트레이션을 위한 더 많은 제어 옵션
현재 계획 취소
토픽 내의 모든 토픽 종료 노드를 사용하여 오케스트레이터가 사용자 또는 이벤트 트리거에 응답하도록 계획한 나머지 단계를 취소할 수 있습니다.
토픽 트리거 사용 및 대화 기록 사용 제어
다음 토픽 트리거 중 하나를 사용하여 에이전트의 동작을 확인할 수 있습니다.
- AI 응답 생성: 에이전트가 사용자에 대한 응답을 생성할 때.
- 계획 완료: 계획이 완료될 때(즉, 에이전트가 사용자에게 응답하기 위해 모든 단계를 수행한 경우 완료됩니다).
이러한 토픽 트리거 및 기타 토픽 트리거에 대해 자세히 알아보세요.
대화 기록 제어
에이전트는 사용자에게 응답하는 방법을 결정하거나 응답 생성 또는 사용 가능한 컨텍스트에서 입력 값 채우기와 같은 다른 작업을 수행할 때 최근 대화 기록을 사용합니다. 변수 값 지우기 노드를 사용하여 플래너가 사용하는 대화 기록을 언제든지 지우도록 선택할 수 있으며, 현재 세션에 대한 대화 기록 옵션과 함께 사용할 수 있습니다.
생성형 오케스트레이션에 대한 알려진 제한 사항
생성형 오케스트레이션 모드를 사용할 때 다음과 같은 알려진 문제 및 제한 사항이 있습니다.
참조 자료
에이전트가 생성 모드에서 지식 소스를 검색하는 경우 대화 역량 강화 시스템 토픽을 사용하지 않습니다. 따라서 에이전트가 지식을 검색하는 방법을 사용자 지정하기 위해 이 시스템 항목을 수정하면 사용되지 않습니다. 이 제한은 사용자 지정 데이터 원본을 포함하여 생성형 답변 노드에 구성된 클래식 데이터 원본에도 적용됩니다. 지식이 생성형 오케스트레이션과 함께 작동하는 방식에 대해 자세히 알아보세요.
토픽 및 도구 입력 매개 변수에 대한 사용자 지정 엔터티 지원
도구 및 토픽은 아직 사용자 지정 엔터티(닫힌 목록 및 정규식 엔터티)를 입력 매개 변수로 지원하지 않습니다. 사용자 지정 엔터티를 사용하여 정보를 수집하려면 항목에서 질문 노드를 사용할 수 있습니다.
명확성
에이전트는 사용자의 의도와 밀접하게 일치하는 토픽이 두 개 이상 있는 경우 토픽을 구분하지 못할 수 있습니다. 일반적으로 에이전트는 여러 토픽 일치 시스템 토픽을 통해 사용자에게 자신의 의도와 일치하는 하나 이상의 토픽 중에서 선택하도록 요청합니다. 그러나 생성 오케스트레이션을 사용하는 에이전트는 현재 이 항목을 호출하지 않습니다. 여러 토픽 일치 시스템 토픽을 사용 설정한 상태로 두면 이 문제가 해결될 때 에이전트가 자동으로 토픽 간 명확화를 시작합니다. 에이전트가 나중에 토픽을 자동으로 구분하지 않도록 하려면 여러 토픽 일치 시스템 토픽을 사용 중지하세요. 이 토픽을 끄면 에이전트를 테스트할 수 있습니다. 선택적으로 에이전트를 테스트한 후 토픽을 다시 켜서 모호성 해결을 다시 사용하도록 선택할 수 있습니다.
이전 대화 컨텍스트
생성형 오케스트레이션을 통해 에이전트는 사용자와 에이전트 간의 최근 대화를 사용하여 호출할 도구를 결정하거나 입력을 값으로 채울 때 컨텍스트를 제공합니다. 현재 대화 기록의 양이 제한되어 있으므로 에이전트가 대화의 이전 부분에 있는 정보를 보거나 사용할 수 없는 경우가 있습니다. 이러한 경우 사용자로부터 일부 정보를 다시 수집하거나 정기적으로 주요 정보가 대화록에 포함되도록 해야 할 수 있습니다.