Microsoft Defender for Cloud의 AI 서비스에 대한 위협 방지는 생성 AI 애플리케이션에 영향을 줄 수 있는 위협에 대한 인사이트를 제공하여 Azure 구독의 AI 서비스를 보호합니다.
필수 구성 요소
개요 - AI 위협 방지를 읽어보세요.
Microsoft Azure 구독이 필요합니다. Azure 구독이 없는 경우 무료 구독에 등록하면 됩니다.
Azure 구독에서 클라우드용 Defender를 활성화합니다.
Azure OpenAI 콘텐츠 필터링에 대한 프롬프트 기반 트리거 경고를 옵트아웃하지 않는 것이 좋습니다. 해당 기능을 옵트아웃하고 제거하면 클라우드용 Defender가 이러한 공격을 모니터링하고 감지하는 기능에 영향을 줄 수 있습니다.
AI 서비스에 대한 위협 보호 활성화
AI 서비스에 대한 위협 방지를 사용하도록 설정합니다.
Azure Portal에 로그인합니다.
클라우드용 Microsoft Defender를 검색하여 선택합니다.
클라우드용 Defender 메뉴에서 환경 설정을 선택합니다.
관련 Azure 구독을 선택합니다.
Defender 계획 페이지에서 AI 서비스를 켜기로 전환합니다.
사용자 프롬프트 증명 정보 사용
AI 서비스 위협 방지 계획을 사용하도록 설정하면 경고에 사용자의 프롬프트에서 직접 의심스러운 세그먼트가 포함되는지 또는 AI 애플리케이션 또는 리소스의 모델 응답을 포함할지 여부를 제어할 수 있습니다. 사용자 프롬프트 증거를 사용하도록 설정하면 경고 및 사용자의 의도를 심사하고 분류하는 데 도움이 됩니다.
사용자 프롬프트 증거는 프롬프트 및 모델 응답으로 구성됩니다. 둘 다 데이터로 간주됩니다. 증거는 Azure Portal, Defender 포털 및 연결된 모든 파트너 통합을 통해 사용할 수 있습니다.
Azure Portal에 로그인합니다.
클라우드용 Microsoft Defender를 검색하여 선택합니다.
클라우드용 Defender 메뉴에서 환경 설정을 선택합니다.
관련 Azure 구독을 선택합니다.
AI 서비스를 찾고 설정을 선택합니다.
사용자 프롬프트 증명 정보를 켬으로 설정/해제합니다.
계속을 선택합니다.
Microsoft Purview를 사용하여 Azure AI에 대한 데이터 보안 사용
비고
이 기능을 사용하려면 클라우드용 Microsoft Defender for AI Services 계획에 포함되지 않은 Microsoft Purview 라이선스가 필요합니다.
AI용 Microsoft Purview DSPM을 시작하려면 AI용 Microsoft Purview DSPM 설정을 참조하세요.
Microsoft Purview가 Azure AI Services에서 연결된 메타데이터를 포함하여 프롬프트 및 응답 데이터에 액세스, 처리 및 저장할 수 있도록 설정합니다. 이 통합은 다음과 같은 주요 데이터 보안 및 규정 준수 시나리오를 지원합니다.
SIT(중요한 정보 유형) 분류
AI용 Microsoft Purview DSPM을 통한 분석 및 보고
내부자 위험 관리
커뮤니케이션 규정 준수
Microsoft Purview 감사
데이터 수명 주기 관리
전자 정보 검색 (eDiscovery)
이 기능은 조직에서 엔터프라이즈 정책 및 규정 요구 사항에 따라 AI 생성 데이터를 관리하고 모니터링하는 데 도움이 됩니다.
비고
Azure AI Services 상호 작용에 대한 데이터 보안은 사용자 컨텍스트 토큰으로 Microsoft Entra ID 인증을 사용하는 API 호출 또는 사용자 컨텍스트를 명시적으로 포함하는 API 호출에 대해서만 지원됩니다. 자세한 내용은 Azure AI API 호출에 대한 최종 사용자 컨텍스트 얻기를 참조하세요.
Azure Portal에 로그인합니다.
클라우드용 Microsoft Defender를 검색하여 선택합니다.
클라우드용 Defender 메뉴에서 환경 설정을 선택합니다.
관련 Azure 구독을 선택합니다.
AI 서비스를 찾고 설정을 선택합니다.
AI 상호 작용에 대한 데이터 보안을 켜기로 전환합니다.
계속을 선택합니다.
