보안 AI

이 문서는 Azure에서 AI 워크로드에 대한 보안 프로세스를 설정하는 데 도움이 됩니다. 보안 AI 환경은 비즈니스 목표를 지원하고 AI 솔루션에 대한 이해 관계자의 신뢰를 구축합니다.

AI 보안 위험 검색

AI 워크로드는 기존 보안 조치가 해결할 수 없는 새로운 공격 표면을 만듭니다. 효과적인 방어를 구축하려면 AI 관련 취약성을 체계적으로 평가해야 합니다. 방법은 다음과 같습니다.

1. 환경 전반에서 AI 시스템 위험을 식별합니다. AI 시스템은 감지하기 위해 전문화된 평가 프레임워크가 필요한 진화하는 위협에 직면해 있습니다. 이러한 프레임워크는 기계 학습 및 AI 워크로드와 관련된 공격 벡터를 이해하는 데 도움이 됩니다. MITRE ATLAS 및 OWASP 생성 AI 위험과 같은 프레임워크를 사용하여 조직의 모든 AI 워크로드에서 위험을 식별합니다.

2. 워크플로 전체에서 AI 데이터 위험을 평가합니다. AI 워크플로의 중요한 데이터는 비즈니스 운영을 손상시킬 수 있는 내부자 위협 및 데이터 유출의 위험을 증가합니다. 데이터 위험 평가는 실제 노출 수준에 따라 보안 투자의 우선 순위를 지정하는 데 도움이 됩니다. Microsoft Purview Insider Risk Management와 같은 도구를 사용하여 엔터프라이즈 수준의 데이터 위험을 평가하고 데이터 민감도 수준에 따라 우선 순위를 지정합니다.

3. 보안 취약성에 대한 AI 모델을 테스트합니다. AI 모델에는 공격자가 악용할 수 있는 데이터 유출, 프롬프트 주입 및 모델 반전과 같은 고유한 취약성이 포함되어 있습니다. 실제 테스트는 정적 검토에서 감지할 수 없는 위험을 발견합니다. 데이터 손실 방지 기술 및 적대적 시뮬레이션을 사용하여 취약성에 대한 모델을 테스트하고, 실제 공격을 시뮬레이트하기 위해 생성된 AI 및 비제전적 AI 모델을 모두 레드 팀으로 구성합니다.

4. 정기적인 위험 평가를 수행합니다. AI 모델, 사용 패턴 및 위협 행위자가 시간이 지남에 따라 진화함에 따라 새로운 위협이 등장합니다. 정기적으로 평가하면 보안 태세가 변화하는 위험 환경에 맞게 조정됩니다. 되풀이 평가를 실행하여 모델, 데이터 파이프라인 및 배포 환경의 취약성을 식별하고 평가 결과를 사용하여 위험 완화 우선 순위를 안내합니다.

AI 리소스 및 데이터 보호

AI 시스템에는 무단 액세스 및 공격에 대한 강력한 보호가 필요한 중요한 자산이 포함되어 있습니다. 이러한 중요한 리소스를 보호하려면 특정 보안 제어를 구현해야 합니다.

AI 리소스 보호

포괄적인 보안 조치는 AI 투자를 보호하고 AI 솔루션에 대한 이해 관계자의 신뢰를 유지합니다. AI 인프라의 모든 구성 요소를 보호하려면 대상 컨트롤을 적용해야 합니다. 방법은 다음과 같습니다.

1. 완전한 AI 자산 인벤토리를 만듭니다. 알 수 없는 AI 자산은 공격자가 무단으로 액세스를 얻기 위해 악용하는 보안의 취약점을 만듭니다. 포괄적인 인벤토리를 사용하면 모든 AI 구성 요소에 대한 효과적인 모니터링 및 신속한 인시던트 대응이 가능합니다. Azure Resource Graph Explorer를 사용하여 구독 전체에서 AI 리소스를 검색하고, 클라우드용 Microsoft Defender를 구현하여 생성 AI 워크로드를 식별하고, 자동화된 검사 및 정기적인 유효성 검사를 통해 이 인벤토리를 유지 관리합니다.

2. 모든 AI 통신 채널을 보호합니다. AI 구성 요소 간의 노출된 통신 경로를 통해 데이터 가로채기 및 시스템 손상이 허용됩니다. 제대로 보호된 채널은 무단 액세스를 방지하고 전송 중인 중요한 정보를 보호합니다. 저장된 자격 증명 없이 보안 인증을 위한 관리 ID 를 구현하고, 가상 네트워크를 사용하여 AI 통신을 격리하고, Azure API Management 를 배포하여 모델 컨텍스트 프로토콜 서버 엔드포인트를 보호합니다.

3. 플랫폼별 보안 컨트롤을 적용합니다. 다양한 AI 배포 모델은 아키텍처 및 노출 지점에 따라 고유한 보안 위협에 직면합니다. 플랫폼 맞춤형 컨트롤은 각 배포 유형에 존재하는 특정 취약성을 해결합니다. 배포 모델에 따라 전용 보안 지침을 따릅니다.

   • Azure PaaS 보안
   • Azure IaaS 보안

AI 데이터 보호

AI 워크로드가 데이터와 아티팩트에 의존하며, 이들은 무단 액세스, 데이터 유출 및 준수 위반을 방지하기 위한 강력한 보호가 필요합니다. AI 데이터 및 아티팩트 보호를 위해 포괄적인 데이터 보안 조치를 구현해야 합니다. 방법은 다음과 같습니다.

1. 데이터 경계를 정의하고 유지 관리합니다. 데이터 경계를 지우면 AI 워크로드가 의도한 대상 그룹 및 사용 사례에 적합한 데이터에만 액세스할 수 있습니다. Microsoft Purview를 사용하여 데이터 민감도를 분류하고 액세스 정책을 정의합니다. 워크로드 및 사용자 그룹별로 데이터 액세스를 제한하도록 Azure RBAC(역할 기반 액세스 제어) 를 구현합니다. Azure Private Link를 사용하여 AI 애플리케이션 간에 네트워크 수준 데이터 격리를 만듭니다.

2. 포괄적인 데이터 손실 방지를 구현합니다. AI 응답을 통한 무단 데이터 노출은 중요한 정보를 손상시키고 규정 요구 사항을 위반할 수 있습니다. 데이터 손실 방지 컨트롤은 AI 모델이 실수로 보호된 데이터를 출력에 노출하지 못하도록 방지합니다. Microsoft Purview 데이터 손실 방지를 사용하여 AI 워크플로에서 중요한 데이터를 검색하고 차단합니다. 중요한 정보 유출을 방지하도록 콘텐츠 필터링을 구성하고 사용자 지정 필터를 구현하여 조직별 중요한 데이터 패턴을 검색하고 수정합니다. Microsoft Copilot Studio의 경우 에이전트에 대한 데이터 손실 방지 정책을 구성합니다.

3. 손상으로부터 AI 아티팩트 보호 보안되지 않은 AI 모델 및 데이터 세트는 도난, 중독 또는 리버스 엔지니어링 공격의 대상이 됩니다. 보호된 아티팩트에서는 지적 재산 가치를 유지하고 AI 시스템의 악의적인 조작을 방지합니다. 프라이빗 엔드포인트를 사용하여 Azure Blob Storage 에 모델 및 데이터 세트를 저장하고, 미사용 및 전송 중 암호화를 적용하고, 모니터링을 통해 엄격한 액세스 정책을 구현하여 무단 액세스 시도를 감지합니다.

AI 보안 위협 감지

AI 시스템은 보안 위반 및 서비스 중단을 방지하기 위해 지속적인 모니터링이 필요한 진화하는 위협에 직면해 있습니다. 신속한 위협 탐지는 AI 투자를 보호하고 비즈니스 연속성을 유지합니다. AI 관련 보안 인시던트 문제를 효과적으로 해결하려면 자동화된 모니터링 및 대응 기능을 구현해야 합니다. 방법은 다음과 같습니다.

1. 환경 전체에 자동화된 AI 위험 검색을 배포합니다. AI 워크로드는 수동 모니터링이 손상을 방지하기에 충분히 빠르게 감지할 수 없는 동적 위협을 도입합니다. 자동화된 시스템은 새로운 위험에 대한 실시간 가시성을 제공하고 보안 인시던트에 대한 신속한 대응을 가능하게 합니다. 클라우드용 Microsoft Defender의 AI 보안 태세 관리를 사용하여 Azure 환경에서 생성 AI 위험의 검색 및 수정을 자동화합니다.

2. AI 중심 인시던트 대응 절차를 수립합니다. 검색되지 않은 보안 인시던트는 데이터 손실, 모델 손상 또는 서비스 중단으로 인해 비즈니스 운영에 피해를 줄 수 있습니다. 특수한 인시던트 대응 절차는 AI 보안 이벤트의 고유한 특성을 해결합니다. AI 관련 위협을 해결하고 AI 시스템의 손상 지표를 지속적으로 모니터링하는 인시던트 대응 계획을 빌드하고 테스트합니다. 다양한 유형의 AI 보안 인시던트에 대한 명확한 에스컬레이션 절차를 설정합니다.

3. 플랫폼별 모니터링 전략을 구현합니다. 다양한 플랫폼에 배포된 AI 워크로드는 맞춤형 모니터링 접근 방식이 필요한 고유한 보안 문제에 직면해 있습니다. 플랫폼별 모니터링은 모든 잠재적인 공격 벡터에 대한 포괄적인 범위를 보장합니다. 배포 아키텍처에 따라 모니터링 지침을 적용합니다.

   • Azure 플랫폼에서 AI 모니터링(PaaS)
   • Azure IaaS(인프라)에서 AI 모니터링

Azure 리소스

다음 단계

AI 관리, AI 관리 및 보안 AI는 정기적으로 반복해야 하는 연속 프로세스입니다. 필요에 따라 각 AI 전략, AI 계획 및 AI 준비 완료를 다시 확인합니다. AI 채택 검사 목록을 사용하여 다음 단계를 결정합니다.