중요합니다
이 기능은 현재 미리 보기로 제공되며 AI 서비스용 Microsoft Defender 계획에 포함되어 있습니다. 미리 보기 중에는 AI 모델 검사에 대한 추가 요금이 부과되지 않습니다. 그러나 AI 서비스용 Defender 계획을 사용하도록 설정하면 위협 방지 기능과 관련된 비용이 발생할 수 있습니다. DEFENDER FOR AI SERVICES 일부로 AI 모델 검색 기능을 계속 포함하는 것은 GA(일반 공급)가 되면 보장되지 않으며 라이선스 요구 사항이 변경될 수 있습니다. 이 경우 해당 라이선스에 따라 다시 사용하도록 설정하는 옵션을 사용하여 기능을 사용하지 않도록 설정하기 전에 알림이 전송됩니다.
조직이 AI(인공 지능) 모델을 사용하여 자동화, 인사이트 및 지능형 의사 결정을 추진함에 따라 보안 팀은 환경에 진입하는 AI 모델의 안전성과 규정 준수를 평가하기 위해 가시성과 제어가 필요합니다. 이러한 모델은 종종 데이터 및 인프라에 광범위하게 액세스할 수 있습니다. 이러한 기능이 없으면 내부 표준을 적용하기가 점점 더 어려워집니다.
클라우드용 Microsoft Defender의 AI 보안을 위한 Defender는 AI 모델 스캐닝을 지원합니다. AI 모델 검색은 안전하지 않거나 악의적인 아티팩트 사전 검색을 제공하며 AI 수명 주기 내내 위험에 대한 모델을 지속적으로 모니터링합니다.
AI 모델 보안은 이러한 모델이 프로덕션에 도달하기 전에 포함된 맬웨어, 안전하지 않은 운영자 및 노출된 비밀과 같은 보안 위험을 AI 모델에 자동으로 검색합니다. Azure Machine Learning 및 CI/CD 파이프라인과 직접 통합된 이 서비스는 실시간 결과 및 실행 가능한 수정 지침을 표시하므로 팀은 개발 프로세스 초기에 위험한 모델을 중지할 수 있습니다.
보안 팀은 AI 모델 보안을 사용하여 Azure Machine Learning 작업 영역 및 레지스트리에 업로드된 사용자 지정 AI 모델을 검색하여 포함된 맬웨어, 안전하지 않은 운영자 및 노출된 비밀과 같은 위협을 식별할 수 있습니다. 클라우드용 Defender 결과를 제공하여 팀에게 심각도 등급, 수정 지침 및 관련 모델 메타데이터와 함께 보안 결과에 대한 가시성을 제공하여 효과적인 심사 및 우선 순위를 지원합니다. 또한 개발자는 Azure DevOps 또는 GitHub 파이프라인과 통합된 CLI 도구를 사용하여 빌드 또는 릴리스 단계에서 모델 검색을 트리거하여 모델이 프로덕션에 도달하기 전에 정적 검색 및 초기 위험 검색을 사용하도록 설정할 수 있습니다.
사전 요구 사항
- Azure Machine Learning(Azure Machine Learning) 레지스트리 또는 작업 영역에 등록된 AI 모델이 포함된 Azure 구독이 있어야 합니다.
메모
프라이빗 링크를 사용하는 작업 영역 및 레지스트리는 지원되지 않습니다.
계획의 AI 서비스 및 AI 모델 보안 구성 요소에 대한 위협 방지를 사용하도록 설정해야 합니다.
필요한 권한: 계획을 사용하도록 설정하려면 Azure Machine Learning 리소스에 대한 Owner 또는 Contributor 수준 권한이 필요합니다.
지원되는 모델 파일 형식:
Pickle (.pkl),HDF5 (.h5),TorchScript (.pt),ONNX (.onnx),SafeTensors (.safetensors)TensorFlow SavedModel / TFLite (FlatBuffers),NumPy (.npy)Arrow, MsgPack, dill, joblibPMML, JSON, POJO, MOJO, GGUF.파일 크기 제한: 10GB. 10GB보다 큰 모델 파일은 검색할 수 없습니다.
검사는 일주일에 한 번 발생합니다.
사용자 환경에서 모든 AI 모델 찾기
Azure 포털 로그인합니다.
클라우드용 Microsoft Defender 검색하여 선택합니다.
클라우드 보안 탐색기를 선택합니다.
AI 및 Mls>AI 모델을 선택합니다.
완료를 선택합니다.
+를 선택합니다.
메타데이터>AI 모델 메타데이터를 선택합니다.
검색을 선택합니다.
클라우드 보안 탐색기는 사용자 환경의 모든 AI 모델을 표시합니다. 보기 세부 정보를 선택하여 선택한 각 모델에 대한 자세한 정보를 볼 수 있습니다.
보안 결과를 사용하여 AI 모델 찾기
클라우드 보안 탐색기를 사용하여 활성 보안 결과가 있는 AI 모델을 찾습니다.
환경의 모든 AI 모델 찾기 섹션에서 1-7단계를 수행합니다.
+를 선택합니다.
권장 사항>모든 권장 사항을 선택합니다.
검색을 선택합니다.
클라우드 보안 탐색기에는 활성 보안 결과가 있는 환경의 모든 AI 모델이 표시됩니다. 보기 세부 정보를 선택하여 각 모델 및 관련 결과에 대한 자세한 정보를 확인합니다.
사용자 환경에서 모든 AI 모델 찾기
Defender 포털 Assets 페이지에서는 환경의 모든 AI 모델을 포괄적으로 볼 수 있습니다.
Microsoft Defender 포털 로그인합니다.
Assets>Cloud>AI>AI 모델로 이동.
권장 사항이 있는 AI 모델을 선택합니다.
자산 페이지 열기를 선택합니다.
보안 권장 사항> 관련된 권장 사항을 선택합니다.
필요에 따라 보안 검색 결과를 검토하고 수정합니다.
Azure 포털에서 권장 사항을 관리할 수도 있습니다.