모델 카탈로그를 통해 모델 사용을 위한 데이터, 개인 정보 및 보안

이 문서에서는 모델 카탈로그에서 모델을 배포할 때 제공하는 데이터를 처리, 사용 및 저장하는 방법에 대해 자세히 설명합니다. 또한 Azure 서비스의 데이터 처리를 제어하는 Microsoft 제품 및 서비스 데이터 보호 부록 참조하세요.

Azure Machine Learning 배포된 모델에 대해 처리되는 데이터는 무엇인가요?

Azure Machine Learning 모델을 배포하는 경우 서비스는 다음 유형의 데이터를 처리하여 서비스를 제공합니다.

• 프롬프트 및 생성된 콘텐츠입니다. 프롬프트를 제출하면 모델이 지원하는 작업을 통해 콘텐츠(출력)를 생성합니다. 프롬프트에는 RAG(검색 보강 생성), 메타프롬프트 또는 애플리케이션에 포함된 기타 기능을 통해 추가하는 콘텐츠가 포함될 수 있습니다.

• 업로드된 데이터입니다. 미세 조정을 지원하는 모델의 경우 미세 조정에 사용하기 위해 데이터를 Azure Machine Learning Datastore 업로드할 수 있습니다.

관리 컴퓨팅을 사용하여 추론 출력 생성

관리형 컴퓨팅에 모델을 배포하는 경우 전용 가상 머신에 모델 가중치를 배포하고 실시간 유추를 위해 REST API를 노출합니다. 자세한 내용은 모델 카탈로그에서 관리 컴퓨팅으로 모델 배포를 참조하세요. 이러한 관리 컴퓨팅에 대한 인프라를 관리하고 Azure 데이터, 개인 정보 보호 및 보안 약정이 적용됩니다. 자세한 내용은 Azure Machine Learning 적용되는 Azure 규정 준수 제품을 참조하세요.

"Azure에서 판매하는 모델"용 컨테이너는 데이터 유출을 초래할 수 있는 취약점에 대해 검사되지만, 모델 카탈로그를 통해 제공되는 모든 모델이 검사되는 것은 아닙니다. 데이터 반출 위험을 줄이기 위해 가상 네트워크를 사용하여 배포를 보호할 수 있습니다. 자세한 내용은 네트워크 격리 모델 카탈로그를 참조하세요. Azure Policy 사용하여 사용자가 배포할 수 있는 모델을 규제할 수도 있습니다.

표준 배포를 사용하여 추론 출력 생성

추론을 위한 표준 배포로 모델 카탈로그(기본 또는 미세 조정)에서 모델을 배포하는 경우 Azure Machine Learning 서비스에서 호스트하고 관리하는 모델에 액세스할 수 있는 API를 얻게 됩니다. 자세한 내용은 Model-as-a-Service를 참조하세요. 모델은 입력 프롬프트를 처리하고 모델에 제공된 모델 세부 정보에 설명된 대로 모델의 기능에 따라 출력을 생성합니다. 모델 공급자가 모델을 제공하고 모델(및 모델 및 해당 출력에 대한 모델 공급자의 책임)을 사용하는 경우 모델과 함께 제공되는 사용 조건에 따라 Microsoft 호스팅 인프라 및 API 엔드포인트를 제공하고 관리합니다. Model-as-a-Service에서 호스트되는 모델은 Azure 데이터, 개인 정보 및 보안 약정의 적용을 받습니다. Azure Machine Learning 적용되는 Azure 규정 준수 제품에 대한 자세한 내용은 here 참조하세요.

Microsoft 표준 배포를 위해 배포된 모델에서 보내고 생성한 프롬프트 및 출력에 대한 데이터 프로세서 역할을 합니다. Microsoft 이러한 프롬프트 및 출력을 모델 공급자와 공유하지 않으며, Microsoft 이러한 프롬프트와 출력을 사용하여 Microsoft, 모델 공급자 또는 타사 모델을 학습하거나 개선하지 않습니다. 모델은 무상태이며, 모델에 프롬프트 또는 출력이 저장되지 않습니다. 콘텐츠 필터링(미리 보기)을 사용하도록 설정하면 Azure AI 콘텐츠 보안 서비스에서 특정 범주의 유해한 콘텐츠에 대한 프롬프트 및 출력을 실시간으로 표시합니다. 자세한 내용은 Azure AI 콘텐츠 보안 데이터 here 처리하는 방법을 참조하세요. 프롬프트 및 출력은 배포 중에 지정된 지리 내에서 처리되지만 운영 목적(성능 및 용량 관리 포함)을 위해 지리 내의 지역 간에 처리될 수 있습니다.

Model-as-a-Service에 대한 배포 프로세스 중에 설명한 대로 Microsoft 모델 게시자와 고객 연락처 정보 및 트랜잭션 세부 정보(제품과 연결된 사용량량 포함)를 공유하여 모델 관련 고객에게 연락할 수 있도록 할 수 있습니다. 모델 게시자가 사용할 수 있는 정보에 대한 자세한 내용은 이 링크를 참조하세요.

표준 배포(Models-as-a-Service)를 사용하여 모델을 미세 조정합니다.

표준 배포에 사용할 수 있는 모델이 미세 조정을 지원하는 경우 Azure Machine Learning Datastore 데이터를 업로드하거나 이미 있는 데이터를 지정하여 모델을 미세 조정할 수 있습니다. 그런 다음, 미세 조정된 모델에 대한 표준 배포를 만들 수 있습니다. 미세 조정된 모델은 다운로드할 수 없지만, 해당 모델은 다음과 같습니다.

• 당신만을 위한 전용으로 제공됩니다.

• 데이터가 저장될 때 이중 암호화를 적용할 수 있습니다 (기본적으로 Microsoft의 AES-256 암호화를 사용하며, 고객이 관리하는 키를 선택적으로 적용할 수 있습니다).

• 언제든지 삭제할 수 있습니다.

미세 조정을 위해 업로드된 학습 데이터는 서비스 내에서 사용자가 지시하는 경우를 제외하고 Microsoft 또는 타사 모델을 학습, 재학습 또는 개선하는 데 사용되지 않습니다.

다운로드한 모델에 대한 데이터 처리

모델 카탈로그에서 모델을 다운로드하는 경우 모델을 배포할 위치를 선택하고 모델을 사용할 때 데이터가 처리되는 방식을 담당합니다.

다음 단계

• 모델 카탈로그 개요