CLI를 사용하여 Azure Container Instances 모델 배포(v1)

Azure Machine Learning 사용하여 ACI(Azure Container Instances)에서 모델을 웹 서비스로 배포하는 방법을 알아봅니다. 다음과 같은 경우 Azure Container Instances 사용합니다.

• 자체 Kubernetes 클러스터를 관리하지 않는 것을 선호하는 경우
• 서비스의 복제본을 하나만 두는 것에 동의하는 경우, 이는 가동 시간에 영향을 미칠 수 있습니다.

ACI 관련 할당량 및 지역 가용성에 대한 정보는 'Azure Container Instances의 할당량 및 지역 가용성' 문서를 참조하세요.

필수 조건

• Azure Machine Learning 작업 영역입니다. 자세한 내용은 Azure Machine Learning 작업 영역 만들기 참조하세요.

• 작업 영역에 등록된 기계 학습 모델. 등록된 모델이 없는 경우 모델을 배포하는 방법 및 위치를 참조하세요.

• Azure Machine Learning 서비스에 대한 Azure CLI 확장(v1), Azure Machine Learning Python SDK, 또는 Azure Machine Learning Visual Studio Code 확장.

• 이 문서의 Python 코드 조각은 다음 변수가 설정된다고 가정합니다.

  • ws - 작업 영역으로 설정.
  • model - 등록된 모델로 설정.
  • inference_config - 모델에 대한 유추 구성으로 설정.

  이러한 변수를 설정하는 방법에 대한 자세한 내용은 모델을 배포하는 방법 및 위치를 참조하세요.

• 이 문서의 CLI 코드 조각에서는 사용자가 파일을 만들었다고 가정합니다 inferenceconfig.json . 이 파일을 만드는 방법에 대한 자세한 내용은 모델을 배포하는 방법 및 위치를 참조하세요.

제한 사항

ACI에 배포

Azure Container Instances 모델을 배포하려면 코어 수 및 메모리 수와 같이 필요한 컴퓨팅 리소스를 설명하는 배포 구성 만듭니다. 모델 및 웹 서비스를 호스트하는 데 필요한 환경을 설명하는 유추 구성도 필요합니다. 유추 구성을 만드는 방법에 대한 자세한 내용은 모델을 배포하는 방법 및 위치를 참조하세요.

SDK 사용

적용 대상:Azure Machine Learning SDK v1 for Python

from azureml.core.webservice import AciWebservice, Webservice
from azureml.core.model import Model

deployment_config = AciWebservice.deploy_configuration(cpu_cores = 1, memory_gb = 1)
service = Model.deploy(ws, "aciservice", [model], inference_config, deployment_config)
service.wait_for_deployment(show_output = True)
print(service.state)

이 예제에서 사용되는 클래스, 메서드 및 매개 변수에 대한 자세한 내용은 다음 참조 문서를 참조하세요.

• AciWebservice.deploy_configuration
• Model.deploy
• 웹서비스.배포_대기_중

Azure CLI 사용

적용 대상:Azure CLI ml extension v1

CLI를 사용하여 배포하려면 다음 명령을 실행합니다. mymodel:1은 등록된 모델의 이름과 버전으로 바꿉니다. myservice는 이 서비스를 제공할 이름으로 바꿉니다.

az ml model deploy -n myservice -m mymodel:1 --ic inferenceconfig.json --dc deploymentconfig.json

파일의 deploymentconfig.json 항목은 AciWebservice.deploy_configuration 매개 변수에 매핑됩니다. 다음 표에서는 JSON 파일의 엔터티와 메서드에 대한 매개 변수 간의 매핑에 대해 설명합니다.

다음 JSON은 CLI에서 사용할 수 있는 배포 구성의 예제입니다.

{
    "computeType": "aci",
    "containerResourceRequirements":
    {
        "cpu": 0.5,
        "memoryInGB": 1.0
    },
    "authEnabled": true,
    "sslEnabled": false,
    "appInsightsEnabled": false
}

자세한 내용은 az ml model deploy 참조를 확인하세요.

VS Code 사용

VS Code에서 리소스를 관리하는 방법을 참조하세요.

다음 단계

• 사용자 지정 Docker 이미지를 사용하여 모델을 배포하는 방법
• 배포 문제 해결
• 웹 서비스 업데이트
• Azure Machine Learning을 통해 TLS를 사용하여 웹 서비스를 보호
• 웹 서비스로 배포된 ML 모델 사용
• Application Insights를 사용하여 Azure Machine Learning 모델 모니터링