평가에 대한 속도 제한, 지역 지원 및 엔터프라이즈 기능

이 문서에서는 AI 지원 평가기를 지원하는 지역, 평가 실행에 적용되는 속도 제한, 네트워크 격리에 대한 가상 네트워크 지원을 구성하는 방법 및 고유한 스토리지 계정을 사용하여 평가를 실행하는 방법에 대한 개요를 제공합니다.

지역 지원

위험 및 안전 평가자 및 AI 레드 팀 지역 지원

특정 AI 지원 평가자와 AI 레드 팀은 다음 지역에서만 사용할 수 있습니다.

지역 증오와 불공정, 성적 콘텐츠, 폭력적, 자해, 간접 공격, 코드 취약성, 근거 없는 속성, AI 레드 팀 검토 그라운디드니스 프로 보호된 재질
미국 동부 2 지원 지원 지원
스웨덴 중부 지원 지원 적용되지 않음 (N/A)
미국 중북부 지원 적용되지 않음 (N/A) 적용되지 않음 (N/A)
프랑스 중부 지원 적용되지 않음 (N/A) 적용되지 않음 (N/A)
스위스 서부 지원 적용되지 않음 (N/A) 적용되지 않음 (N/A)

에이전트 플레이그라운드 평가 영역 지원

Foundry 포털은 다음 지역에서 에이전트 플레이그라운드 평가를 지원합니다.

  • 미국 동부 2
  • 미국 서부
  • 미국 서부 2
  • 미국 서부 3
  • 프랑스 중부
  • 노르웨이 동부
  • 스웨덴 중부

일괄 처리를 평가하기 위해 지원되지 않는 지역

일괄 처리 평가는 다음 지역에서 지원되지 않습니다.

  • 캐나다 중부
  • 카타르 중부
  • 미국 중남부
  • 동남 아시아
  • 스페인 중부

Azure OpenAI 채점자에 대해 지원되지 않는 지역

다음 지역은 Azure OpenAI 채점자 또는 사용자 지정 코드 평가기를 지원하지 않습니다.

  • 캐나다 동부
  • 인도 중부
  • 동아시아
  • 미국 동부
  • 북유럽
  • 인도 남부

속도 제한

평가 실행에는 다음 속도 제한이 적용됩니다.

제한
행당 최대 크기 2MB
일괄 처리 평가에서 최대 행 수 100,000

평가 실행 생성은 테넌트, 구독 및 프로젝트 수준에서 속도가 제한됩니다. 제한을 초과하는 경우:

  • 응답에는 대기 시간이 있는 retry-after 헤더가 포함됩니다.
  • 응답 본문에는 속도 제한 세부 정보가 포함됩니다.

실패한 요청을 다시 시도할 때 지수 백오프를 사용합니다.

평가에 대한 가상 네트워크 지원

네트워크 격리의 경우 평가를 위해 사용자 고유의 가상 네트워크를 가져올 수 있습니다. 자세한 내용은 프라이빗 링크를 구성하는 방법을 참조하세요.

평가에 대한 가상 네트워크 지원에는 네트워크 주입(서브넷 위임) 이 필요하지만 평가 기능만 필요 하고 전체 에이전트 지원(Cosmos DB, AI Search 또는 프로젝트 기능 호스트)이 필요하지 않은 경우 간소화된 평가 전용 설치 템플릿(15a) 을 대신 사용하는 것이 좋습니다. 리소스가 적고 복잡성이 감소하는 평가 시나리오에 맞게 조정된 최소한의 네트워크 보안 환경을 배포합니다.

참고

Application Insights를 연결하면 평가 데이터가 전송됩니다.

중요

평가 및 레드 팀 실행의 실패를 방지하려면 초기 프로젝트 설정 시 프로젝트의 관리된 ID에 Azure AI 사용자 역할을 할당합니다.

가상 네트워크 지역 지원

평가를 위해 사용자 고유의 가상 네트워크를 가져오는 것은 다음을 제외한 모든 지역에서 지원됩니다.

  • 인도 중부
  • 동아시아
  • 북유럽
  • 카타르 중부

사용자 고유의 스토리지 가져오기

사용자 고유의 스토리지 계정을 사용하여 평가를 실행할 수 있습니다.

  1. 스토리지 계정을 만들고 리소스 수준에서 Foundry 프로젝트에 연결합니다. 키 인증을 사용하여 스토리지 계정을 Foundry 프로젝트에 프로비전하고 연결하는 Bicep 템플릿을 사용할 수 있습니다.
  2. 연결된 스토리지 계정에 모든 프로젝트에 대한 액세스 권한이 있는지 확인합니다.
  3. Microsoft Entra ID 사용하여 스토리지 계정을 연결한 경우 관리 ID Storage Blob 데이터 소유자 권한을 Azure 포털의 계정과 Foundry 프로젝트 리소스 모두에 부여해야 합니다.