ProtectedMaterialEvaluator 클래스
정의
중요
일부 정보는 릴리스되기 전에 상당 부분 수정될 수 있는 시험판 제품과 관련이 있습니다. Microsoft는 여기에 제공된 정보에 대해 어떠한 명시적이거나 묵시적인 보증도 하지 않습니다.
Azure AI Foundry 평가 서비스를 활용하여 AI 모델에서 생성된 응답을 평가하여 보호된 자료가 있는지 평가하는 IEvaluator.
public ref class ProtectedMaterialEvaluator sealed : Microsoft::Extensions::AI::Evaluation::Safety::ContentSafetyEvaluatorpublic sealed class ProtectedMaterialEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentSafetyEvaluatortype ProtectedMaterialEvaluator = class
inherit ContentSafetyEvaluatorPublic NotInheritable Class ProtectedMaterialEvaluator
Inherits ContentSafetyEvaluator- 상속
설명
보호되는 자료에는 노래 가사, 조리법 및 기사를 포함하여 저작권이 있는 모든 텍스트가 포함됩니다. ProtectedMaterialEvaluator 평가된 응답의 이미지 콘텐츠 내에 있는 보호된 자료를 검색할 수도 있습니다. 지원되는 파일 형식에는 JPG/JPEG, PNG 및 GIF가 포함되며 평가는 저작권이 있는 아트워크, 가상의 문자, 등록 상표인 로고 및 브랜딩을 검색할 수 있습니다. 오디오 및 비디오와 같은 다른 형식은 현재 지원되지 않습니다.
ProtectedMaterialEvaluator
BooleanMetric 는 응답에서 보호된 재질의 true 존재를 나타내는 값과 보호된 재질의 false 부재를 나타내는 값을 반환합니다.
생성자
| Name | Description |
|---|---|
| ProtectedMaterialEvaluator() |
Azure AI Foundry 평가 서비스를 활용하여 AI 모델에서 생성된 응답을 평가하여 보호된 자료가 있는지 평가하는 IEvaluator. |
속성
| Name | Description |
|---|---|
| EvaluationMetricNames |
에 NameIEvaluator의해 생성된 s의 EvaluationMetrics를 가져옵니다. (다음에서 상속됨 ContentSafetyEvaluator) |
| ProtectedArtworkMetricName |
Name 이미지의 BooleanMetric 아트워크에 ProtectedMaterialEvaluator 보호된 자료가 있음을 나타내기 위해 반환된 자료를 가져옵니다. |
| ProtectedFictionalCharactersMetricName |
이미지에 NameBooleanMetric 보호된 가상 문자가 있음을 나타내기 위해 반환 ProtectedMaterialEvaluator 된 값을 가져옵니다. |
| ProtectedLogosAndBrandsMetricName |
Name 이미지에 BooleanMetric 보호된 로고 및 브랜드가 있음을 나타내기 위해 반환 ProtectedMaterialEvaluator 된 값을 가져옵니다. |
| ProtectedMaterialMetricName |
응답에서 Name 보호된 재질의 BooleanMetric 존재를 나타내는 반환 ProtectedMaterialEvaluator 된 자료를 가져옵니다. |
메서드
| Name | Description |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
제공된 |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Azure AI Foundry Evaluation Service를 사용하여 제공된 |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
EvaluationContext호출자가 제공한 s를 다운을 EvaluationContext통해 |
