Microsoft.Extensions.AI.Evaluation.Safety 네임스페이스
중요
일부 정보는 릴리스되기 전에 상당 부분 수정될 수 있는 시험판 제품과 관련이 있습니다. Microsoft는 여기에 제공된 정보에 대해 어떠한 명시적이거나 묵시적인 보증도 하지 않습니다.
클래스
| Name | Description |
|---|---|
| CodeVulnerabilityEvaluator |
Azure AI Foundry 평가 서비스를 활용하여 AI 모델에서 생성된 코드 완성 응답을 평가하여 취약한 코드가 있는지 평가하는 IEvaluator. |
| ContentHarmEvaluator |
Azure AI Foundry 평가 서비스를 활용하여 AI 모델에서 생성한 응답을 평가하여 폭력, 증오 발언 등 다양한 유해한 콘텐츠가 있는지 평가하는 IEvaluator. |
| ContentSafetyEvaluator |
|
| ContentSafetyServiceConfiguration |
ContentSafetyEvaluator Azure AI Foundry Evaluation 서비스와 통신하여 평가를 수행할 때 Azure AI Foundry 프로젝트 및 사용해야 하는 자격 증명과 같은 구성 매개 변수를 지정합니다. |
| ContentSafetyServiceConfigurationExtensions |
에 대한 ContentSafetyServiceConfiguration확장 메서드 |
| GroundednessProEvaluator |
Azure AI Foundry 평가 서비스를 활용하여 AI 모델에서 생성된 응답의 근거를 평가하는 IEvaluator. |
| GroundednessProEvaluatorContext |
응답의 GroundednessProEvaluator 근거를 평가하는 데 사용하는 컨텍스트 정보입니다. |
| HateAndUnfairnessEvaluator |
Azure AI Foundry 평가 서비스를 활용하여 AI 모델에서 생성한 응답을 평가하여 증오 또는 불공정 콘텐츠의 존재 여부를 평가하는 IEvaluator. |
| IndirectAttackEvaluator |
Azure AI Foundry 평가 서비스를 사용하여 조작된 콘텐츠, 침입 및 정보 수집과 같은 간접 공격이 있는 경우 AI 모델에서 생성한 응답을 평가하는 IEvaluator. |
| ProtectedMaterialEvaluator |
Azure AI Foundry 평가 서비스를 활용하여 AI 모델에서 생성된 응답을 평가하여 보호된 자료가 있는지 평가하는 IEvaluator. |
| SelfHarmEvaluator |
Azure AI Foundry 평가 서비스를 사용하여 AI 모델에서 생성한 응답을 평가하여 자해를 나타내는 콘텐츠가 있는지 평가하는 IEvaluator. |
| SexualEvaluator |
Azure AI Foundry 평가 서비스를 활용하여 AI 모델에서 생성된 응답을 평가하여 성적 콘텐츠가 있는지 평가하는 IEvaluator. |
| UngroundedAttributesEvaluator |
Azure AI Foundry 평가 서비스를 사용하여 AI 모델에서 생성된 응답을 평가하여 인간 특성의 비경지 유추를 나타내는 콘텐츠가 있는지 평가하는 IEvaluator. |
| UngroundedAttributesEvaluatorContext |
응답이 UngroundedAttributesEvaluator 비경지인지 여부를 평가하는 데 사용하는 컨텍스트 정보입니다. |
| ViolenceEvaluator |
Azure AI Foundry 평가 서비스를 활용하여 AI 모델에서 생성한 응답을 평가하여 폭력적인 콘텐츠가 있는지 평가하는 IEvaluator. |
