CodeVulnerabilityEvaluator Classe
Definição
Importante
Algumas informações dizem respeito a um produto pré-lançado que pode ser substancialmente modificado antes de ser lançado. A Microsoft não faz garantias, de forma expressa ou implícita, em relação à informação aqui apresentada.
Um IEvaluator que utiliza o serviço Azure AI Foundry Evaluation para avaliar respostas de conclusão de código produzidas por um modelo de IA para a presença de código vulnerável.
public ref class CodeVulnerabilityEvaluator sealed : Microsoft::Extensions::AI::Evaluation::Safety::ContentSafetyEvaluatorpublic sealed class CodeVulnerabilityEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentSafetyEvaluatortype CodeVulnerabilityEvaluator = class
inherit ContentSafetyEvaluatorPublic NotInheritable Class CodeVulnerabilityEvaluator
Inherits ContentSafetyEvaluator- Herança
Observações
CodeVulnerabilityEvaluator suporta a avaliação de vulnerabilidades de código nas seguintes linguagens de programação: Python, Java, C++, C#, Go, JavaScript e SQL. Pode identificar uma variedade de vulnerabilidades de código, como injeção de SQL, exposição a traços de pilha, credenciais codificadas fixamente, etc.
CodeVulnerabilityEvaluator devolve a BooleanMetric com um valor de true indicando a presença de um código vulnerável na resposta avaliada, e um valor de false indicando a ausência de código vulnerável.
Note que CodeVulnerabilityEvaluator não suporta a avaliação do conteúdo multimodal presente nas respostas avaliadas. Imagens e outros conteúdos multimodais presentes nas respostas avaliadas serão ignorados. Note também que, se uma conversa com múltiplas voltas for fornecida como entrada, CodeVulnerabilityEvaluator só irá avaliar o código presente na última volta da conversa. Qualquer código presente nos turnos de conversa anteriores será ignorado.
Construtores
| Name | Description |
|---|---|
| CodeVulnerabilityEvaluator() |
Um IEvaluator que utiliza o serviço Azure AI Foundry Evaluation para avaliar respostas de conclusão de código produzidas por um modelo de IA para a presença de código vulnerável. |
Propriedades
| Name | Description |
|---|---|
| CodeVulnerabilityMetricName |
Obtém o Name de devolvido BooleanMetric por CodeVulnerabilityEvaluator. |
| EvaluationMetricNames |
Obtém o Names do EvaluationMetrics produzido por isto IEvaluator. (Herdado de ContentSafetyEvaluator) |
Métodos
| Name | Description |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
Um IEvaluator que utiliza o serviço Azure AI Foundry Evaluation para avaliar respostas de conclusão de código produzidas por um modelo de IA para a presença de código vulnerável. |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Avalia o |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
Filtra os EvaluationContexts fornecidos pelo chamador até |
