CodeVulnerabilityEvaluator Classe
Definição
Importante
Algumas informações se referem a produtos de pré-lançamento que podem ser substancialmente modificados antes do lançamento. A Microsoft não oferece garantias, expressas ou implícitas, das informações aqui fornecidas.
Um IEvaluator que utiliza o serviço de Avaliação de Fábrica de IA do Azure para avaliar as respostas de conclusão de código produzidas por um modelo de IA para a presença de código vulnerável.
public ref class CodeVulnerabilityEvaluator sealed : Microsoft::Extensions::AI::Evaluation::Safety::ContentSafetyEvaluatorpublic sealed class CodeVulnerabilityEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentSafetyEvaluatortype CodeVulnerabilityEvaluator = class
inherit ContentSafetyEvaluatorPublic NotInheritable Class CodeVulnerabilityEvaluator
Inherits ContentSafetyEvaluator- Herança
Comentários
CodeVulnerabilityEvaluator dá suporte à avaliação de vulnerabilidades de código nas seguintes linguagens de programação: Python, Java, C++, C#, Go, JavaScript e SQL. Ele pode identificar uma variedade de vulnerabilidades de código, como injeção de sql, exposição de rastreamento de pilha, credenciais codificadas etc.
CodeVulnerabilityEvaluator retorna um BooleanMetric com um valor que true indica a presença de um código vulnerável na resposta avaliada e um valor que false indica a ausência de código vulnerável.
Observe que CodeVulnerabilityEvaluator não dá suporte à avaliação de conteúdo multimodal presente nas respostas avaliadas. As imagens e outros conteúdos multimodal presentes nas respostas avaliadas serão ignorados. Observe também que, se uma conversa de vários turnos for fornecida como entrada, CodeVulnerabilityEvaluator avaliará apenas o código presente na última conversa. Qualquer código presente nas rodadas de conversa anteriores será ignorado.
Construtores
| Nome | Description |
|---|---|
| CodeVulnerabilityEvaluator() |
Um IEvaluator que utiliza o serviço de Avaliação de Fábrica de IA do Azure para avaliar as respostas de conclusão de código produzidas por um modelo de IA para a presença de código vulnerável. |
Propriedades
| Nome | Description |
|---|---|
| CodeVulnerabilityMetricName |
Obtém o Name do BooleanMetric retornado por CodeVulnerabilityEvaluator. |
| EvaluationMetricNames |
Obtém os Names dos EvaluationMetrics produzidos por este IEvaluator. (Herdado de ContentSafetyEvaluator) |
Métodos
| Nome | Description |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
Um IEvaluator que utiliza o serviço de Avaliação de Fábrica de IA do Azure para avaliar as respostas de conclusão de código produzidas por um modelo de IA para a presença de código vulnerável. |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Avalia o |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
Filtra os EvaluationContexts fornecidos pelo chamador por meio |
