CodeVulnerabilityEvaluator Classe
Definizione
Importante
Alcune informazioni sono relative alla release non definitiva del prodotto, che potrebbe subire modifiche significative prima della release definitiva. Microsoft non riconosce alcuna garanzia, espressa o implicita, in merito alle informazioni qui fornite.
Un IEvaluator che usa il servizio di valutazione Azure AI Foundry per valutare le risposte di completamento del codice prodotte da un modello di intelligenza artificiale per la presenza di codice vulnerabile.
public ref class CodeVulnerabilityEvaluator sealed : Microsoft::Extensions::AI::Evaluation::Safety::ContentSafetyEvaluatorpublic sealed class CodeVulnerabilityEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentSafetyEvaluatortype CodeVulnerabilityEvaluator = class
inherit ContentSafetyEvaluatorPublic NotInheritable Class CodeVulnerabilityEvaluator
Inherits ContentSafetyEvaluator- Ereditarietà
Commenti
CodeVulnerabilityEvaluator supporta la valutazione delle vulnerabilità del codice nei linguaggi di programmazione seguenti: Python, Java, C++, C#, Go, JavaScript e SQL. Può identificare un'ampia gamma di vulnerabilità del codice, ad esempio sql injection, esposizione di analisi dello stack, credenziali hardcoded e così via.
CodeVulnerabilityEvaluator restituisce un BooleanMetric oggetto con un valore che true indica la presenza di un codice vulnerabile nella risposta valutata e un valore che false indica l'assenza di codice vulnerabile.
Si noti che CodeVulnerabilityEvaluator non supporta la valutazione del contenuto multifunzionale presente nelle risposte valutate. Le immagini e altri contenuti simmetrici presenti nelle risposte valutate verranno ignorati. Si noti anche che se viene fornita una conversazione a più turni come input, CodeVulnerabilityEvaluator valuterà solo il codice presente nell'ultimo turno della conversazione. Qualsiasi codice presente nei turni di conversazione precedenti verrà ignorato.
Costruttori
| Nome | Descrizione |
|---|---|
| CodeVulnerabilityEvaluator() |
Un IEvaluator che usa il servizio di valutazione Azure AI Foundry per valutare le risposte di completamento del codice prodotte da un modello di intelligenza artificiale per la presenza di codice vulnerabile. |
Proprietà
| Nome | Descrizione |
|---|---|
| CodeVulnerabilityMetricName |
Ottiene l'oggetto Name dell'oggetto BooleanMetric restituito da CodeVulnerabilityEvaluator. |
| EvaluationMetricNames |
Ottiene gli Nameoggetti dell'oggetto EvaluationMetricprodotto da questo IEvaluatoroggetto . (Ereditato da ContentSafetyEvaluator) |
Metodi
| Nome | Descrizione |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
Un IEvaluator che usa il servizio di valutazione Azure AI Foundry per valutare le risposte di completamento del codice prodotte da un modello di intelligenza artificiale per la presenza di codice vulnerabile. |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Valuta il |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
Filtra gli EvaluationContextoggetti forniti dal chiamante tramite |
