Nota
L'accesso a questa pagina richiede l'autorizzazione. È possibile provare ad accedere o modificare le directory.
L'accesso a questa pagina richiede l'autorizzazione. È possibile provare a modificare le directory.
Queste domande frequenti descrivono l'impatto dell'intelligenza artificiale della funzionalità di risposte generative in Copilot Studio.
Cosa sono le risposte generative?
Le risposte generative rendono il tuo agente utile fin da subito e aumentano il numero di temi su cui può conversare, senza richiedere la creazione manuale dell'albero dei dialoghi.
Quali sono le funzionalità delle risposte generative?
Quando un utente pone all'agente una domanda che non attiva un argomento configurato, l'agente può facoltativamente cercare contenuto pertinente da un'origine di tua scelta. Questa ricerca include siti Web SharePoint pubblici oppure origini dati personalizzate, inclusi elementi non di testo nei file caricati, ad esempio immagini, dati tabulari e diagrammi. L'agente utilizza IA generativa per riepilogare tali informazioni in una risposta restituita all'utente dell'agente.
Qual è l'uso previsto per le risposte generative?
Gli agenti possono usare risposte generative come origini informazioni primarie o come fallback quando gli argomenti creati non possono gestire la query di un utente.
Come sono state valutate le risposte generative e quali parametri vengono utilizzati per misurarne le prestazioni?
La funzionalità viene continuamente valutata su una raccolta di set di dati di domande e risposte selezionati manualmente, che coprono più settori. Il processo di valutazione include anche set di dati personalizzati per richieste e risposte offensive e dannose. Le sessioni manuali automatizzate e dedicate vengono usate per espandere il gruppo di test.
Quali sono le restrizioni delle risposte generative?
Devi abilitare l'opzione risposte generative per ogni agente.
Vedi Supporto di versioni in lingue diverse per l'elenco delle lingue supportate da questa funzione e la rispettiva fase. Potresti essere in grado di utilizzare altre lingue, ma le risposte generate potrebbero essere incoerenti e l'agente potrebbe non rispondere correttamente o come previsto.
Questa funzionalità potrebbe essere soggetta a limiti di utilizzo o limitazione della larghezza di banda della rete della capacità.
Le risposte generate dalla funzionalità Risposte generative non sono sempre perfette e possono contenere errori.
Il sistema è progettato per interrogare la knowledge base dal sito Web di tua scelta e per impacchettare i risultati pertinenti in una risposta facilmente consumabile. Tuttavia, è importante tenere a mente alcune caratteristiche dell'IA che potrebbero portare a risposte inaspettate:
Le risposte dei modelli linguistici non sono deterministiche. Le domande identiche ripetute semanticamente (quasi) potrebbero restituire risposte variabili, anche nelle nuove chat. Il processo di risposta alle domande include il contesto di chat precedente, in modo che la ripetizione di una query all'interno di una sessione di chat garantisca quasi risposte diverse. Questo comportamento significa che è probabile che la ripetizione di query fisse nei test di regressione o nei controlli di integrità automatizzati generi risposte variabili e segnalazioni di errori falsi positivi.
Copilot Studio consente di selezionare modelli diversi come modello di risposta principale per le risposte generative. Tenere presente la data di cut-off per i dati inclusi nel modello selezionato.
Sono disponibili misure attenuanti per impedire al modello di utilizzare il proprio corpus di addestramento come fonte di risposte, tuttavia è possibile che le risposte includano contenuti provenienti da siti Web diversi da quello selezionato.Il sistema non esegue un controllo di accuratezza, quindi se l'origine dati selezionata contiene informazioni imprecise, potrebbe essere mostrata agli utenti del tuo agente. Abbiamo implementato mitigazioni per filtrare le risposte irrilevanti e offensive e la funzionalità è progettata per non rispondere quando viene rilevato un linguaggio offensivo. Questi filtri e mitigazioni non sono infallibili.
Annotazioni
Dovresti sempre testare e rivedere i tuoi agenti prima di pubblicarli e prendere in considerazione la possibilità di raccogliere feedback dagli utenti del tuo agente. L'amministratore può disattivare la possibilità di pubblicare agenti che usano risposte generative per il tenant nell'interfaccia di amministrazione di Power Platform.
Quali dati vengono raccolti dalla funzionalità? Come vengono usati i dati?
Se un cliente acconsente esplicitamente alla registrazione della conversazione con l'agente, la funzionalità raccoglie le richieste dell'utente, le risposte restituite dal sistema e qualsiasi feedback fornito.
Usiamo questi dati per valutare e migliorare la qualità della funzionalità.
Quali fattori operativi e impostazioni consentono un uso efficace e responsabile delle risposte generative?
Le risposte generative funzionano meglio quando si designa un'origine attendibile e valida da cui eseguire query sul contenuto. Questa origine potrebbe essere il sito Web aziendale, ad esempio www.microsoft.com. Tutte le pagine web che appartengono a questo dominio vengono esaminate per trovare una corrispondenza con la domanda dell'utente.
Utilizziamo il feedback che fornisci sulla tua soddisfazione per le risposte generate per migliorare la qualità del sistema. Puoi fornire feedback selezionando le icone Pollice in su o Pollice in giù per le risposte generate. Puoi anche includere più feedback nel testo libero.
Quali sono le tutele previste in Copilot Studio per un'IA responsabile?
Le risposte generative includono varie protezioni per garantire ad amministratori, autori e utenti un'esperienza sicura e conforme. Gli amministratori hanno il controllo completo sulle funzionalità del proprio tenant e possono sempre disattivare la possibilità di pubblicare agenti con risposte generative nell'organizzazione. Gli autori possono aggiungere istruzioni personalizzate per influenzare i tipi di risposte restituite dai loro agenti. Per ulteriori informazioni sulle procedure consigliate per la scrittura di istruzioni personalizzate, consulta Utilizzare la modifica delle richieste per fornire istruzioni personalizzate all'agente.
Gli autori possono anche limitare le fonti di conoscenza che gli agenti possono utilizzare per rispondere alle domande. Per consentire agli agenti di rispondere alle domande al di fuori dell'ambito delle fonti di conoscenza configurate, i progettisti possono attivare la funzionalità Consenti risposte non ancorate. Per fare in modo che gli agenti rispondano solo a domande che rientrano nell'ambito delle fonti di conoscenza configurate, i creatori devono disattivare questa funzionalità.
Copilot Studio applica inoltre i criteri di moderazione dei contenuti a tutte le richieste dell'IA generativa per proteggere amministratori, autori e utenti da contenuti offensivi o dannosi. Questi criteri di moderazione dei contenuti si estendono anche ai tentativi dannosi di jailbreak, prompt injection, esfiltrazione di prompt e violazione del copyright. Tutti i contenuti vengono controllati due volte: la prima durante l'input dell'utente e di nuovo quando l'agente sta per rispondere. Se il sistema trova contenuti dannosi, offensivi o nocivi, impedisce all'agente di rispondere.
Infine, è consigliabile comunicare agli utenti che l'agente usa l'intelligenza artificiale, quindi il seguente messaggio predefinito informa gli utenti: "Solo così sei consapevole, a volte uso l'intelligenza artificiale per rispondere alle tue domande".