Scheda applicazione: Microsoft Security Copilot

Che cos'è una scheda applicazione o piattaforma?

Le schede microsoft per applicazioni e piattaforme sono progettate per aiutarti a comprendere come funziona la nostra tecnologia di intelligenza artificiale, le scelte che i proprietari delle applicazioni possono fare che influenzano le prestazioni e il comportamento dell'applicazione e l'importanza di considerare l'intera applicazione, inclusa la tecnologia, le persone e l'ambiente. Le schede applicazione vengono create per le applicazioni di intelligenza artificiale e le schede della piattaforma vengono create per i servizi della piattaforma di intelligenza artificiale. Queste risorse possono supportare lo sviluppo o la distribuzione di applicazioni personalizzate e possono essere condivise con utenti o stakeholder interessati.

Come parte del suo impegno per l'IA responsabile, Microsoft rispetta sei principi fondamentali: equità, affidabilità e sicurezza, privacy e sicurezza, inclusività, trasparenza e responsabilità. Questi principi sono incorporati in Responsible AI Standard, che guida i team nella progettazione, compilazione e test di applicazioni di intelligenza artificiale. Le schede delle applicazioni e della piattaforma svolgono un ruolo fondamentale nell'operazionalizzazione di questi principi offrendo trasparenza sulle funzionalità, gli usi previsti e le limitazioni. Per altre informazioni dettagliate, i lettori sono invitati a esplorare il Report sulla trasparenza responsabile dell'intelligenza artificiale di Microsoft e il Codice di condotta di Microsoft Enterprise AI Services, che descrive come interagire responsabilmente con l'IA.

Panoramica

Microsoft Security Copilot è una soluzione di sicurezza generativa basata su intelligenza artificiale che consente di aumentare l'efficienza e le funzionalità dei difensori per migliorare i risultati della sicurezza a velocità e scalabilità della macchina. Offre un linguaggio naturale, un'esperienza copilot assistiva che consente ai professionisti della sicurezza e agli amministratori IT di gestire un'ampia gamma di scenari end-to-end, tra cui la risposta agli eventi imprevisti, la ricerca delle minacce, la raccolta di informazioni e la gestione della postura.

Security Copilot è progettato tenendo presente l'integrazione. Offre un'esperienza autonoma immersiva in https://securitycopilot.microsoft.com e si integra con i prodotti di sicurezza Microsoft, tra cui Microsoft Defender XDR, Microsoft Sentinel, Microsoft Intune, Microsoft Entra e Microsoft Purview, nonché servizi di terze parti supportati.

Gli utenti previsti includono analisti SOC, amministratori IT, amministratori della sicurezza dei dati e delle identità, analisti di conformità e responsabili della sicurezza, ad esempio chief information security officer (CISO).

Security Copilot ha ottenuto la certificazione ISO 42001 che conferma che una terza parte indipendente ha esaminato l'applicazione da parte di Microsoft del framework e delle funzionalità necessarie per gestire in modo efficace i rischi e le opportunità associati allo sviluppo, alla distribuzione e al funzionamento continui dei sistemi Microsoft AI.

Per altre informazioni, vedere Che cos'è Microsoft Security Copilot?, esperienze Microsoft Security Copilot e Scheda applicazione per gli agenti Security Copilot.

Termini chiave

Nella tabella seguente viene fornito un glossario dei termini chiave correlati a Microsoft Security Copilot.

Termine Definizione
Agente Un agente Security Copilot elabora i segnali provenienti dall'ambiente del cliente tramite origini dati e plug-in integrati, analizza i dati e genera raccomandazioni. Gli agenti possono anche eseguire azioni con ambito all'interno delle autorizzazioni configurate quando richiesto, che richiedono l'approvazione di un utente o di un amministratore appropriato. Gli agenti possono variare da semplici esperienze di prompt e risposta a flussi di lavoro più automatizzati e semi-autonomi con supervisione umana. Ad esempio, l'agente di valutazione del phishing e l'agente di correzione della vulnerabilità.
Identità dell'agente Credenziali usate da un agente per eseguire l'autenticazione con i servizi Microsoft e accedere ai dati necessari per eseguire le attività. Durante l'installazione, un amministratore sceglie di creare un'identità dedicata (usando Microsoft Entra Agent ID) o di consentire all'agente di ereditare le credenziali dell'utente di configurazione. La scelta dell'identità determina i dati a cui l'agente può accedere.
Origine dati Dati strutturati o non strutturati a cui si accede tramite plug-in o integrazioni per individuare le risposte.
Esperienza incorporata Accesso alle funzionalità di Security Copilot dall'interno di un altro prodotto di sicurezza Microsoft, ad esempio Microsoft Defender XDR o Microsoft Sentinel. Il Security Copilot pannello sidecar presenta l'assistenza di intelligenza artificiale direttamente nel contesto di tale prodotto.
Terra Processo di fornitura di origini di input contestuali al modello linguistico di grandi dimensioni correlato alla richiesta di un utente. Abilitando Security Copilot di accedere ai dati dell'organizzazione tramite plug-in e prodotti di sicurezza Microsoft, Security Copilot possono fornire risposte più accurate e contestualmente rilevanti.
Modello di linguaggio di grandi dimensioni (LLM) Modelli di intelligenza artificiale sottoposti a training su grandi quantità di dati di testo per stimare le parole in sequenze. Gli LLM sono in grado di eseguire varie attività, ad esempio la generazione di testo, il riepilogo, la traduzione, la classificazione e altro ancora.
Plugin Raccolta di strumenti correlati che estende le funzionalità di Security Copilot concedendole l'accesso alle risorse dai servizi Microsoft e non Microsoft e dai siti Web pubblici tramite API. I plug-in aggiungono più contesto alle risposte e agli output generati Security Copilot.
Post-elaborazione Il set di azioni Security Copilot esegue per perfezionare e preparare la risposta LLM prima di restituirla all'utente. Questa post-elaborazione include chiamate di messa a terra aggiuntive tramite plug-in, controlli di intelligenza artificiale responsabili, controlli di sicurezza, conformità e privacy.
Richiesta Testo in linguaggio naturale inviato dall'utente a Security Copilot per eseguire un'attività specifica o ottenere informazioni. Ad esempio, riepilogare questo evento imprevisto e suggerire passaggi di correzione.
Promptbook Una serie di richieste eseguite in sequenza, basate su risposte precedenti, per eseguire attività specifiche correlate alla sicurezza. I promptbook possono essere usati dalla libreria o compilati e condivisi dagli utenti.
Test del team rosso Tecniche usate dagli esperti per valutare le limitazioni e le vulnerabilità di un sistema e per testare l'efficacia delle mitigazioni pianificate. Il test red team viene usato per identificare i potenziali rischi ed è distinto dalla misurazione sistematica dei rischi.
Intelligenza Artificiale Responsabile I criteri, la ricerca e le procedure di progettazione di Microsoft basati sui principi di intelligenza artificiale e operativi tramite lo standard di intelligenza artificiale responsabile. Per altre informazioni, vedere le linee guida di Fluent RAI.
Unità di calcolo di sicurezza (SCU) Le unità SKU sono le unità di capacità di calcolo usate per eseguire carichi di lavoro Security Copilot e offrire prestazioni coerenti nelle proprie esperienze. Security Copilot capacità viene misurata in unità SKU e può essere usata tramite modelli di capacità di provisioning o di eccedenza. Per altre informazioni, vedere Informazioni sulle SKU.
Security Copilot risposta L'output generato dall'IA è stato restituito a una richiesta dell'utente, inclusi riepiloghi, raccomandazioni o azioni che possono includere codice e oggetti visivi.
Security Operations Center (SOC) Un team o una struttura di sicurezza dedicato incentrato sul monitoraggio, l'analisi e la risposta continui agli eventi imprevisti di cybersecurity all'interno di un'organizzazione. Gli analisti SOC sono tra gli utenti principali di Security Copilot.
Archivio di sicurezza Un'esperienza simile al marketplace in cui gli utenti possono individuare ed abilitare gli agenti e le estensioni creati dal partner per Security Copilot.
Sessione Contesto di interazione delimitato che include richieste, risposte e dati associati usati per generare output. Il contesto di sessione è isolato e non viene condiviso tra le sessioni. L'accesso ai dati di sessione è regolato dalle autorizzazioni utente e dai ruoli dell'area di lavoro e le richieste e le risposte vengono considerate dati dei clienti che non vengono usati per eseguire il training dei modelli di base.
Esperienza autonoma Esperienza immersiva del portale Security Copilot accessibile direttamente all'indirizzo https://securitycopilot.microsoft.com.
Tenant Limite dell'organizzazione in Microsoft Entra ID che isola identità, accesso e dati per Security Copilot. Tutte le aree di lavoro, gli utenti e le interazioni operano all'interno di questo limite e sono governate da autorizzazioni e controlli di sicurezza a livello di tenant.

Funzionalità o funzionalità principali

Le funzionalità e le funzionalità principali della tabella seguente descrivono le Microsoft Security Copilot progettate per eseguire e le relative prestazioni tra le attività supportate.

Funzionalità o funzionalità Descrizione
Indagine e risposta agli eventi imprevisti Security Copilot consente ai professionisti della sicurezza di valutare e analizzare gli eventi imprevisti generando riepiloghi di avvisi di sicurezza complessi, correlando i segnali tra Microsoft Defender XDR, Microsoft Sentinel e altri prodotti integrati e fornendo indicazioni dettagliate per la correzione.
Threat intelligence Security Copilot possibile eseguire ricerche in Microsoft Defender profili e articoli di intelligence sulle minacce, report di analisi delle minacce e pubblicazioni sulla divulgazione delle vulnerabilità per visualizzare informazioni pertinenti allineate a una richiesta.
Analisi degli script e generazione di query KQL Security Copilot può analizzare script sospetti o malware e tradurre il linguaggio naturale in query KQL, consentendo ai membri del team a tutti i livelli di competenza di eseguire attività avanzate di ricerca e analisi tecnica.
Gestione del comportamento di sicurezza Security Copilot consente agli utenti di comprendere i rischi con priorità nell'ambiente e identificare le opportunità di migliorare la postura tramite l'integrazione con Microsoft Defender XDR, Microsoft Entra e Microsoft Intune.
Creazione e gestione dei criteri di sicurezza Gli utenti possono definire nuovi criteri, farvi riferimento incrociato con i criteri esistenti per i conflitti e riepilogare i criteri in linguaggio semplice per gestire un contesto aziendale complesso.
Promptbook I promptbook sono sequenze di richieste eseguite per eseguire attività di sicurezza specifiche. Gli utenti possono eseguire promptbook da una libreria condivisa o crearne e condividerli.
Agents Security Copilot supporta agenti in grado di automatizzare e assistere le attività di sicurezza e operazioni IT all'interno delle autorizzazioni concesse dagli amministratori. Le azioni degli agenti sono regolate da identità configurate, controlli di accesso e trigger e sono progettate per operare con la supervisione umana come parte dei flussi di lavoro di sicurezza. Gli agenti creati da Microsoft si estendono sul portafoglio di prodotti di sicurezza, coprendo le operazioni SOC, la ricerca delle minacce, l'intelligence sulle minacce, la gestione delle identità, la gestione degli endpoint e la sicurezza dei dati. Gli amministratori configurano l'identità, le autorizzazioni e il trigger di ogni agente. Per informazioni dettagliate su agenti specifici e sui relativi casi d'uso, vedere Usi previsti.
File upload Gli utenti possono caricare i file direttamente nelle sessioni di Security Copilot, consentendo a Copilot di analizzare, riepilogare o fare riferimento incrociato al contenuto caricato durante la generazione di risposte.
Supporto multilingue. Security Copilot supporta la richiesta e le risposte in più lingue. Per altre informazioni, vedere Lingue supportate.

Usi previsti

Microsoft Security Copilot è progettato per l'uso da parte di professionisti della sicurezza e amministratori IT che necessitano di supporto assistito dall'IA in un'ampia gamma di attività di sicurezza e operazioni IT. L'esperienza di copilot assistive consente agli utenti di lavorare in modo più efficiente visualizzando il contesto pertinente, generando indicazioni interattive e riducendo il tempo impiegato per l'analisi manuale. Alcuni esempi di casi d'uso previsti includono:

  • Indagine e risposta agli eventi imprevisti: genera riepiloghi di avvisi complessi, correla i segnali nei prodotti di sicurezza integrati, ad esempio Microsoft Defender XDR e Microsoft Sentinel, e fornisce indicazioni dettagliate per la correzione. Gli analisti possono porre domande di follow-up per perfezionare progressivamente le indagini.

  • Raccolta di informazioni sulle minacce: fornisce informazioni rilevanti sugli attori delle minacce, il malware e le vulnerabilità in base alle richieste del linguaggio naturale, consolidando le informazioni in riepiloghi personalizzati.

  • Analisi degli script e reverse engineering: illustra gli script sospetti o l'attività della riga di comando in linguaggio normale, identifica comportamenti dannosi ed evidenzia gli indicatori di compromissione.

  • Generazione di query KQL: converte le richieste di linguaggio naturale in query KQL pronte per l'esecuzione per la ricerca avanzata e l'analisi dei log.

  • Gestione del comportamento di sicurezza: identifica i rischi con priorità e consiglia azioni per migliorare il comportamento di sicurezza dell'organizzazione.

  • Creazione e gestione dei criteri di sicurezza: consente di elaborare, rivedere e riepilogare i criteri e identificare le lacune o i conflitti.

  • Creazione di report per gli stakeholder: genera report personalizzati per destinatari diversi, inclusi riepiloghi tecnici e briefing per i dirigenti.

  • Promptbook per flussi di lavoro di sicurezza ripetibili: consente agli utenti di eseguire o creare flussi di lavoro in più passaggi per standardizzare le attività di sicurezza ricorrenti.

Modelli e dati di training

Microsoft Security Copilot usa Azure modelli di linguaggio di grandi dimensioni OpenAI di Foundry Models venduti da Azure per potenziare le esperienze in linguaggio naturale. Questi modelli non vengono sottoposti a training sui dati dei clienti Security Copilot. Le funzionalità del modello variano in ragionamento, velocità, limitazioni e scenari supportati.

Security Copilot incorpora anche conoscenze e contesti specifici della sicurezza tramite plug-in e messa a terra, che forniscono al LLM dati aziendali rilevanti, informazioni sulle minacce e contenuti autorevoli in fase di inferenza anziché tramite il training del modello.

Prestazioni

Security Copilot è progettato per operare in ambienti di sicurezza aziendali in cui vengono generati grandi volumi di segnali di sicurezza in tempo reale nei prodotti Microsoft Security e in altre origini dati configurate dall'organizzazione.

A differenza delle VM per utilizzo generico, Security Copilot fornisce:

  • Elaborazione del segnale in tempo reale tra dati di sicurezza strutturati
  • Ragionamento investigativo che correla più origini dati
  • Output basati su evidenze basati su dati dei clienti
  • Raccolta continua di dati per la visibilità continua

Gli utenti interagiscono con Security Copilot usando prompt in linguaggio naturale. Il sistema elabora questi input tramite plug-in attivi, origini dati e LLM per generare risposte.

Gli output sono principalmente testuali, tra cui spiegazioni di riepilogo, azioni consigliate, indicazioni dettagliate, frammenti di codice (ad esempio query KQL) e report formattati personalizzati per gli stakeholder. Quando il sistema genera una risposta, visualizza i passaggi intermedi in un log dei processi, offrendo l'opportunità di controllare i processi e le origini. Gli utenti possono annullare, modificare, rieseguire o eliminare una richiesta in qualsiasi momento e le risposte possono essere aggiunte, condivise ed esportate per facilitare la collaborazione.

Limitazioni

Comprendere le limitazioni di Microsoft Security Copilot è importante per garantire che venga usato in modo efficace e responsabile. Anche se Security Copilot migliora i flussi di lavoro di sicurezza, non è progettato per ogni scenario. Quando si sceglie un caso d'uso, fare riferimento al codice di condotta di Microsoft Enterprise AI Services e alle considerazioni seguenti:

  • Accuratezza e completezza: Security Copilot possono produrre risposte imprecise, incomplete o obsolete. La qualità dell'output dipende dalle origini dati disponibili, dalle integrazioni abilitate e dal contesto fornito dall'utente. Gli utenti devono applicare il giudizio umano e convalidare gli output critici.
  • Bias, stereotipazione e contenuto non in background: nonostante le misure di sicurezza, gli output possono contenere pregiudizi, stereotipi o conclusioni non supportate a causa della natura probabilistica di modelli linguistici di grandi dimensioni. Gli utenti devono valutare in modo critico le risposte, soprattutto in scenari sensibili o ad impatto elevato.
  • Ambito specifico del dominio: Security Copilot è ottimizzato per attività correlate alla sicurezza, ad esempio analisi degli eventi imprevisti e analisi delle minacce. Prompt all'esterno di questo dominio possono produrre risposte meno accurate o meno rilevanti.
  • Limiti di utilizzo e latenza: l'uso di Security Copilot può essere soggetto a vincoli di capacità e considerazioni sulle prestazioni. La generazione di risposte, inclusa l'esecuzione di integrazioni e l'applicazione di controlli di sicurezza, può introdurre latenza. Le organizzazioni devono monitorare l'utilizzo (SKU) per mantenere prestazioni coerenti.
  • Stato dell'anteprima: alcune funzionalità Security Copilot potrebbero essere in anteprima. Le funzionalità di anteprima devono essere considerate come funzionalità non definitive e gli output devono essere esaminati prima di intervenire.
  • Vincoli di prompt e contesto: Security Copilot opera all'interno di limiti di token e contesto intrinseci ai modelli linguistici di grandi dimensioni. Le richieste lunghe o le interazioni estese possono superare questi limiti, causando risposte troncate o meno ottimali. La compilazione o la semplificazione delle richieste può migliorare i risultati.
  • Dipendenza dalle origini dati e dalla configurazione: le risposte sono basate sui dati disponibili, inclusi i servizi Microsoft connessi, le integrazioni di terze parti e l'input dell'utente. Se le origini dati rilevanti non sono disponibili, abilitate o correnti, i risultati potrebbero non essere completi o accurati.
  • Generazione di script e codice: Security Copilot possono generare codice o includere codice nelle risposte. Le risposte possono sembrare valide, ma potrebbero non essere semanticamente o sintatticamente corrette o non riflettere accuratamente la finalità del richiedente. Il codice generato non deve essere distribuito in ambienti di produzione senza procedure di convalida, test e revisione appropriate. Gli utenti devono anche verificare che tutti i parametri usati dal codice generato siano allineati alla richiesta originale. Ad esempio, se un agente opera su avvisi entro un intervallo di tempo specifico, verificare che l'intervallo di tempo nel codice generato corrisponda all'intervallo di tempo specificato nel prompt del linguaggio naturale.
  • Limiti di accesso ai dati e autorizzazioni: Security Copilot opera all'interno delle autorizzazioni dell'organizzazione e dei controlli di accesso ai dati esistenti. Le risposte sono limitate ai dati a cui un utente è autorizzato ad accedere. Le autorizzazioni non configurate correttamente nei sistemi sottostanti possono influire sulla pertinenza o sulla completezza dei risultati.
  • Ambienti cloud per enti pubblici: Security Copilot non è attualmente progettato per l'uso in determinati ambienti cloud per enti pubblici.

Giudizi

Le valutazioni delle prestazioni e della sicurezza valutano se le applicazioni di intelligenza artificiale funzionano in modo affidabile e sicuro esaminando fattori come la solidità, la rilevanza e la coerenza, identificando al tempo stesso i rischi di generazione di contenuti dannosi. Le valutazioni seguenti sono state condotte con componenti di sicurezza già in atto, descritti anche in Componenti di sicurezza e Mitigazioni.

Dati di valutazione per qualità e sicurezza

I dati di valutazione sono personalizzati per valutare le prestazioni delle applicazioni di intelligenza artificiale in aree chiave di sicurezza e qualità, simulando scenari e rischi reali. Iniziamo identificando gli aspetti rilevanti della valutazione delle preoccupazioni in base alla ricerca multidisciplinare e al contributo di esperti. Queste preoccupazioni vengono tradotte in obiettivi di valutazione mirati e guidano la formulazione delle metriche di valutazione.

Per motivi di sicurezza, vengono create richieste antagonistiche per generare risposte indesiderate o edge case, che vengono quindi valutate usando annotazioni assistite dall'IA addestrate per valutare l'allineamento con gli standard di sicurezza di Microsoft. Per la qualità, vengono create richieste basate su rubriche rilevanti per scenari quali la valutazione di applicazioni e agenti di generazione aumentata del recupero (RAG).

I set di dati vengono curati da origini diverse, inclusi i set di dati sintetici e pubblici, per simulare scenari utente reali. Usando i set di dati curati, entrambe le valutazioni vengono sottoposte a perfezionamento iterativo e all'allineamento umano per migliorare l'efficacia e l'affidabilità delle metriche. Questa metodologia costituisce la base di valutazioni ripetibili e rigorose che riflettono il modo in cui i clienti usano le valutazioni per creare un'IA migliore e più sicura.

Valutazioni personalizzate

Sono state condotte valutazioni personalizzate per convalidare le prestazioni del modello in scenari di messa a terra, affidabilità antagonista e contenuto dannoso usando test di regressione, set di dati di richiesta curati ed esempi allineati alla produzione. La valutazione ha confrontato gli output tra i modelli GPT, usando strumenti interni per valutare la messa a terra e Azure filtro dei contenuti OpenAI per convalidare le protezioni da jailbreak, inserimento prompt e violazioni della proprietà intellettuale. I risultati mostrano prestazioni coerenti o migliorate, tra cui elevati tassi di protezione in scenari antagonisti e una maggiore precisione di messa a terra.

La gestione dei contenuti dannosi rimane coerente tra i modelli e funziona in modalità di annotazione per supportare casi d'uso incentrati sulla sicurezza, con test aggiuntivi su larga scala che confermano tassi di protezione elevati tra categorie. I test di regressione vengono condotti per verificare che il contenuto, che non è dannoso, non venga classificato come dannoso.

Il feedback degli utenti è fondamentale per migliorare Security Copilot. Gli utenti possono fornire commenti e suggerimenti usando: Necessita di miglioramenti, Inappropriati o Le opzioni più appropriate . Questo feedback viene inviato direttamente a Microsoft e viene usato per migliorare le prestazioni della piattaforma tramite un perfezionamento iterativo continuo.

Componenti di sicurezza e mitigazioni

Quando sono stati identificati i potenziali rischi e l'uso improprio tramite processi come i test del team rosso e sono stati misurati, sono state sviluppate mitigazioni per ridurre il potenziale di danni. Nell'elenco seguente vengono descritte alcune di queste mitigazioni. Continueremo a valutare l'esperienza Microsoft Security Copilot per migliorare le prestazioni e le mitigazioni del prodotto.

  • Filtri e guardrail dei contenuti dannosi: Security Copilot integra i guardrail sviluppati da Microsoft (filtri dei contenuti) e i modelli di rilevamento degli abusi come parte della Servizio Azure OpenAI Foundation. Questi modelli di classificazione neurale rilevano e filtrano i contenuti dannosi tra categorie, tra cui odio, sesso, violenza e autolesionismo a più livelli di gravità. I modelli di classificazione facoltativi rilevano anche i rischi di jailbreak, il testo noto o il materiale del codice e gli attacchi di inserimento dei prompt indiretti. Questi controlli a più livelli consentono di impedire all'IA di produrre risposte che violano gli standard di sicurezza di Microsoft.

  • Progettazione del sistema di sicurezza: Microsoft ha sviluppato un sistema di sicurezza per Security Copilot progettato per attenuare gli errori e prevenire l'uso improprio, tra cui annotazioni di contenuto dannoso, monitoraggio operativo e altre misure di sicurezza. I requisiti di mitigazione dell'intelligenza artificiale responsabile del servizio OpenAI Azure non si applicano direttamente ai clienti Security Copilot perché Security Copilot implementa queste mitigazioni per conto del cliente.

  • Ciclo di feedback degli utenti: la piattaforma offre meccanismi di feedback predefiniti: necessita di miglioramenti, inappropriati e cerca le opzioni corrette che consentono agli utenti di segnalare output problematici e utili direttamente a Microsoft. Questo feedback determina cicli di miglioramento continuo, abilitando correzioni rapide e regolazioni del modello quando vengono individuati errori o disallineamenti.

  • Crittografia dei dati e protezione dell'accesso: i dati dei clienti gestiti da Security Copilot vengono crittografati sia in transito che inattivi, come descritto nell'addendum Microsoft Products and Services Data Protection. Per impostazione predefinita, nessun utente umano ha accesso al database e l'accesso alla rete è limitato alla rete privata in cui viene distribuita l'applicazione Security Copilot; se è necessario l'accesso umano (per la risposta agli eventi imprevisti), l'accesso con privilegi elevati e l'accesso alla rete devono essere approvati dai dipendenti Microsoft autorizzati. Vedere Conformità.

  • Approccio alla distribuzione in più fasi: Security Copilot rilascia le funzionalità tramite un programma di accesso anticipato solo invito, consentendo a Microsoft di raccogliere commenti e suggerimenti e perfezionare le funzionalità prima di una disponibilità più ampia.

Il nostro approccio alla mappatura, alla misurazione e alla gestione dei rischi continuerà a evolversi man mano che impariamo di più e stiamo già apportando miglioramenti in base al feedback ricevuto dai clienti.

Procedure consigliate per la distribuzione e l'adozione di Microsoft Security Copilot

L'IA responsabile è un impegno condiviso tra Microsoft e i suoi clienti. Mentre Microsoft crea sistemi di intelligenza artificiale con sicurezza, equità e trasparenza al centro, i clienti svolgono un ruolo fondamentale nella distribuzione e nell'uso responsabile di queste tecnologie all'interno dei propri contesti.

Security Copilot agenti sono progettati per migliorare le competenze umane, non sostituire. I clienti rimangono responsabili della revisione degli output, della convalida delle decisioni e della conformità alle leggi, alle normative e ai criteri organizzativi applicabili.

I deployer e gli utenti finali devono:

  • Prestare attenzione e valutare i risultati quando si usano Security Copilot per decisioni consequenziali o in domini sensibili: le decisioni consequenziali sono quelle che possono avere un impatto legale o significativo sull'accesso di una persona all'occupazione, ai servizi legali, all'assistenza sanitaria o che potrebbero causare danni fisici, psicologici o finanziari. I domini sensibili come i servizi finanziari, l'assistenza sanitaria e legale richiedono un'assistenza particolare a causa del potenziale impatto sproporzionato su diversi gruppi di persone. Quando si usa l'intelligenza artificiale per le decisioni in queste aree, i clienti devono assicurarsi che gli stakeholder interessati possano comprendere come vengono prese le decisioni, prendere decisioni di appello e aggiornare i dati di input pertinenti.

  • Valutare considerazioni legali e normative: i clienti devono valutare potenziali obblighi legali e normativi specifici quando usano servizi e soluzioni di intelligenza artificiale, che potrebbero non essere appropriati per l'uso in ogni settore o scenario. Inoltre, i servizi o le soluzioni di intelligenza artificiale non sono progettati per e non possono essere usati in modi vietati nei termini di servizio applicabili e nei codici di condotta pertinenti.

  • Abilitare e gestire i plug-in pertinenti: la qualità e l'accuratezza delle risposte Security Copilot dipendono in modo significativo dai plug-in abilitati. Gli amministratori devono assicurarsi che i plug-in di Microsoft e di terze parti appropriati siano configurati e gestiti in modo che gli utenti ricevano risposte basate sul contesto e pertinenti.

Gli utenti finali devono:

  • Scrivere richieste valide: la scrittura di richieste chiare e specifiche è fondamentale per ottenere risultati migliori con Security Copilot. Includere il contesto pertinente, ad esempio ID evento imprevisto, nomi di asset o intervalli di tempo. Eseguire l'iterazione e rigenerare le richieste in base alle esigenze e rivedere e verificare sempre le risposte generate dall'IA. Per altre informazioni, vedere Suggerimenti per la richiesta di Security Copilot.

  • Esercitare la supervisione umana quando necessario: la supervisione umana è una protezione importante quando si interagisce con i sistemi di IA. Anche se miglioriamo continuamente Security Copilot, i sistemi di intelligenza artificiale possono commettere errori. L'output generato può essere impreciso, incompleto, distorto o non completamente allineato agli obiettivi previsti a causa di ambiguità negli input o limitazioni dei modelli sottostanti. Gli utenti devono esaminare le risposte generate da Security Copilot e verificare che soddisfino le aspettative e i requisiti prima di intervenire.

  • Tenere presente il rischio di overreliance: l'overreliance sull'IA si verifica quando gli utenti accettano output di IA errati o incompleti, principalmente perché gli errori negli output di intelligenza artificiale possono essere difficili da rilevare. Per i professionisti della sicurezza, l'eccessiva attendibilità potrebbe causare minacce perse, conclusioni impreviste errate o modifiche ai criteri in base a raccomandazioni difettose. Security Copilot include la divulgazione di intelligenza artificiale e cita i materiali di origine per ridurre questo rischio, ma gli utenti devono comunque assicurarsi di verificare l'accuratezza delle risposte. Gli utenti possono esaminare la mappa del nodo dell'agente che fornisce una visualizzazione generale dei passaggi eseguiti durante il flusso di lavoro di un agente.

  • Prestare attenzione durante la distribuzione o la progettazione dell'intelligenza artificiale agentic in domini sensibili: gli utenti devono implementare una supervisione umana appropriata durante la configurazione e la distribuzione di sistemi di intelligenza artificiale agentic in domini in cui le azioni degli agenti sono irreversibili o altamente consequenziali. Quando si crea un'intelligenza artificiale agentic autonoma, è necessario adottare precauzioni aggiuntive, come descritto nel Codice di condotta di Microsoft Enterprise AI Services.

I deployer devono:

  • Configurare attentamente le autorizzazioni degli agenti e del controllo degli accessi in base al ruolo: gli amministratori sono responsabili della configurazione dei controlli di accesso in base al ruolo sia per gli utenti che per gli agenti. Le autorizzazioni devono seguire il principio dei privilegi minimi. Agli agenti deve essere concesso l'accesso solo ai dati e alle azioni necessarie per l'attività designata.

  • Monitorare l'utilizzo e rivedere l'attività: gli amministratori (proprietari) possono usare il dashboard di monitoraggio dell'utilizzo Security Copilot per esaminare i dati a livello di sessione, ad esempio l'utilizzo nel tempo, gli iniziatori di sessione e i plug-in usati durante le sessioni. Questa visibilità consente alle organizzazioni di comprendere come Security Copilot viene usato tra prompt, promptbook e agenti. Per altre informazioni, vedere Gestire l'utilizzo.

  • Gestire le impostazioni di condivisione dei dati: i proprietari possono configurare le preferenze di condivisione dei dati dei clienti in qualsiasi momento e devono esaminare e aggiornare queste impostazioni in base ai requisiti di privacy e conformità dell'organizzazione. Per altre informazioni, vedere Privacy e sicurezza dei dati in Microsoft Security Copilot.

  • Informare gli utenti sulle funzionalità e le limitazioni: l'uso efficace e responsabile di Security Copilot richiede agli utenti di comprendere cosa può e non può fare il sistema. I deployer devono fornire formazione e indicazioni per aiutare gli utenti a interagire con Security Copilot in modo efficace, inclusa l'importanza di verificare gli output generati dall'IA prima di intervenire.

Altre informazioni su Security Copilot

Per altre indicazioni sull'uso responsabile di Microsoft Security Copilot, vedere la documentazione seguente:

Altre informazioni sull'intelligenza artificiale responsabile

  • Last updated on