AI-säkerhet i Microsoft Nulová dôvera (Zero Trust) Workshop

AI förstärker befintliga säkerhetsrisker och introducerar nya risker och överväganden för identiteter, data, program och användarinteraktioner. Dessa risker kan hanteras med hjälp av Nulová dôvera (Zero Trust) principer.

Att skydda AI handlar inte bara om att skydda underliggande AI-modeller och -tjänster. Vi måste också se till att AI-systemets åtkomst, användning och styrning överensstämmer med Nulová dôvera (Zero Trust) principer.

AI-grundpelarvägledning fokuserar på att etablera insyn i AI-användning, framtvinga starka identitets- och åtkomstkontroller, skydda data mellan uppmaningar och utdata, skydda agentutvecklings- och körningsmiljöer och integrera AI-signaler i säkerhetsåtgärder.

Implementering av workshop

AI-workshopen beskriver de implementeringsområden som sammanfattas i tabellen.

Area Detaljer
Mappa och utvärdera AI-risker Identifiera och inventera AI-agenter, program och tjänster i hela organisationen.

Utvärdera AI-risker med hjälp av centraliserade säkerhetsinsikter, granska inventering och prioritera resultat samt upprätta principer för styrning, ägarskap och godtagbar användning.

Implementera kontinuerlig övervakning och åtgärder för föränderliga AI-risker.
Registrera agenter Registrera AI-agenter i ett centraliserat register för att upprätthålla synlighet och kontroll.

Klassificera och organisera agenter baserat på syfte och risk, tilldela ägarskap och ansvar samt definiera publicering, certifiering och livscykel
Säker AI-autentisering och åtkomst Framtvinga identitetsbaserade åtkomstkontroller för AI-system och agenter.

Använd villkorlig åtkomst, riskbaserade och attributbaserade principer och processer för identitetsstyrning för att säkerställa att endast behöriga användare och tjänster kan interagera med AI-resurser.
Säker AI-nätverksåtkomst Kontrollera hur AI-tjänster används i nätverket.

Dirigera trafik via säkra åtkomstkontroller, tillämpa filtrerings- och inspektionsprinciper för AI-interaktioner och skydda mot risker som snabbinmatning och obehöriga åtkomstvägar.
Säker AI-dataåtkomst Skydda känsliga data som används i AI-frågor, jordning och utdata.

Tillämpa klassificerings-, etiketterings- och DLP-principer, kontrollera åtkomsten till anslutna datakällor och övervaka risker för överdelning och dataexponering i AI-interaktioner.
Skapa agenter på ett säkert sätt Skydda utvecklingen och distributionen av AI-agenter genom att framtvinga standarder för autentisering, auktorisering och datahantering.

Integrera säkerhetskontroller för innehåll, kräva validering och röd teamindelning samt upprätta säkra publicerings- och distributionsprocesser.
Upptäck och reagera på AI Övervaka AI-aktivitet och identifiera hot som missbruk, avvikelser och promptbaserade attacker.

Integrera AI-signaler i säkerhetsåtgärder, aktivera arbetsflöden för undersökning och svar och kontinuerligt förbättra identifierings- och svarsfunktionerna.

Nästa steg

Starta AI-workshopen.

  • Last updated on