Sécurité de l’IA dans l’atelier Microsoft Confiance nulle

L’IA amplifie les risques de sécurité existants et introduit de nouveaux risques et considérations sur les identités, les données, les applications et les interactions utilisateur. Ces risques peuvent être résolus à l’aide de principes Confiance nulle.

La sécurisation de l’IA ne concerne pas seulement la protection des modèles et services IA sous-jacents. Nous devons également nous assurer que l’accès, l’utilisation et la gouvernance du système d’IA s’alignent sur les principes de Confiance nulle.

Les conseils du pilier IA se concentrent sur l’établissement d’une visibilité sur l’utilisation de l’IA, l’application de contrôles d’identité et d’accès forts, la protection des données entre les invites et les sorties, la sécurisation des environnements de développement et d’exécution de l’agent et l’intégration des signaux IA dans les opérations de sécurité.

Implémentation de l’atelier

L’atelier IA couvre les domaines d’implémentation résumés dans le tableau.

Area Détails
Cartographier et évaluer les risques liés à l’IA Découvrez et stockez des agents, des applications et des services IA au sein de l’organisation.

Évaluez les risques liés à l’IA à l’aide d’insights de sécurité centralisés, examinez l’inventaire et hiérarchiser les résultats, et établissez des stratégies de gouvernance, de propriété et d’utilisation acceptable.

Implémentez une surveillance et une correction continues pour l’évolution des risques liés à l’IA.
Inscrire des agents Inscrivez des agents IA dans un registre centralisé pour maintenir la visibilité et le contrôle.

Classifier et organiser les agents en fonction de l’objectif et du risque, attribuer la propriété et la responsabilité, et définir la publication, la certification et le cycle de vie
Sécuriser l’authentification et l’accès à l’IA Appliquez des contrôles d’accès basés sur l’identité pour les systèmes et agents IA.

Appliquez l’accès conditionnel, les stratégies basées sur les risques et les attributs et les processus de gouvernance des identités pour garantir que seuls les utilisateurs et services autorisés peuvent interagir avec les ressources IA.
Sécuriser l’accès réseau d’IA Contrôler la façon dont les services IA sont accessibles sur le réseau.

Faire transiter le trafic via des contrôles d’accès sécurisés, appliquer des stratégies de filtrage et d’inspection aux interactions avec l’IA, et se protéger contre les risques tels que l’injection de prompt et les chemins d’accès non autorisés.
Sécuriser l’accès aux données IA Protégez les données sensibles utilisées dans les prompts, l’ancrage et les résultats de l’IA.

Appliquez des stratégies de classification, d’étiquetage et de protection contre la perte de données, contrôlez l’accès aux sources de données connectées et surveillez les risques de sur-partage et d’exposition des données dans les interactions ia.
Créer des agents de manière sécurisée Sécurisez le développement et le déploiement d’agents IA en appliquant les normes d’authentification, d’autorisation et de gestion des données.

Intégrez des contrôles de sécurité du contenu, exigez une validation et des exercices de red team, et établissez des processus sécurisés de publication et de déploiement.
Détecter et répondre pour l’IA Surveillez l’activité de l’IA et détectez les menaces telles que les usages abusifs, les anomalies et les attaques par prompt.

Intégrez des signaux IA aux opérations de sécurité, activez les workflows d’investigation et de réponse, et améliorez en permanence les fonctionnalités de détection et de réponse.

Étapes suivantes

Commencez l’atelier IA.

  • Last updated on