Développer et déployer des applications IA sécurisées et conformes Microsoft Foundry ou personnalisées

La sécurité et la conformité sont essentielles pour l’adoption de l’IA d’entreprise. Les clients d’entreprise s’attendent à ce que les applications IA soient sécurisées par conception et se conforment aux stratégies internes et aux réglementations externes.

Le fait de ne pas répondre à ces attentes peut entraîner :

• Rejet pendant les révisions de sécurité et de conformité.
• Fuites de données ou autre comportement d’IA dangereux.
• Perte de confiance des clients et réduction de l’adoption.

Pour mettre à l’échelle l’IA de manière responsable, les organisations doivent se baser sur une sécurité et une gouvernance solides des données. Étant donné que les applications IA traitent de plus en plus les données d’entreprise sensibles, les développeurs doivent incorporer des contrôles de sécurité et de conformité dès le début du cycle de vie du développement, pendant la conception et l’implémentation.

Microsoft Purview fournit des API et des services qui permettent Microsoft Foundry et d’autres plateformes d’IA d’intégrer des contrôles de sécurité et de gouvernance des données de niveau entreprise dans des applications et des agents d’IA personnalisés, quel que soit le modèle ou la plateforme de déploiement.

Cet article explique comment les développeurs peuvent s’intégrer à Microsoft Purview pour prendre en charge les exigences de sécurité et de conformité des données dans leurs applications et agents IA créés à l’aide de Microsoft Foundry, Agent Framework ou d’applications IA personnalisées. Le tableau suivant récapitule les scénarios Microsoft Purview et les options que les développeurs doivent choisir pour chaque scénario.

Régir les données utilisées au moment de l’exécution par les applications IA

Les fonctionnalités de Microsoft Purview suivantes peuvent être utilisées pour fournir une gouvernance des données pour les applications IA :

• Analyse en temps réel pour l’utilisation des données sensibles, les comportements à risque et les interactions ia non éthiques.
• Audit de traçabilité.
• Conformité des communications pour détecter le contenu dangereux ou non autorisé.
• Gestion du cycle de vie des données et eDiscovery pour les besoins juridiques et réglementaires.

Vous pouvez intégrer ces fonctionnalités Microsoft Purview dans votre application Microsoft Foundry ou ia personnalisée, à l’aide des options suivantes :

• Intégration native de Microsoft Purview dans Microsoft Foundry (recommandé) : lors de l’utilisation de modèles dans Microsoft Foundry, utilisez les paramètres de Microsoft Purview pour l’audit et les résultats de gouvernance associés incorporés dans Microsoft Foundry. Azure Administrateurs peuvent activer le paramètre pour n’importe quel abonnement Azure donné. Il n’y a aucune action que vos développeurs doivent entreprendre. Ce paramètre permet aux données de toutes les applications basées sur l’IA Azure exécutées dans cet abonnement d’être envoyées à Microsoft Purview pour prendre en charge les résultats de gouvernance et de conformité. Pour plus d’informations sur l’activation du paramètre, consultez Activer Data Security pour Azure IA avec Microsoft Purview.

• Utilisez les API : les développeurs Microsoft Foundry peuvent utiliser les API Microsoft Purview via Microsoft Graph pour transmettre par programmation vers Microsoft Purview les données d’invites et de réponses de leurs applications d’IA.

  Utilisez ces API pour l’intégration basée sur l’API :

  • Périmètres de protection du calcul.
  • Traiter le contenu.

  Pour plus d’informations, consultez Utiliser Microsoft Purview API dans Microsoft Graph.

• Infrastructure de l’agent : si vous créez des agents à l’aide de Microsoft Framework d’agent, vous pouvez ajouter des fonctionnalités de Microsoft Purview pour sécuriser vos agents. Ces fonctionnalités ajoutent la sécurité et la conformité des données à l’agent. Dans le pipeline d'intergiciel de votre agent, ajoutez Microsoft Purview intergiciel de stratégie à :

  • Intercepter et transmettre les requêtes et les réponses à Microsoft Purview.
  • Appliquez les stratégies DLP de votre organisation dans Microsoft Purview.

  Pour plus d’informations, consultez Utiliser Kit de développement logiciel (SDK) Microsoft Purview avec Agent Framework.

Protéger contre les fuites de données et les risques internes

Les développeurs peuvent utiliser Agent Framework ou Microsoft Purview API pour appliquer des stratégies Protection contre la perte de données Microsoft Purview (DLP) dans leurs applications.

Infrastructure de l’agent : si vous créez des agents à l’aide de Microsoft Framework d’agent, vous pouvez ajouter des fonctionnalités de Microsoft Purview pour sécuriser vos agents. Ces fonctionnalités ajoutent la sécurité et la conformité des données à l’agent. Dans le pipeline d'intergiciel de votre agent, ajoutez Microsoft Purview intergiciel de stratégie à :

• Interceptez et transmettez les requêtes et les réponses à Microsoft Purview.
• Appliquez les stratégies DLP de votre organisation dans Microsoft Purview.

Pour plus d’informations, consultez Utiliser Kit de développement logiciel (SDK) Microsoft Purview avec Agent Framework.

Utilisez les API : cette option permet aux applications de comprendre et d’appliquer le comportement dans les applications et agents IA en fonction des stratégies définies dans Microsoft Purview. Par exemple, vous pouvez protéger les informations sensibles partagées avec de grands modèles de langage (LLMs) ou contrôler les informations sensibles partagées avec des utilisateurs à risque dans vos applications IA.

Utilisez ces API pour l’intégration basée sur l’API :

• Périmètres de protection du calcul
• Traiter le contenu

exemple de code IA Azure :

• exemple de code AI serverless-chat-langchainjs-purview

Empêcher le surpartage des données

Le partage de données est limité lorsque les étiquettes de confidentialité sont appliquées aux données. Les développeurs peuvent utiliser des API Microsoft Purview ou des Recherche Azure AI pour respecter les étiquettes de confidentialité appliquées aux données utilisées par les modules LLMs pour générer des réponses. Ces deux options garantissent que les réponses générées par l’IA respectent les contrôles d’accès, empêchent le partage de données et limitent les utilisateurs au contenu qu’ils sont autorisés à afficher, comme ils le feraient en dehors de l’environnement d’application IA.

Lorsque l’indexation des étiquettes de confidentialité Microsoft Purview est activée, Recherche Azure AI vérifie les métadonnées des étiquettes des documents au moment de l’exécution de la requête, applique des filtres d’accès en fonction des stratégies Microsoft Purview et renvoie uniquement les résultats auxquels l’utilisateur qui effectue la demande est autorisé à accéder.

Vous pouvez utiliser l’une des API suivantes lors de la génération de ce scénario :

• Répertorier les étiquettes de confidentialité.
• Obtenez des étiquettes de confidentialité.
• Répertorier les droits d’utilisation.
• Héritage de calcul.
• Droits de calcul et héritage.