Nota:
El acceso a esta página requiere autorización. Puede intentar iniciar sesión o cambiar directorios.
El acceso a esta página requiere autorización. Puede intentar cambiar los directorios.
La inteligencia artificial amplía el riesgo de seguridad existente e introduce nuevos riesgos y consideraciones en las identidades, los datos, las aplicaciones y las interacciones del usuario. Estos riesgos se pueden abordar mediante principios de Confianza cero.
La protección de la inteligencia artificial no solo trata de proteger los servicios y modelos de IA subyacentes. También es necesario asegurarse de que el acceso, el uso y la gobernanza del sistema de inteligencia artificial se alinean con los principios de Confianza cero.
La guía del pilar de inteligencia artificial se centra en el establecimiento de visibilidad sobre el uso de la inteligencia artificial, la aplicación de controles de identidad y acceso seguros, la protección de los datos entre avisos y salidas, la protección del desarrollo del agente y los entornos en tiempo de ejecución y la integración de señales de inteligencia artificial en operaciones de seguridad.
Implementación del taller
En el taller de inteligencia artificial se tratan las áreas de implementación resumidas en la tabla.
| Area | Detalles |
|---|---|
| Identifique y evalúe el riesgo de IA | Detectar e inventariar agentes, aplicaciones y servicios de IA en toda la organización. Evalúe los riesgos de inteligencia artificial mediante información de seguridad centralizada, revise el inventario y priorice los resultados y establezca directivas de gobernanza, propiedad y uso aceptable. Implemente la supervisión continua y la corrección para los riesgos de inteligencia artificial en constante evolución. |
| Registro de agentes | Registre agentes de IA en un registro centralizado para mantener la visibilidad y el control. Clasificar y organizar agentes en función del propósito y el riesgo, asignar la propiedad y la responsabilidad, y definir la publicación, la certificación y el ciclo de vida |
| Protección de la autenticación y el acceso a la inteligencia artificial | Aplicar controles de acceso basados en identidades para los sistemas y agentes de inteligencia artificial. Aplique el acceso condicional, las directivas basadas en riesgos y los procesos de gobernanza de identidades para garantizar que solo los usuarios y servicios autorizados puedan interactuar con los recursos de inteligencia artificial. |
| Protección del acceso a la red de IA | Controlar cómo se accede a los servicios de IA a través de la red. Enrutar el tráfico a través de controles de acceso seguros, aplicar directivas de filtrado e inspección para las interacciones con ia y protegerse contra riesgos, como la inyección de mensajes y las rutas de acceso no autorizadas. |
| Protección del acceso a datos de IA | Protege los datos confidenciales utilizados en las instrucciones de IA, la fundamentación y los resultados. Aplique directivas de clasificación, etiquetado y DLP, controle el acceso a las fuentes de datos conectadas y supervise los riesgos de compartir datos en exceso y de exposición de datos en las interacciones de IA. |
| Compilar agentes de forma segura | Proteja el desarrollo y la implementación de agentes de inteligencia artificial aplicando estándares de autenticación, autorización y control de datos. Integre controles de seguridad de contenido, requiera validación y formación de equipos rojos y establezca procesos de publicación e implementación seguros. |
| Detección y respuesta de la inteligencia artificial | Supervise la actividad de inteligencia artificial y detecte amenazas como el uso incorrecto, las anomalías y los ataques basados en mensajes. Integre las señales de inteligencia artificial en las operaciones de seguridad, habilite los flujos de trabajo de investigación y respuesta y mejore continuamente las funcionalidades de detección y respuesta. |
Pasos siguientes
Comience el taller de inteligencia artificial.