Observação
O acesso a essa página exige autorização. Você pode tentar entrar ou alterar diretórios.
O acesso a essa página exige autorização. Você pode tentar alterar os diretórios.
A IA amplifica o risco de segurança existente e introduz novos riscos e considerações entre identidades, dados, aplicativos e interações do usuário. Esses riscos podem ser resolvidos usando princípios Confiança Zero.
Proteger a IA não se trata apenas de proteger os modelos e serviços de IA subjacentes. Também precisamos garantir que o acesso, o uso e a governança do sistema de IA estejam alinhados com os princípios de Confiança Zero.
As diretrizes do pilar de IA se concentram em estabelecer visibilidade do uso de IA, impor controles fortes de identidade e acesso, proteger dados entre prompts e saídas, proteger ambientes de desenvolvimento e runtime do agente e integrar sinais de IA em operações de segurança.
Implementação do workshop
O workshop de IA aborda as áreas de implementação resumidas na tabela.
| Area | Detalhes |
|---|---|
| Mapear e avaliar o risco de IA | Descubra e faça o inventário de agentes de IA, aplicativos e serviços em toda a organização. Avalie os riscos de IA usando insights de segurança centralizados, examine o inventário e priorize as descobertas e estabeleça políticas de governança, propriedade e uso aceitável. Implemente o monitoramento e a correção contínuos para os riscos de IA em evolução. |
| Registrar agentes | Registre agentes de IA em um registro centralizado para manter a visibilidade e o controle. Classificar e organizar agentes com base na finalidade e no risco, atribuir propriedade e responsabilidade e definir publicação, certificação e ciclo de vida |
| Autenticação e acesso seguros de IA | Impor controles de acesso baseados em identidade para agentes e sistemas de IA. Aplique acesso condicional, políticas baseadas em risco e com base em atributos e processos de governança de identidade para garantir que somente usuários e serviços autorizados possam interagir com recursos de IA. |
| Proteger o acesso à rede de IA | Controlar como os serviços de IA são acessados em toda a rede. Rotear o tráfego por meio de controles de acesso seguro, aplicar políticas de filtragem e inspeção para interações de IA e proteger contra riscos como injeção de prompt e caminhos de acesso não autorizados. |
| Proteger o acesso a dados de IA | Proteja dados sensíveis usados em prompts de IA, contextualização e resultados. Aplique políticas de classificação, rotulagem e DLP, controle o acesso a fontes de dados conectadas e monitore os riscos de compartilhamento excessivo e exposição de dados em interações de IA. |
| Crie agentes com segurança | Proteja o desenvolvimento e a implantação de agentes de IA impondo padrões de autenticação, autorização e manipulação de dados. Integre controles de segurança de conteúdo, exija validação e agrupamento vermelho e estabeleça processos seguros de publicação e implantação. |
| Detecção e resposta para IA | Monitore a atividade de IA e detecte ameaças como uso indevido, anomalias e ataques baseados em prompt. Integre sinais de IA em operações de segurança, habilite fluxos de trabalho de investigação e resposta e melhore continuamente os recursos de detecção e resposta. |
Próximas Etapas
Inicie o workshop de IA.