ISO/IEC 27090: nova norma reforça a proteção de sistemas de inteligência artificial
A publicação da ISO/IEC 27090:2026, em 14 de outubro, amplia as referências disponíveis para proteger sistemas de inteligência artificial. O documento trata de ameaças e comprometimentos próprios da IA e orienta organizações sobre como identificá-los e reduzir seus efeitos.
A norma foi elaborada pelo comitê ISO/IEC JTC 1/SC 27 e se destina a organizações públicas e privadas, independentemente do porte, que desenvolvem ou utilizam inteligência artificial. Com 56 páginas, aborda riscos que podem permanecer mesmo quando a infraestrutura está protegida por controles tradicionais de segurança.
A proteção de servidores, redes e contas continua indispensável, mas não cobre todas as vulnerabilidades da IA. Também é preciso considerar os dados usados no treinamento, as informações consultadas durante a operação, as instruções fornecidas ao sistema, os parâmetros dos modelos e as integrações que permitem que a tecnologia execute tarefas.
Essa superfície mais ampla muda a avaliação de segurança. Um sistema pode estar funcionando em um ambiente controlado e, ainda assim, ser manipulado para produzir respostas indesejadas, revelar informações ou executar ações inadequadas. Por isso, não basta verificar se a aplicação está disponível e se o acesso é autorizado: é necessário avaliar como o modelo pode ser influenciado ou explorado.
Entre os riscos abordados está o *data poisoning*, ou envenenamento de dados. Nesse tipo de ataque, informações manipuladas são introduzidas no conjunto usado para treinar ou atualizar o modelo. O resultado pode ser uma alteração no comportamento da IA, que passa a produzir respostas comprometidas ou a tomar decisões enviesadas.
Outro perigo é o roubo de modelos. Em alguns casos, um invasor pode tentar obter informações sobre o funcionamento ou a composição de um modelo por meio de consultas aparentemente legítimas, sem precisar invadir diretamente os servidores. Isso mostra que a própria interface de uso pode ser explorada, mesmo quando o acesso parece estar dentro das regras.
Os riscos continuam após a entrada em produção. Dados coletados durante a operação podem ser reaproveitados em ajustes ou retreinamentos. Se esse material estiver contaminado ou não tiver sido devidamente verificado, o problema pode ser incorporado às versões futuras do sistema. A procedência das informações, portanto, precisa ser acompanhada ao longo de todo o ciclo de vida da IA.
Como a ISO/IEC 27090 se relaciona com as normas 27001 e 42001
A ISO/IEC 27001 define requisitos para estabelecer, manter e aprimorar um Sistema de Gestão de Segurança da Informação (SGSI). Sua abordagem é organizacional: ajuda a identificar riscos, atribuir responsabilidades, escolher controles e demonstrar que a segurança é administrada de maneira contínua.
Já a ISO/IEC 42001 trata da gestão da inteligência artificial. Ela oferece uma estrutura para organizar a governança, definir objetivos e gerenciar riscos associados ao desenvolvimento e ao uso desses sistemas.
A ISO/IEC 27090 tem um foco diferente e complementar. Em vez de substituir os sistemas de gestão, oferece orientação para compreender ameaças específicas à IA e orientar medidas de proteção durante o ciclo de vida da tecnologia. A organização pode recorrer à ISO/IEC 27001 para estruturar sua gestão de segurança, à ISO/IEC 42001 para organizar a governança de IA e à ISO/IEC 27090 para aprofundar a análise de ameaças e formas de mitigação. A norma também é complementar às ISO/IEC 27001 e 27002.
É importante não confundir essa orientação técnica com uma certificação. A ISO/IEC 27090 não cria, por si só, uma certificação autônoma equivalente à ISO/IEC 27001. Sua publicação também não torna desnecessários os controles gerais de segurança: a proposta é ampliar a análise para contemplar características próprias da inteligência artificial.
O que muda na avaliação de riscos
Na prática, as empresas precisam olhar além da infraestrutura e incluir modelos, dados e integrações no inventário de ativos relevantes. Também devem entender de onde vêm os dados, quem pode alterá-los e em quais situações eles são usados para treinamento, ajuste ou recuperação de informações.
Um processo de avaliação consistente começa pela identificação dos sistemas de IA e de suas funções. É importante mapear quais dados cada aplicação recebe, que decisões ou ações pode influenciar e quais outros sistemas estão conectados a ela. Esse levantamento ajuda a determinar quais falhas teriam maior impacto para a organização e para as pessoas afetadas.
A gestão de acessos também merece atenção específica. As permissões precisam ser adequadas à função de cada usuário e componente, inclusive quando um sistema de IA pode consultar bases internas ou acionar ferramentas externas. Quanto maior a capacidade de executar ações, maior a necessidade de limitar e monitorar o que a aplicação está autorizada a fazer.
Outra medida essencial é acompanhar as mudanças. Atualizações de modelos, alterações nos conjuntos de dados e novas integrações podem modificar o perfil de risco. Manter registros dessas mudanças e testar o comportamento do sistema antes de colocá-las em produção facilita a identificação de alterações inesperadas.
As empresas também devem preparar procedimentos para responder a incidentes relacionados à IA. Um plano pode estabelecer como suspender uma funcionalidade, preservar registros, investigar uma resposta inadequada e decidir se é necessário reverter uma versão ou interromper o uso de determinados dados. A rapidez da resposta pode reduzir danos e evitar que um problema se propague para outros processos.
Por fim, a segurança não depende apenas das equipes técnicas. Áreas responsáveis por privacidade, conformidade, negócios e gestão de riscos podem contribuir para avaliar os impactos do sistema e definir critérios de uso. Com responsabilidades claras e revisões periódicas, a organização consegue aproximar a proteção técnica da governança e dos objetivos da empresa.
A ISO/IEC 27090 oferece, assim, uma referência especializada para empresas que precisam lidar com ameaças específicas da inteligência artificial. Seu valor está em complementar os controles existentes e ajudar a incorporar riscos de dados, modelos e operação à gestão de segurança, sem tratar a IA como se fosse apenas mais uma aplicação convencional.