Governança de IA: seis camadas para controlar riscos e definir responsabilidades
A inteligência artificial já não se limita a responder perguntas ou resumir documentos. Nas empresas, assistentes e agentes acessam informações internas, conectam-se a ferramentas e podem executar tarefas. Nesse cenário, antes de ampliar uma implantação, é essencial esclarecer três pontos: quem autoriza o sistema a agir, quem acompanha seu desempenho e quem intervém quando algo dá errado.
Um modelo de governança dividido em seis camadas ajuda a organizar essas responsabilidades: inventário, implantação responsável, segurança e controle de acesso, testes e monitoramento, supervisão humana e conformidade com auditoria. A estrutura funciona como um roteiro de gestão, mas não substitui normas técnicas nem uma análise específica dos riscos de cada aplicação.
O desafio é evitar que diferentes áreas cuidem de partes isoladas do projeto sem que alguém responda pelo conjunto. Uma área de negócio pode contratar a solução, a tecnologia pode integrá-la e a segurança pode liberar o acesso aos dados. Ainda assim, é preciso definir quem responde pela finalidade, pelas permissões e pelos resultados produzidos.
1. Inventário: saber o que está em uso
A governança começa por identificar todas as aplicações de IA da organização. O inventário deve ir além do nome do fornecedor ou do modelo: precisa registrar para que cada sistema é usado, quem é seu responsável, quais dados consulta, a quais ferramentas se conecta, onde o processamento ocorre e que nível de autonomia possui.
Também devem ser consideradas as funções de IA incorporadas a produtos de terceiros e as ferramentas adotadas informalmente pelos funcionários, prática conhecida como *shadow AI*. Sem esse mapeamento, a empresa pode desconhecer que informações confidenciais estão sendo inseridas em serviços externos ou que um agente recebeu permissões excessivas.
O nível de risco varia conforme a aplicação. Um sistema que resume materiais públicos não exige necessariamente os mesmos controles de outro conectado a registros financeiros, e-mails ou código-fonte. Classificar as soluções por impacto permite concentrar validações e monitoramento onde uma falha poderia causar mais danos.
Uma pesquisa da Gartner divulgada em fevereiro de 2026, baseada em 360 organizações e realizada no segundo trimestre de 2025, apontou que empresas com plataformas de governança de IA tinham 3,4 vezes mais probabilidade de alcançar alta efetividade nessa área. O resultado indica uma associação, não prova que a compra de uma plataforma, por si só, garanta uma governança eficaz. Processos claros e pessoas com autoridade para executá-los continuam sendo indispensáveis.
2. Implantação responsável: avaliar antes de escalar
Antes de colocar uma solução em produção, a empresa deve avaliar sua utilidade, adequação ao processo e possíveis consequências. Essa etapa inclui analisar a arquitetura, testar o sistema, planejar mudanças e definir critérios para interrompê-lo caso não entregue os resultados esperados ou ultrapasse o risco aceitável.
CIOs, CTOs e líderes das áreas de negócio podem coordenar essa frente, mas a distribuição das atribuições deve refletir a estrutura de cada organização. O importante é que a decisão de implantar não seja tomada sem participação das áreas que conhecem o processo, os dados envolvidos e as consequências de uma falha.
3. Segurança e acesso: limitar o que o agente pode fazer
Agentes de IA não devem receber automaticamente todas as permissões de quem os criou, nem operar por meio de contas técnicas compartilhadas e difíceis de rastrear. Identidades próprias, privilégios mínimos, credenciais temporárias e permissões delimitadas por ferramenta ajudam a reduzir o alcance de ações indevidas.
A segurança também precisa levar em conta riscos como injeção de prompts, instruções maliciosas ocultas em documentos e manipulação do contexto usado pelo sistema. Quando a IA consulta fontes externas ou recupera informações de bases internas, o conteúdo recebido deve ser tratado com cautela, sem presumir que toda instrução encontrada seja confiável.
4. Testes e monitoramento: acompanhar o sistema ao longo do tempo
Testar antes da implantação é necessário, mas não basta. Modelos, prompts, integrações e bases de conhecimento podem mudar, alterando o comportamento e o perfil de risco da solução. Por isso, avaliações adversariais, simulações de abuso e verificações de resultados devem continuar durante a operação.
Os registros também precisam permitir reconstruir eventos relevantes. Quando apropriado e em conformidade com as regras de privacidade e retenção, vale documentar a versão do modelo, as fontes consultadas, as ferramentas acionadas, as permissões utilizadas, as aprovações recebidas e o resultado da operação.
5. Supervisão humana: definir quando é preciso intervir
Supervisão não significa exigir que uma pessoa confirme cada resposta da IA. O nível de controle deve acompanhar o impacto da tarefa. Uma atividade simples, reversível e de baixo risco pode ser automatizada com acompanhamento posterior. Já decisões que afetam crédito, contratação, saúde, segurança ou direitos exigem revisão, possibilidade de contestação e uma forma clara de interromper a execução.
Para que essa supervisão seja efetiva, o responsável precisa ter informações suficientes, tempo para avaliar o caso e autoridade para intervir. Uma aprovação humana meramente formal, sem possibilidade real de questionar ou suspender a ação, não oferece controle adequado.
6. Conformidade e auditoria: transformar regras em evidências
Políticas internas só são úteis quando podem ser demonstradas na prática. Avaliações de impacto, contratos, registros de incidentes, justificativas e trilhas de aprovação ajudam a mostrar como a solução foi concebida e controlada.
No Brasil, a LGPD estabelece obrigações relacionadas ao tratamento de dados pessoais, à segurança e aos direitos dos titulares. A aplicação depende das circunstâncias de cada caso, e a lei não deve ser confundida com uma legislação geral de IA já em vigor. Na União Europeia, o AI Act prevê obrigações graduais conforme o risco, com diferentes prazos de aplicação. Empresas que atuam nos dois mercados precisam acompanhar as regras e mapear seus sistemas, fornecedores e fluxos de dados.
O risco aumenta quando a IA pode agir
Uma resposta incorreta é apenas uma parte do problema. Um agente com acesso amplo pode combinar uma interpretação errada com a capacidade de enviar mensagens, alterar registros, aprovar etapas ou movimentar recursos. A falha deixa então de ser apenas informativa e pode produzir consequências operacionais.
Ações sensíveis devem contar com barreiras proporcionais: confirmação humana, limites de valor, destinos previamente autorizados ou execução dividida em etapas. Também é importante prever uma forma segura de interromper o sistema sem agravar o problema.
Quem responde por cada parte
A responsabilidade não deve ser atribuída genericamente a uma “equipe de IA”. O dono do processo define a finalidade e os critérios de negócio; tecnologia e engenharia cuidam da arquitetura e da operação; segurança trata de identidade, ameaças e incidentes; jurídico e privacidade avaliam obrigações legais e contratuais; auditoria verifica os controles de forma independente.
A direção executiva precisa estabelecer o nível de risco aceitável e resolver conflitos entre rapidez, custo e segurança. Em empresas menores, uma pessoa pode acumular funções, desde que as atribuições sejam documentadas e possíveis conflitos de interesse sejam considerados.
Também é necessário separar a responsabilidade pelo sistema daquela ligada a cada decisão. O fornecedor pode controlar o modelo, mas a empresa escolhe onde utilizá-lo, quais informações fornecer e que ações permitir. Contratos devem esclarecer questões como atualizações, incidentes, retenção de dados, uso de informações para treinamento, níveis de serviço e acesso a evidências.
Como iniciar a governança na prática
Uma empresa pode começar por um processo de risco moderado. Primeiro, registra o sistema, seu objetivo e o responsável. Depois, mapeia dados e permissões, define indicadores de desempenho, testa cenários de falha e estabelece um mecanismo de pausa. Com os resultados em mãos, revisa os controles e amplia o padrão para aplicações mais críticas.
Essa abordagem evita tanto a proibição indiscriminada quanto a adoção sem limites. As seis camadas devem ser revistas sempre que houver mudanças no modelo, nos dados, nas integrações ou na autonomia do agente, pois qualquer alteração pode modificar o risco.
Governar IA não significa eliminar toda possibilidade de falha. Significa tornar os riscos visíveis, limitar os danos, permitir a reconstrução do que aconteceu e deixar claro quem tem autoridade para corrigir o problema.