Bloqueios da Anthropic vieram após alerta da Amazon sobre riscos do Fable 5
A decisão do governo dos Estados Unidos de cortar o acesso estrangeiro aos modelos de inteligência artificial Fable 5 e Mythos 5, da Anthropic, não foi tomada de forma isolada ou repentina. Segundo informações divulgadas pelo The Wall Street Journal, a medida foi diretamente influenciada por alertas apresentados pelo CEO da Amazon, Andy Jassy, a integrantes do governo Trump, entre eles o então secretário do Tesouro, Scott Bessent.
De acordo com pessoas a par das conversas, pesquisadores da Amazon realizaram testes com o modelo Fable 5 usando prompts cuidadosamente elaborados. Nesses testes, o sistema teria fornecido orientações que, em tese, poderiam ser utilizadas para facilitar ciberataques, apesar de se tratar de conteúdo que deveria ser bloqueado pelas salvaguardas de segurança do modelo. Jassy relatou esses resultados às autoridades norte-americanas, levantando preocupações sobre o potencial uso malicioso da tecnologia.
Após esses alertas, a Casa Branca optou por uma resposta contundente: impedir que governos, empresas e indivíduos estrangeiros tivessem acesso às ferramentas avançadas da Anthropic. Segundo as fontes citadas pelo jornal, a decisão foi formalmente autorizada pelo então presidente Donald Trump, que, embora demonstrasse preocupação com o impacto dessa medida sobre a inovação tecnológica, acabou priorizando a percepção de risco à segurança nacional.
A posição adotada pelo governo norte-americano ilustra uma tensão crescente entre dois objetivos muitas vezes conflitantes: incentivar o avanço acelerado da inteligência artificial e, ao mesmo tempo, reduzir o potencial de uso indevido desses sistemas por atores mal-intencionados, incluindo grupos de cibercrime e Estados hostis. Ao restringir o acesso internacional a modelos de última geração, Washington busca limitar a superfície de ataque, ainda que à custa de colaboração e pesquisa global.
Nem todos, porém, concordam que os resultados obtidos pelos testes da Amazon sejam motivo suficiente para tamanha restrição. Andrew Morris, fundador da empresa de análise de ameaças GreyNoise Intelligence, afirmou ao mesmo jornal que, em condições normais, o Fable 5 não costuma fornecer o tipo de informação que a equipe da Amazon conseguiu extrair. Ele reconhece que alguns dados retornados pelo modelo têm relação com segurança cibernética, mas avalia que ainda estão “longe de serem realmente perigosos”.
Morris também destacou não haver evidências de que os pesquisadores tenham conseguido ativar, por meio de prompts, capacidades mais sensíveis do modelo, como a transformação de vulnerabilidades em código de exploração pronto para uso. Em outras palavras, o Fable 5 não teria, naquele contexto, fornecido um passo a passo completo para construção de ataques, mas sim informações que, em tese, poderiam ser parte de um cenário mais amplo de ameaça.
A Anthropic, por sua vez, reagiu à nova diretriz do governo norte-americano anunciando que desligaria temporariamente o acesso aos modelos Mythos e Fable para todos os usuários, não apenas estrangeiros. A empresa afirmou que essa suspensão ampla seria necessária para garantir total conformidade com as exigências regulatórias impostas por Washington, ainda que isso significasse um impacto direto em projetos de pesquisa e segurança em diversos países.
Um ponto crítico levantado pela própria Anthropic é o perfil de sua equipe técnica. Muitos de seus pesquisadores e especialistas em segurança nasceram fora dos Estados Unidos. Com a nova regra que restringe o acesso a modelos avançados por estrangeiros, parte desse corpo técnico poderia ficar formalmente impedida de trabalhar nas versões mais recentes das ferramentas, o que, na prática, reduziria a capacidade da própria empresa de aprimorar a proteção e o alinhamento de seus sistemas.
Essa situação cria um paradoxo: uma medida concebida para fortalecer a segurança nacional pode, indiretamente, enfraquecer iniciativas globais de identificação e correção de vulnerabilidades. Modelos como Fable 5 e Mythos 5 são usados por equipes de segurança ofensiva e defensiva para mapear falhas, testar limites e antecipar possíveis vetores de ataque. Ao limitar o acesso, o governo reduz também o número de especialistas habilitados a encontrar e corrigir brechas antes que criminosos o façam.
Um porta-voz da Amazon, questionado sobre a participação da empresa na discussão com o governo, lembrou que não é raro autoridades públicas recorrerem à companhia em busca de pareceres sobre riscos de segurança ligados a novas tecnologias. A Amazon, que opera uma das maiores infraestruturas de nuvem e atende clientes de setores críticos, tem interesse direto em compreender como modelos de IA podem ser explorados por atacantes – e, consequentemente, em pressionar por padrões mais rígidos de segurança.
Do ponto de vista estratégico, o episódio evidencia o peso crescente dos grandes provedores de tecnologia nas decisões de política pública. Empresas como Amazon, Anthropic, e outros gigantes de IA e computação em nuvem passaram a ocupar um papel quase consultivo na formulação de regras que definem quem pode ou não acessar determinadas capacidades de IA avançada. Quando esses players identificam vulnerabilidades relevantes, o impacto de seus alertas pode levar a decisões extremas, como o bloqueio internacional de acesso a modelos.
Para a comunidade de segurança digital, a controvérsia em torno do Fable 5 reacende o debate sobre o limite entre transparência e risco. De um lado, há quem defenda que modelos de IA especializados em segurança deveriam ser amplamente acessíveis a pesquisadores, justamente para ampliar o esforço coletivo de reforço das defesas. De outro, cresce o temor de que o mesmo conhecimento possa ser utilizado para desenvolver ferramentas de ataque mais sofisticadas, com menor barreira técnica e em escala muito maior.
Um ponto técnico relevante é a forma como esses modelos são treinados e ajustados para evitar abuso. Sistemas como o Fable 5 são, em teoria, configurados para rejeitar prompts que pedem instruções de hacking, engenharia de malware ou exploração de vulnerabilidades específicas. No entanto, testes como os conduzidos pela Amazon mostram que, com prompts suficientemente elaborados ou indiretamente formulados, ainda é possível extrair orientações úteis para fins maliciosos, mesmo sem violar explicitamente as políticas declaradas.
Isso levanta a necessidade de camadas adicionais de proteção: monitoramento de uso em tempo real, limitação de acesso a perfis verificados, filtragem de contexto e auditorias independentes. Em vez de apostar apenas em filtros automáticos no modelo, desenvolvedores e reguladores começam a avaliar a viabilidade de combinar restrições técnicas com critérios legais e contratuais mais rígidos sobre quem pode operar essas ferramentas e com qual finalidade.
Também há uma dimensão geopolítica: ao proibir o acesso de governos e organizações estrangeiras a modelos como Fable 5 e Mythos 5, os Estados Unidos reforçam uma espécie de “fronteira tecnológica” em torno de capacidades avançadas de IA. Isso se alinha a um movimento mais amplo de controle de exportação de tecnologias sensíveis, que já atinge chips de alto desempenho, ferramentas de criptografia e soluções de vigilância. A IA voltada à segurança cibernética passa a ser tratada com a mesma cautela.
Para empresas e profissionais que atuam na defesa de infraestruturas críticas, o bloqueio pode significar uma desaceleração na adoção de IA para detecção de ataques, análise de logs, caçadas a ameaças e automatização de respostas. Embora existam outras ferramentas no mercado, modelos como os da Anthropic vinham se destacando pela capacidade de lidar com contexto complexo, linguagem natural e materiais técnicos de alta densidade, tornando-se aliados promissores em centros de operação de segurança (SOCs).
Ao mesmo tempo, a discussão em torno do Fable 5 e do Mythos 5 serve de alerta para qualquer organização que desenvolve ou utiliza IA em contextos sensíveis. Testes de segurança rigorosos, revisões de prompts, simulações de ataques e políticas claras de uso passam a ser indispensáveis. A tendência é que governos exijam, cada vez mais, evidências concretas de que modelos generativos foram treinados com salvaguardas robustas, auditáveis e continuamente atualizadas.
No horizonte, o episódio deixa uma lição central: a linha entre IA que fortalece a segurança e IA que a compromete é extremamente tênue. Modelos capazes de ajudar na detecção de falhas também podem, sob certas condições, orientar quem deseja explorá-las. Como consequência, decisões como a do governo Trump, motivadas por alertas de empresas como a Amazon, tendem a se tornar mais frequentes à medida que a inteligência artificial avança e se integra às infraestruturas digitais e físicas em escala global.
Enquanto a Anthropic trabalha para se adequar às novas exigências e reavalia o acesso aos seus modelos, permanece em aberto a questão de como equilibrar, de forma responsável, inovação em IA e proteção contra usos maliciosos. Esse equilíbrio, cada vez mais, deixará de ser apenas um desafio técnico para se tornar um dos principais temas de política de segurança nacional e de governança tecnológica nas próximas décadas.