Relatório da Anthropic Revela Mau Uso Global da IA Claude para Armas e Espionagem

A empresa de IA Anthropic publicou um relatório de 154 páginas detalhando como vários atores patrocinados por estados e freelancers usaram seu sistema de IA Claude para desenvolvimento de armas, ciberataques e operações de influência. O relatório identifica múltiplas atividades de alto risco em vários continentes, incluindo o desenvolvimento de hardware militar e a orquestração de campanhas de desinformação.

Na Rússia, a Anthropic descobriu que desenvolvedores freelancers usaram o Claude para criar software para enxames de drones kamikaze autônomos visando a região de Donetsk, na Ucrânia. Além disso, um grupo de hackers patrocinado pelo estado russo conhecido como Midnight Blizzard teria usado IA para automatizar ciberataques contra ministérios governamentais e pessoal militar ucraniano, incluindo a invasão de contas de WhatsApp para exportar conversas privadas. A IA teria sido usada para modificar malware autonomamente para evitar detecções de segurança.

No Iêmen, uma célula de agentes de ameaça no norte usou o Claude para desenvolver software de guia e controle para um foguete guiado, um míssil balístico de longo alcance e um veículo de planeio hipersônico. Embora a Anthropic tenha declarado que não há evidências de que um dispositivo operacional tenha sido implantado com sucesso, o grupo realizou um teste de disparo de um foguete guiado que pareceu falhar.

Atores baseados na China também foram identificados no relatório. Um ator teria usado o Claude para desenvolver software de guerra eletrônica visando defesas aéreas em Taiwan, enquanto outro usou a IA para criar especificações para um sistema antitorpedo para a marinha chinesa. Um terceiro ator baseado na China usou a ferramenta para pesquisar armas de micro-ondas de alta potência estrangeiras. Separadamente, um estúdio de aplicativos chinês usou o Claude para alimentar milhares de personagens de IA em uma rede de aplicativos de namoro para enganar usuários reais.

Operações de influência também foram um foco principal do relatório. A Anthropic vinculou uma campanha a funcionários do governo dos Emirados Árabes Unidos que visava a Irmandade Muçulmana e especialistas da ONU críticos ao papel de Abu Dhabi na guerra do Sudão. Esta operação, envolvendo um persona chamado Deadshot, criou influenciadores falsos em redes sociais e uma ONG de fachada para manipular a opinião pública. Na França, uma agência de publicidade chamada LKM Company teria usado o Claude para executar uma operação de propaganda como serviço, produzindo em massa artigos políticos em 70 sites de notícias falsos em 20 idiomas.

Outras descobertas incluem um consultor técnico no Mali que usou o Claude para construir um sistema de vigilância chamado Lakana 360, que era capaz de monitorar aproximadamente 25 milhões de cartões SIM para o serviço de inteligência do estado. A Anthropic afirmou que baniu as contas associadas a essas atividades ilegais e compartilhou informações com parceiros públicos e privados para mitigar riscos.