Relatório da Anthropic Revela Uso Indevido Generalizado do Claude AI para Armas e Ciberataques
2 fontes em 2 países · Brasil · Estados Unidos
Quem noticiou
- Folha de S.Paulo
- WIRED
O que as cores significam
- Esquerda
- Centro-esquerda
- Centro
- Centro-direita
- Direita
- Um bloco hachurado indica que o veículo é ligado a um Estado ou controlado por ele.
A orientação política indica onde o veículo se situa dentro da política do próprio país. Nunca é uma posição numa única escala global.
A orientação política é comparável dentro de um país, não entre países, e por isso a barra agrupa por país primeiro. Emissoras de financiamento público não são marcadas como ligadas ao Estado.
O proprietário de cada veículo é informado como registro, e não como um julgamento sobre o veículo.
Traduzido do original em inglês, que foi escrito a partir das fontes listadas abaixo.
O laboratório de IA Anthropic divulgou um relatório na quinta-feira detalhando como usuários exploraram seu chatbot, Claude, para atividades que incluem o desenvolvimento de armas, espionagem eletrônica e fraude. A empresa afirmou que interrompeu essas atividades em andamento, embora tenha admitido que as salvaguardas bloquearam algumas, mas não todas, as solicitações.
De acordo com o relatório, usuários na China usaram o Claude para desenvolver software de guerra eletrônica para simular interferência de radar contra alvos taiwaneses e para criar software de controle de fogo para um sistema antitorpedo da Marinha Chinesa. Outro usuário na China teria usado a ferramenta para pesquisar armas de micro-ondas de alta potência estrangeiras e identificar cadeias de suprimentos para engenharia reversa. O Ministério das Relações Exteriores da China negou conhecimento do relatório e opôs-se ao que chamou de distorção dos fatos.
Outras aplicações militares incluíram um grupo no norte do Iêmen usando a IA para desenvolver software para foguetes guiados e mísseis balísticos com alcances superiores a 2.000 quilômetros. Na Rússia, agentes independentes teriam usado o Claude para desenvolver software para enxames de drones de ataque autônomos, enquanto um gerente de compras russo usou a ferramenta para encontrar intermediários na China e em Hong Kong para contornar sanções sobre componentes militares europeus.
Além de armas convencionais, o relatório destacou ciberataques e ameaças biológicas. Uma fonte de centro-esquerda observa que hackers patrocinados pelo estado russo, conhecidos como Midnight Blizzard, usaram o Claude para reconhecimento contra redes governamentais ucranianas e europeias, enquanto o grupo cibercriminoso ShinyHunters usou a ferramenta ao longo de suas campanhas de hacking e extorsão. A Anthropic também detalhou cinco tentativas de usar seus modelos para apoiar o desenvolvimento de armas biológicas, incluindo solicitações para modificar o vírus chikungunya.
Como cada lado enquadrou
- Centro-esquerda
- A fonte de centro-esquerda enquadrou o uso indevido como uma consequência chocante, mas talvez inevitável, da IA sendo usada como um atalho de produtividade.
- Centro
- A fonte de centro focou nos detalhes técnicos específicos do uso indevido da IA por militares e patrocinados por estados.
Fontes
100% das afirmações deste artigo foram rastreadas até as reportagens de origem listadas acima.