Anthropic Relata Interrupção de Uso Indevido de IA em Armas Biológicas e Espionagem
2 fontes em 2 países · Brasil · Estados Unidos
Quem noticiou
- UOL
- Al-Monitor
O que as cores significam
- Esquerda
- Centro-esquerda
- Centro
- Centro-direita
- Direita
- Um bloco hachurado indica que o veículo é ligado a um Estado ou controlado por ele.
A orientação política indica onde o veículo se situa dentro da política do próprio país. Nunca é uma posição numa única escala global.
A orientação política é comparável dentro de um país, não entre países, e por isso a barra agrupa por país primeiro. Emissoras de financiamento público não são marcadas como ligadas ao Estado.
O proprietário de cada veículo é informado como registro, e não como um julgamento sobre o veículo.
Traduzido do original em inglês, que foi escrito a partir das fontes listadas abaixo.
A Anthropic anunciou em um relatório de Inteligência de Ameaças que interrompeu tentativas de usar seus modelos de IA Claude para o desenvolvimento de armas biológicas, ciberespionagem e software de armamentos. A empresa documentou cinco instâncias em que usuários tentaram usar os modelos para apoiar pesquisas de armas biológicas, incluindo um caso em que um usuário em uma região não suportada usou infraestrutura de servidor privado virtual para planejar experimentos de adaptação mamífera da gripe aviária. A Anthropic também identificou operadores na Rússia, China e Iêmen usando a plataforma para desenvolver software para armas convencionais, tais como mísseis, armas de fogo e drones armados.
Além disso, a empresa relatou uma campanha de ciberespionagem visando setores governamentais, militares e diplomáticos ucranianos. Esta operação utilizou estruturas de múltiplos agentes para automatizar phishing e evasão de malware. A Anthropic observou que a técnica era consistente com o Midnight Blizzard, um agente de ameaça que o governo dos EUA vinculou ao serviço de inteligência estrangeira SVR da Rússia. O relatório também acusou concorrentes chineses de tentar hackear o sistema para extrair as capacidades do Claude.
Em resposta a essas ameaças, a Anthropic baniu as contas envolvidas e atualizou as salvaguardas de seus modelos. Jacob Klein, chefe de inteligência de ameaças da Anthropic, afirmou que as capacidades crescentes dos modelos de IA criaram novos riscos que não existiam há um ano. Dois pesquisadores da empresa também alertaram que a IA em progressão rápida poderia potencialmente levar à extinção humana no futuro.
Como cada lado enquadrou
- Centro-esquerda
- O enquadramento de inclinação centro-esquerda foca nas aplicações específicas da IA em projetos de mísseis e espionagem.
- Centro
- O enquadramento de inclinação central enfatiza os detalhes técnicos das ameaças e as implicações mais amplas para a regulamentação da IA.
Fontes
100% das afirmações deste artigo foram rastreadas até as reportagens de origem listadas acima.