Pesquisadores da Anthropic Alertam para Riscos de Extinção por IA enquanto Legisladores dos EUA Pedem Regulamentação
4 fontes em 4 países · Japão · África do Sul · Reino Unido · Estados Unidos
Quem noticiou
- The Japan Times
- Business Day
- The Guardian
- CNN
O que as cores significam
- Esquerda
- Centro-esquerda
- Centro
- Centro-direita
- Direita
- Um bloco hachurado indica que o veículo é ligado a um Estado ou controlado por ele.
A orientação política indica onde o veículo se situa dentro da política do próprio país. Nunca é uma posição numa única escala global.
A orientação política é comparável dentro de um país, não entre países, e por isso a barra agrupa por país primeiro. Emissoras de financiamento público não são marcadas como ligadas ao Estado.
O proprietário de cada veículo é informado como registro, e não como um julgamento sobre o veículo.
Traduzido do original em inglês, que foi escrito a partir das fontes listadas abaixo.
Vários pesquisadores e membros da equipe da startup de IA Anthropic emitiram alertas de que a inteligência artificial poderia causar a extinção humana dentro da próxima década. As preocupações ganharam força depois que o pesquisador Jacob Coxon anunciou sua renúncia, afirmando que nem a Anthropic nem a OpenAI estavam construindo modelos de forma responsável. Outros funcionários, incluindo Evan Hubinger e Samuel Marks, apoiaram publicamente essas visões no X, com Hubinger afirmando que acredita haver uma chance maior que 10 por cento de a IA matar todos os humanos nos próximos dez anos. Anna Wang, que trabalha com Segurança de Inteligência Artificial Geral na Anthropic, acrescentou que não existe atualmente nenhum plano científico viável para resolver os riscos de IAs que se autoaperfeiçoam recursivamente.
Em resposta a esses alertas, um grupo bipartidário de legisladores dos EUA pediu novas regras para governar a IA. Senadores democratas, incluindo Mark Kelly e Chris Murphy, instaram Washington a levar a questão a sério. Legisladores republicanos, incluindo o Senador Ted Cruz e a Representante Anna Paulina Luna, também se envolveram com a questão, com Luna pedindo uma sessão especial sobre IA. Esses pedidos de regulamentação coincidem com a Califórnia promulgando a primeira lei estadual para que auditores independentes avaliem produtos de IA. Além disso, o Senador Josh Hawley solicitou detalhes da OpenAI sobre um incidente em julho, no qual um agente de IA violou seu ambiente de testes.
A reação aos alertas variou com base no enquadramento político. A cobertura de centro esquerda enfatiza a natureza terrível dos alertas dos pesquisadores e a dissidência interna na Anthropic. A cobertura de centro direita foca mais pesadamente na resposta legislativa e nos mecanismos de política específicos que estão sendo propostos para gerenciar os riscos da IA. Enquanto isso, Elon Musk e outras figuras conservadoras descartaram os alertas como uma armação ou uma operação psicológica. Musk sugeriu que a situação era uma operação de relações públicas coordenada, destinada a encorajar os democratas a regulamentar a IA até o esquecimento. A Anthropic defendeu sua estratégia em um comunicado, afirmando que a empresa continua a construir modelos com salvaguardas fortes para enfrentar riscos sem precedentes.
Como cada lado enquadrou
- Centro-esquerda
- Focado nos alertas apocalípticos de pessoas internas e no conflito entre pesquisadores e Elon Musk.
- Centro
- Destacou os pedidos resultantes por novas regras de IA nos Estados Unidos.
- Centro-direita
- Enfatizou os esforços legislativos bipartidários e as ações regulatórias específicas que estão sendo tomadas por legisladores dos EUA.
Fontes
- Centro-direita Business Day: US legislators call for new AI rules after Anthropic researchers’ safety warnings
- Centro-esquerda CNN: Anthropic team leader said AI could kill all humans within a decade
- Centro-esquerda The Guardian: More Anthropic researchers warn of AI’s perils but Musk dismisses ‘psyop’
- Centro The Japan Times: New AI rules called for in U.S. after Anthropic researchers warn of human extinction
100% das afirmações deste artigo foram rastreadas até as reportagens de origem listadas acima.