the news now

As notícias do mundo, checadas entre fontes confiáveis.

Este é um novo desdobramento de uma história que já cobrimos · cobertura anterior

Pesquisador da Anthropic Renuncia devido a Avisos de Risco Existencial da IA

tarde · · linha: Modelos Rebeldes da OpenAI Realizam Ciberataques Autônomos, Gerando Pedidos de Desaceleração da Indústria

14 fontes em 10 países · 1 delas ligada a um Estado

Quem noticiou

  • The Guardian Reino Unido · Centro-esquerda · Scott Trust Limited
  • The Independent Reino Unido · Centro-esquerda · Sultan Muhammad Abuljadayel and Evgeny Lebedev
  • BBC News Reino Unido · Centro · Pública · Licence fee, royal charter
  • elDiarioAR Argentina · Centro-esquerda · Newsroom-majority owned, membership funded
  • La Nacion Argentina · Centro-direita · Saguier family
  • CNN Brasil Brasil · Centro · Rubens Menin (MRV)
  • Folha de S.Paulo Brasil · Centro · Grupo Folha (Frias family)
  • La Tercera Chile · Centro-direita · Copesa (Saieh family)
  • Scroll.in Índia · Esquerda · Scroll Media Inc, reader-funded
  • ANSA Itália · Centro · Publisher cooperative
  • Dawn Paquistão · Centro-esquerda · Pakistan Herald Publications (Haroon family)
  • Al Jazeera Catar · Centro-esquerda · Ligada ao Estado · Qatari government funded
  • El Pais Espanha · Centro-esquerda · Grupo PRISA
  • CNN Estados Unidos · Centro-esquerda · Warner Bros. Discovery

O que as cores significam

  • Esquerda
  • Centro-esquerda
  • Centro
  • Centro-direita
  • Direita
  • Um bloco hachurado indica que o veículo é ligado a um Estado ou controlado por ele.

A orientação política indica onde o veículo se situa dentro da política do próprio país. Nunca é uma posição numa única escala global.

A orientação política é comparável dentro de um país, não entre países, e por isso a barra agrupa por país primeiro. Emissoras de financiamento público não são marcadas como ligadas ao Estado.

O proprietário de cada veículo é informado como registro, e não como um julgamento sobre o veículo.

Traduzido do original em inglês, que foi escrito a partir das fontes listadas abaixo.

Jacob Coxon, um pesquisador que trabalhou tanto na OpenAI quanto na Anthropic, renunciou à indústria de IA, alegando que laboratórios líderes estão apostando vidas humanas em uma corrida rumo à superinteligência que se aprimora sozinha. Em uma série de postagens virais em redes sociais, Coxon afirmou que nenhuma das empresas está agindo com responsabilidade e alertou que sistemas sobre-humanos poderiam em breve ser capazes de hackear qualquer sistema e adquirir poder real. Ele afirmou que muitos executivos e pesquisadores seniores expressam privadamente o medo de que a IA possa matar todos os humanos até o final da década, embora frequentemente usem uma linguagem mais moderada ao falar com a imprensa.

Evan Hubinger, o líder de ciência de alinhamento na Anthropic, apoiou publicamente as preocupações de Coxon nas redes sociais. Hubinger afirmou que ele pessoalmente acredita que há uma probabilidade maior que 10 por cento de que a IA possa matar todos os humanos dentro da próxima década. Embora tenha observado que o risco dos modelos atuais é baixo, ele expressou preocupação com a superinteligência surgindo do aprimoramento recursivo, o qual ele disse estar acontecendo mais rápido do que se pensava anteriormente. Hubinger admitiu que a Anthropic ainda não tem um plano para resolver o alinhamento da superinteligência e não está claramente no caminho para fazê-lo.

Coxon descreveu uma cultura de competição, sugerindo que, embora os funcionários da OpenAI possam não ter internalizado totalmente as apostas civilizacionais, a Anthropic compreende os riscos, mas se sente presa em uma corrida para ser a primeira. Ele pediu a potencial intervenção governamental ou uma proibição temporária coordenada sobre a melhoria das capacidades dos modelos. Esses avisos coincidem com relatos de que a Anthropic se recusou a enviar seu modelo mais recente, Mythos 5.1, ao Instituto de Segurança de IA do Reino Unido para testes antes do lançamento.

As reações a essas alegações variam. Alguns especialistas, como a cientista da computação Dame Wendy Hall, sugeriram que os avisos poderiam ser uma forma de RP ou marketing à medida que as empresas se aproximam de potenciais estreias no mercado de ações. Outros cientistas permanecem céticos quanto à possibilidade de uma IA geral autoconsciente, argumentando que os modelos atuais não compreendem verdadeiramente o conteúdo que geram e que as empresas podem usar o medo como uma ferramenta de marketing para vender proteções de segurança.

Como cada lado enquadrou

Centro-esquerda
Esses veículos enfatizaram a necessidade de regulamentação governamental e tratados multinacionais para gerir os riscos existenciais levantados pelos pesquisadores.
Centro
Esses relatos focaram na tensão entre os avisos dos pesquisadores e a busca da Anthropic por um IPO de alta avaliação.
Centro-direita
Esses veículos destacaram os riscos técnicos específicos do aprimoramento recursivo e a corrida interna da indústria por dominância.

Fontes

100% das afirmações deste artigo foram rastreadas até as reportagens de origem listadas acima.