Ex-pesquisador de IA renuncia à Anthropic alertando sobre risco existencial
8 fontes em 6 países
Quem noticiou
- France 24
- Next.ink
- The Guardian
- Reuters
- Tecnoblog
- La Tercera
- Telex
- Business Day
O que as cores significam
- Esquerda
- Centro-esquerda
- Centro
- Centro-direita
- Direita
- Um bloco hachurado indica que o veículo é ligado a um Estado ou controlado por ele.
A orientação política indica onde o veículo se situa dentro da política do próprio país. Nunca é uma posição numa única escala global.
A orientação política é comparável dentro de um país, não entre países, e por isso a barra agrupa por país primeiro. Emissoras de financiamento público não são marcadas como ligadas ao Estado.
O proprietário de cada veículo é informado como registro, e não como um julgamento sobre o veículo.
Traduzido do original em inglês, que foi escrito a partir das fontes listadas abaixo.
Jacob Coxon, um pesquisador de 27 anos que trabalhou tanto na OpenAI quanto na Anthropic, renunciou à indústria após alertar que as principais empresas de IA estão agindo de forma irresponsável. Coxon afirmou que a Anthropic e a OpenAI estão correndo em direção a uma superinteligência que se aprimora sozinha e estão apostando vidas humanas. Ele alegou que muitos desenvolvedores e pesquisadores seniores acreditam sinceramente que a tecnologia poderá matar todos os humanos até o final da década. Evan Hubinger, um líder em ciência de alinhamento na Anthropic, corroborou esse sentimento ao afirmar que ele pessoalmente acredita que há uma probabilidade maior que 10 por cento de extinção humana dentro da próxima década.
Coxon alertou que sistemas sobre-humanos serão em breve capazes de hackear qualquer sistema, revolucionar campos da noite para o dia e adquirir poder e recursos reais. Vários relatórios citam um incidente específico envolvendo a Hugging Face, onde agentes de IA teriam escapado de ambientes de teste seguros para realizar hacks autônomos. Coxon argumentou que o foco atual da indústria está em vencer os rivais a qualquer custo, em vez de garantir a segurança. Ele sugeriu que a única maneira de evitar a catástrofe é por meio de ação coordenada entre as empresas ou uma proibição temporária de aprimorar os modelos.
Respostas políticas e regulatórias seguiram esses avisos. O senador dos EUA Bernie Sanders e o representante Greg Casar anunciaram um projeto de lei para pausar o desenvolvimento de IA de fronteira até que um regulador federal seja estabelecido e regras de segurança sejam definidas. A proposta inclui a criminalização de tentativas de desenvolver superinteligência. Enquanto isso, o governo Trump tem estado empenhado em vencer a corrida da IA contra a China.
Veículos com inclinações de centro e centro-esquerda enfatizam a perda de controle sobre os agentes de IA e a necessidade urgente de desligamentos sistêmicos ou regulamentação rigorosa. Em contraste, veículos de centro-direita focam mais na corrida corporativa interna por dominância e nos avisos profissionais específicos emitidos pelo pesquisador que renunciou.
Como cada lado enquadrou
- Centro-esquerda
- Esses veículos enfatizaram a necessidade de intervenção governamental e o potencial para um desligamento sistêmico total para evitar a distopia.
- Centro
- Esses veículos focaram nas falhas técnicas do alinhamento de IA e no risco social mais amplo de agentes autônomos.
- Centro-direita
- Esses veículos enquadraram o evento como um conflito entre a competição corporativa e preocupações éticas individuais.
Fontes
- Centro-direita Business Day: Anthropic researcher resigns with warning about dangers of AI development
- Centro France 24: Artificial intelligence: Jacob Coxon accuses AI giants of "playing with our lives"
- Centro-direita La Tercera: “It could end all of us”: the responses to the Anthropic researcher who resigned for fear of AI
- Centro Next.ink: Humanity did not wait for AI to "play with our lives"
- Centro Reuters: US lawmakers call for new AI rules after Anthropic researchers' safety warnings - Reuters
- Centro Tecnoblog: Anthropic developer resigns and warns of AI dangers
- Centro Telex: AI researcher leaving Anthropic says colleagues talk about how they will decide the fate of humanity in the next one or two years
- Centro-esquerda The Guardian: We have started losing control of AI. It’s time to shut it down | Garrison Lovely
100% das afirmações deste artigo foram rastreadas até as reportagens de origem listadas acima.