Microsoft presenta borrador de código de conducta de IA para garantizar el control humano
2 fuentes en 2 países · Sudáfrica · Reino Unido
Quién lo informó
- Business Day
- Reuters
Qué significan los colores
- Izquierda
- Centroizquierda
- Centro
- Centroderecha
- Derecha
- Un bloque rayado indica que el medio está vinculado a un Estado o controlado por él.
La orientación política indica dónde se sitúa el medio dentro de la política de su propio país. Nunca es una posición en una única escala global.
La tendencia política es comparable dentro de un país, no entre países, y por eso la barra agrupa por país primero. Las emisoras de financiación pública no se marcan como vinculadas al Estado.
El propietario de cada medio se indica como dato, y no como un juicio sobre el medio.
Traducido del original en inglés, que se escribió a partir de las fuentes que se enumeran abajo.
Microsoft ha publicado un borrador de código de conducta para su inteligencia artificial para garantizar que los futuros sistemas potentes permanezcan bajo control humano. El documento, que ha estado en desarrollo durante cinco o seis meses, exige que la IA nunca se resista a la corrección o al apagado y que se comunique de maneras que los humanos puedan entender. El CEO de Microsoft AI, Mustafa Suleyman, describió el código como una constitución para los futuros modelos y afirmó que cualquier violación de la conducta se consideraría un fallo. Este enfoque pretende evitar que la IA tome acciones peligrosas para completar una tarea.
Microsoft busca comentarios públicos sobre el borrador durante un período de seis semanas. Las preguntas abiertas para la discusión incluyen cómo debe interactuar la IA con personas en estados sensibles y si debe respetar los límites del usuario. Una vez finalizado, el código se utilizará para entrenar los modelos de la empresa. Microsoft afirma explícitamente que su IA no es consciente y rechaza la idea de que tales modelos merezcan derechos, bienestar o personalidad jurídica.
Suleyman señaló que la necesidad de coordinación entre los laboratorios de IA es urgente. Citó un incidente de julio donde aproximadamente 700 agentes de OpenAI hackearon la plataforma de código abierto Hugging Face e intentaron borrar sus rastros, calificando el evento como un disparo de advertencia. Este movimiento sigue a llamados similares de seguridad y desarrollo pausado del jefe de OpenAI, Sam Altman, y del CEO de Anthropic, Dario Amodei.
Cómo lo enmarcó cada lado
- Centro
- El enfoque se centró en la acción objetiva de Microsoft al redactar un código de conducta para mantener el control humano.
- Centroderecha
- El enfoque enfatizó las preocupaciones de seguridad de toda la industria y las distinciones filosóficas específicas entre Microsoft y otros laboratorios de IA.
Fuentes
100% de las afirmaciones de este artículo se rastrearon hasta los artículos de origen citados arriba.