- Extrabajadores de OpenAI, Anthropic, Google y DeepMind advierten sobre riesgos existenciales de la IA avanzada.
- Jacob Coxon, exingeniero de Anthropic, cree que la tecnología «puede matarnos antes de 2030».
- Más de 1.300 empleados del sector firmaron una carta para frenar la carrera hacia sistemas más potentes.
- Anthropic proyecta una valuación de 2 billones de dólares de cara a una eventual salida a bolsa.
Un grupo creciente de extrabajadores de las principales compañías de inteligencia artificial del mundo —OpenAI, Anthropic, Google y DeepMind— ha comenzado a hablar públicamente sobre los riesgos que, según ellos, representa el desarrollo acelerado de esta tecnología para la humanidad. Sus testimonios, recogidos por Teleamazonas, describen un ambiente interno marcado por la presión comercial y la falta de controles de seguridad proporcionales al poder de los nuevos modelos.
«El mundo no está preparado»
Daniel Kokotajlo, exinvestigador de OpenAI, resumió así su preocupación: «El mundo no está preparado y nosotros no estamos preparados. Y estoy preocupado porque nos hemos lanzado hacia delante». Su testimonio se suma al de otros exempleados como Jan Leike, William Saunders y Steven Adler, quienes salieron de la compañía en los últimos años citando diferencias sobre la prioridad que la empresa da a la seguridad frente al ritmo de lanzamiento de nuevos productos.
Jacob Coxon, de 27 años y exingeniero de Anthropic, fue más allá al afirmar que considera posible que la inteligencia artificial «pueda matarnos antes de 2030». Se trata de una de las advertencias más categóricas emitidas hasta ahora por alguien que trabajó directamente en el desarrollo de estos sistemas, no por un observador externo.
Voces con peso técnico y académico
Entre los nombres citados destaca Paul Christiano, quien inventó una de las técnicas de entrenamiento por refuerzo con retroalimentación humana que hoy se usa en ChatGPT, y Geoffrey Hinton, considerado uno de los padres de las redes neuronales modernas y ganador del Premio Nobel de Física, quien dejó Google en 2023 para poder hablar con libertad sobre los peligros de la IA.
También se menciona a Helen Toner, exmiembro del directorio de OpenAI que votó a favor de destituir temporalmente al director ejecutivo Sam Altman en noviembre de 2023, y a Ilya Sutskever, cofundador de la compañía y figura clave en su arquitectura técnica original. Carroll Wainwright, otro extrabajador citado, advirtió sobre el riesgo de una «alienación a largo plazo» de la humanidad si llega a surgir una inteligencia artificial más capaz que el ser humano en la mayoría de tareas.
Más de 1.300 firmas para frenar la carrera de la IA
La preocupación no se limita a declaraciones individuales. Más de 1.300 empleados y extrabajadores del sector han firmado cartas abiertas pidiendo a las compañías líderes que frenen o ralenticen la carrera hacia sistemas cada vez más potentes, hasta contar con mecanismos de control verificables. Entre los firmantes hay ingenieros de Anthropic que, según los testimonios recogidos, identifican un plazo de uno a dos años como la ventana crítica para establecer salvaguardas antes de que los modelos alcancen capacidades consideradas de alto riesgo.
Organismos como la UNESCO han impulsado marcos éticos internacionales para el desarrollo de IA, mientras que la Unión Europea avanzó con su propia ley de inteligencia artificial para exigir mayor transparencia a las empresas que operan en el bloque, un antecedente que analistas citan como posible modelo regulatorio para otras regiones.
El debate sobre los límites de la IA también llegó al mundo laboral. Panorama Ecuador reportó recientemente que gestionar compañeros de trabajo de IA se convirtió en una habilidad laboral exigida por las empresas, mientras que otra nota del portal citó un estudio de Ericsson que proyecta que los superusuarios de IA representarán el 30% de los usuarios de smartphones hacia 2030.
Una industria que crece pese a las advertencias
Pese a las alertas internas, el negocio de la inteligencia artificial sigue expandiéndose a un ritmo sin precedentes. Anthropic, la empresa fundada por extrabajadores de OpenAI y responsable del asistente Claude, proyecta una valuación cercana a los 2 billones de dólares de cara a una eventual salida a bolsa, una cifra que refleja el apetito inversor por el sector pese a las dudas planteadas desde dentro.
Esta tensión entre crecimiento acelerado y advertencias de seguridad ha llevado a que medios como Reuters dediquen cobertura creciente a los desacuerdos internos en las principales firmas de IA, en momentos en que gobiernos de distintos países debaten qué nivel de regulación aplicar a una tecnología que avanza más rápido que los marcos legales existentes.
Para los exempleados que alzaron la voz, el mensaje central es el mismo: la ventana para actuar con controles reales se está cerrando, y la responsabilidad no puede recaer únicamente en las propias compañías que compiten por liderar el mercado.
