- Investigadores de inteligencia artificial comparan el momento actual con febrero de 2020 previo al confinamiento global.
- La renuncia de científicos en laboratorios líderes como Anthropic reaviva alertas sobre sistemas que se mejoran a sí mismos.
- Especialistas demandan auditorías externas independientes antes de liberar modelos con capacidades de ciberataque autónomo.
- Organismos multilaterales instan a los gobiernos a implementar marcos de gobernanza vinculantes.
La velocidad vertiginosa con la que avanzan los modelos de inteligencia artificial de frontera ha generado una profunda alarma en la comunidad científica internacional. Varios investigadores y exdesarrolladores de las principales firmas tecnológicas de Silicon Valley han comenzado a comparar el estado actual de la disciplina con febrero de 2020, las semanas previas a que la pandemia de COVID-19 fuera declarada emergencia sanitaria mundial.
La analogía ganó notoriedad pública tras la renuncia de Jacob Coxon, exinvestigador del laboratorio de seguridad de Anthropic, quien publicó una severa advertencia sobre los riesgos existenciales que entraña desarrollar sistemas capaces de autorreprogramarse y optimizar su propio código informático sin supervisión humana directa.
La ilusión de normalidad frente a una curva exponencial
El argumento central de los científicos sostiene que la sociedad humana tiende a procesar los cambios de manera lineal, mientras que los algoritmos de aprendizaje profundo evolucionan bajo curvas exponenciales. Al igual que a principios de 2020 la mayoría de personas continuaba su vida habitual mientras el virus se propagaba de forma invisible, hoy la industria tecnológica minimiza las implicaciones de modelos que ya superan el rendimiento humano en matemáticas complejas, bioingeniería y programación de software.
De acuerdo con análisis del Stanford AI Index, la capacidad computacional asignada al entrenamiento de los mayores modelos se ha multiplicado por diez cada año, reduciendo drásticamente las ventanas de tiempo que tienen las sociedades democráticas para consensuar normas de seguridad cibernética.
Esta automatización acelerada converge con hitos industriales de robótica física, como la reciente noticia de que UBTech abrió una megafábrica de robots humanoides que ensamblan otros robots, demostrando que la convergencia entre software cognitivo y hardware autónomo es ya una realidad productiva global.
Impacto en el mercado laboral y la seguridad informática
La preocupación de los expertos no se limita al desarrollo teórico de superinteligencias autónomas, sino a las consecuencias inmediatas sobre la infraestructura crítica global. Sistemas avanzados de IA ya son capaces de identificar vulnerabilidades de día cero (*zero-day*) en protocolos de comunicación y sistemas financieros en cuestión de segundos, superando con creces la velocidad de respuesta de los equipos de ciberdefensa convencionales.
Asimismo, la automatización cognitiva amenaza con desplazar millones de puestos de trabajo calificados en áreas como el análisis financiero, el derecho corporativo, la traducción y el desarrollo de software. Los analistas insisten en que los Estados deben anticipar esta disrupción mediante programas de reconversión laboral y políticas fiscales que graven la automatización extrema, evitando que la concentración de poder computacional en un puñado de corporaciones transnacionales profundice la desigualdad socioeconómica global.
Llamamiento a la gobernanza y auditorías de seguridad obligatorias
Frente a este panorama, entidades como la UNESCO reiteran la urgencia de aplicar la Recomendación sobre la Ética de la Inteligencia Artificial, adoptada por más de 190 Estados miembros, para impedir el despliegue de sistemas militares o de vigilancia social que escapen al control judicial.
Los expertos concluyen que la ventana de oportunidad para regular la tecnología de forma proactiva se está cerrando rápidamente. Recomiendan implementar pausas técnicas en el entrenamiento de redes masivas, exigir pruebas de estrés (*red teaming*) verificadas por auditores externos y crear tratados internacionales de no proliferación de armas cibernéticas autónomas que salvaguarden el futuro de la humanidad, garantizando que el progreso técnico beneficie de forma equitativa y segura a toda la sociedad global.
