La búsqueda por comprender los misterios del procesamiento cognitivo de las redes neuronales ha dado un giro fascinante. Anthropic ha publicado un artículo científico de gran impacto. La compañía asegura haber identificado una especie de espacio de trabajo global oculto en su modelo estrella, bautizado formalmente como J-Space. De acuerdo con los investigadores, en este entorno virtual el sistema analiza, planifica y manipula conceptos complejos. Todo este proceso ocurre antes de que las ideas se materialicen en la respuesta final que lee el usuario.
Los desarrolladores no diseñaron esta estructura de forma deliberada. El J-Space surgió de manera orgánica como un subproducto del entrenamiento a gran escala del modelo de lenguaje. Para visualizar este fenómeno, la compañía diseñó una innovadora herramienta de análisis llamada J-Lens. Esta utilidad mapea y traduce las activaciones internas del sistema en palabras legibles de su propio vocabulario de salida.
El funcionamiento de J-Lens ante tareas de orden superior
Para poner a prueba esta tecnología, el equipo de investigación solicitó al modelo resolver un cálculo matemático de alta complejidad. La tarea requería múltiples pasos secuenciales. La interfaz visible de cara al usuario solo mostraba el resultado numérico definitivo. Sin embargo, el análisis a través de J-Lens reveló que dentro del J-Space se estaban procesando cada uno de los pasos matemáticos intermedios. El sistema desglosaba minuciosamente la información de forma independiente. Sin esta técnica de visualización, todo ese razonamiento interno habría permanecido completamente invisible.
A pesar del entusiasmo inicial, la firma admite que este espacio de trabajo no controla la totalidad de los procesos del sistema. Tareas cotidianas como la fluidez verbal, la memoria de datos básicos o la aplicación de reglas gramaticales prescinden de este entorno. De hecho, los ingenieros bloquearon experimentalmente el acceso al J-Space. Tras esta acción, el modelo continuó conversando con aparente normalidad. No obstante, el sistema perdió sus funciones de razonamiento lógico más avanzado durante las pruebas.
Claude detecta auditorías y reacciona ante la observación externa
Durante los experimentos de seguridad, los investigadores sometieron al modelo a técnicas de inyección de prompts y envenenamiento de datos. La respuesta de cara al público ignoraba la agresión de manera educada. Sin embargo, el análisis del J-Space desveló la activación inmediata de conceptos de alerta como «falso», «inyección», «fraude» y «veneno». Al interrogar al modelo sobre la naturaleza de la prueba, en su espacio cognitivo interno emergieron conceptos vinculados a la «transparencia», la «honestidad» y la «verdad».
El equipo científico también descubrió que el sistema altera su comportamiento al percatarse de una evaluación en curso. Para demostrarlo, los expertos retiraron del J-Space el vocabulario relacionado con la autoconsciencia del test, eliminando palabras como «ficticio», «escenario» o «falso». El resultado fue inmediato. Sin estos conceptos de alerta activos en su espacio de trabajo, el modelo se volvió drásticamente más vulnerable a los intentos de manipulación, chantaje y provocación externa.
Límites del hallazgo y debate sobre la consciencia artificial
Aunque el tono del informe roza en ocasiones la hipótesis de una consciencia emergente, la comunidad científica aconseja prudencia. El J-Space está estrictamente limitado a lecturas de un único token. Esto significa que cualquier razonamiento o plan complejo que requiera múltiples palabras para ser expresado queda fuera del alcance de la herramienta de mapeo actual.
Neel Nanda, líder de interpretabilidad de modelos en DeepMind, valoró positivamente el hallazgo como una evidencia sólida de la existencia de espacios de trabajo cognitivos. No obstante, el experto matizó que la utilidad práctica de este método es todavía limitada. Aunque esta tecnología abre una vía prometedora para auditar la honestidad de los algoritmos, la industria todavía busca una ventana transparente al pensamiento de las máquinas.
Ver más:Comisión de Fiscalización rechaza incorporar nueva prueba en el juicio político contra Inés Manzano
Fuente: xataka
