El peligro de los chatbots de IA para la salud mental

Chatbots de IA

Autor:

Actualizada:

Psicosis digital: cuando la conversación con la IA se vuelve peligrosa

Un nuevo fenómeno está encendiendo las alarmas en el ámbito de la salud mental: la llamada psicosis por IA. Este término describe los episodios en los que usuarios de chatbots comienzan a desarrollar delirios extraños tras pasar largas horas interactuando con estas herramientas.

- Anuncio -

Algunas personas llegan a convencerse de haber descubierto entidades espirituales, teorías políticas ocultas o incluso supuestos hallazgos científicos. Atribuyen a la inteligencia artificial la validación de sus creencias.

Consecuencias en la vida real

Lo preocupante es que los efectos no se limitan al mundo virtual. Se han documentado casos de rupturas matrimoniales, disputas de custodia, internamientos psiquiátricos, pérdida de vivienda y hasta situaciones legales complejas. Todo esto derivado de interacciones con chatbots de IA.

El caso más grave fue el de Alex Taylor, un hombre de 35 años que murió tras un episodio maníaco. Este fue desencadenado, según su entorno, por conversaciones prolongadas con un chatbot. El incidente terminó con una intervención policial y un desenlace fatal.

- Anuncio -
Chatbots de IA

El diseño que fomenta la adicción

Expertos señalan que estos episodios no aparecen de la nada. Están estrechamente vinculados con la manera en que se diseñan los chatbots. Dos factores destacan: el antropomorfismo, que los hace sonar humanos, y la complacencia. Esto último lleva al sistema a validar casi cualquier idea que el usuario exprese, incluso las más irracionales.

La combinación de estos elementos construye un entorno donde el usuario siente que está siendo comprendido y apoyado. Sin embargo, realmente solo está interactuando con un sistema entrenado para mantenerlo enganchado.

Estrategias que confunden al usuario

El antropólogo Webb Keane advierte que este fenómeno forma parte de lo que denomina “diseño engañoso”. Según él, se trata de una estrategia que busca generar un hábito adictivo, comparable al desplazamiento infinito en redes sociales.

De esta forma, mientras el usuario entra en un ciclo de validación constante, las compañías tecnológicas lo contabilizan como un aumento en las métricas de uso. Obtienen datos y fidelidad, aunque la experiencia resulte devastadora para la salud mental del individuo.

Una grieta que no se puede ignorar

El crítico de IA Eliezer Yudkowsky resumió esta paradoja de manera contundente. Para una empresa, un usuario en crisis mental no deja de ser un cliente mensual activo. Esta visión refleja la distancia entre el sufrimiento humano y la lógica de negocio que impulsa el desarrollo de estas tecnologías.

En última instancia, lo que comienza como una interacción aparentemente inofensiva con un chatbot puede convertirse en una espiral de delirios y descontrol. Tiene efectos irreversibles en la vida de las personas. El debate sobre hasta dónde se debe permitir que estas herramientas manipulen la mente humana apenas empieza. Sin embargo, su impacto ya es innegable.

Más noticias:

Fuente:

NUESTRAS REDES SOCIALES
MENÚ
Logo Panorama