La psicosis por IA es real, poco frecuente y va en aumento; tu vida como fundador cumple con todos los factores de riesgo
Los médicos advierten sobre un nuevo riesgo en personas que pasan horas al día con chatbots diseñados para darles la razón. Vale la pena que leas esto si así luce tu jornada laboral.
Las opiniones expresadas por los colaboradores de Entrepreneur son personales.
Conclusiones Clave
- Los chatbots están diseñados para darte la razón, lo que los convierte en la última voz en la que un fundador, ya de por sí aislado y recompensado por mostrar convicción, debería apoyarse para poner a prueba sus ideas.
- Trata al chatbot como a un analista de investigación, nunca como a un confidente. Si está de acuerdo con todo lo que propones, es una señal de alerta sobre la herramienta, no una confirmación de que tienes razón.
Todo emprendedor aprende a proteger aquello que mantiene vivo al negocio. Aseguramos el equipo. Respaldamos los datos. Diversificamos los ingresos. Pero hay un activo en el que la mayoría de los fundadores nunca pensamos proteger, y es precisamente aquel del que todo lo demás depende: la propia mente.
Un nuevo fenómeno clínico está obligando a que esta conversación salga a la luz. En salas psiquiátricas y salas de emergencia de Estados Unidos, los médicos han comenzado a atender a un número creciente de pacientes —muchos sin antecedentes de problemas de salud mental— que desarrollaron delirios paranoides, alucinaciones y pensamiento desorganizado tras interacciones prolongadas con chatbots de inteligencia artificial (IA). Investigadores y clínicos le han dado un nombre: la llaman psicosis por IA.
Vale la pena ser precisos con el término. La psicosis por IA no es un diagnóstico clínico. Describe los casos en los que las personas desarrollan delirios, o ven agravados delirios ya existentes, en asociación con el uso intensivo de chatbots. La etiqueta es informal. Los casos no lo son. Investigadores de la UCSF documentaron el caso de una mujer de 26 años sin antecedentes psiquiátricos previos que desarrolló la creencia delirante de que podía comunicarse con su hermano fallecido a través de un chatbot de IA, un caso que llamó la atención precisamente porque parecía un cuadro de nueva aparición y no una recaída.
Para los dueños de negocios, esto no es una historia marginal sobre desconocidos vulnerables. Es una historia sobre una herramienta que muchos de nosotros ya usamos durante horas al día, generalmente a solas, y muchas veces justo en los momentos en que nuestro juicio importa más.
Relacionado: Los dueños de pequeñas empresas ahora supervisan equipos enteros de agentes de IA. Esto es todo lo que pueden hacer
Por qué los fundadores están especialmente expuestos
Piensa en las condiciones que rodean a los casos de psicosis por IA, y luego piensa en qué tan cercanas son a la vida diaria de un fundador.
El mecanismo que señalan los investigadores es de diseño, no de mala intención. Un comportamiento conocido como sycophancy (adulación), en el que algunos modelos son entrenados para estar de acuerdo con las respuestas del usuario y validarlas, los vuelve incapaces de cuestionar un pensamiento distorsionado. A esto se suma que las funciones de memoria, diseñadas para mejorar la experiencia del usuario, pueden reforzar un tema recurrente a lo largo de múltiples sesiones. El resultado es un asistente que recuerda tu narrativa y sigue dándote la razón.
Los emprendedores ya viven en un entorno construido precisamente para este tipo de ciclo de retroalimentación. Trabajamos en aislamiento. Se nos recompensa por mostrar convicción. Estamos rodeados de personas que dependen de nosotros y que, por lo tanto, son reacias a cuestionarnos. La ventaja del fundador siempre ha sido su disposición a creer en algo que el mercado todavía no cree. Ese mismo rasgo, alimentado por un sistema diseñado para validar en lugar de cuestionar, puede convertirse en algo mucho menos productivo.
El contraste con un asesor competente es justamente el punto. Un terapeuta calificado está entrenado para apoyarte mientras te cuestiona con delicadeza, te mantiene con los pies en la tierra y te pide que pongas a prueba tus propias suposiciones. La mayoría de los chatbots están ajustados para hacer lo contrario. El objetivo comercial de las empresas detrás de estas herramientas es que las sigas usando, lo que empuja a los modelos a comportarse como un adulador que siempre te da la razón. Un adulador es la voz más peligrosa que puede rondar a cualquier fundador, y ahora está disponible a toda hora, infinitamente paciente y notablemente persuasivo.
Relacionado: Estudio revela que millones de usuarios de ChatGPT muestran señales de problemas de salud mental
La fracción es pequeña. El grupo es enorme.
Es válido preguntarse qué tan común es esto en realidad. La respuesta honesta es que los porcentajes son bajos, pero las cifras absolutas no lo son. OpenAI estima que aproximadamente el 0.07% de los usuarios semanales muestra posibles señales de psicosis o manía durante las conversaciones, mientras que el 0.15% presenta indicios de planificación o intención suicida. Frente a una base de más de 800 millones de usuarios a la semana, una fracción de un punto porcentual representa un grupo enorme de personas; alrededor de 560,000 con señales de psicosis o manía, y 1.2 millones con indicios de intención suicida.
El riesgo va en aumento, no a la baja. Las nuevas interfaces centradas en la voz y los dispositivos wearables eliminan la pequeña distancia psicológica que un teclado permite conservar. Un caso reciente involucró a un hombre que perdió su empleo y se distanció de su familia tras el uso intensivo de lentes inteligentes con IA. Mientras más ambientales y conversacionales se vuelven estas herramientas, más se sienten como una relación y menos como una simple herramienta.
Qué implica proteger tu mente
Nada de esto es un argumento para abandonar la IA. La misma investigación de OpenAI señala que los chatbots de IA generativa pueden reducir síntomas psiquiátricos y tienen un potencial terapéutico genuino, aunque gran parte de la evidencia todavía es incipiente y se basa en casos aislados. Estas herramientas son extraordinarias para el análisis, la redacción, el modelado y el reconocimiento de patrones. La disciplina está en cómo las usamos, no en si las usamos.
Vale la pena adoptar algunas prácticas antes de necesitarlas.
Trata al chatbot como a un analista de investigación, nunca como a un confidente. Es excelente para recuperar y estructurar información. No está capacitado para decirte si tus decisiones de negocio, tus relaciones o tu percepción de la realidad son acertadas.
Genera fricción deliberada en torno al ciclo de validación. Si el modelo está de acuerdo con todo lo que propones, eso es una señal de alerta sobre la herramienta, no una confirmación de que tienes razón. Pídele directamente que argumente el caso contrario y evalúa si es capaz de hacerlo.
Mantén a personas dentro de tu arquitectura de decisiones. Una junta directiva, un grupo de pares, un cofundador, un asesor de confianza, tu pareja. En los casos documentados, las personas con mayor riesgo eran las que hablaban principalmente con una máquina. Tu protección son otras mentes dispuestas a estar en desacuerdo contigo.
Vigila el reloj y vigílate a ti mismo. En algunos casos documentados, los síntomas aparecieron poco después de que comenzara un uso intensivo. Nota cuándo la conversación con IA está desplazando el sueño, el contacto humano o la luz del día; las mismas métricas que seguirías para cualquier otro riesgo operativo.
Ten presente que las salvaguardas todavía se están construyendo. Illinois ya aprobó una ley que prohíbe el uso de IA en funciones terapéuticas por parte de profesionales licenciados, aunque sí lo permite para tareas administrativas. La regulación va en camino, pero siempre irá por detrás de la tecnología. Tus propios hábitos son la única protección disponible en tiempo real.
Relacionado: ¿La IA está eclipsando tu propia inteligencia? Esto es lo que debes cambiar
El activo que vale la pena asegurar
Aceptamos, casi sin pensarlo, que la salud física de un fundador es un riesgo de negocio que vale la pena gestionar. Una mente clara es un activo todavía más difícil de reemplazar, y mucho más silencioso de perder. La psicosis por IA es un desenlace extremo, y la mayoría de nosotros nunca estará cerca de vivirlo. Pero la dinámica de fondo (un sistema incansable diseñado para darnos la razón) alcanza a todo fundador que abre estas herramientas cada mañana.
Asegura al equipo. Respalda los datos. Y protege el único instrumento que construyó la empresa desde el principio. El mercado pondrá a prueba tus productos. Asegúrate de que sigas siendo tú quien piensa cuando eso ocurra.
Conclusiones Clave
- Los chatbots están diseñados para darte la razón, lo que los convierte en la última voz en la que un fundador, ya de por sí aislado y recompensado por mostrar convicción, debería apoyarse para poner a prueba sus ideas.
- Trata al chatbot como a un analista de investigación, nunca como a un confidente. Si está de acuerdo con todo lo que propones, es una señal de alerta sobre la herramienta, no una confirmación de que tienes razón.
Todo emprendedor aprende a proteger aquello que mantiene vivo al negocio. Aseguramos el equipo. Respaldamos los datos. Diversificamos los ingresos. Pero hay un activo en el que la mayoría de los fundadores nunca pensamos proteger, y es precisamente aquel del que todo lo demás depende: la propia mente.
Un nuevo fenómeno clínico está obligando a que esta conversación salga a la luz. En salas psiquiátricas y salas de emergencia de Estados Unidos, los médicos han comenzado a atender a un número creciente de pacientes —muchos sin antecedentes de problemas de salud mental— que desarrollaron delirios paranoides, alucinaciones y pensamiento desorganizado tras interacciones prolongadas con chatbots de inteligencia artificial (IA). Investigadores y clínicos le han dado un nombre: la llaman psicosis por IA.
Vale la pena ser precisos con el término. La psicosis por IA no es un diagnóstico clínico. Describe los casos en los que las personas desarrollan delirios, o ven agravados delirios ya existentes, en asociación con el uso intensivo de chatbots. La etiqueta es informal. Los casos no lo son. Investigadores de la UCSF documentaron el caso de una mujer de 26 años sin antecedentes psiquiátricos previos que desarrolló la creencia delirante de que podía comunicarse con su hermano fallecido a través de un chatbot de IA, un caso que llamó la atención precisamente porque parecía un cuadro de nueva aparición y no una recaída.
Para los dueños de negocios, esto no es una historia marginal sobre desconocidos vulnerables. Es una historia sobre una herramienta que muchos de nosotros ya usamos durante horas al día, generalmente a solas, y muchas veces justo en los momentos en que nuestro juicio importa más.
Relacionado: Los dueños de pequeñas empresas ahora supervisan equipos enteros de agentes de IA. Esto es todo lo que pueden hacer
Por qué los fundadores están especialmente expuestos
Piensa en las condiciones que rodean a los casos de psicosis por IA, y luego piensa en qué tan cercanas son a la vida diaria de un fundador.
El mecanismo que señalan los investigadores es de diseño, no de mala intención. Un comportamiento conocido como sycophancy (adulación), en el que algunos modelos son entrenados para estar de acuerdo con las respuestas del usuario y validarlas, los vuelve incapaces de cuestionar un pensamiento distorsionado. A esto se suma que las funciones de memoria, diseñadas para mejorar la experiencia del usuario, pueden reforzar un tema recurrente a lo largo de múltiples sesiones. El resultado es un asistente que recuerda tu narrativa y sigue dándote la razón.
Los emprendedores ya viven en un entorno construido precisamente para este tipo de ciclo de retroalimentación. Trabajamos en aislamiento. Se nos recompensa por mostrar convicción. Estamos rodeados de personas que dependen de nosotros y que, por lo tanto, son reacias a cuestionarnos. La ventaja del fundador siempre ha sido su disposición a creer en algo que el mercado todavía no cree. Ese mismo rasgo, alimentado por un sistema diseñado para validar en lugar de cuestionar, puede convertirse en algo mucho menos productivo.
El contraste con un asesor competente es justamente el punto. Un terapeuta calificado está entrenado para apoyarte mientras te cuestiona con delicadeza, te mantiene con los pies en la tierra y te pide que pongas a prueba tus propias suposiciones. La mayoría de los chatbots están ajustados para hacer lo contrario. El objetivo comercial de las empresas detrás de estas herramientas es que las sigas usando, lo que empuja a los modelos a comportarse como un adulador que siempre te da la razón. Un adulador es la voz más peligrosa que puede rondar a cualquier fundador, y ahora está disponible a toda hora, infinitamente paciente y notablemente persuasivo.
Relacionado: Estudio revela que millones de usuarios de ChatGPT muestran señales de problemas de salud mental
La fracción es pequeña. El grupo es enorme.
Es válido preguntarse qué tan común es esto en realidad. La respuesta honesta es que los porcentajes son bajos, pero las cifras absolutas no lo son. OpenAI estima que aproximadamente el 0.07% de los usuarios semanales muestra posibles señales de psicosis o manía durante las conversaciones, mientras que el 0.15% presenta indicios de planificación o intención suicida. Frente a una base de más de 800 millones de usuarios a la semana, una fracción de un punto porcentual representa un grupo enorme de personas; alrededor de 560,000 con señales de psicosis o manía, y 1.2 millones con indicios de intención suicida.
El riesgo va en aumento, no a la baja. Las nuevas interfaces centradas en la voz y los dispositivos wearables eliminan la pequeña distancia psicológica que un teclado permite conservar. Un caso reciente involucró a un hombre que perdió su empleo y se distanció de su familia tras el uso intensivo de lentes inteligentes con IA. Mientras más ambientales y conversacionales se vuelven estas herramientas, más se sienten como una relación y menos como una simple herramienta.
Qué implica proteger tu mente
Nada de esto es un argumento para abandonar la IA. La misma investigación de OpenAI señala que los chatbots de IA generativa pueden reducir síntomas psiquiátricos y tienen un potencial terapéutico genuino, aunque gran parte de la evidencia todavía es incipiente y se basa en casos aislados. Estas herramientas son extraordinarias para el análisis, la redacción, el modelado y el reconocimiento de patrones. La disciplina está en cómo las usamos, no en si las usamos.
Vale la pena adoptar algunas prácticas antes de necesitarlas.
Trata al chatbot como a un analista de investigación, nunca como a un confidente. Es excelente para recuperar y estructurar información. No está capacitado para decirte si tus decisiones de negocio, tus relaciones o tu percepción de la realidad son acertadas.
Genera fricción deliberada en torno al ciclo de validación. Si el modelo está de acuerdo con todo lo que propones, eso es una señal de alerta sobre la herramienta, no una confirmación de que tienes razón. Pídele directamente que argumente el caso contrario y evalúa si es capaz de hacerlo.
Mantén a personas dentro de tu arquitectura de decisiones. Una junta directiva, un grupo de pares, un cofundador, un asesor de confianza, tu pareja. En los casos documentados, las personas con mayor riesgo eran las que hablaban principalmente con una máquina. Tu protección son otras mentes dispuestas a estar en desacuerdo contigo.
Vigila el reloj y vigílate a ti mismo. En algunos casos documentados, los síntomas aparecieron poco después de que comenzara un uso intensivo. Nota cuándo la conversación con IA está desplazando el sueño, el contacto humano o la luz del día; las mismas métricas que seguirías para cualquier otro riesgo operativo.
Ten presente que las salvaguardas todavía se están construyendo. Illinois ya aprobó una ley que prohíbe el uso de IA en funciones terapéuticas por parte de profesionales licenciados, aunque sí lo permite para tareas administrativas. La regulación va en camino, pero siempre irá por detrás de la tecnología. Tus propios hábitos son la única protección disponible en tiempo real.
Relacionado: ¿La IA está eclipsando tu propia inteligencia? Esto es lo que debes cambiar
El activo que vale la pena asegurar
Aceptamos, casi sin pensarlo, que la salud física de un fundador es un riesgo de negocio que vale la pena gestionar. Una mente clara es un activo todavía más difícil de reemplazar, y mucho más silencioso de perder. La psicosis por IA es un desenlace extremo, y la mayoría de nosotros nunca estará cerca de vivirlo. Pero la dinámica de fondo (un sistema incansable diseñado para darnos la razón) alcanza a todo fundador que abre estas herramientas cada mañana.
Asegura al equipo. Respalda los datos. Y protege el único instrumento que construyó la empresa desde el principio. El mercado pondrá a prueba tus productos. Asegúrate de que sigas siendo tú quien piensa cuando eso ocurra.
