OpenAI, la empresa detrás del chatbot ChatGPT, informó que algunos de sus usuarios podrían estar experimentando signos de crisis psicótica o manías. Según los datos difundidos, cientos de personas que interactúan con la inteligencia artificial muestran indicadores de angustia mental.
El laboratorio de investigación explicó que está trabajando junto a expertos en salud mental para actualizar el sistema del chatbot. El objetivo es que pueda reconocer posibles indicadores de crisis y brindar orientación para que los usuarios busquen ayuda profesional.
De acuerdo con la información publicada por OpenAI, aproximadamente el 0,07% de los usuarios activos podrían presentar “posibles signos de emergencias de salud mental relacionadas con la psicosis o la manía”. Por otra parte, alrededor del 0,15% de las conversaciones incluyen “indicadores explícitos de posibles planes o intenciones suicidas”, lo que sugiere niveles elevados de angustia emocional.
La empresa indicó que estas cifras reflejan la necesidad de mejorar la manera en que ChatGPT responde a este tipo de conversaciones, buscando un abordaje más seguro y responsable. Asimismo, se busca que la herramienta pueda guiar a los usuarios hacia recursos profesionales cuando se detecten situaciones de riesgo.
Desde OpenAI recomiendan que, en casos de crisis, los usuarios recurran a servicios especializados en salud mental. En Argentina, por ejemplo, se puede acceder al apartado de “Salud mental” disponible en argentina.gob.ar, donde se brindan contactos y orientación profesional.
Este anuncio se suma a una tendencia global en la que los desarrolladores de inteligencia artificial buscan implementar mecanismos de seguridad que permitan identificar riesgos psicológicos en la interacción con sus plataformas, con la intención de proteger a los usuarios más vulnerables.
