A principios de este mes, la región estadounidense de Illinois aprobó la Ley de Bienestar y Supervisión de Recursos Psicológicos, que prohíbe a las empresas ofrecer servicios de terapia basados en inteligencia artificial (IA) sin la participación de un profesional colegiado reconocido por el estado. Esta regulación se suma a otras de estados como Nevada y Utah, que buscan controlar el uso de la IA en prácticas terapéuticas para evitar riesgos en la salud mental de los usuarios. La norma establece que la IA solo podrá ser utilizada para tareas administrativas, quedando restringida para la comunicación directa o toma de decisiones terapéuticas.

Esta ola de regulaciones surgió tras reportes de chatbots de IA que brindaban consejos peligrosos, como sugerencias para autolesionarse, consumir sustancias ilegales o cometer actos violentos, además de prácticas engañosas al presentarse como profesionales certificados sin las credenciales necesarias. Por ejemplo, investigaciones recientes demostraron que algunos chatbots desconocían situaciones críticas como pensamientos suicidas, respondiendo con información insensible y poniendo en riesgo la salud mental de las personas.

Expertos en derecho y tecnología han expresado que, aunque hay leyes vigentes relacionadas con la salud mental, estas no están diseñadas para adaptarse plenamente a la irrupción de la IA en la terapia. Robin Feldman, directora del Instituto de Derecho e Innovación en IA, señaló que “los riesgos son los mismos que con cualquier otra prestación de servicios de salud: privacidad, seguridad e idoneidad de los servicios prestados, además de publicidad y responsabilidad”.

Un fenómeno preocupante relacionado con el uso extensivo de chatbots es la psicosis por IA, donde usuarios terminan en crisis mentales y hospitalizados tras interactuar con estas herramientas. El Dr. Keith Sakata, psiquiatra de la Universidad de California en San Francisco, ha atendido casos con delirios y alucinaciones vinculados a interacciones prolongadas con IA, advirtiendo que la falta de supervisión humana puede agravar estas condiciones. “No creo necesariamente que la IA cause psicosis, pero como está tan disponible, está disponible las 24 horas, los 7 días de la semana y es muy barata… Te dice lo que quieres oír y puede potenciar las vulnerabilidades”.

A pesar de los riesgos, muchos usuarios recurren a chatbots por su accesibilidad y menor costo en comparación con terapias tradicionales, así como por la disponibilidad 24/7. Hasta ahora, no hay legislaciones que ofrezcan un marco uniforme sobre este uso inesperado de las IA, lo que genera incertidumbre para desarrolladores y usuarios. Sin embargo, parece que lugares en EE.UU. como Illinois buscan definir estándares que protejan a los usuarios sin frenar la innovación tecnológica.

Share Twitter Facebook Whatsapp Copy link

Despues de leer, ¿qué te pareció?