El uso de ChatGPT por menores de edad está en el centro de una nueva disputa legal en Estados Unidos. Las fiscalías de ocho estados demandaron a OpenAI al considerar que la empresa no ha hecho lo suficiente para evitar que su inteligencia artificial genere respuestas potencialmente dañinas.

Las demandas fueron presentadas por autoridades de Iowa, Arizona, Idaho, Nebraska, Virginia Occidental, Arkansas, Kansas y Montana. Entre los argumentos expuestos están las presuntas fallas de los filtros de seguridad y el supuesto incumplimiento de leyes estatales que protegen a los consumidores.

El fiscal general de Arkansas, Tim Griffin, señaló que algunos usuarios consiguieron evadir las restricciones de ChatGPT y obtener respuestas que los propios mecanismos de protección de la plataforma debían impedir. Las fiscalías también expresaron preocupación por el uso del chatbot para conseguir información relacionada con autolesiones y suicidio.

En Arizona, la fiscal general Kris Mayes puso el foco en la presencia de menores entre los usuarios del servicio. La funcionaria acusó a OpenAI de no establecer protecciones suficientes ni ofrecer la transparencia necesaria frente a los riesgos que, según su oficina, ya eran motivo de preocupación.

Las autoridades sostienen que la compañía siguió adelante con el desarrollo de sus productos pese a la necesidad de reforzar sus medidas de seguridad. Ahora buscan que las acusaciones sean examinadas en los tribunales y que se determinen las posibles responsabilidades de la empresa.

La empresa reconoce límites en sus sistemas

OpenAI defendió sus herramientas de protección a través de su portavoz, Drew Pusateri. El representante aseguró que la compañía cuenta con medidas diseñadas específicamente para distintos grupos de edad y mencionó los controles parentales, los recordatorios para descansar y los filtros adaptados a los usuarios.

Pusateri admitió que ningún sistema puede ser perfecto, aunque afirmó que la empresa continuará trabajando con especialistas para mejorar sus mecanismos de seguridad. También planteó que las nuevas políticas para la inteligencia artificial deberían aplicarse al conjunto de la industria y no solamente a OpenAI.

Las reglas actuales de ChatGPT permiten el acceso a partir de los 13 años, mientras que los menores de 18 necesitan autorización de sus padres o tutores. Para estimar la edad, la compañía toma en cuenta la información proporcionada por el usuario, determinadas señales de comportamiento y verificaciones adicionales cuando las considera necesarias.

El litigio se suma a otros procesos que buscan establecer hasta dónde llega la responsabilidad de las empresas por el funcionamiento de sus sistemas de inteligencia artificial. En Canadá, por ejemplo, la familia de una joven gravemente herida en un tiroteo escolar demandó a una compañía del sector, bajo el argumento de que conocía los planes del sospechoso y no avisó a las autoridades.

En el caso de OpenAI, las demandas de los ocho estados ponen bajo revisión sus mecanismos de protección y las obligaciones que debe cumplir una plataforma utilizada también por adolescentes.