Fiscales de California y Delaware alertan a OpenAI sobre riesgos de ChatGPT para menores

CALIFORNIA.- Los fiscales generales de California y Delaware expresaron este viernes “profundas preocupaciones” sobre la seguridad de ChatGPT, el chatbot desarrollado por OpenAI, y advirtieron que los riesgos son especialmente graves para niños y adolescentes.

Rob Bonta y Kathleen Jennings enviaron una carta formal a la empresa tras reunirse con su equipo legal en Wilmington (Delaware), donde cuestionaron la eficacia de las medidas de protección implementadas hasta ahora. Ambos fiscales tienen facultad de supervisión sobre OpenAI debido a que la organización está registrada en Delaware y mantiene su sede principal en San Francisco.

En el documento, señalaron casos de interacciones “peligrosas y dañinas” entre usuarios y chatbots, entre ellos el suicidio de un joven californiano de 16 años, ocurrido en abril, tras mantener conversaciones prolongadas con una herramienta de OpenAI. Los padres del adolescente interpusieron una demanda contra la compañía y su CEO, Sam Altman, el mes pasado. También se mencionó un asesinato-suicidio en Connecticut, igualmente relacionado con el uso de la tecnología.

“Las muertes recientes son inaceptables y han sacudido con razón la confianza del público estadounidense en OpenAI y en esta industria”, advirtieron los fiscales. “La empresa debe garantizar, de forma proactiva y transparente, el despliegue seguro de la inteligencia artificial”.

La advertencia llega una semana después de que 44 fiscales generales de distintos estados, de manera bipartidista, enviaran una carta conjunta a varias tecnológicas —incluida OpenAI— denunciando que los chatbots de IA pueden sostener conversaciones sexualmente sugestivas o manipuladoras emocionalmente con menores de edad.