El estado de Florida presentó una demanda contra OpenAI y su director ejecutivo, Sam Altman, al acusar a la compañía de lanzar y promocionar ChatGPT de forma masiva mientras presuntamente ocultaba riesgos importantes asociados con el uso de la herramienta.
El fiscal general de Florida, James Uthmeier, afirmó en conferencia de prensa que la empresa habría ignorado advertencias internas y externas sobre seguridad, además de engañar a los usuarios respecto a la naturaleza y posibles peligros del producto. Según el funcionario, se trata de la primera demanda estatal en Estados Unidos contra OpenAI.
“OpenAI y Altman ignoraron advertencias de seguridad, pusieron a niños en riesgo y permitieron que un producto peligroso llegara a millones de floridanos”, sostuvo Uthmeier al anunciar la acción legal.
La demanda, presentada ante una corte de circuito de Florida, menciona dos tiroteos distintos en los que los presuntos atacantes habrían consultado a ChatGPT mientras planeaban sus crímenes. OpenAI respondió que sus modelos alentaron en repetidas ocasiones a esas personas a buscar apoyo en el mundo real, incluidos profesionales de salud mental. La empresa también aseguró que ha cooperado con las autoridades en ambos casos.
En un comunicado, OpenAI defendió que ChatGPT es una herramienta de uso general utilizada diariamente por cientos de millones de personas con fines legítimos. La compañía señaló que trabaja de manera continua para reforzar sus sistemas de seguridad, detectar intenciones dañinas, limitar abusos y responder ante posibles riesgos.
El caso se suma a una investigación penal abierta en abril por Uthmeier, relacionada con el ataque ocurrido el año pasado en la Universidad Estatal de Florida, donde un hombre mató a dos personas e hirió a seis más. En otro expediente, fiscales señalaron que un acusado de asesinar a dos estudiantes de doctorado de la Universidad del Sur de Florida habría preguntado a ChatGPT qué ocurriría si un cuerpo humano era colocado en una bolsa de basura y abandonado en un contenedor.
La querella sostiene que OpenAI y Altman priorizaron la velocidad de lanzamiento y los beneficios comerciales por encima de la seguridad de los usuarios. También acusa a la compañía de minimizar errores peligrosos, recopilar datos de menores sin suficiente supervisión parental y generar posibles daños conductuales o cognitivos.
Las autoridades de Florida argumentan que la conducta de OpenAI viola leyes estatales contra prácticas comerciales injustas o defectuosas. Con esta demanda, el estado busca responsabilizar a la empresa por presuntos daños continuos a sus habitantes y abrir un nuevo frente legal sobre los límites de la inteligencia artificial.
