[ad_1]
El propietario de ChatGPT, OpenAI, enfrenta una demanda por difamación que podría afectar las definiciones legales sobre la producción de información falsa por parte de los programas de IA y la aplicación de la Sección 230 a sus declaraciones.
El presentador de Armed America Radio, Mark Walters, está demandando a OpenAI alegando que las declaraciones falsas de ChatGPT sobre la relación y las prácticas de Walters con la organización sin fines de lucro de derechos de armas, la Fundación Segunda Enmienda.
El problema surgió del uso de ChatGPT por parte del periodista Fred Riehl mientras cubría una denuncia legal presentada por SAF contra el fiscal general de Washington, Robert Ferguson, en relación con una investigación de la oficina de Ferguson sobre SAF y otras organizaciones de derechos de armas. Riehl le pidió a ChatGPT que resumiera la presentación legal y el resultado, incluidas varias declaraciones sobre Walters, aunque no se lo mencionó en la denuncia de SAF.
La declaración generada por ChatGPT alega que Walters defraudó y malversó $5 millones en fondos de SAF durante su tiempo como tesorero y principal asesor financiero de la organización sin fines de lucro. Según la demanda de Walters, nunca ocupó ningún puesto en la organización ni fue empleado de SAF. Cuando Riehl pidió pasajes específicos de la denuncia de SAF que mencionaran a Walters y el texto completo de la denuncia, ChatGPT produjo información de que la denuncia de Walter presentación etiquetado como una «fabricación completa».
OpenAI reconoce que ChatGPT puede producir información falsa en sus declaraciones generadas, que la empresa llama «alucinaciones», e incluye descargos de responsabilidad en la página de inicio de ChatGPT que advierten que tales declaraciones ocurren. Sin embargo, la compañía aún describe el programa de inteligencia artificial como una forma de «obtener respuestas» y «aprender algo nuevo», según el borde. Riehl nunca publicó las declaraciones del chatbot.
Esta no es la primera vez que las declaraciones falsas realizadas por ChatGPT generan posibles problemas legales relacionados con la difamación. Brian Hood, alcalde de la ciudad australiana de Hepburn Shire, amenazó con demandar a OpenAI a principios de este año, después de que ChatGPT afirmara falsamente que fue encarcelado por cargos de soborno a principios de la década de 2000. A diferencia de Walters, la amenaza de acción legal de Hood vino con una solicitud de que OpenAI corrigiera las falsedades para evitar ir a los tribunales.
Walters no hizo tal solicitud, eligiendo en cambio demandar por daños monetarios no especificados. Como explicó el profesor de derecho Eugene Volokh, quien ha escrito extensamente sobre la responsabilidad legal de los sistemas de IA, en un publicaciones de blogesto podría afectar la solidez del caso de Walters.
“Aquí, no parece de la denuncia que Walters puso a OpenAI en aviso real de que ChatGPT estaba haciendo declaraciones falsas sobre él, y exigió que OpenAI detuviera eso”, dijo Volokh. “Y parece que no hay alegaciones de daños reales; presumiblemente, Riehl descubrió lo que estaba pasando y, por lo tanto, Walters no perdió nada como resultado”.
La implicación más amplia de la demanda se refiere a si las declaraciones falsas y difamatorias generadas por los sistemas de IA están cubiertas por las protecciones descritas en la Sección 230, que excluye a las plataformas en línea de la responsabilidad legal por cualquier información producida por terceros que esté alojada en ellas. Se cree que el caso de Walters es el primero de su tipo, lo que significa que hay poco o ningún precedente legal para responsabilizar legalmente a una empresa que opera un sistema de inteligencia artificial por lo que dicho sistema genera.
Volokh dijo Ars Technica que la Sección 230 “no inmuniza a los acusados que ‘contribuyen materialmente[e] a [the] supuesta ilegalidad’ del contenido en línea”. Agregó, «Una empresa de IA, al hacer y distribuir un programa de IA que crea acusaciones falsas y dañinas para la reputación a partir de un texto que carece por completo de tales acusaciones, es sin duda una «contribución material».[ing] a [the] presunto iniquidad’ de ese material creado.” También dijo que los descargos de responsabilidad de ChatGPT potencialmente no podrían ser suficientes para proteger a OpenAI de la responsabilidad.
Por otro lado, el hecho de que se sepa que ChatGPT genera información falsa puede no ser suficiente para inclinar las cosas a favor de Walters. “No creo que este conocimiento general sea suficiente, al igual que no se puede demostrar que un periódico tenía conocimiento o imprudencia en cuanto a la falsedad solo porque el periódico sabe que algunos de sus escritores a veces cometen errores”, dijo Volokh. “Para la responsabilidad en tales casos (nuevamente, en ausencia de daños reales a una figura privada), tiene que haber una demostración de que la ‘declaración supuestamente difamatoria’ se hizo con ‘malicia real’, es decir, con conocimiento de que era falsa o con imprudencia temeraria. sin tener en cuenta si era falso o no. Y aquí nadie en OpenAI sabía sobre esas declaraciones falsas en particular, al menos a menos que Walters hubiera notificado a OpenAI sobre ellas”.
OpenAI no ha respondido a las solicitudes de comentarios sobre la demanda de Walters.
[ad_2]
Deja una respuesta