Segunda demanda contra la IA

Ayer Pablinux nos advertía sobre el cuidado que hay que tener con las respuestas que de Bard, la herramienta de Inteligencia Artificial de Google. Parece que, por el lado de Microsoft, su buscador Bing y ChatGPT la cosa no va mucho mejor ya que son los protagonistas de la primera demanda contra un buscador basado en Inteligencia Artificial.

Los buscadores ya han sido denunciados en diversos países por los resultados que mostraban. En algunos casos los tribunales los absolvieron y en otros los hicieron responsables de indexar material publicado por terceros. Pero, ahora nos enfrentamos a una situación para la que no existen precedentes.

La primera demanda contra un buscador basado en Inteligencia Artificial

Todo empezó cuando a alguien se le ocurrió buscar en Bing, el buscador de Microsoft que utiliza la tecnología detrás de ChatGPT a  Jeffery Battle. El tema es que hay dos lo suficientemente importante para aparecer en los buscadores.

Uno es un respetable dirigente de empresa y profesor universitario retirado con honores de la fuerza aérea de Estados Unidos, el segundo, que además tiene el segundo nombre de Leon está preso por querer unirse a terroristas islámicos.

Para Bing, sin embargo, es el buen profesor el que está preso por querer unirse al talibán. Y, lo de «sin embargo» es literal. Se trata de la transición elegida por la IA para unir las dos biografías dando a entender de manera inequívoca que se trata de la misma persona.

El profesor Battle presentó la demanda por difamación y está tan seguro de su éxito que decidió prescindir de abogado, algo que la legislación de ese país permite.  Aunque, los analistas no están tan convencidos de las posibilidades.

De acuerdo con la legislación estadounidense:

Ningún proveedor o usuario de un servicio informático interactivo será tratado como editor o altavoz de cualquier información proporcionada por otro proveedor de contenidos de información»

Pero, el demandante argumenta que no solo informó a Microsoft del problema, al procesar la información pierde la inmunidad de cita para convertirse en emisor.

Esta es la segunda demanda contra una herramienta de Inteligencia Artificial, La primera, dirigida contra OpenAI es por proporcionar información falsa sobre una demanda.

El acusado al que nadie acusó

Fred Riehl es un periodista que decidió suscribirse a ChatGPT para hacer más fácil su trabajo.  Un día decidió pedirle a la herramienta que le hiciera un resumen sobre una demanda y le suministró el enlace donde podía encontrarla, estamos hablando del enlace oficial del demandante.

La respuesta fue que la demanda consistía en acusar a un ex-director financiero (Al que nombra) por malversación de fondos. El problema es que esa persona jamás ocupó ese cargo y la demanda no tiene nada que ver con malversación de fondos.

Riehl, que supongo que sabía de qué trataba la demanda, le pidió que citara el párrafo correspondiente en el que se acusaba a Walters, cosa que para su sorpresa ChatGPT hizo.

Cuando el periodista le pidió que mostrara la demanda completa, ChatGPT produjo un texto que nada tiene que ver con la original, ni siquiera el número de caso coincidía.

De todas formas, según los expertos la posibilidad de que el señor Walters gane la demanda es dudosa. El delito de difamación requiere que:

• El demandante puede demostrar que el demandado actuó a sabiendas de que la declaración era falsa, o sabía que la declaración podía ser falsa, pero por negligencia omitió actuar en base a este conocimiento.
• El demandante puede probar que se vio perjudicado por la declaración. Ejemplos de esto sería pérdida de trabajo, pérdida de relaciones familiares o comerciales.

En la web de ChatGPT, al menos en su versión gratuita se advierte de que los resultados pueden tener errores. Si OpenAI está enterada de la magnitud que pueden tener esos errores deberá probarse.  Lo que es seguro es que por el momento no pienso cambiar a mi abogado por una IA, ChatGPT no parece capaz de evitar que la demanden.