Este sábado, con la publicación de una reseña que estoy preparando, será la cuarta vez en el año que hablo de un programa para Linux que se integra con un servicio motorizado por Inteligencia Artificial. Hasta donde recuerdo, Pablinux también hizo sus aportes. Dado que en el futuro es probable que se sigan acumulando títulos, es buen momento para plantear el debate ¿Debería el software libre integrar Inteligencia Artificial?

Más allá del muy interesante y necesario debate sobre la privacidad está el de si, al igual que la comida rápida o el streaming, los efectos colaterales no terminan superando a los beneficios.

La (Des) Inteligencia natural

Es curioso como las circunstancias conspiran para que uno escriba un artículo.  El fin de semana pasado volví a leer ‘Bóvedas de acero’, una novela de Asimov que transcurre en medio del conflicto entre los humanos del espacio, quienes viven solo para su propio placer y dejan el trabajo en manos de los robots, y los nativos de la Tierra que añoran volver a una época pre-robótica en la que no existían máquinas que hicieran el trabajo.

El miércoles, me encuentro a Twitter Argentina revolucionada por un tweet del capítulo local de la Organización Internacional del Trabajo (OIT) en contra del trabajo infantil. Pueden ver la captura debajo de este párrafo.

Este tweet de la OIT fue repudiado por la mayoría de quienes lo vieron.

Difícilmente esa campaña podría generar repudios salvo que, la gran mayoría de quienes la vieron pensaron que la OIT se oponía a que los niños hicieran su parte en las tareas domésticas.

Apenas vi el tweet adiviné lo que pasó. Esa imagen es a todas luces una plantilla de Canva o algún otro servicio online de diseño gráfico. Le pidieron a un becario que buscara una foto de un niño trabajando, eligió esa de las que les mostró el buscador, armó la imagen y la publicó automáticamente sin salir de la página.

Horas después el tweet se borraba y la OIT pedía disculpas.

Esta nota comienza con la ilustración de un primate frente a un teclado. Seguramente habrán oído hablar del teorema o visto el chiste de los Simpson’s sobre el tema. La cuestión que le pedí a una herramienta de inteligencia artificial que me generara la imagen y se negó porque tienen bloqueada la palabra «mono» ya que podría generar contenido ofensivo. Es un término que en algunos países se usa para referirse a los afrodescendientes. Tampoco aceptan gorilas.

Después de un intercambio de tweets los de Canva me sugirieron que probara «primate y una máquina de escribir». Solo conseguí el resultado que encabeza el artículo.

Ahora bien, imaginemos un futuro muy próximo. Los de la OIT prescinden de los becarios y le piden a una herramienta de IA «Genera un tweet donde se vea a un niño trabajando y un mensaje basado en ella en contra del trabajo infantil. Postéalo en las redes sociales.

La mayoría de las IA traduce primero al inglés y trabaja con los resultados mayoritarios, por lo que es probable que elija la foto de un niño haciendo su homework (tareas escolares). Está todo servido para que en las cuentas oficiales de la OIT aparezcan mensajes en contra de las tareas escolares.

¿Debería el software libre integrar Inteligencia Artificial?

Me doy cuenta de la contradicción de la pregunta. Obviamente que si el software es libre cualquiera podría integrarlo con las herramientas. A lo que me estoy refiriendo es que debería haber un debate sobre en qué condiciones se integra. Y, no solo, como dije antes, pensando en la privacidad.

En los contenidos generados por IA debería agregarse un mensaje que obligue a la intervención de un humano para retirarlo. Ese contenido debería insertarse en forma aleatoria para obligar a una cuidadosa revisión.

He usado las herramientas de Inteligencia Artificial para temas que conozco y para temas que desconozco. En mi opinión resultan de mayor utilidad en los primeros. Cuanto mejor sabes que preguntarle más útiles son los resultados.

Pero, si las dejas en mano de aprendices de brujos, lo más probable en que en algún momento termine en desastre.