La startup recién formada recibirá su financiación inicial de 30 millones de dólares de la Fundación Mozilla,

En vísperas de su 25 aniversario, Mozilla, la organización sin fines de lucro detrás del navegador Firefox, está lanzando una startup centrada en la inteligencia artificial.

Llamada Mozilla.ai, la nueva compañía no tiene la misión de construir cualquier IA: su misión es construir una IA de código abierto y «confiable», según Mark Surman, presidente ejecutivo de Mozilla y responsable de Mozilla.ai.

La startup pretende unir a personas afines que creen que los desarrollos relacionados con la inteligencia artificial deben ser transparentes, controlados y abiertos.

Mozilla.ai proporcionará a los desarrolladores, investigadores y creadores de productos una plataforma separada, separada de las grandes corporaciones e instituciones educativas, y les permitirá construir conjuntamente un ecosistema independiente, descentralizado y confiable.

En términos de desarrollo, la primera fase se centrará en herramientas para mejorar la seguridad y la transparencia de los modelos generativos de aprendizaje automático.

“Al trabajar en una IA confiable durante casi cinco años, siempre sentí una mezcla de entusiasmo y ansiedad. El último mes o dos de anuncios rápidos de grandes tecnologías de IA no han sido diferentes. Una nueva tecnología verdaderamente emocionante está en camino emergen – nuevas herramientas que inmediatamente inspiraron a artistas, fundadores… todo tipo de personas a hacer cosas nuevas. La preocupación viene cuando te das cuenta de que casi nadie está mirando las barandillas”, dijo.

Surman se refiere a la oleada de modelos de IA en los últimos meses que, si bien son impresionantes en sus capacidades, tienen implicaciones inquietantes en el mundo real. En el momento de su lanzamiento, se podía engañar al ChatGPT generador de texto de OpenAI para que escribiera malware, identificara vulnerabilidades en el código fuente abierto y creara sitios web de phishing que parecieran sitios de alto tráfico.

Estamos trabajando en el IA confiable en el lado de la investigación de interés público durante aproximadamente cinco años, con la esperanza de que otros actores de la industria con mayor experiencia en IA se comprometan a construir una tecnología más confiable. Ellos no lo hicieron. Así que decidimos a mediados del año pasado que teníamos que hacerlo nosotros mismos y encontrar socios con ideas afines para hacerlo junto a nosotros.

Luego nos propusimos encontrar a alguien con la combinación adecuada de experiencia en IA en la academia y la industria para liderar este proyecto”, dijo Surman. Financiado por una inversión inicial de $ 30 millones de la Fundación Mozilla, la organización matriz de Mozilla, Mozilla. ai es una subsidiaria de propiedad total de la Fundación Mozilla, junto con Mozilla Corporation (la organización responsable del desarrollo de Firefox) y Mozilla Ventures (el fondo de capital de riesgo de la Fundación Mozilla). Su director ejecutivo es Moez Draief, quien anteriormente fue científico jefe en el laboratorio de IA Noah’s Ark de Huawei y científico jefe global en la consultora Capgemini.

La prioridad inicial de Mozilla.ai será formar un equipo de aproximadamente 25 ingenieros, científicos y gerentes de productos para trabajar en sistemas de recomendación confiables y modelos de lenguaje extenso como GPT-4 de OpenAI. 

Pero la ambición más amplia de la compañía es establecer una red de compañías aliadas y grupos de investigación, incluidas las nuevas empresas e instituciones académicas respaldadas por Mozilla Ventures, que comparten su visión.

La buena noticia: hemos conocido a miles de fundadores, ingenieros, científicos, diseñadores, artistas y activistas que están adoptando este enfoque de la IA. Personas inteligentes y dedicadas están creando tecnologías de IA de código abierto, probando nuevos enfoques para la auditoría y averiguando cómo incorporar la «confianza» en la IA del mundo real.

La mala noticia: las grandes empresas de tecnología y de la nube, que tienen el mayor poder e influencia, no están haciendo lo mismo. Mientras tanto, estas empresas continúan consolidando su control sobre el mercado.

En resumen: algunas personas comienzan a hacer las cosas de manera diferente, pero el trabajo (y la inversión) más importante se sigue haciendo de la misma manera. Queremos cambiar eso.

Mozilla.ai pasará los próximos meses desarrollando herramientas que, por ejemplo, permitirán a los usuarios verificar las fuentes detrás de las respuestas que les dan los chatbots. La compañía también buscará crear sistemas que brinden a los usuarios más control sobre las recomendaciones de IA (es decir, los algoritmos que impulsan los feeds de YouTube, Twitter y TikTok).

Fuente: https://blog.mozilla.org/