MemoryCache es el nuevo proyecto de IA local que quiere implementar Mozilla en Firefox

Mozilla dio a conocer el lanzamiento del proyecto experimental «MemoryCache» con la implementación de un diálogo, un sistema de aprendizaje automático que tiene en cuenta el contenido al que accede el usuario en el navegador.

MemoryCache, es la nueva innovación de Firefox que se presenta como una extensión del navegador y que promete revolucionar la forma de interactuar con la información mientras el usuario navega por páginas web.

Hoy en día, el aprendizaje automático está revolucionando la forma en que interactuamos con los datos y la información. Los modelos lingüísticos y multimedia buscan conjuntos de datos cada vez más grandes para entrenar, incluida Internet en su totalidad . Hay complejas cuestiones sociológicas y regulatorias en juego ; decisiones críticas que deben tomarse sobre derechos de autor, seguridad, transparencia, acceso y representación.

MemoryCache , un proyecto de innovación de Mozilla, es un proyecto de exploración inicial que aumenta un modelo personal en el dispositivo con archivos locales guardados desde el navegador para reflejar una experiencia más personalizada y adaptada a través de la lente de la privacidad y la agencia.

Sobre MemoryCache

Como ya se mencionó arriba, MemoryCache es una herramienta íntegra una IA conversacional directamente en el navegador, lo que le brinda acceso a un potente compañero de IA que se adapta a sus intereses y necesidades.

A diferencia de otros chats de IA que dependen de enormes conjuntos de datos en línea, MemoryCache adopta un enfoque único, ya que permite personalizar la comunicación con el usuario y utilizar datos que son importantes para un usuario en particular al generar respuestas a preguntas.

Dentro de los aspectos destacados clave de MemoryCache se destacan:

• IA personalizada: el modelo de IA se adapta a sus intereses individuales analizando el contenido que guarda y ve en su navegador. Esto permite a MemoryCache adaptar sus respuestas a sus necesidades específicas y a su base de conocimientos.
• Acceso sin conexión: todos los componentes de MemoryCache se ejecutan en su sistema local, lo que elimina la necesidad de una conexión a Internet y garantiza que su privacidad permanezca intacta.
• Navegación web mejorada: MemoryCache actúa como un asistente de conversación, permitiéndole discutir y explorar el contenido que guarda de una manera natural y atractiva.
• Potente modelo de lenguaje: al utilizar el modelo GPT4All-J, MemoryCache se beneficia de una amplia base de conocimientos de contenido en inglés, lo que garantiza que pueda responder sus preguntas de manera precisa y completa.

Todos los componentes de MemoryCache se ejecutan en el sistema del usuario y no acceden a recursos externos. La base de conocimientos de MemoryCache utiliza el modelo GPT4All-J, entrenado en colecciones de contenido en inglés Pile, ShareGPT y Dolly disponible en variantes con 3, 7 y 13 mil millones de parámetros. Para trabajar con el modelo, se utiliza el kit de herramientas privateGPT, optimizado para usar modelos de lenguaje grandes en computadoras locales.

El complemento Memory Cache almacena las páginas vistas en el directorio «~/Downloads/MemoryCache», desde donde un script que se ejecuta periódicamente las recupera y las pasa al controlador privateGPT (ingest.py) para complementar el modelo de lenguaje existente. Así, el modelo se adapta a los intereses del usuario y puede utilizarse para discutir el contenido visto en un chat de texto con un bot. El usuario puede hacer preguntas al bot sobre páginas guardadas en lenguaje natural, por ejemplo, para aclarar algunos hechos, y el bot generará una respuesta utilizando el modelo local, sin recurrir a servicios externos.

Cabe mencionar que el equipo de desarrollo está trabajando activamente para agregar nuevas características y funcionalidades a MemoryCache, incluida una interfaz gráfica de usuario, soporte adicional para navegadores web e integraciones de servicios Mozilla

Para los interesados en el proyecto, deben saber que el código del proyecto es distribuido bajo la licencia MPL. Actualmente, la instalación en Firefox solo se admite manualmente en la sección «about:debugging». y requiere la aplicación de un parche. Las instrucciones de la implementación del parche las puedes seguir en el siguiente enlace.

Si estás interesado en poder conocer más al respecto, puedes consultar los detalles en el siguiente enlace.