xAI, libero el código fuente de Grok el LLM usado en el chatbot de X
xAI (a empresa cofundada por Elon Musk, respaldada con alrededor de mil millones de dólares para el desarrollo de tecnologías relacionadas con la inteligencia artificial), dio a conocer hace poco la noticia sobre su decisión de liberar el código fuente de Grok su LLM que se utiliza en un chatbot integrado en la red social X (Twitter).
Grok ha sido previamente entrenado utilizando una extensa colección de datos de texto utilizando la pila de aprendizaje patentada de xAI. Posee aproximadamente 314 mil millones de parámetros, lo que lo convierte en el modelo de lenguaje abierto más grande disponible actualmente.
Grok ya es open source
Recientemente, Eleon Musk anunció que Grok se convertiría en código abierto, lo cual ya ha ocurrido. Esto significa que los desarrolladores de todo el mundo pueden observar el funcionamiento interno de Grok y usarlo para impulsar sus propios modelos de inteligencia artificial.
El sistema de chatbot de inteligencia artificial Grok, desarrollado por la compañía xAI de Elon Musk, fue lanzado a los usuarios estadounidenses de la plataforma de redes sociales X en diciembre. Grok está diseñado para competir con los principales sistemas de inteligencia artificial del mercado, como los de Google y, especialmente, OpenAI. Lo que distingue a Grok de sus competidores es su capacidad para incorporar humor y tonos sarcásticos, inspirados en las computadoras con inteligencia artificial de los famosos libros de la Guía del autoestopista galáctico.
La versión abierta del modelo Grok-1 se publica en una representación básica y no incluye optimizaciones específicas para ciertas áreas de uso, como la organización de sistemas de diálogo. Este modelo cuenta con aproximadamente 314 mil millones de parámetros y ha sido entrenado desde cero por xAI utilizando una pila de entrenamiento personalizada basada en JAX y Rust. xAI ha dejado claro que están lanzando los pesos y la arquitectura del modelo bajo la licencia Apache 2.0, lo que permite su uso comercial. Sin embargo, es importante destacar que esta versión no incluye los datos utilizados para entrenar el modelo de lenguaje grande de IA ni ofrece acceso a datos en tiempo real.
El enfoque de código abierto de Grok podría resaltar sus debilidades, pero Musk es un defensor del código abierto y ha sido un inversor en OpenAI. A pesar de esto, actualmente está demandando a OpenAI de manera controvertida, argumentando que la empresa se ha desviado de sus principios fundacionales de apertura hacia una búsqueda de rentabilidad. Los abogados de Musk incluso sugieren que OpenAI está manteniendo en secreto partes de su sistema de inteligencia artificial GPT-4 en el mercado.
Musk ha expresado su opinión sobre la importancia de la transparencia y la búsqueda de la verdad en la inteligencia artificial. Ha mencionado que aunque todavía hay trabajo por hacer, su plataforma X es la más transparente y busca la verdad. Además, ha criticado los esfuerzos para hacer que la IA sea diversa a toda costa, mencionando problemas éticos recientes en otras plataformas.
El acceso abierto a Grok es un intento de Musk por demostrar la falta de sesgos en el sistema y democratizar el acceso a la inteligencia artificial. Los desarrolladores ahora pueden aprovechar el código de Grok para crear aplicaciones y servicios de IA de manera más accesible y transparente.
Finalmente, cabe mencionar que el código, la arquitectura de la red neuronal y los casos de uso se ha puesto a disposición un archivo listo para usar con el modelo, que tiene un tamaño de 296 GB.
Para realizar pruebas con este modelo, se recomienda el uso de una GPU con una gran cantidad de memoria, aunque no se especifica el tipo de memoria requerida. Mientras que una versión estática del modelo está disponible públicamente, se está desarrollando una característica adicional para el chatbot Grok que se integra dinámicamente con nuevo contenido emergente. Esta integración dinámica se logra a través de la colaboración con la plataforma X/Twitter, permitiendo el acceso a nuevos conocimientos en tiempo real.
Si estás interesado en conocer más al respecto, puedes consultar los detalles en el siguiente enlace.