Hace pocos días Red Hat dio a conocer, mediante una publicación de blog, el lanzamiento de su nueva distribución de Linux llamada «Red Hat Enterprise Linux AI» (RHEL AI), la cual está diseñada específicamente para tareas de aprendizaje automático.

RHEL AI simplifica la creación de soluciones de servidor que utilizan grandes modelos conversacionales y proporciona una selección de herramientas y marcos para el aprendizaje automático. También incluye controladores para diversos aceleradores de hardware de AMD, Intel y NVIDIA, y componentes que aprovechan las capacidades de servidores optimizados para sistemas de inteligencia artificial de Dell, Cisco, HPE, Lenovo y SuperMicro.

Sobre RHEL AI

RHEL AI está diseñado para el desarrollo, prueba y ejecución de sistemas de aprendizaje automático basados en el gran modelo de lenguaje Granite el cual puede manejar hasta 4 mil tokens y cubrir 7 mil millones de parámetros al generar texto.

Para interactuar con el modelo Granite, la distribución integra InstructLab, que admite la metodología LAB (Alineación a gran escala para chatBots) para personalizar y optimizar modelos, así como agregar conocimientos adicionales e implementar nuevas habilidades en modelos previamente entrenados.

RHEL AI incluye modelos de código y lenguaje Granite desarrollados en colaboración , con licencia de código abierto y de alto rendimiento de la comunidad InstructLab, totalmente respaldados e indemnizados por Red Hat. Estos modelos de Granite tienen licencia de Apache 2 y brindan acceso transparente a fuentes de datos y pesos de modelos.

Los usuarios pueden crear su propio LLM personalizado entrenando los modelos base con sus propias habilidades y conocimientos. Pueden optar por compartir el modelo entrenado y las habilidades y conocimientos agregados con la comunidad o mantenerlos en privado. Vea más sobre eso en la siguiente sección.

En el anuncio, se menciona que el principal objetivo de RHEL AI y el proyecto InstructLab es capacitar a los expertos en el dominio para que contribuyan directamente a los modelos de lenguajes grandes con conocimientos y habilidades. Esto permite a los expertos en el campo crear aplicaciones basadas en IA de manera más eficiente (como chatbots). RHEL AI incluye todo lo que necesita:

• Aprovechar la innovación comunitaria a través de modelos de código abierto y habilidades y conocimientos de código abierto para la capacitación.
• Proporcionar un conjunto fácil de usar de herramientas de software y flujo de trabajo dirigido a expertos en el dominio sin experiencia en ciencia de datos y les permite realizar capacitación y ajustes.
• Software de empaquetado y sistema operativo con habilitación de hardware de IA optimizada.
  apoyo empresarial e indemnización de propiedad intelectual

Además de ello, se menciona que la plataforma puede utilizarse para desarrollar aplicaciones de IA para necesidades corporativas e implementar servicios para generar contenido, crear sistemas de diálogo e integrar asistentes virtuales en aplicaciones.

Estas aplicaciones pueden realizar tareas como responder preguntas en lenguaje natural, resolver problemas matemáticos, generar texto significativo sobre un tema determinado, redactar resúmenes de contenido, corregir errores en textos, reescribir en otras palabras, ayudar a escribir código en varios lenguajes de programación, y generar cartas y documentos usando plantillas.

Por otra parte, también vale la pena mencionar que Red Hat ha introducido un nuevo modo para crear y administrar imágenes del sistema basado en Red Hat Enterprise Linux: el «image mode». Este modo permite utilizar las herramientas y tecnologías empleadas para crear y ejecutar contenedores de aplicaciones en la implementación del sistema operativo.

El nuevo modo maneja imágenes monolíticas del sistema, generadas con rpm-ostree y actualizadas de manera atómica, sin dividirse en paquetes separados. Las compilaciones pueden generarse como imágenes en diversos formatos, como OCI (usado en Docker), ISO, QCOW2, entre otros formatos, además de que el contenido de la imagen se selecciona editando el Containerfile.

Para crear y gestionar imágenes, se pueden utilizar herramientas estándar de gestión de contenedores como Podman y OpenShift Container Platform. Para instalar las imágenes, se puede emplear el instalador estándar de Anaconda o bootc-image-builder, que permite convertir una imagen de contenedor en una imagen de disco de arranque. Bootc se utiliza para actualizar imágenes de arranque de contenedores que incluyen el kernel de Linux y pueden arrancar de la misma manera que las compilaciones normales del sistema.

Finalmente, si estás interesado en poder conocer más al respecto, puedes consultar los detalles en el siguiente enlace.