Canonical se ha incorporado a la Open Secure AI Alliance, una iniciativa impulsada para desarrollar y compartir tecnologías abiertas destinadas a mejorar la seguridad de los sistemas de inteligencia artificial y de los agentes autónomos. La alianza, creada bajo el paraguas de la Linux Foundation y con NVIDIA entre sus impulsores, reúne a empresas y organizaciones de diferentes áreas de la industria tecnológica con el objetivo de abordar los nuevos problemas de seguridad que plantea la expansión de la IA.

La incorporación de Canonical resulta especialmente relevante para el ecosistema Linux porque Ubuntu ocupa una posición destacada como plataforma para servidores, infraestructura cloud y cargas de trabajo de inteligencia artificial. La compañía considera que proteger los sistemas de IA no puede limitarse al modelo utilizado, sino que debe abarcar toda la pila de software e infraestructura sobre la que se ejecutan estos sistemas.

Canonical se une a la Open Secure AI Alliance

La Open Secure AI Alliance nació con la intención de impulsar herramientas abiertas que permitan analizar, proteger y mejorar la seguridad de las aplicaciones y agentes basados en inteligencia artificial. La iniciativa parte de una idea cada vez más relevante en el sector: un sistema de IA no está compuesto únicamente por los pesos de un modelo.

Alrededor de un modelo existen numerosas capas adicionales, incluyendo herramientas, agentes, sistemas de ejecución, bibliotecas, mecanismos de autenticación, servicios y componentes de infraestructura. Cada uno de estos elementos puede introducir vulnerabilidades, por lo que proteger únicamente el modelo no es suficiente para garantizar la seguridad de todo el sistema.

Canonical se incorpora precisamente desde esa perspectiva. Ubuntu puede encontrarse en la base de numerosas infraestructuras donde se ejecutan cargas de trabajo de IA, por lo que la compañía considera importante participar en el desarrollo de herramientas abiertas destinadas a proteger también esa capa inferior.

La seguridad de la IA va más allá del modelo

Uno de los principios fundamentales de la alianza es que los problemas de seguridad relacionados con la inteligencia artificial no terminan en el modelo. Los agentes de IA actuales pueden interactuar con sistemas externos, utilizar herramientas, acceder a información y ejecutar acciones en nombre de los usuarios.

Esto introduce una superficie de ataque considerablemente mayor que la de un modelo que simplemente genera una respuesta. Un agente puede depender de múltiples componentes y servicios, y un fallo de configuración o una vulnerabilidad en cualquiera de ellos puede comprometer el conjunto.

La Open Secure AI Alliance pretende abordar precisamente este problema mediante tecnologías abiertas que permitan a los defensores comprender mejor cómo funcionan estos sistemas y detectar posibles problemas antes de que puedan convertirse en incidentes de seguridad.

Una alianza impulsada por NVIDIA y la Linux Foundation

La iniciativa fue presentada en julio de 2026 con NVIDIA y numerosas organizaciones como miembros fundadores. Su objetivo es fomentar la colaboración entre compañías de infraestructura, ciberseguridad, software empresarial, comunidades de código abierto e investigación en inteligencia artificial.

La participación de actores con perfiles tan diferentes responde a la naturaleza transversal de la seguridad de la IA. Un problema localizado en un modelo puede tener consecuencias en las aplicaciones que lo utilizan, mientras que una vulnerabilidad en la infraestructura puede afectar a múltiples modelos y servicios simultáneamente.

La alianza busca, por tanto, crear herramientas y mecanismos que puedan utilizarse en diferentes capas y por organizaciones con necesidades muy distintas.

NOOA es una de las primeras contribuciones

Entre las primeras tecnologías asociadas a la iniciativa se encuentra NOOA, un framework de código abierto desarrollado por NVIDIA para auditar el comportamiento de agentes de IA.

Este tipo de herramientas resulta especialmente interesante a medida que los agentes adquieren capacidad para interactuar con el sistema operativo, utilizar aplicaciones y ejecutar tareas de manera autónoma. Poder analizar su comportamiento proporciona a los investigadores y administradores una forma de detectar acciones inesperadas o potencialmente peligrosas.

El enfoque abierto también permite que investigadores externos puedan estudiar las herramientas y contribuir a su evolución, en lugar de depender exclusivamente de soluciones propietarias desarrolladas por un único proveedor.

Hugging Face aporta Safetensors

Otra de las tecnologías destacadas dentro del ecosistema de la alianza es Safetensors, el formato desarrollado por Hugging Face para almacenar pesos de modelos de inteligencia artificial de una manera diseñada para evitar la ejecución arbitraria de código durante su carga.

La importancia de este tipo de herramientas reside en que la seguridad de la IA también comienza en los propios archivos que contienen los modelos. Si un mecanismo de carga permite ejecutar contenido malicioso incluido en un archivo aparentemente legítimo, el atacante puede aprovechar el proceso de instalación o utilización del modelo para comprometer el sistema.

Safetensors representa así un ejemplo de cómo una herramienta abierta puede abordar un riesgo concreto dentro de la cadena de suministro de la inteligencia artificial.

SAFE busca compartir información sobre incidentes

La alianza también trabaja en SAFE, siglas de Shared AI Findings Exchange. Se trata de una propuesta destinada a crear un mecanismo confidencial para comunicar incidentes de seguridad relacionados con sistemas de inteligencia artificial y también situaciones que estuvieron cerca de convertirse en incidentes.

El objetivo es facilitar que las organizaciones puedan compartir información sobre fallos reales de los agentes y advertir a otros participantes cuando exista un problema que pueda repetirse en diferentes sistemas.

La posibilidad de registrar también los llamados «near misses» resulta importante porque permite aprender de situaciones que fueron detectadas antes de provocar daños. En seguridad informática, disponer de información sobre estos casos puede ayudar a identificar patrones y prevenir incidentes posteriores.

El papel de Ubuntu en la infraestructura de IA

La incorporación de Canonical tiene sentido dentro de este planteamiento debido a la presencia de Ubuntu en centros de datos, servidores, servicios cloud y entornos empresariales.

Muchas cargas de trabajo de inteligencia artificial se ejecutan sobre Linux, desde servidores que alojan modelos hasta infraestructuras utilizadas para entrenamiento, inferencia y servicios que proporcionan acceso a modelos de IA.

Canonical sostiene que, si Ubuntu se encuentra en la base de buena parte de esta infraestructura, también debe formar parte de los esfuerzos destinados a protegerla. La participación en la alianza permite a la compañía colaborar en herramientas que tengan en cuenta las necesidades de esta capa del sistema.

La infraestructura también forma parte de la seguridad

Uno de los mensajes centrales de Canonical tras su incorporación es que la seguridad debe cubrir toda la pila tecnológica. Los modelos pueden contar con mecanismos de seguridad y restricciones, pero estos controles no sustituyen la necesidad de proteger el sistema operativo, los servicios, las aplicaciones y la infraestructura que los rodean.

Esta cuestión adquiere todavía más importancia con la expansión de los agentes autónomos. A diferencia de un chatbot tradicional, un agente puede disponer de permisos para realizar acciones sobre otros sistemas. Un error en cualquiera de las capas que controla esas acciones puede terminar teniendo consecuencias mucho mayores que una respuesta incorrecta generada por un modelo.

Por eso, la alianza apuesta por desarrollar herramientas que permitan analizar el comportamiento de los agentes y proteger las diferentes piezas que intervienen en su funcionamiento.

El software abierto como herramienta de defensa

La Open Secure AI Alliance apuesta además por una filosofía abierta. La idea es que las herramientas destinadas a proteger los sistemas de IA puedan ser examinadas, auditadas y mejoradas por diferentes participantes.

Este modelo resulta especialmente relevante en ciberseguridad, donde la transparencia puede facilitar la detección de vulnerabilidades y permitir que una comunidad más amplia contribuya a corregirlas.

Para Canonical, este planteamiento encaja con su propia experiencia dentro del ecosistema del software libre. Ubuntu forma parte de una infraestructura tecnológica mucho más amplia y depende de numerosas tecnologías abiertas desarrolladas por comunidades y organizaciones diferentes.

Canonical refuerza su presencia en la seguridad de la IA

La entrada de Canonical en la Open Secure AI Alliance amplía la participación de la compañía en iniciativas relacionadas con la seguridad de la inteligencia artificial. En este caso, el interés no se centra exclusivamente en los modelos, sino en toda la infraestructura necesaria para ejecutarlos.

La posición de Ubuntu como sistema operativo utilizado en servidores, cloud y entornos empresariales permite a Canonical aportar una perspectiva diferente a la de los fabricantes de modelos y aceleradores de IA. La seguridad de un sistema completo depende de todas sus capas, desde el hardware y el sistema operativo hasta las aplicaciones, agentes y modelos.

La colaboración con NVIDIA, Hugging Face y otros participantes permitirá además trabajar en herramientas abiertas que puedan utilizarse para detectar vulnerabilidades, analizar el comportamiento de los agentes y compartir información sobre incidentes.

Una iniciativa que busca anticiparse a los nuevos riesgos

La aparición de agentes de inteligencia artificial capaces de interactuar directamente con sistemas y herramientas está modificando el panorama de la seguridad informática. Los riesgos ya no dependen únicamente de que un modelo genere una respuesta incorrecta, sino también de qué puede hacer el software que utiliza ese modelo y qué permisos tiene dentro de una infraestructura.

La Open Secure AI Alliance pretende abordar precisamente esa nueva realidad mediante colaboración y herramientas abiertas. La incorporación de Canonical añade a la iniciativa uno de los actores más importantes del ecosistema Linux empresarial y refuerza la atención sobre la infraestructura que sostiene las cargas de trabajo de IA.

Con Canonical dentro de la alianza, Ubuntu pasa a formar parte de un esfuerzo más amplio para construir una infraestructura de inteligencia artificial en la que la seguridad no sea una característica añadida al final del proceso, sino un elemento presente en cada una de las capas que forman el sistema.

Artículo original