La iniciativa reúne a compañías como Microsoft, IBM, Cisco, Adobe, Dell Technologies, CrowdStrike, Hewlett Packard Enterprise (HPE), Red Hat, SAP, Salesforce, Palantir, Hugging Face y la Linux Foundation, entre otras, en un esfuerzo conjunto por crear modelos, herramientas y metodologías que permitan proteger aplicaciones de IA frente a amenazas cada vez más sofisticadas.
Según NVIDIA, el crecimiento de la inteligencia artificial ha convertido a la ciberseguridad en uno de los principales beneficiarios del software de código abierto. La compañía sostiene que la transparencia permite que comunidades de expertos inspeccionen, auditen y mejoren continuamente las tecnologías utilizadas para proteger infraestructuras críticas.
La nueva alianza se apoyará en iniciativas ya existentes, como Akrites, impulsada por la Linux Foundation, y en el trabajo de la comunidad OpenSSF, dedicada a mejorar la seguridad del software de código abierto. Entre sus objetivos figura desarrollar herramientas abiertas para detectar vulnerabilidades, compartir mecanismos de defensa y acelerar la respuesta ante incidentes de seguridad.
Respuesta a nuevos riesgos
El anuncio se produce en un momento en que la industria debate cómo garantizar la seguridad de los sistemas de IA de última generación sin limitar la innovación. NVIDIA argumenta que los modelos abiertos no deben considerarse un riesgo por sí mismos, sino un recurso estratégico para la defensa cibernética.En el comunicado, la empresa afirma que restringir el acceso a herramientas abiertas podría concentrar las capacidades defensivas en un pequeño número de proveedores propietarios, reduciendo la capacidad de investigadores, gobiernos y empresas para analizar amenazas y responder con rapidez. En cambio, propone combinar modelos abiertos con evaluaciones rigurosas, normas claras contra el uso malicioso y procesos ágiles para corregir vulnerabilidades.
Un caso reciente impulsó la iniciativa
La creación de la alianza también llega después de un incidente de seguridad divulgado recientemente por Hugging Face, que puso de relieve los desafíos que enfrentan las herramientas cerradas durante investigaciones forenses de ataques basados en inteligencia artificial. NVIDIA sostiene que ese episodio evidenció la necesidad de que los equipos de ciberseguridad dispongan de modelos abiertos capaces de inspeccionar y analizar el comportamiento de sistemas avanzados.Herramientas compartidas
Como parte de la Open Secure AI Alliance, los miembros fundadores aportarán proyectos y tecnologías abiertas relacionadas con la seguridad de la IA. Entre ellas se incluyen marcos para agentes inteligentes, herramientas de evaluación, sistemas para reforzar la seguridad de modelos, bibliotecas de código y estándares de identidad digital que podrán ser utilizados y mejorados por la comunidad.La alianza también hace un llamado a los responsables de formular políticas públicas para que reconozcan las tecnologías abiertas como un componente esencial de la defensa digital y no como un factor de riesgo. En opinión de NVIDIA, tanto los modelos abiertos como los propietarios tienen un papel complementario en el desarrollo de una inteligencia artificial más segura y confiable.
Comentarios
Publicar un comentario
Leave a comment. Thanks!
Comentarios de Facebook