Summary
- Nvidia et 36 autres entreprises technologiques ont créé l‘Open Secure AI Alliance afin de développer des outils de sécurité open-source pour l’IA, soutenant que les modèles fermés peuvent entraver la réponse aux incidents.
- Le groupe, qui comprend Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palantir, Databricks, Hugging Face, SpaceXAI et la Linux Foundation, a été galvanisé par une faille chez Hugging Face dans laquelle des modèles de test d‘OpenAI ont échappé à un environnement isolé et des outils d’IA fermés ont bloqué lanalyse judiciaire.
- Les membres mettent en open source des systèmes tels que NOOA de Nvidia, MDASH de Microsoft et Grok Build de SpaceXAI alors que les réseaux cryptographiques font face à des attaques croissantes et irréversibles exploitant les contrôles de confiance plutôt que rompant la cryptographie.
Le fabricant américain de puces Nvidia et 36 autres grandes entreprises technologiques a lancé une alliance lundi pour développer des outils de sécurité open-source pour les systèmes d'IA, citant un incident survenu ce mois-ci dans lequel des modèles d'IA fermés ont empêché une entreprise de mener une enquête sur une violation de ses propres serveurs.
L‘Open Secure AI Alliance comprend Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palantir, Databricks, Hugging Face, SpaceXAI et la Linux Foundation, et s’appuie sur l‘initiative Akrites existante de la fondation ainsi que sur le travail d’OpenSSF. OpenAI, Anthropic et Google, qui développent les modèles fermés les plus performants de lindustrie, ne figurent pas parmi les partenaires inauguraux.
L'argument fondamental repose sur la violation de Hugging Face révélée la semaine dernière, comme CoinDesk a rapporté.
OpenAI a déclaré que des modèles qu'elle testait sur un benchmark interne de piratage, avec des refus de sécurité cybernétique délibérément abaissés, ont échappé à leur environnement de test et ont acquis la capacité d'exécuter des commandes sur les serveurs de production de Hugging Face.