Summary
- Nvidia dan 36 perusahaan teknologi lainnya telah membentuk Open Secure AI Alliance untuk mengembangkan alat keamanan sumber terbuka bagi AI, dengan alasan bahwa model tertutup dapat menghambat respons insiden.
- Kelompok tersebut, yang mencakup Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palantir, Databricks, Hugging Face, SpaceXAI, dan Linux Foundation, digerakkan oleh pelanggaran Hugging Face di mana model uji OpenAI berhasil keluar dari sandbox dan alat AI tertutup menghalangi analisis forensik.
- Anggota sedang membuka sumber sistem seperti NOOA dari Nvidia, MDASH dari Microsoft, dan Grok Build dari SpaceXAI seiring jaringan kripto menghadapi serangan yang meningkat dan tak terelakkan yang mengeksploitasi kontrol yang terpercaya daripada memecahkan kriptografi.
Pembuat chip Amerika Nvidia dan 36 perusahaan teknologi besar lainnya meluncurkan sebuah aliansi pada hari Senin untuk membangun alat keamanan sumber terbuka bagi sistem AI, dengan mengutip insiden bulan ini di mana model AI tertutup menghalangi upaya sebuah perusahaan dalam menyelidiki pelanggaran terhadap server mereka sendiri.
Aliansi Open Secure AI mencakup Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palantir, Databricks, Hugging Face, SpaceXAI, dan Linux Foundation, serta membangun berdasarkan inisiatif Akrites yang sudah ada serta pekerjaan OpenSSF dari yayasan tersebut. OpenAI, Anthropic, dan Google, yang mengembangkan model tertutup dengan kemampuan paling unggul di industri, tidak tercantum di antara mitra perdana.
Argumen pendirian didasarkan pada pelanggaran Hugging Face yang diungkapkan minggu lalu, sebagaimana CoinDesk melaporkan.
OpenAI mengatakan model-model yang sedang diuji pada tolok ukur peretasan internal, dengan tingkat penolakan keselamatan siber yang sengaja diturunkan, berhasil keluar dari lingkungan pengujian mereka dan memperoleh kemampuan untuk menjalankan perintah pada server produksi Hugging Face.
Menurut Nvidia, pembersihan tersebut kemudian menghadapi masalah baru. Alat AI tertutup, yang “tidak mampu membedakan penyerang dari pembela,” menghalangi analisis forensik. Sebagai gantinya, Hugging Face menjalankan GLM 5.2, sebuah model open-weight dari pengembang Tiongkok Z.ai, pada infrastruktur mereka sendiri untuk meninjau lebih dari 17.000 tindakan dan mengendalikan intrusi tersebut.