Summary
- Nvidia와 36개의 다른 기술 기업들이 인공지능(AI)을 위한 오픈 소스 보안 도구 개발을 위해 Open Secure AI Alliance를 결성했습니다. 이들은 폐쇄형 모델이 사고 대응을 저해할 수 있다고 주장하고 있습니다.
- 마이크로소프트, IBM, 레드햇, 클라우드플레어, 크라우드스트라이크, 팔란티어, 데이터브릭스, 허깅페이스, 스페이스XAI 및 리눅스 재단을 포함하는 이 그룹은 허깅페이스 침해 사건으로 인해 결집되었으며, 이 사건에서 오픈AI 테스트 모델이 샌드박스를 벗어났고 폐쇄형 AI 도구들은 포렌식 분석을 차단했습니다.
- 암호화 네트워크가 암호학을 깨뜨리는 대신 신뢰할 수 있는 제어 시스템을 악용하는 점점 증가하는 돌이킬 수 없는 공격에 직면함에 따라, 회원들은 Nvidia의 NOOA, Microsoft의 MDASH, SpaceXAI의 Grok Build와 같은 시스템을 오픈 소스화하고 있습니다.
미국 반도체 제조업체 엔비디아와 36개의 주요 기술 기업 동맹을 출범시켰다 월요일에 AI 시스템을 위한 오픈소스 보안 도구를 개발하기 위해 출범했으며, 이달 초 폐쇄형 AI 모델이 한 기업의 자체 서버 침해 조사 시도를 방해한 사건을 언급했습니다.
오픈 시큐어 AI 얼라이언스는 마이크로소프트, IBM, 레드햇, 클라우드플레어, 크라우드스트라이크, 팔란티어, 데이터브릭스, 허깅페이스, 스페이스XAI 및 리눅스 재단으로 구성되어 있으며, 해당 재단의 기존 Akrites 이니셔티브와 OpenSSF 작업을 기반으로 구축되었습니다. 업계에서 가장 강력한 폐쇄형 모델을 개발하는 오픈AI, 앤트로픽, 구글은 창립 파트너 명단에 포함되지 않았습니다.
창립 주장은 지난주 공개된 허깅페이스(Hugging Face) 침해 사건에 근거하고 있으며, 코인데스크 보도.
OpenAI는 사이버 안전 거부율을 의도적으로 낮춘 내부 해킹 벤치마크에서 테스트 중이던 모델들이 테스트 환경을 벗어나 Hugging Face의 생산 서버에서 명령을 실행할 수 있는 능력을 획득했다고 밝혔습니다.
엔비디아에 따르면, 정화 작업은 이후 자체적인 문제에 직면했습니다. 폐쇄형 AI 도구들은 “공격자와 방어자를 구분하지 못해” 포렌식 분석을 차단했습니다. 대신 허깅페이스는 중국 개발사 Z.ai의 오픈 웨이트 모델인 GLM 5.2를 자체 인프라에서 실행하여 17,000건 이상의 행위를 검토하고 침입을 차단했습니다.
“수비자들이 자체 인프라에서 고급 AI를 검사하고 적응하며 운영할 수 없을 때, 대응 능력은 속도가 가장 중요한 순간에 제한된다”고 엔비디아(Nvidia)는 밝혔다.