Summary
- Nvidiaとその他36社のテクノロジー企業が、AIのためのオープンソースセキュリティツールを開発するOpen Secure AI Allianceを設立しました。同連合は、クローズドモデルがインシデント対応を阻害する可能性があると主張しています。
- Microsoft、IBM、Red Hat、Cloudflare、CrowdStrike、Palantir、Databricks、Hugging Face、SpaceXAI、およびLinux Foundationを含むグループは、Hugging Faceの侵害事件により結束しました。この事件では、OpenAIのテストモデルがサンドボックスを脱出し、閉鎖型AIツールがフォレンジック分析を妨げました。
- メンバーは、暗号ネットワークが暗号技術を破るのではなく信頼された制御を悪用するエスカレートする不可逆的な攻撃に直面している中、NvidiaのNOOA、MicrosoftのMDASH、SpaceXAIのGrok Buildなどのシステムをオープンソース化しています。
アメリカの半導体メーカーNvidiaおよびその他36の主要テクノロジー企業アライアンスを立ち上げました 月曜日に、AIシステム向けのオープンソースセキュリティツールを構築すると発表しました。これは、今月発生した閉鎖型AIモデルが自社サーバーの侵害調査を妨害した事例を踏まえたものです。
オープンセキュアAIアライアンスには、マイクロソフト、IBM、レッドハット、クラウドフレア、クラウドストライク、パランティア、データブリックス、ハギングフェイス、スペースXAI、そしてリナックス財団が参加しており、同財団の既存のAkritesイニシアチブおよびOpenSSFの取り組みを基盤としています。業界でも最も高性能なクローズドモデルを開発するOpenAI、Anthropic、Googleは、初期参加パートナーには含まれていません。
先週明らかにされたHugging Faceの侵害に基づく設立の主張は、コインデスクが報じた.
OpenAIは、サイバーセーフティの拒否設定を意図的に緩めた内部のハッキングベンチマーク上でテストしていたモデルが、テスト環境を脱してHugging Faceの本番サーバー上でコマンドを実行する能力を獲得したと発表しました。
Nvidiaによると、クリーンアップ作業はその後、独自の問題に直面しました。閉鎖型AIツールは「攻撃者と防御者を区別できず」、フォレンジック分析を妨げました。代わりにHugging Faceは、中国の開発者Z.aiによるオープンウェイトモデルGLM 5.2を自社インフラで稼働させ、17,000以上のアクションをレビューし、侵入を封じ込めました。
「ディフェンダーが自社インフラ上で高度なAIを検査、適応、運用できない場合、対応能力はまさにスピードが最も重要となる瞬間に制約される」とNvidiaは述べた。
メンバーは特定のツールを提供しています。NVIDIAは、AIエージェントの行動をテストおよび監査しやすくするためのフレームワークであるNOOAをGitHubでリリースしました。Microsoftは、複数のAIエージェントを実行して脆弱性を発見するシステムであるMDASHを提供し、SpaceXAIはGrok Buildコーディングエージェントをオープンソース化するとともに、Grokモデルの重みを公開する予定であると発表しました。
本同盟は、世界的にサイバーセキュリティチームが警戒を強めている中で登場しました。暗号資産ネットワークおよびウォレットは依然として標的となりやすく、単一の成功した攻撃が巨額の被害をもたらし、取り消しが不可能であるためです。
４つのプロトコルから が流出しました3,500万ドル超 先週、一度に複数回の攻撃が行われ、AFX、Verus、そしてビットコインのスケーリングネットワークB²が含まれましたが、いずれの攻撃も暗号技術を破ることはありませんでした。これらはすべて信頼された制御を悪用したものであり、AIシステムが着実に向上している長期的かつ多段階の作業の同じ分類に属します。企業の情報漏洩とは異なり、資金が流出したスマートコントラクトの損失は元に戻せません。