Bir rakibin kendi ürettiği yapay zeka modeli, OpenAI‘ye karşı yapılan saldırıda başrolü oynuyor. Hacktron AI araştırmacıları, saldırının teknik kısmını gerçekleştirmek için Anthropic’in Claude modelini kullandı.
Tüm sızma süreci 72 saatten kısa sürdü. Hacktron AI ekibi, özel kaynak koduna eriştiklerini kanıtlayınca OpenAI ekibi 6.500 dolar ödül verdi.
Sponsorlu
Sponsorlu
Bir Görsel Yükleme Nasıl Büyük Bir Açığa Dönüştü？
Saldırı zinciri oldukça sıradan bir yerden başladı: OpenAInin topluluk destek forumunda yer alan görsel yükleme özelliği, Discourse adlı üçüncü parti bir yazılımla çalışıyor.
Normalde bir güvenlik filtresi, yüklenen dosyaları taramalıydı. Fakat belli başlı fotoğraf formatlarını tanıyamadı ve dosyaların kontrol edilmeden geçmesine yol açtı. Bu dosyalar ise, bilinen bir bellek bozulması açığı olan ayrı bir görsel işleme kütüphanesine ulaştı.
Hacktron AIın üç kişilik ekibi (Harsh Jaiswal, Mohan Pedhapati ve Rahul Maini), temmuz ayı sonunda bu açığı istismar etmeye çalıştı.
Claudeun eski sürümü, bellekteki konumları rastgeleleştiren güvenlik önlemlerine karşı etkili olamadı.
Birkaç saat sonra ise Claudeun yeni modeli çalışan saldırı kodunu üretti ve bunu forumun tam konfigürasyonuna uygun şekilde uyarladı.
Sponsorlu
Sponsorlu
Bizi Xte takip edin, en son gelişmelerden anlık haberdar olun.
Claude, Araştırmacıların OpenAIyi 6.500 dolar zarara uğratmasına nasıl yardımcı oldu. Kaynak: Hacktron AI
Tüm bu süreç yalnızca forumun sunucularına erişim sağladı; yani asıl hedefine ulaşılamadı. Ancak OpenAInin tek oturum açma (single sign-on) sistemindeki ayrı, bağımsız bir açık tabloyu tersine çevirdi.
Forum girişi, aynı zamanda ChatGPT ve Codex hesaplarının da doğrulama yöntemi olduğundan, sadece bir çalışan oturumu ele geçirildiğinde OpenAInin özel kod havuzuna doğrudan erişim elde edildi.
Discourse bu görsel açığını birkaç gün içinde yamadı ve açık için 10 üzerinden 8,8 şiddet notu verdi. OpenAI ise, kendisine bildirilen kimlik doğrulama açığını yaklaşık 14 saat içinde gidererek bug bounty sürecini tamamladı.
AI Laboratuvarları Kendi Ürettiği Modellerle Neden Sürekli Karşı Karşıya Geliyor？
Bu olay tek başına gerçekleşmiyor. OpenAI temmuz ayında kendi modellerinin test ortamından kaçıp dış sistemlere ulaştığı farklı bir vakayı da açıklamıştı.
Anthropic tarafında ise Claude, siber güvenlik testlerinde gerçek kurumların sistemlerini tehlikeye attığını açıkladı ve bu değerlendirmelerde beklenmedik şekilde canlı internet bağlantısı gerçekleşmişti.
Microsoftun yapay zekadan sorumlu yöneticisi Mustafa Suleyman ise, aynı izinsiz yapay zeka ajanları sorununu bu hafta tekrar gündeme getirdi ve daha otonom hale gelen modellerin artık kontrol edilmesinin giderek zorlaştığını kamuoyuna açıkladı.
Reuters‘a verdiği röportajda Suleyman şu ifadeleri kullandı: ’Bu bir uyarı atışı. Artık açıkça laboratuvarlar arasında koordinasyon zamanı geldi. Böylece bu teknolojiyi kontrol etmemiz mümkün olur dedi.
Hacktron vakasını öne çıkaran asıl unsur yenilik değil. Güvenlik araştırmacıları yıllardır yazılım açıklarını zincirleme kullanıyor.
Ancak değişen şey hız oldu: Eskiden günlerce uzmanlık gerektiren görevler, güçlü bir model devreye girince bir akşam içinde çözülebilecek kadar kısaldı.