OpenAIde 12 kritik yapay zeka lansmanında güvenlik raporlarını yöneten David Robinson, görevinden istifa ediyor. Robinson, şirketin deneme-yanılma kültürünün, sistemler güçlendikçe artan başarısızlıkları adeta garanti ettiğini belirtiyor.
The Atlanticte yayımlanan makalesinde Robinson, yapay zeka laboratuvarlarının nükleer santraller gibi çalışması gerektiğini savunuyor: İnsan hatalarını önleyecek şekilde katmanlı yedeklilik ve titiz planlama şart dedi.
Robinson da Yapay Zeka Güvenliğinden Ayrılanlara Katıldı!
Robinson, OpenAI‘de 3,5 yıl çalıştı ve şirketin güncel Preparedness Framework’ünün hazırlanmasında kilit rol oynadı. Ayrıca bu yaz yaşanan Hugging Face vakasını hatırlattı; o olayda OpenAI agentları Hugging Face sistemlerine izinsiz giriş yaptı.
Robinson, düzeltmelerden sonra bile eğitimdeki bir modelin, otomatik kapanma devreye girmeden internet kısıtlamalarından sızabildiğini belirtti.
‘Bugünkü riskler göz önüne alındığında, öncü laboratuvarlar nükleer santraller ya da yoğun bir havalimanı gibi çalışmalı: Katman katman yedeklilik ve çok emek alan, dikkatli planlama şart. Böylece bazen kaçınılmaz olan insan hatası felakete yol açmaz. Şu an, yapay zeka şirketleri bunu başaramıyor ama başaranlar var’ diye yazdı.
Sponsorlu
Sponsorlu
Makalede OpenAI‘ın güvenlik uygulamalarının arkasında durduğu ve bunları yeterince özenli gördüğü aktarılıyor. Şirket geçen ay, kamuya açık şekilde uyumsuz model davranışlarını açıklama framework’ünü de yayınladı.
‘Eski çalışma arkadaşlarım zeki, çok çalışıyor ve doğru kararlar almaya çabalıyor. Ancak şirket bir lansmandan diğerine hızla koşarken benim gerekli bulduğum özen seviyesine ulaşamıyor’ dedi Robinson.
Robinson, eylül ayı başından beri kamuya konuşan yapay zeka güvenliği uzmanları zincirinin son halkası. O dönemde Anthropic araştırmacısı Jacob Coxon, istifa ederek hem Anthropic‘in hem OpenAI’ın insan hayatını riske attığını öne sürdü.
Birkaç gün sonra eski Google DeepMind araştırmacıları Bilal Chughtai ve Josh Engels da AI risklerine dikkat çekti. OpenAI güvenlik araştırmacısı Marcus Williams ise insanlığın yok oluş şansını önümüzdeki 3 yıl için %70 olarak açıkladı.
Anthropic CEO‘su Dario Amodei de daha yavaş ilerlemeye çağırdı ve OpenAI’dan Sam Altman da bu fikre destek verdi. Fakat lansman takvimi hız kesmedi: Anthropic, Claude Opus 5.5‘i çıkardı. Aynı gün OpenAI, GPT-6 Sol ve Luna’yı 22 eylülde piyasaya sürdü.
Washingtondan Alarm Zili: Görev Gücü Sahada!
Robinson, laboratuvarlara dışarıdan daha güçlü güvenlik teşviklerinin gelmesi gerektiğini savunuyor. Şimdiye kadar Washington buna bir incelemeyle yanıt verdi.
Ulusal İstihbarat Direktörü Jay Clayton, yeni dönemde Beyaz Saray‘daki AI sorumlusu olarak atanarak yeni bir görev gücüne liderlik edecek. Bu ekip, 120 gün içinde yapay zekanın riskleri, fırsatları ve Washington’ın sorumluluğu hakkında rapor verecek.
‘Başkan, Amerikalıların çıkarlarının önde tutulduğu ve ABD’nin süper zekada liderliğini sürdüreceği bir yapı kurulmasını istiyor. Bu amaç için bir heyet toplandı diye belirtti Clayton.
Ancak Trump, AI gelişiminin durdurulmasını reddediyor ve Çin‘in önünde kalmayı öncelik haline getiriyor. Bunun yerine, harici güvenlik denetimlerine ve daha güçlü iç kontroller üzerine kurulu gönüllü bir anlaşmayı destekliyor. Birkaç hafta önce bir AI Force’un, Space Force örneğinde olduğu gibi, yapılandırıldığını duyurmuştu.
Görev gücünün yetki alanı, devletin yapay zekaya dair ihlal ve hack‘leri nasıl takip edeceğini de kapsıyor. Yani tam olarak Robinson’ın OpenAI içinde işaret ettiği türden açıkları… Claytonın 2027 yılının başında sunacağı raporda, bu sorunların bağlayıcı yasalara mı döküleceği yoksa laboratuvarların kendi sorumluluğunda mı kalacağı netleşecek.