OpenAI ve Anthropic, yılın başında birbirlerinin yapay zeka modellerini açık ve gizli güvenlik risklerine karşı test edebilecekleri, yasal olarak bağlayıcı bir anlaşmaya çok yaklaşmıştı. The Informationa göre, anlaşmanın kesinleşip kesinleşmediği henüz net değil.
Bu haberden birkaç gün önce Palantir CEO‘su Alex Karp’tan, bu iki şirketten birinin halka açılıp açılmayacağına dair bir soru geldi. Karpın hedefinde Anthropic vardı.
OpenAI ve Anthropic Anlaşması: Neler Yaşandı？
Her iki taraf da diğerinin ticari modellerine yazılım erişimi, kendi güvenlik testlerini özgürce uygulama hakkı ve karşı tarafın verilerini kendine saklamama zorunluluğu elde edecekti. Henüz yayınlanmamış sistemler ise kapsam dışında kalacaktı.
OPENAI AND ANTHROPIC NEARED AI SAFETY TESTING DEAL
OpenAI and Anthropic reportedly neared an agreement to stress-test each others AI models, searching for vulnerabilities and hidden risks.
Its unclear whether the deal was finalized before OpenAI encountered incidents…
Bu görüşmeler, OpenAI‘in yayımlanmamış agent’larının dahili ve harici sistemlere beklenmedik şekillerde eriştiğine dair olaylar zincirinden önce gerçekleşti.
Sponsorlu
Sponsorlu
OpenAI o günden bu yana, bir modelin doğru aksiyonları ödüllendirildiği bir eğitim yöntemi olan takviye öğrenimini iki hafta süreyle durdurdu. Ayrıca, üretim mühendisliği ekibinin dörtte birini geçici olarak güvenlik çalışmalarına kaydırdı ve izleme için, izlediği iş yükünün yaklaşık beşte biri kadar işlem gücü tüketebilen yeni bir takip sistemi geliştirdi.
Şirket bu ay endişe uyandıran altı model davranışı yayımladı. 2025‘te gerçekleştirilen tek seferlik bir model değişimi ise kafa karıştıran sonuçlar doğurmuştu. OpenAI, Anthropic’in modellerinin kural ihlallerini gizlemeye daha eğilimli olduğunu tespit etmiş; Anthropic ise OpenAI modellerinin zararlı isteklere yanıt vermeye daha açık olduğunu bulmuştu.
Karptan Halka Arz Ayrıntısı: Beklenen S-1 Dosyası Gelecek mi？
Başka bir noktada CNBC sunucusu, Palantir CEOsu Alex Karpa, sözünü ettiği yükümlülüklerin halka arz öncesi doldurulan S-1 kaydına nasıl yansıyacağını sordu. Karp, sorunun temelini sorguladı.
“Bir S-1 dosyasının sunulacağını varsayıyorsunuz. Şimdi… tamam, belki olacak,” dedi.
Karpa göre bir şirket, sonsuz büyüklükte risk üstlendiğini iddia ederse bunun bedelini genellikle hükümete devredip işletmenin yaklaşık yarısını feda etmekle ödüyor. Ona göre ilk savunma hattı: düşüncesizce hareket eden geliştiriciler için geçerli olan sıradan sivil ve cezai sorumluluk olmalı.
Karp bu eleştiriyi, ‘akıllı ve etik’ olarak nitelendirdiği Anthropic CEO‘su Dario Amodei’ye yöneltti. Aynı röportajda OpenAI için aynı muamele istenip istenmediği sorulduğunda ise Karp bunu kesin bir dille reddetti.
“Hayır, kesinlikle hayır. Bu ikisi çok farklı şeyler diye düşünüyorum.”
Anthropic, halka açılmaya hazırlanırken Sam Altman 12 eylül‘de OpenAI’in güvenlik çalışmalarının tamamlanmadığını ve şirketin 2026da borsada yer almayacağını söyledi.
BREAKING: Palantir's Alex Karp says OpenAI will never IPO.
His theory: nationalization is the only real exit.
When asked what the S-1 risk factors look like, Karp's answer was simple: there is no S-1.
The liability exposure from frontier AI is so large that no public market…
Palantir, hükümetlere ve büyük ölçekli şirketlere rakip yazılımlar satıyor. Yani Karpın bu tartışmada söz sahibi olması sürpriz değil.