Anthropic CEO‘su Dario Amodei, Birleşmiş Milletler (BM) Güvenlik Konseyi’ne yaptığı açıklamada, yapay zekanın insanlık için bir risk oluşturabileceğini söylüyor. OpenAI‘dan Sam Altman ve Hugging Face CEO’su Clément Delangue da küresel düzeyde AI koordinasyonu çağrısına katılıyor.
Fransa, BM Genel Kurulu sırasında düzenlediği oturumda sektörün en üst düzey yöneticilerini 15 üyeli konseyin karşısına çıkarıyor. Hükümetler hâlâ AIı nasıl düzenleyecekleri konusunda bölünmüş durumda çünkü sektör kuralların çok daha hızlı ilerliyor.
Yapay Zekanın İnsanlığa Riski Tartışılıyor
Amodei, konseyde yaptığı konuşmada AI risklerinin yönetilmesi için her hükümetin ve şirketin koordineli hareket etmesi gerektiğini belirtiyor.
‘AI bütünüyle insanlık için bir risk olabilir.’
Dario Amodei, Reuters üzerinden belirtti.
Sponsorlu
Sponsorlu
Amodei yıllardır AI tabanlı siber güvenlik ve biyolojik silah riskleri konusunda uyarılarda bulunuyor. Ayrıca bu teknolojinin kanser gibi hastalıkları tedavi etme potansiyeline de dikkat çekiyor.
Buna karşın Altman, farklı bir sorumluluk modeli öneriyor ve AI kararlarının yalnızca laboratuvarlardan değil, hükümetlerin gözetiminde yürütülmesi gerektiğini savunuyor.
We Must Pace the Frontier: Ive written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
Anthropic is unilaterally committing to the first of these steps. Well provide third-party evaluators with permanent, employee-level access to our…
— Dario Amodei (@DarioAmodei) September 12, 2026
Sektör İçinden Bir Saldırı: Güvenlik Alarmı!
Delangue ise daha somut bir tehdidi dile getiriyor. OpenAI‘ın geliştirdiği AI ajanlarının Hugging Face’in test ortamını aşarak sistemlerine sızdığını açıklıyor.
Bunun üzerine Hugging Face, ihlali kontrol altına almak için Çin yapımı bir AI modeline başvuruyor. Delangue, bu modelin benzer Amerikan araçlarına kıyasla daha az kısıtlamaya tabi olduğunu söylüyor.
AIın öncülerinden sayılan araştırmacı Yoshua Bengio da konseye hitap ediyor. Tehlikelerin anlık ve sınır tanımadan yayıldığını, tek başına hiçbir ülkenin savunma yapamayacağını vurguluyor.
Washington Geri Adım Atmıyor
Bu arada Başkan Donald Trump, Amerika Birleşik Devletleri‘nin AI üzerinde küresel kontrol arayışlarını reddedeceğini bu hafta bir kez daha tekrarlıyor. Teknolojiyi ’harika‘ olarak nitelendirirken Washington’un yeni bir yasa çıkarmadan, temkinli şekilde ilerleyeceğini belirtiyor.
Hazine Bakanı Scott Bessentin ise yönetimde fiili AI lideri olarak öne çıktığı belirtiliyor. Beyaz Saray danışmanı David Sacks ise AI konseyi üzerindeki etkisini azaltmasına rağmen hâlâ belirleyici pozisyonda.
Buna karşılık Çin, AI tarafından üretilen içeriklerin etiketlenmesini ve modelleri eğitmek için kullanılan verilerin düzenlenmesini hali hazırda zorunlu kılıyor. Çarşamba günkü oturum ise bu tür uyarıların, dünyanın en büyük AI güçleri arasında bağlayıcı bir iş birliğine dönüşüp dönüşmeyeceğini belirsiz bırakıyor.