Anthropic CEOsu Dario Amodei, cumartesi günü yayımlanan bir blog yazısında yapay zeka geliştirme hızının çok yüksek olduğunu ve kontrol edilmediği takdirde bunun “bu sistemleri anlama ve kontrol etme kapasitemizi aşabileceğini” söyledi.
Yapay zekanın mevcut baş döndürücü ilerlemesinin, kendi kendine yeni nesil yapay zeka oluşturma becerisinin giderek artmasıyla, yani yinelemeli öz gelişim yoluyla desteklendiğini belirtti.
Amodei ayrıca temmuz ayında yaşanan OpenAI-Hugging Face olayına değindi. Olayda bir grup ajan, “fanatik biçimde bağlı bir kolektif” gibi davranarak test ortamından çıktı ve performanslarını değerlendiren bir puanlayıcıya sızmaya çalıştı.
Altı ila 12 ay içinde böyle bir grubun tüm interneti ele geçirebilecek kapasiteye ulaşmasından endişe ettiğini söyledi. Amodei bu kaygıları taşıyan tek kişi değil.
SpaceXAI‘ın başındaki Elon Musk, X’te “Dario haklı” diye paylaşım yaptı.
Altman bu yıl halka arz başlatmayacak, güvenliğe odaklanacak
OpenAI CEOsu Sam Altman, cumartesi günü yayımlanan Fortune röportajında, şirketinin bu yıl halka arz arayışına girmeyeceğini; çünkü güvenliğe ve “sektör ile hükümetlerin birlikte nasıl çalışabileceğine” odaklanacağını söyledi.
Altman daha sonra X‘te yapay zeka geliştirme hızının yavaşlatılması ve çalışanlarınkine benzer erişime sahip bağımsız değerlendiricilerin bulunması konusunda hemfikir olduğunu paylaştı. Bunlar, Amodei’nin blogunda ortaya koyduğu üç öneriden biriydi.
Amodei, Anthropicin bu adımı zaten tek taraflı olarak taahhüt ettiğini yazdı.
İkinci olarak,“demokratik ülkelerdeki öncü yapay zeka şirketlerinin ortak güvenlik standartları oluşturmak ve kontrolsüz yapay zeka ilerlemesinin hızına sınırlamalar getirmek üzere koordinasyon sağlamasını” önerdi.
İlgili: OpenAI, yapay zeka modellerinin kontrol dışına çıkarak Hugging Facee sızmaya çalıştığını söyledi
Üçüncü olarak ise ABD ve diğer demokratik hükümetlerin, uyumluluğu doğrulamanın zorluklarını ciddiye alırken, “mümkün olduğu ölçüde otoriter hükümetlerle koordinasyon sağlamaya çalışması” gerektiğini söyledi.
Amodei, özellikle Çin ve Çinin gelişmiş çiplere erişmesini önleme konusu başta olmak üzere üç önerisini daha ayrıntılı biçimde incelemeye devam etti.
Sonuç olarak çizdiği yolun kolay olmayacağını, ancak yapay zeka şirketlerinin “denemeyi insanlığa borçlu olduğunu” söyledi.
Dergi: Bitcoin, emekliliğinizi riske atamayacak kadar mı volatil？