Anthropic, CEO‘su Dario Amodei’nin geçen hafta yaptığı öneri doğrultusunda yapay zeka gelişiminin hızını yavaşlatmaya yardımcı olması için Accentureı ilk yerleşik değerlendiricisi olarak seçtiğini açıkladı.
Amodei, hızlı ve denetimsiz gelişimin ardından potansiyel olarak felaket boyutunda zarar verilebileceğine ilişkin uyarıların ortasında, güvenlik önlemlerinin devreye alınmasına olanak tanımak ve yapay zekanın gelişimini yavaşlatmak amacıyla 12 Eylülde üç aşamalı bir öneri yayımladı.
OpenAI CEO‘su Sam Altman ve SpaceX CEO’su Elon Musk, Amodei‘nin önerisine olumlu yanıt verdi. Ancak Nvidia CEO’su Jensen Huang, böyle bir düzenlemenin gerekli olmadığını savunarak öneriye olumlu yanıt vermedi.
Buna rağmen Amodei, önerisinde “Yapay zeka, öncelikle yapay zekanın bir sonraki neslini geliştirme becerisinin artmasıyla, çok daha hızlı ilerliyor. Bu dinamiğe yinelemeli öz-iyileştirme adı veriliyor” ve “kontrol edilmezse, bu sistemleri anlama ve denetleme becerimizi geride bırakabilir” diye yazdı.
İlgili: Anthropic yöneticisi, yapay zeka gelişiminin daha güvenli bir tempoya yavaşlatılması çağrısı yapıyor
Amodei, önerisinin ilk adımının çalışanlarınkine benzer erişime sahip bağımsız değerlendiricilerin görevlendirilmesi olduğunu ve Anthropicin buna zaten tek taraflı olarak taahhütte bulunduğunu yazdı.
Anthropic, cuma günü Accenture ve şirketin yapay zeka birimi Faculty ile “modelleri değerlendirme ve kırmızı takım testlerine tabi tutma, uyum değerlendirmeleri gerçekleştirme ve model güvenlik önlemlerini test etme” amacıyla ortaklık kurarak bu taahhüdü yerine getirmeye yönelik bir adım attığını duyurdu.
Şirket, yerleşik değerlendirmenin yeni olması nedeniyle bunun nasıl gerçekleştirileceğine ilişkin ayrıntıların hâlâ şekillendirildiğini söyledi.
Açıklamaya göre Anthropic ve Accenture, önümüzdeki beş yıl boyunca projeye ayrı ayrı en az 1 milyar dolar yatırım yapmayı bekliyor.
Anthropic çalışmaları doğrudan finanse edecek
Anthropic, bağımsız değerlendirmelerin finanse edilmesi için mevcut bir sistem bulunmadığını ve bu nedenle uzun vadeli finansmanın ortak havuzlardan veya hükümet kaynaklarından gelmesi gerektiğini belirtti. Ancak çalışmanın aciliyeti nedeniyle Anthropic, Accentureın çalışmalarını doğrudan finanse edecek.
Ortaklık münhasır değil ve Anthropic, önümüzdeki haftalarda birlikte çalışacağı diğer değerlendiricileri de duyurmayı bekliyor.
Şirketin cuma günü belirttiğine göre Accentureın Faculty birimi, dünyanın önde gelen yapay zeka laboratuvarlarından bazıları için model test etme ve değerlendirme konusunda, ayrıca tasarım gereği güvenli ve etik olan karmaşık yapay zeka sistemleri geliştirme konusunda uzman.
Accenture‘ın yönetim kurulu başkanı ve CEO’su Julie Sweet, “Yerleşik değerlendirme gelişmekte olan bir alan ve ileriye dönük güvenlik ekosisteminin önemli bir parçası olduğunu düşündüğümüz yerleşik değerlendiricilerin gelişimini hızlandırmaya yardımcı olmak için Anthropic ile ortaklık kurmayı dört gözle bekliyoruz” dedi.