Anthropic, CEO‘su Dario Amodei’nin geçen hafta yaptığı öneri doğrultusunda yapay zeka gelişiminin hızını yavaşlatmaya yardımcı olması için Accentureı ilk yerleşik değerlendiricisi olarak seçtiğini söyledi.
Amodei, hızlı ve denetimsiz gelişimin ardından ortaya çıkabilecek felaket boyutunda zarar olasılığına ilişkin uyarıların ortasında, güvenlik önlemlerinin uygulanabilmesi için yapay zeka gelişimini yavaşlatmaya yönelik üç aşamalı önerisini 12 Eylülde yayımladı.
OpenAI CEO‘su Sam Altman ve SpaceX CEO’su Elon Musk, Amodei‘nin önerisine olumlu yanıt verirken Nvidia CEO’su Jensen Huang, böyle bir düzenlemenin gerekli olmadığını savunarak öneriye karşı çıktı.
Bununla birlikte Amodei, önerisinde “Yapay zeka, temel olarak bir sonraki yapay zeka neslini geliştirme becerisinin giderek artmasıyla, çok daha hızlı ilerliyor. Bu dinamiğe özyinelemeli öz-iyileştirme adı veriliyor” ve “denetlenmeden bırakılırsa bu sistemleri anlama ve kontrol etme becerimizi aşabilir” diye yazdı.
Amodei, önerisinin ilk adımının, Anthropicin daha önce tek taraflı olarak taahhüt ettiği üzere, çalışanlara benzer erişime sahip bağımsız değerlendiricilerin bulunması olduğunu yazdı.
Anthropic, Cuma günü Accenture ve şirketin yapay zeka birimi Faculty ile “modelleri değerlendirme ve kırmızı takım testlerine tabi tutma, uyum değerlendirmeleri gerçekleştirme ve model güvenlik önlemlerini test etme” konusunda ortaklık kurarak bu taahhüdünü yerine getirmeye yönelik bir adım attığını duyurdu.
Şirket, yerleşik değerlendirmenin yeni bir alan olması nedeniyle bunun nasıl gerçekleştirileceğine ilişkin ayrıntıların hâlâ netleştirildiğini söyledi.
Duyuruya göre Anthropic ve Accenture, önümüzdeki beş yıl içinde projeye ayrı ayrı en az 1 milyar dolar yatırım yapmayı bekliyor.
Anthropic çalışmaları doğrudan finanse edecek
Anthropic, bağımsız değerlendirmelerin finanse edilmesi için hâlihazırda bir sistem bulunmadığını, bu nedenle uzun vadeli finansmanın ortak havuzlardan veya hükümet kaynaklarından gelmesi gerektiğini belirtti; ancak çalışmaların aciliyeti nedeniyle Accentureın çalışmalarını doğrudan finanse edecek.
Ortaklık münhasır değil ve Anthropic, önümüzdeki haftalarda birlikte çalışacağı diğer değerlendiricileri de duyurmayı bekliyor.
Şirket Cuma günü yaptığı açıklamada, Accentureın Faculty biriminin dünyanın önde gelen yapay zeka laboratuvarlarından bazıları için modelleri test etme ve değerlendirme konusunda, ayrıca tasarım gereği güvenli ve etik olan karmaşık yapay zeka sistemleri geliştirme alanında uzman olduğunu söyledi.
Accenture‘ın yönetim kurulu başkanı ve CEO’su Julie Sweet, “Yerleşik değerlendirme gelişmekte olan bir alan ve ileriye dönük güvenlik ekosisteminin önemli bir parçası olarak gördüğümüz yerleşik değerlendiricilerin gelişimini hızlandırmaya yardımcı olmak için Anthropic ile ortaklık kurmayı sabırsızlıkla bekliyoruz” dedi.