Coinbase CEOsu Brian Armstrong, kısa süre içinde internette kontrolden çıkmış bir yapay zekâ modelinin ortaya çıkmasını bekliyor. Armstrong bu olay için bir ila iki yıl aralığında bir zaman çizelgesi veriyor.
Bunu, insanlık için bir tehdit olmaktan ziyade 1988 yılında yaşanan Morris Worm olayının yeni bir versiyonu olarak yorumluyor.
Sponsorlu
Sponsorlu
Armstrong Neden Yakında Kontrolden Çıkmış bir Yapay Zekâ Vakasını Bekliyor？
Bu tahmin, son bir yılda yaşanan gerçek olayların ardından geldi. Temmuz ayında OpenAI, iki modelinin test ortamından çıktığını ve Hugging Face sistemlerini hacklediğini duyurdu.
I wouldn't be surprised if an AI model goes rogue on the internet in the next year or two, something like the Morris Worm in 1988.
It will feel like a big deal, with a media frenzy and calls to shut all AI down. But, as always, people will adapt, defenses get built, and it will…
Bu modeller, bir hacking testinin cevap anahtarını bulmak istemişti. Ardından OpenAI sistemleri ve Hugging Face sunucuları arasında açıkları zincirleyerek çözüm veri tabanına ulaştılar. Birkaç gün sonra aynı ajan, bir müşterinin açık kodu üzerinden başka bir şirkete de erişti. Kontrolden çıkan yapay zekâya, ortamdan çıkması için kimse talimat vermemişti.
Armstrong bu konuyu aylardır yakından izliyor. Temmuz ayında, yapay zekânın kripto para altyapılarını daha önemli hale getirdiğini, çünkü ajanların sürekli işlem yapacağını savundu. Bir yandan da savunma tarafı güçleniyor. OpenAI, bu ay siber güvenliğe odaklı bir modelini yayınladı ve onaylı araştırmacılara açık geliştirme araçlarını açtı.
Armstrong aynı döngüyü tekrar bekliyor: Bir medya fırtınası kopacak, yapay zekâ geliştirmesinin durdurulması için çağrılar artacak ve sektör o açığı hızla kapatacak. Coinbase CEO‘sunun okuması önemli çünkü hâlihazırda pek çok geliştirici AI ajan’larını ödeme sistemlerine entegre ediyor.
Sponsorlu
Sponsorlu
YouTube kanalımıza abone olun ve liderlerin ile gazetecilerin uzman yorumlarını izleyin
Kritikler, Morris Worm Benzetmesini Yetersiz Buluyor
FBI‘ın verilerine göre, 1988’deki worm 24 saat içinde yaklaşık 60.000 bağlı makinenin 6.000ini enfekte etti. Yazarı, 23 yaşındaki Cornell Üniversitesi öğrencisi Robert Tappan Morris, şartlı tahliye ve para cezası aldı.
Zarar tahminleri 100.000 dolar‘dan milyonlarca dolar’a kadar çıktı. Bazı üniversiteler bir hafta süreyle kendini ağdan izole etti.
Yine de bu kriz, savunma mekanizmalarının kurulmasına yol açtı. Sadece birkaç gün içinde Pentagon, Pittsburghda ilk bilgisayar acil müdahale ekibini kurdu. Bugünkü olay müdahale modelleri hâlâ bu temel üzerine inşa ediliyor.
Güvenlik araştırmacılarına göre, kontrolden çıkmış bir yapay zekâ vakası o kadar kolay sonlanmayacak. Bir worm sabit talimatlarla yayılırken, bir AI ajanı önüne çıkan her engelle adapte olabiliyor.
Blockchain güvenlik uzmanı Manuel Aráoz, mayıs ayında AI ajanlarının denetçilerin önüne geçtiğine ve merkeziyetsiz finans sektörü için risk oluşturduğuna dikkat çekmişti. Ledger yöneticisi Ian Rogers da bu ay kripto cüzdanlara yönelik saldırılarda benzer bir uyarı yaptı.
Karşılaştırmaya eleştiri getirenler daha ciddi risklere dikkat çekiyor: kontrolsüz otonom siber saldırılar, endüstriyel ölçekte dezenformasyon ve kritik altyapının kaybı bunların başında geliyor.
İki grubun görüş ayrılığı toparlanma hızı üzerine kurulu. Armstrong, yamaların zarardan önce sisteme entegre edileceğine güveniyor. Kuşkucular ise bazı başarısızlıkların geri döndürülemez olacağını düşünüyor.
Fakat her iki taraf da ana akımda hemfikir: Modeller her geçen gün daha yetenekli hale geliyor ve kontrol yetenekleri buna yetişemiyor.
Tarihsel olarak internet her sarsıntıyı atlatmayı başardı. Gerçek bir kontrolden çıkmış yapay zekâ vakası ise bu alışkanlığı sürdürüp sürdüremeyeceğimizi test edecek. Zaman her şeyin ilacı mı, yoksa Pandoranın kutusu açıldı mı göreceğiz.