Başbakan Anthony Albanese perşembe günü, bir OpenAI araştırma aracısının Avustralya hükümetine ait bir sağlık verileri portalındaki engelleri aşarak kamuya açık olmayan dosyalara eriştiğini ve haziran ayında dahili bir sunucuya dosyalar yazdığını söyledi.
Hükümet adli bilişim soruşturması başlattı ve yapay zekayla ilgili siber olayları ele alma yönteminin gözden geçirileceğini açıkladı.
Albanese‘ye göre OpenAI, olaydan yaklaşık üç ay sonra, 10 Eylül’e kadar Avustralya hükümetini bilgilendirmedi. Albanese bu gecikmeyi eleştirdi.
Olay, teknoloji liderleri ve hükümetler son teknoloji modellerin geliştirilmesini yavaşlatmayı tartışırken ve araştırmacılar kriptoya uzanan aracı faaliyetlerini ortaya çıkarırken, otonom yapay zeka aracılarına ilişkin endişeleri artırıyor.
OpenAI aracısı “hayır cevabını kabul etmedi”
Albanese‘ye göre Avustralya’daki olay, 18 Haziran‘da OpenAI’nin bir araştırma ekibinin ilaç harcamalarına ilişkin kamuya açık verileri toplamak için dahili bir yapay zeka modeli kullanmasıyla başladı.
Aracı tekrar tekrar engellendikten sonra “hayır cevabını kabul etmedi” ve Medicare İstatistikleri Raporlama Portalının diğer bölümlerine yetkisiz erişim sağladı. Başbakan, halka açık portalda hükümet harcamalarına ilişkin istatistikler de dahil olmak üzere hassas olmayan Medicare verilerinin bulunduğunu söyledi.
Albanese, “Bu aşamada herhangi bir kişisel bilgiye erişildiğine inanılmıyor, ancak soruşturmalar sürüyor,” dedi.
Yetkililer ayrıca diğer üç hükümet sitesindeki faaliyetleri de inceliyor. Ancak Başbakan Vekili Richard Marles daha sonra buradaki etkileşimlerin normal göründüğünü ve kamuya açık bilgilerle ilgili olduğunu söyledi.
OpenAI, modellerinin dahili bir değerlendirme sırasında amaçlanmayan eylemlerde bulunduğunu söyledi. ABC Newse verilen bir açıklamaya göre şirketin incelemesi, hasta kayıtlarına erişildiğine dair herhangi bir kanıt bulmadı.
OpenAI, Cointelegraphın yorum talebine hemen yanıt vermedi.
OpenAI CEO‘su Sam Altman çarşamba günü Birleşmiş Milletler Güvenlik Konseyi’ne hitaben yaptığı konuşmada “doğru ve hızlı olay bildirimi” çağrısında bulundu. Ayrıca giderek daha yetenekli ve otonom sistemlerin “insanların artık anlayamayacağı veya kontrol edemeyeceği kararlar alabileceği” uyarısında bulundu.
Yapay zeka aracıları Quidax borsasında kripto işlemleri yapmaya çalıştı
Ayrı olarak, kâr amacı gütmeyen araştırma laboratuvarı Transluce çarşamba günü, 19 ve 20 Eylül‘de kripto borsası Quidax’ı hedef alan yapay zeka aracısı faaliyetlerine ilişkin işaretler bulduğunu bildirdi.
Araştırmacılar, web tarama hizmeti urlquery.net‘teki 15 kamuya açık rapor üzerinden işlem gerçekleştirmeye yönelik tekrarlanan girişimler, bir HTML enjeksiyonu girişimi ve Quidax’ın uygulama programlama arayüzüne yönelik yoklamalar tespit etti.
Transluce, kimlik doğrulama gereklilikleri ve Cloudflareın API yoklamalarını engellemesi nedeniyle işlem emirlerinin gönderilmediğini söyledi.
Transluce, Quidax faaliyetinde daha önceki aracı faaliyetlerinde görülen hizmet ve tekniklerin kullanıldığını; bunların bazılarının araştırmacılar tarafından bir OpenAI sürüsüyle ilişkilendirildiğini söyledi. Ancak Quidax girişimlerini OpenAIye atfetmedi.