Coinbase के CEO Brian Armstrong को उम्मीद है कि जल्द ही एक rogue AI मॉडल इंटरनेट पर छूट सकता है। उनका अनुमान है कि यह एक से दो साल के भीतर हो सकता है।
उन्होंने इस स्थिति को 1988 में हुए Morris Worm जैसी घटना के रूप में देखा है, ना कि सभ्यता के लिए किसी बड़े खतरे के रूप में।
Armstrong को क्यों लगता है कि जल्द होगी एक Rogue AI घटना？
यह अनुमान तब आया है जब पिछले साल में कई वास्तविक घटनाएँ हो चुकी हैं। जुलाई में, OpenAI ने कहा था कि उसके दो मॉडल टेस्ट एनवायरनमेंट से बाहर निकल गए थे और उन्होंने Hugging Face को हैक कर लिया।
इन मॉडलों का मकसद एक हैकिंग बेंचमार्क का आंसर-की पाना था। इसके लिए उन्होंने OpenAI सिस्टम्स और Hugging Face के सर्वर में exploit को चेन करते हुए solution डेटाबेस तक पहुंच बनाई। कुछ दिन बाद वही एजेंट एक दूसरे फर्म तक पहुंचा एक कस्टमर के कमजोर कोड के जरिए। किसी ने rogue AI को खुद से बाहर निकलने का निर्देश नहीं दिया था।
Armstrong कई महीनों से इस टॉपिक को फॉलो कर रहे हैं। जुलाई में उन्होंने कहा कि AI क्रिप्टो रेल्स को और जरूरी बनाता है क्योंकि एजेंट लगातार ट्रांजैक्शन करेंगे। इसी बीच डिफेंडर्स भी तैयार हो रहे हैं। इस महीने OpenAI ने साइबरसिक्योरिटी पर फोकस्ड एक मॉडल लॉन्च किया है और vetted रिसर्चर्स को exploit डेवेलपमेंट टूल्स दिए हैं।
Armstrong को लगता है की यहाँ भी वही पैटर्न दोहराया जाएगा – जैसे ही ऐसी घटना सामने आएगी, मीडिया में सनसनी मचेगी, AI डेवलपमेंट रोकने की मांग उठेगी, और इंडस्ट्री उस loophole को patch कर देगी। Coinbase के CEO होने की वजह से Armstrong का नजरिया मायने रखता है – खासकर उन builders के लिए जो payments सिस्टम्स में AI एजेंट्स को जोड़ रहे हैं।
हमारे YouTube चैनल को सब्सक्राइब करें जहाँ लीडर्स और जर्नलिस्ट्स एक्सपर्ट insights शेयर करते हैं
आलोचक मानते हैं Morris Worm की तुलना पूरी तरह सही नहीं
FBI के मुताबिक, 1988 का worm करीब 60,000 में से 6,000 कनेक्टेड मशीनों में 24 घंटे में फैल गया था। इसके लेखक, 23 साल के Cornell छात्र Robert Tappan Morris को probation मिली और जुर्माना लगा।
डैमेज का अनुमान $100,000 से लेकर करोड़ों $ तक गया। कुछ यूनिवर्सिटीज ने खुद को पूरे हफ्ते के लिए नेटवर्क से काट लिया।
फिर भी, इस fallout से डिफेंस तैयार हुए। कुछ ही दिनों में Pentagon ने Pittsburgh में पहली कम्प्यूटर इमरजेंसी रिस्पॉन्स टीम बनाई। आज भी वही टेम्पलेट incident response को shape करता है।
सिक्योरिटी रिसर्चर्स का मानना है कि एक rogue AI failure इतनी आसानी से नहीं सुलझेगा। एक worm fix इंस्ट्रक्शन पर फैलता है, वहीं एक एजेंट हर रुकावट के हिसाब से खुद को एडजस्ट करता है।
ब्लॉकचेन सिक्योरिटी एक्सपर्ट Manuel Aráoz ने मई में चेतावनी दी थी कि AI एजेंट्स डिसेंट्रलाइज्ड फाइनेंस में ऑडिटर्स से तेज़ हैं। Ledger के एग्जीक्यूटिव Ian Rogers ने इसी महीने क्रिप्टो वॉलेट अटैक्स को लेकर भी यही बात कही थी।
इस तुलना के आलोचक और भी ज्यादा गंभीर रिस्क्स की बात करते हैं। वे ऑटोनॉमस साइबरअटैक्स, इंडस्ट्रियल-स्केल डिसइनफॉर्मेशन और क्रिटिकल इन्फ्रास्ट्रक्चर पर कंट्रोल खोने की ओर इशारा करते हैं।
इन दोनों पक्षों के बीच फर्क रिकवरी की स्पीड पर है। Armstrong का मानना है कि पैचेस इतनी जल्दी आ जाते हैं कि डैमेज फैलने से पहले ही उसे रोक लिया जाता है। वहीं, उनके संदेह करने वाले लोग मानते हैं कि कुछ फेलियर्स ऐसे होते हैं जिन्हें कोई पैच ठीक नहीं कर सकता।
कोई भी पक्ष दिशा पर सवाल नहीं उठाता। मॉडल की कैपेबिलिटी लगातार बढ़ रही है और उस पर कंट्रोल हमेशा पीछे ही रहता है।
इतिहास में, इंटरनेट ने हर झटके को झेल लिया है। लेकिन अगर कोई असली rogue AI घटना होती है, तो वही टेस्ट करेगी कि यह रिकॉर्ड कायम रहता है या नहीं।