Ethereum के को-फाउंडर Vitalik Buterin ने Moonshot AI के फैसले का समर्थन किया है जिसमें उन्होंने अपने नए Kimi K3.1 Pro मॉडल से टॉप-एंड हैकिंग स्किल्स हटा दी हैं। उनकी नजर में, AI की क्षमताओं को सीमित करना इस बात को सीमित करने से बेहतर है कि इसे कौन यूज़ कर सकता है।
हालांकि, इस तरह की सेफगार्ड का मापनीय असर है। Moonshot के अनुसार, फ़िल्टर किए गए मॉडल ने अपनी इंटरनल एक्सप्लॉइट बेंचमार्क पर 81% टास्क सॉल्व किए, जबकि अनफिल्टर्ड वर्जन ने 90.5% टास्क सॉल्व किए।
Vitalik Buterin क्यों पसंद करते हैं AI की लिमिट्स को यूज़र चेक्स पर
Buterin ने अपनी राय शेयर करते हुए कहा कि यूज़ केस को डिस्क्रिमिनेट करना यूज़र्स को डिस्क्रिमिनेट करने से कम हानिकारक है।
Moonshot, जोकि एक बीजिंग बेस्ड AI स्टार्टअप है, 4 नवंबर तक इस मॉडल के ओपन वेट्स जारी करने की प्लानिंग कर रहा है। इसके बाद कोई भी इसे डाउनलोड और अपने हार्डवेयर पर चला सकता है।
इसी वजह से कंपनी ने कहा कि उसने अपने ट्रेनिंग डेटा और रीइन्फोर्समेंट लर्निंग एनवायरनमेंट से साइबर से जुड़े डेटा हटा दिए हैं। जनरल कोडिंग टास्क उसमें अभी भी शामिल हैं।
Vitalik Buterin के मुताबिक, AI-पावर्ड अटैक्स आखिरकार पूरी ताकत के साथ होंगे। तब तक डेवलपर्स को अपने सिस्टम मजबूत करने, लेगेसी कोड जांचने और नई सॉफ्टवेयर को वेरिफाई करने के लिए समय चाहिए।
खतरा पहले ही दिख रहा है। इसी साल Binance Research ने पाया कि AI स्मार्ट कॉन्ट्रैक्ट्स में एक्सप्लॉइट्स का पता लगाने की तुलना में लगभग दोगुनी बार सफल हो जाता है।
हमारे YouTube चैनल को सब्सक्राइब करें और एक्सपर्ट्स एवं जर्नलिस्ट्स की इनसाइट्स देखें
अगर AI रिस्क की पहली वेव बिगड़ गई तो क्या होगा？
Buterin ने इस अल्टरनेटिव के बारे में भी वॉर्न किया। यदि पहली वेव गलत दिशा में जाती है, तो वे मानते हैं कि लॉक-डाउन मॉडल्स, हर चीज पर KYC चेक्स और इन्ट्रूसिव सर्विलांस देखने को मिल सकता है।
ऐसे हालात में, AI एक्सेस क्रेडेंशियल्स और नेशनलिटी पर डिपेंड कर सकती है। उन्होंने लिखा, कुछ लोगों को सेकंड, थर्ड, या फोर्थ क्लास यूज़र बना दिया जाएगा।
Vitalik Buterin लंबे समय से अपने खुद के हार्डवेयर पर ओपन AI मॉडल्स रन करने के फेवर में हैं, जैसा कि उनके लोकल AI लैपटॉप टेस्ट्स में दिखाया गया था।
फिर भी, उन्हें नहीं लगता कि यह फ़िल्टरिंग हमेशा चलेगी। जब एक यूज़र ने उनसे पूछा कि क्या दूसरी लैब्स ऐसी क्षमताएं बना लेंगी, तो उन्होंने कहा- हां, वे बनाएंगे।
असल में, Moonshot के मुताबिक, DeepSeek के राइवल ओपन मॉडल V4.1-Flash ने इसी बेंचमार्क पर पहले ही 85.7% स्कोर हासिल कर लिया है।
Vitalik Buterin के लिए, AI सुरक्षा अब एक स्थायी रुकावट नहीं, बल्कि समय के साथ दौड़ बन गई है। इस दौड़ में वे डिफेंडर्स आगे हैं, जो उनके अतिरिक्त क्रिप्टो सिक्योरिटी उपाय अटैकर्स के पकड़ने से पहले ही अपना लेते हैं।