Bridgewater के मैनेजिंग चीफ इन्वेस्टमेंट ऑफिसर Greg Jensen का कहना है कि आर्टिफिशियल इंटेलिजेंस (AI) के बारे में तब तक कुछ नहीं किया जाएगा जब तक कि यह लोगों की जान लेना शुरू नहीं कर देता। वह चाहते हैं कि इस समस्या पर उससे पहले ही ध्यान दिया जाए।
उनकी चेतावनी ऐसे समय में आई है जब सबसे बड़े AI लैब्स के रिसर्चर्स द्वारा लगातार सेफ्टी वॉर्निंग्स दी जा रही हैं।
Bridgewater CIO ने AI को लेकर चेतावनी दी, फरवरी 2020 का किया जिक्र
Jensen OpenAI और Anthropic के शुरुआती समर्थकों में से एक थे। उन्होंने Bloomberg के Odd Lots पॉडकास्ट में अपनी राय रखी। Jensen ने मौजूदा AI माहौल की तुलना उस समय से की जब COVID-19 अमेरिका तक नहीं पहुंचा था।
“दुर्भाग्य से, यह ठीक वैसा ही है जैसा फरवरी 2020 में था… जब तक AI लोगों को मारना शुरू नहीं करता, इतिहास दिखाता है कि हम कुछ नहीं करेंगे, लेकिन हमें उस स्थिति का सामना करना पड़ेगा। ऐसा जरूरी होगा, और बहुत बेहतर होगा अगर हम इससे पहले ही इसका हल निकालना शुरू कर दें,” उन्होंने कहा।
उन्होंने जुलाई में हुई उस घटना की तरफ इशारा किया जिसमें OpenAI के मॉडल एक आइसोलेटेड टेस्ट एनवायरनमेंट से बाहर निकल गए थे और Hugging Face सिस्टम्स को हैक कर लिया था।
UK AI Security Institute ने पाया कि Anthropic के Mythos 5 पर बने एक AI एजेंट ने साइबर टेस्टिंग के दौरान मैलिसियस कोड पास कराने के लिए फेक आईडेंटिटी बनाई और एक इंसानी मेंटेनर को धोखा दिया।
“यह एक बड़ी वार्निंग होनी चाहिए। सबको इसे ऐसे देखना चाहिए जैसे यहां कोई मर गया हो, ये अपराध कर रहा है, छुप-छुपकर ये सब काम कर रहा है, दूसरे एजेंट्स के साथ कोऑर्डिनेट कर रहा है, खुद को सैक्रिफाइस कर रहा है—ऐसी सभी चीजें,” उन्होंने जोड़ा।
लेटेस्ट न्यूज़ सबसे पहले पाने के लिए हमें X पर फॉलो करें
Jensen का कहना है कि AI डिजास्टर की संभावना चिंता से कहीं ज्यादा है
रेग्युलेशन के बिना, Jensen को उम्मीद है कि अगले दो सालों में या तो AI के जरिए कोई बड़ा फाइनेंशियल इंसिडेंट होगा या फिर कोई ऐसी physical डिजास्टर जिसमें लोगों की जान जा सकती है।
“इस बात की संभावना कि मैं सही हूं, उतनी ज्यादा है जितनी किसी को भी कंफर्टेबल नहीं करनी चाहिए। मुझे नहीं पता ये 30% है, 60% है या कुछ और, लेकिन यह बहुत ज्यादा है और हम बस ऐसे ही उसका सामना नहीं कर रहे, जैसे फरवरी 2020 में हुआ था,” उन्होंने कहा।
Jensen चाहते हैं कि AI लैब्स पर फॉर्मल रिव्यू हो, जिसमें स्टाफ से शपथ लेकर सवाल पूछे जाएं। उनका यह भी मानना है कि डिवेलपर्स को उनके सिस्टम द्वारा किए गए अपराधों की जिम्मेदारी लेनी चाहिए।
हाल ही में इंडस्ट्री में कई चेतावनियां मिल रही हैं, जिसमें OpenAI और 100 से ज्यादा कंपनियों की ओर से एक ओपन लेटर भी शामिल है, जिसमें AI आधारित साइबरअटैक के बारे में चेतावनी दी गई है। इसके अलावा, Congress भी अब इस मुद्दे को गंभीरता से ले रही है।
एक Senate बिल प्रस्तावित कर रहा है कि फ्रंटियर डेवेलपमेंट को तब तक रोका जाए जब तक केंद्र सरकार के सेफ्टी स्टैंडर्ड्स लागू नहीं हो जाते। वहीं, Frontier बिल में स्वतंत्र ऑडिट और घटना की रिपोर्टिंग को अनिवार्य किया गया है।