“AI इस दशक के अंत तक हम सभी को मार सकता है” – यही बात आज ब्रिटिश AI रिसर्चर Jacob Coxon ने कही, जब उन्होंने Anthropic से अपनी जॉब छोड़ दी।
लेकिन लोग उनकी बातों को सीरियसली क्यों लें？ क्योंकि Coxon का रिज़्यूमे एक कम्पलीट AI इनसाइडर की बेस्ट मिसाल है। Anthropic से पहले, वे OpenAI में थे और ChatGPT 4.5 डेवलपमेंट में टीम का हिस्सा थे।
इसलिए, जाहिर है कि वे सिर्फ डर नहीं फैला रहे, बल्कि सच में चिंता जता रहे हैं？ आइए, उनकी कुछ वाइल्ड वॉर्निंग्स के पीछे के फैक्ट्स को समझते हैं।
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
AI हम सभी को मार सकता है – लेकिन कैसे？
ऐसा नहीं लगता कि Coxon का मतलब है कि Claude या GPT जैसे कोई AI मॉडल फिजिकली किलिंग मशीन बन सकते हैं जैसे Terminator। असल में उनका इशारा है कि AI की सुपरइंटेलिजेंस कैपेबिलिटीज इंसानों की कॉग्निटिव फंक्शन को बेकार बना सकती है।
इसी चिंता को Bill Gates जैसे बड़े नाम भी शेयर कर चुके हैं।
OpenAI का नया ChatGPT 6 Astra मॉडल ये क्लेम करता है कि उसने AGI अचीव कर लिया है, जिसका मतलब है कि अब मशीन इंसानों जैसी सोचने लगी है।
तो, एक AI खुद ही रिसर्च करना और नई AI मॉडल डेवेलप प्रोसेस बना सकता है। ये लिमिटेड लेवल पर पहले से हो रहा है, OpenAI और Anthropic दोनों इसी को कन्फर्म करते हैं।
ऐसे में, जल्द ही AI को अपनी कैपेबिलिटीज बढ़ाने के लिए इंसानों की जरूरत नहीं रहेगी। ऐसे कितनी जॉब्स खत्म हो जाएंगी？
और जब पूरी जनरेशन क्रिएटिव और क्रिटिकल थिंकिंग AI को सौंपना सीख जाएगी, तो सबसे पहले originality मर जाएगी।
शायद इसी मौत की बात Coxon ने अपने वायरल ट्वीट में की थी।
Welcome to AGI. ChatGPT 6 Astra just released
In the announcement, Greg Brockman claims this is the AGI era, and Astra might be the first model there
Here is everything you need to know:
1. It is rolling out to businesses now. Personal accounts over the next few days
2.… pic.twitter.com/zZyHoFdZSi
— Alex Finn (@AlexFinn) September 3, 2026
AI सबकुछ हैक कर सकता है
ये खतरा काफी ज्यादा गंभीर और तुरंत चिंता करने लायक है। करंट जनरेशन के AI मॉडल्स सिस्टम्स को ब्रेक करने और एक्सेस ओवरराइड करने के लिए कैटास्ट्रॉफ़िक कैपेबिलिटी रखते हैं।
कुछ महीने पहले ही, एक AI मॉडल ने खुद को अपनी सैंडबॉक्स्ड डेवेलपमेंट एनवायरनमेंट से हैक कर बाहर भेज दिया और डेवेलपर को बिना किसी प्रॉम्प्ट के ईमेल कर दी। ये बिल्कुल किसी साइ-फाई मूवी जैसी घटना है, जो अब सच हो चुकी है।
GPT-6 Astra अब ऑफिशियली OpenAI के “Critical” साइबरसिक्योरिटी थ्रेशोल्ड को पार कर चुका है। Astra ने ExploitBench पर 100% स्कोर किया है।
सीधा कहें तो, ChatGPT 6 अब किसी भी नॉन या अननोन फ्लॉ को रियल-वर्ल्ड सिस्टम में ढूंढ सकता है और उसे बिना इंसान हैकर की मदद के एक्सप्लॉइट कर सकता है।
दुख की बात है कि इंसानों की सिक्योरिटी की आदतें अभी उस स्तर पर नहीं पहुँची हैं। कितने लोग आज भी Two-Factor Authentication का इस्तेमाल नहीं करते？ कितने लोगों के पास आज भी कमजोर पासवर्ड हैं？ कितने लोग बिना साइट का डिस्क्रिप्शन पढ़े, ब्राउज़र cookies स्वीकार कर लेते हैं？ बहुत ज़्यादा लोग ऐसा करते हैं।
यहीं पर AI से सबसे बड़ा खतरा आ सकता है।
BREAKING: OpenAI's investigation into its AI agents hack of Hugging Face has revealed shocking findings, per Axios.
1. They built an organization – 1,200 AI agents found each other, exchanged 70,000+ messages/files and formed a hierarchy.
2. Some agents risked their own success…
— Bull Theory (@BullTheoryio) August 30, 2026
तो इंसान क्या कर सकते हैं？
असल में, बहुत कुछ किया जा सकता है। लेकिन यह सिर्फ आम लोगों के हाथ में नहीं है। सबसे बड़ी जिम्मेदारी रेग्युलेटर्स और पॉलिसीमेकर्स के ऊपर है। जबकि Artificial Superintelligence का विकास और प्रोग्रेस ज़रूरी है, लेकिन बीच में कुछ ब्रेक्स भी होना चाहिए।
कुछ सराहनीय इनिशिएटिव्स पहले से लिए जा चुके हैं। New York में मेयर Zohran Mamdani ने 8वीं क्लास तक के बच्चों के लिए AI इस्तेमाल पर एक साल का बैन लगाया है, जिससे लगभग 6 लाख स्टूडेंट्स प्रभावित हुए हैं।
EU AI Act दुनियाभर का सबसे व्यापक AI कानून है, जो कुछ AI यूजेज को बैन करता है और पावरफुल जनरल-पर्पज़ मॉडल्स के डेवलपर्स से अपेक्षा करता है कि वे systemic risks की जाँच करें, उन्हें कम करें और अपने मॉडल्स को सुरक्षित रखें।
UK में MPs और Lords ऐसे प्रस्ताव ला रहे हैं, जिससे अथॉरिटीज AI का “kill switch” पा सकती हैं, और ब्रिटेन में सुपरइंटेलिजेंट AI का विकास संभवतः रोका जा सकता है।
Just because technology is everywhere doesnt mean it belongs everywhere.
The tech industry wants us to believe that AI in early education is not only inevitable, but necessary. We don't see it that way.
This week, we announced a moratorium on all generative AI for public… pic.twitter.com/7Ivme25NNd
— Mayor Zohran Kwame Mamdani (@NYCMayor) September 4, 2026
तो, Jacob Coxon ने आज अपनी ट्वीट में जिस डर का ज़िक्र किया है, वह डर सिर्फ उन्हीं में नहीं, बल्कि लाखों लोगों और रेग्युलेटर्स में भी है। अब वे लोग इसपर क्या कदम उठाते हैं, यह तो वक़्त ही बताएगा।