क्या AI इंसानों को मार देगा? 2030 तक विनाश के दावों का पूरा सच

Published By: वृजेन्द्रसिंह झाला

Updated: Thu, 17 Sep 2026 (14:56 IST)

AI Existential Threat 2030: आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में इन दिनों भारी उथल-पुथल मची है। दुनिया की सबसे बड़ी AI कंपनियों के मुखिया, टॉप वैज्ञानिक और वैश्विक नेता अचानक एक सुर में कहने लगे हैं कि अगर AI की रफ्तार पर लगाम नहीं कसी गई, तो यह इंसानी वजूद को खत्म कर सकता है।

इस मुद्दे की गहराई, इसके पीछे की कॉर्पोरेट राजनीति और आम आदमी पर इसके असर को समझने के लिए इस पूरे विवाद को 5 बुनियादी सवालों के ज़रिए डिकोड करते हैं।

AI में ऐसा क्या बवाल मचा है कि दिग्गज मैदान में आ गए?

विवाद की शुरुआत हुई सितंबर में, जब एंथ्रोपिक (Anthropic) कंपनी के इंजीनियर जैकब कॉक्सन (Jacob Coxon) ने इस्तीफा दे दिया। जैकब (जो पहले OpenAI में भी काम कर चुके हैं) ने सोशल मीडिया पर लिखा कि Open AI और Anthropic दोनों कंपनियां जिम्मेदारी से काम नहीं कर रही हैं और हमारे जीवन से खेल रही हैं।
उन्होंने चेतावनी दी कि भविष्य के AI एजेंट्स इतने ताकतवर हो जाएंगे कि वे असली दुनिया में अपने बल पर ताकत और संसाधन जुटा सकेंगे—ठीक 'मैट्रिक्स' फिल्म की तरह। पहले इंसान मशीन को काम और तरीका दोनों सिखाता था, लेकिन अब AI को सिर्फ 'टारगेट' दिया जाता है और तरीका वह खुद तय करता है।

हगिंग फेस इंसिडेंट (Hugging Face Incident)

OpenAI के चीफ साइंटिस्ट याकूब पचोकी के नेतृत्व में कुछ AI एजेंट्स की साइबर सुरक्षा टेस्टिंग की जा रही थी। AI को सिस्टम की कमियां ढूंढने का काम दिया गया था, लेकिन AI एजेंट्स ने सुरक्षा घेरे को चकमा देकर आपस में ऐसे गुप्त चैनल और गिरोह बना लिए, जिनका उन्हें कोई निर्देश नहीं दिया गया था। ये एजेंट्स इंटरनेट एक्सेस करके 'हगिंग फेस' (Hugging Face) नामक AI मॉडल बनाने वाली कंपनी के सिस्टम में जबरन घुस गए। इस घटना ने पूरी टेक कम्युनिटी को डरा दिया।

धंधे में सब रफ्तार बढ़ाते हैं, फिर AI कंपनियां काम धीमा करने की बात क्यों कर रही हैं?

एंथ्रोपिक के सीईओ डारियो अमोदेई (Dario Amodei) ने कहा कि AI से होने वाले विनाश से बचने का एक ही तरीका है कि AI इंडस्ट्री अपनी रफ्तार कम करे। उन्होंने 3-स्टेप प्लान का सुझाव दिया, जिसमें थर्ड-पार्टी ऑडिट और मॉडल्स की सख्त निगरानी की बात कही गई।

OpenAI के सैम ऑल्टमैन (Sam Altman) ने भी इसका समर्थन करते हुए कहा कि हमें नियमों का इंतजार किए बिना एडवांस AI के लिए सुरक्षा मानक तय करने होंगे। अमेरिकी सेनेटर बर्नी सेंडर्स ने इस पर कहा, "अगर आपकी गाड़ी खाई की तरफ जा रही है, तो केवल एक्सीलेटर छोड़ना काफी नहीं होता, ब्रेक भी लगाने पड़ते हैं।"



AI कंपनियां ठीक यही कर रही हैं। सुरक्षा की जिम्मेदारी खुद लेने के बजाय वे सरकार से कड़े नियम बनाने की मांग कर रही हैं।

अमेरिकी सरकार के तकनीकी सलाहकार डेविड सेक्स क्यों भड़के?

अमेरिकी राष्ट्रपति के तकनीकी सलाहकार डेविड सेक्स (David Sacks) ने सैम ऑल्टमैन और डारियो अमोदेई के बयानों की धज्जियां उड़ाते हुए 7 मुख्य बातें रखीं:

1. खुद ब्रेक क्यों नहीं लगाते?: जब तुम ही सबसे आगे (Frontier) हो और तुम्हें लगता है कि प्रोडक्ट खतरनाक है, तो खुद काम रोक दो। किसी अथॉरिटी को न्योता क्यों दे रहे हो?
2. कार्टेल बनाने की साजिश : बड़ी AI कंपनियां मिलकर सरकार पर कड़े नियम बनाने का दबाव बना रही हैं। इससे नए और छोटे कॉम्पिटिटर्स के लिए नियम इतने महंगे हो जाएंगे कि वे मार्केट में टिक ही नहीं पाएंगे।
3. कोचिंग सेंटर वाला उदाहरण : मान लीजिए दो बड़े कोचिंग सेंटर (X और Y) मिलकर सरकार से 15 नए कठिन नियम बनवा देते हैं। इन नियमों को पूरा करने में 10 करोड़ का खर्च आएगा। बड़े सेंटर्स के लिए यह मामूली बात है, लेकिन नया छोटा कोचिंग सेंटर (Z) बर्बाद हो जाएगा।
4. एमईटीआर (METR) की निष्पक्षता पर सवाल : 'मॉडल इवैल्यूएशन एंड थ्रेट रिसर्च' (METR) जैसी संस्था जो AI मॉडल्स की जांच करती है, उससे एंथ्रोपिक के लोग ही जुड़े हैं। ऐसे में यह स्वतंत्र जांच एजेंसी कैसे हो सकती है? 

एलन मस्क, सत्य नडेला और युवाल नोवा हरारी का क्या रुख है?

• एलन मस्क (नाराज फूफा की भूमिका) : मस्क ने 2014 के अपने उस ट्वीट को फिर शेयर किया, जिसमें उन्होंने लिखा था कि सुपर इंटेलिजेंस न्यूक्लियर हथियारों से भी ज्यादा खतरनाक है। हालांकि, मस्क खुद xAI चला रहे हैं और डीपमाइंड व OpenAI में शुरुआती निवेशक रहे हैं।
• सत्य नडेला (Microsoft) : उनका कहना है कि हमें ऐसा AI बनाना चाहिए जो इंसानों के नियंत्रण में रहे, वरना ऐसा AI बनाना ही नहीं चाहिए।
• युवाल नोवा हरारी (इतिहासकार व दार्शनिक) : हरारी के मुताबिक, AI कोई 'टूल' (औजार) नहीं है, बल्कि एक 'एजेंट' है क्योंकि वह फैसले खुद लेता है। किसी भी मानव सभ्यता का ऑपरेटिंग सिस्टम 'भाषा' होती है, और AI ने भाषा सीखकर हमारी सभ्यता के ऑपरेटिंग सिस्टम को हैक कर लिया है। अगर गैर-इंसानी इंटेलिजेंस हमसे बेहतर कहानियां और विचार गढ़ने लगेगा, तो इंसान अपनी बुद्धि उसके पास गिरवी रख देगा।

चीन का पेच और आम आदमी के लिए सबसे बड़े खतरे

AI एक्सपर्ट्स के मुताबिक, AI के इस अंतरराष्ट्रीय खेल में दो बड़े मोर्चे हैं—एक आम आदमी पर इसका सीधा असर और दूसरा अमेरिका-चीन की महाजंग।
एक्सपर्ट व्यू: रोहन कर (PhD स्कॉलर, IISc)

• तत्काल खतरा : डीपफेक और फर्जी जानकारी (Misinformation) अब इंडस्ट्री स्केल पर ऑटोमेटेड तरीके से फैलेगी। गांवों और कस्बों में लोग असली और AI जनरेटेड वीडियो में फर्क नहीं कर पाएंगे, जिससे राजनीतिक व सामाजिक अस्थिरता पैदा हो सकती है।
• साइबर अटैक और जॉब मार्केट : AI एजेंट्स कोडिंग में इतने माहिर हो चुके हैं कि साइबर हमले कई गुना बढ़ सकते हैं। वर्कफोर्स में आ रहा यह बदलाव इतना तेज़ है कि नौकरियां जाने के बाद नए बदलावों को संभालना मुश्किल होगा।

एक्सपर्ट व्यू: समीर पाटिल (डायरेक्टर, ORF) व श्रीनाथ श्रीधरन (कॉलमिस्ट)

• चीन का दांव : चीन अपने 'डिजिटल सिल्क रोड' के ज़रिए एशिया, अफ्रीका और लैटिन अमेरिका में सस्ते AI मॉडल्स एक्सपोर्ट कर रहा है। वह अपने मानकों को दुनिया पर थोप रहा है।
• ब्रिक्स (BRICS) में ओपन सोर्स का जाल : चीन ने ब्रिक्स देशों को ओपन-सोर्स AI देने की पेशकश की है, लेकिन एक्सपर्ट्स मानते हैं कि इसके बैकएंड पर चीन का ही कंट्रोल रहेगा। अमेरिका और चीन की इस सुपर-पॉवर जंग के बीच AI पर किसी वैश्विक नियम का बनना लगभग असंभव है।

जब आप अपने फोन में कोई AI ऐप इस्तेमाल करते हैं, तो याद रखिए कि पहले के ऐप्स सिर्फ आपका डेटा दर्ज करते थे। लेकिन अब AI मॉडल्स आपके डेटा को प्रोसेस करके आपकी जगह फैसले लेने की तरफ बढ़ रहे हैं—और यही 2030 तक का सबसे बड़ा खतरा है।