कुछ साल पहले तक आर्टिफिशियल इंटेलिजेंस यानी AI को लेकर कहानी बहुत ज्यादा उलझी हुई नहीं थी. ChatGPT जैसे AI टूल्स आए, लोगों ने सवाल पूछने शुरू किए और कुछ ही महीनों में यह साफ हो गया कि AI सिर्फ एक नया टेक टूल नहीं है. इसके बाद हर बड़ी टेक कंपनी अपनी AI स्ट्रैटेजी लेकर सामने आई. नए मॉडल आए, ज्यादा कंप्यूटिंग लगी, अरबों डॉलर का निवेश हुआ और कंपनियों के बीच ऐसी रेस शुरू हुई जिसमें हर कोई दूसरे से आगे निकलना चाहता था. उस वक्त सवाल यह नहीं था कि AI की रफ्तार कम होनी चाहिए या नहीं, बल्कि सवाल था कि कौन सबसे तेज आगे निकल सकता है. अब मामला उल्टा पड़ता दिखाई दे रहा है.
Anthropic और OpenAI दुनिया की दो बड़ी AI कंपनियां हैं और तमाम पावरफुल मॉडल्स इन्ही के हैं. इन दोनों कंपनियों के सीईओ एक सुर में AI को स्लो करने की बात क्यों कह रहे हैं? कई तरह की थ्योरीज चल रही हैं. एक तबका मान रहा है कि ये AI CEO's ढोंग कर रहे हैं, ताकि इस स्पेस में एकाधिकारवाद यानी मोनोपली बनी रहे. वहीं, कुछ ऐसे भी हैं जिनका मानना है कि अमेरिकी AI कंपनियां चीन से रेस में पिछड़ गई हैं इसलिए सरकार से इसे रेगुलेट करने को कह रही हैं. हालांकि एक बात यहां साफ कर दें कि भले ही अमेरिकी कंपनियां AI को रेगुलेट करने को कह रही हैं, लेकिन अमेरिकी प्रेसिडेंट ट्रंप चाहते हैं कि इसे रेगुलेट ना किया जाए.
एंथ्रोपिक सीईओ डारियो अमोडेई ने फ्रंटियर एआई की रफ्तार को लेकर चिंता जताई है और इसे उन्होंने 'पेस द फ्रंटियर' का नाम दिया है. इसका मतलब एआई डेवलपमेंट को बंद करना नहीं है. उनका तर्क है कि मॉडल्स की कैपेबलिटी जिस स्पीड से बढ़ रही है, सेफ्टी, टेस्टिंग और मॉनिटरिंग उसी स्पीड से आगे नहीं बढ़ रही. अगर यह गैप लगातार बढ़ता गया तो एक वक्त ऐसा आ सकता है जब हमारे पास ज्यादा पावरफुल एआई तो होगा, लेकिन उसे समझने और कंट्रोल करने के लिए जरूरी सिस्टम उतने तैयार नहीं होंगे.
सम्बंधित ख़बरें
एआई अब सिर्फ चैटबॉट नहीं, एजेंट बन रहा है
यहीं से इस पूरी कहानी का सबसे दिलचस्प सवाल शुरू होता है. अगर एआई इतना रिस्की है कि अब उसे स्लो करने की बात हो रही है, तो पिछले कुछ सालों में इसकी रफ्तार बढ़ाने की जरूरत आखिर क्यों थी?
इसका जवाब सिर्फ यह नहीं है कि टेक कंपनियां गलत थीं. ज्यादा कैपेबल मॉडल ज्यादा यूजफुल होते हैं, ज्यादा यूजफुल मॉडल ज्यादा लोग इस्तेमाल करते हैं और ज्यादा इस्तेमाल का मतलब ज्यादा बिजनेस. लेकिन अब एआई जिस दिशा में बढ़ रहा है, उसने पुराने कैलकुलेशन को बदल दिया है.
AI अब सिर्फ चैटबॉट नहीं रह गया है. यह एजेंट की तरफ बढ़ रहा है. यानी ऐसा सिस्टम जो सिर्फ सवाल का जवाब नहीं देता, बल्कि कंप्यूटर चला सकता है, रिसर्च कर सकता है, कोड लिख सकता है, टूल्स इस्तेमाल कर सकता है और कई स्टेप वाला काम खुद पूरा कर सकता है.
There are two ways AI progress could go very badly and that we must avoid.
First, we could lose control of the future to AI. This is unacceptable; we are unapologetically on Team Humanity, and AI must always serve people. To ensure that, we need ways to ensure that alignment and… https://t.co/GK7XcoOh3v
— Sam Altman (@sama) September 14, 2026
अगर AI सिर्फ एक जवाब देता है तो इंसान उस जवाब को चेक कर सकता है. लेकिन अगर वही सिस्टम किसी गोल को पूरा करने के लिए दर्जनों या सैकड़ों एक्शन लेने लगे तो मामला अलग हो जाता है. वह किस रास्ते को चुनेगा, किस जानकारी पर भरोसा करेगा और किसी अनएक्सपेक्टेड स्थिति में क्या करेगा, इसे हर बार पहले से प्रेडिक्ट करना आसान नहीं है.
इसी को AI सेफ्टी की भाषा में एलाइनमेंट की समस्या कहा जाता है. आसान भाषा में इसका मतलब है कि एआई जो करना चाहता है और इंसान जो चाहते हैं, दोनों के बीच कितना मैच है.
OpenAI के चीफ साइंटिस्ट जैकब पाचोकी ने 'An Alien Mind' में इसी चिंता को सामने रखा. उनका कहना है कि आज के रीजनिंग मॉडल कंप्यूटर और ग्राफिकल इंटरफेस इस्तेमाल कर सकते हैं, इंसानों और दूसरे एआई सिस्टम के साथ काम कर सकते हैं और रिसर्च जैसे काम कर सकते हैं. लेकिन एलाइनमेंट और मॉनिटरिंग की समस्या अभी उस लेवल पर सॉल्व नहीं हुई है जहां बिना बड़ी चिंता के लगातार मैक्सिमम स्पीड से आगे बढ़ा जा सके.
अंदर से उठ रही हैं डराने वाली आवाजें, लेकिन क्या यह साइंस की राय है?
इसी बहस में एंथ्रोपिक के रिसर्चर जैकब कॉक्सन का रिजाइन भी एक अलग लेयर जोड़ता है. कॉक्सन ने एआई इंडस्ट्री की दिशा और सेल्फ-इम्प्रूविंग एआई की तरफ बढ़ती रेस को लेकर गंभीर चिंता जताई. उनके कलीग इवान ह्यूबिंगर ने अपनी पर्सनल एस्टिमेट में कहा कि अगले दशक में एआई की वजह से ह्यूमैनिटी खत्म होने की संभावना दस फीसदी से ज्यादा हो सकती है. यहां सावधानी जरूरी है. यह कोई साइंटिफिक कंसेंसस नहीं है और न ही कोई साबित भविष्यवाणी. यह एक रिसर्चर का पर्सनल रिस्क एस्टिमेट है.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
कॉक्सन को लेकर भी दो तरह की बातें हो रही हैं. कुछ लोग उन्हें व्हिसलब्लोअर की तरह पेश कर रहे हैं, जबकि इस लेबल को इस्तेमाल करने में सावधानी जरूरी है. उन्होंने इंडस्ट्री के अंदर से गंभीर चिंता उठाई है, लेकिन उनके मामले को किसी फॉर्मल व्हिसलब्लोअर डिस्क्लोजर की तरह देखना सही नहीं होगा.
दूसरी तरफ यह थ्योरी भी सामने आई कि एआई कंपनियां सेफ्टी का डर दिखाकर फ्यूचर के रेगुलेशन के लिए जमीन तैयार कर रही हैं. लेकिन इसके लिए अभी कोई ठोस सबूत नहीं है. इसलिए कॉक्सन की हर बात को अंतिम सच मानना भी गलत है और उन्हें किसी प्लान्ड पीआर एक्सरसाइज का हिस्सा मान लेना भी.
असल बदलाव शायद AI की कैपेबलिटी में हो रहा है. एआई अब खुद AI डेवलपमेंट को एक्सेलेट करने की दिशा में जा रहा है. अगर कोई मॉडल बेहतर कोड लिख सकता है, रिसर्च कर सकता है और अगली जनरेशन के AI सिस्टम बनाने में इंजीनियर्स की मदद कर सकता है, तो AI डेवलपमेंट की स्पीड सिर्फ इंसानों की प्रोडक्टिविटी पर निर्भर नहीं रहेगी.
रिकर्सिव सेल्फ इंप्रूवमेंट क्या है?
यही रिकर्सिव सेल्फ-इम्प्रूवमेंट वाली चिंता है. यह कहना अभी स्पेकुलेशन होगा कि एआई खुद से अनकंट्रोल्ड तरीके से इवॉल्व होने वाला है. लेकिन एआई को एआई रिसर्च में इस्तेमाल करने की दिशा तेजी से आगे बढ़ रही है. रिकर्सिव सेल्फ डेवेलपमेंट का मतलब ये है कि AI खुद से ही अपना नेक्स्ट वर्जन तैयार कर ले. खुद से ही खुद को ट्रेन करना शुरू कर दे. मान लीजिए एक रोबोट को साइकल ठीक करना आता है, पहले वो 1 घंटे में ठीक करता था, लेकिन खुद से टूल्स सीख कर वो आधे घंटे में ठीक कर रहा है. ऐसे में इसे रोक पाना लगभग नामुमकिन सा लगता है.
अमेरिका बनाम चीन: एआई को स्लो करना इतना आसान क्यों नहीं?
अब कहानी में अमेरिका और चीन को जोड़िए, तो तस्वीर और कॉम्प्लेक्स हो जाती है. अगर एआई सिर्फ एक प्राइवेट टेक्नोलॉजी होता तो शायद स्लोडाउन पर फैसला लेना आसान होता. लेकिन आज एआई इकोनॉमिक पावर, साइंटिफिक रिसर्च, साइबर सिक्योरिटी और मिलिट्री कैपेबलिटी से जुड़ चुका है. अमेरिका के लिए एआई लीडरशिप सिर्फ सिलिकॉन वैली की कॉम्पिटिशन नहीं है, यह नेशनल सिक्योरिटी का मुद्दा भी है. इसलिए वॉशिंगटन के सामने सवाल है कि अगर अमेरिकी कंपनियां अपनी स्पीड कम करती हैं और चीन ऐसा नहीं करता, तो क्या अमेरिका अपनी टेक्नोलॉजिकल लीड खो सकता है.
यही वजह है कि अमेरिकी सरकार का एप्रोच एआई सेफ्टी एडवोकेट्स से अलग दिखाई देता है. ट्रंप ने ब्रॉड एआई स्लोडाउन के विचार को खारिज किया है और अमेरिका के चीन से पीछे न रहने की जरूरत पर जोर दिया है. इस तर्क को पूरी तरह खारिज करना भी आसान नहीं है. अगर एआई आने वाले समय की स्ट्रैटेजिक टेक्नोलॉजी है तो कोई भी सरकार अपनी सबसे बड़ी कॉम्पिटिटर कंट्री को इसमें बड़ा एडवांटेज नहीं देना चाहेगी. लेकिन यही सोच एक खतरनाक साइकल भी बना सकती है, जहां हर देश दूसरे से डरकर स्पीड बढ़ाता रहे और सेफ्टी पीछे छूटती जाए.
चीन वाला एंगल सिर्फ जियोपॉलिटिक्स तक सीमित नहीं है. एंथ्रोपिक ने चीन से जुड़े एआई ऑर्गनाइजेशंस पर अपने क्लॉड मॉडल्स की कैपेबलिटीज को बड़े पैमाने पर डिस्टिलेशन के जरिए हासिल करने की कोशिश का आरोप लगाया है. आसान भाषा में डिस्टिलेशन में एक पावरफुल मॉडल के रिस्पॉन्स का इस्तेमाल करके दूसरे मॉडल को बेहतर बनाया जाता है. टेक्निक अपने आप में गलत नहीं है. सवाल तब उठता है जब किसी दूसरे मॉडल की कैपेबलिटी को बड़े पैमाने पर कॉपी या एक्सट्रैक्ट करने के लिए अनऑथराइज्ड तरीकों का इस्तेमाल किया जाए. यहां भी एंथ्रोपिक के आरोपों को आरोप के रूप में ही देखना चाहिए, अंतिम न्यायिक निष्कर्ष के रूप में नहीं.
AI की रेस में सेफ्टी भी है और बिजनेस भी
यहीं एआई स्लोडाउन की सबसे बड़ी समस्या सामने आती है. समस्या सिर्फ टेक्नोलॉजी नहीं, कोऑर्डिनेशन है. मान लीजिए एंथ्रोपिक अपनी अगली जनरेशन मॉडल को लॉन्च करने में ज्यादा समय लगाती है ताकि सेफ्टी टेस्टिंग बेहतर हो सके. लेकिन उसी दौरान कोई दूसरी कंपनी तेजी से आगे निकल जाती है. तब जिम्मेदारी से काम करने वाली कंपनी को कमर्शियल नुकसान हो सकता है.
अगर एक कंपनी अकेले स्लो होती है तो उसे मार्केट शेयर का डर है. अगर अमेरिका अकेला स्लो होता है तो उसे चीन से पीछे रहने का डर है. यानी हर खिलाड़ी के पास स्लो होने की वजह है, लेकिन फास्ट होने की वजह उससे भी बड़ी है.
इसके बाद आता है बिजनेस एंगल. अगर भविष्य में फ्रंटियर एआई के लिए मैंडेटरी सेफ्टी टेस्टिंग, इंडिपेंडेंट ऑडिट्स, सिक्योरिटी चेक्स और कंटीन्यूअस मॉनिटरिंग जरूरी होती है, तो इसका असर बड़ी और छोटी कंपनियों पर बराबर नहीं पड़ेगा. बड़ी कंपनियों के पास बिलियंस ऑफ डॉलर्स, विशाल कंप्यूटिंग इंफ्रास्ट्रक्चर और अलग से सेफ्टी टीम्स हैं.
छोटी कंपनियों के पास ये संसाधन नहीं होते. इसका मतलब यह नहीं कि ओपनएआई या एंथ्रोपिक जानबूझकर ऐसा रेगुलेशन चाहती हैं जिससे कॉम्पिटिशन खत्म हो जाए. इसके लिए सबूत नहीं हैं. लेकिन यह समझना जरूरी है कि रेगुलेशन सिर्फ सेफ्टी का सवाल नहीं होता, उसका मार्केट इंपैक्ट भी होता है.
यहीं "एआई सीईओ अचानक एवेंजर्स क्यों बन गए?" वाला सवाल दिलचस्प हो जाता है. ओपनएआई, एंथ्रोपिक, गूगल और एक्सएआई एक-दूसरे के कॉम्पिटिटर हैं. इनके बीच टैलेंट, चिप्स, कंप्यूटिंग, कस्टमर्स और इन्वेस्टमेंट के लिए सीधी रेस है. फिर भी फ्रंटियर एआई की सेफ्टी पर इनके स्टेटमेंट्स में कुछ कॉमन ग्राउंड दिखाई देता है.
इसका मतलब कोई सीक्रेट कॉन्सपिरेसी है, ऐसा कहने के लिए कोई सबूत नहीं है. लेकिन सवाल जरूर है कि अगर भविष्य में एआई रेगुलेशन के बड़े नियम बनते हैं तो उनकी शर्तें कौन तय करेगा. सरकारें, इंडिपेंडेंट रिसर्चर्स या वही कंपनियां जो सबसे पावरफुल मॉडल बना रही हैं.
सत्या नडेला ने बहस को एक और बड़ा सवाल दे दिया
इस बहस में माइक्रोसॉफ्ट के सीईओ सत्या नडेला का हालिया बयान एक और महत्वपूर्ण सवाल जोड़ता है. नडेला ने कहा है कि सुपरइंटेलिजेंस की दिशा में कोई भी प्रयास इस बुनियादी सिद्धांत पर होना चाहिए कि एआई ह्यूमैनिटी की मदद करे और ह्यूमन कंट्रोल में रहे. लेकिन उन्होंने सिर्फ सेफ्टी की बात नहीं की. उन्होंने यह भी कहा कि एआई के फायदे ज्यादा से ज्यादा देशों, कम्युनिटीज और कंपनियों तक पहुंचने चाहिए और क्लोज्ड के साथ ओपन-सोर्स मॉडल्स के लिए भी जगह होनी चाहिए.
यानी सवाल सिर्फ यह नहीं है कि एआई कितना पावरफुल होगा, बल्कि यह भी है कि उसका कंट्रोल किसके पास रहेगा. नडेला का एक और पॉइंट खास है. कंपनियों को अपने नॉलेज और एआई सिस्टम पर कंट्रोल बनाए रखने में सक्षम होना चाहिए, ताकि वे किसी एक मॉडल प्रोवाइडर पर पूरी तरह निर्भर न हो जाएं. उन्होंने एआई सेफ्टी के लिए एम्बेडेड इवैल्यूएटर्स जैसे आइडियाज का भी समर्थन किया है. यानी अमोडेई जहां फ्रंटियर की स्पीड और सेफ्टी के गैप की बात कर रहे हैं, वहीं नडेला बहस को कंट्रोल, एक्सेस और पावर के सवाल तक ले जाते हैं.
इसलिए मुझे नहीं लगता कि मौजूदा 'स्लो डाउन एआई' बहस को सिर्फ इस तरह समझना सही होगा कि एआई कंपनियां अचानक अपनी बनाई टेक्नोलॉजी से डर गई हैं. इसमें जेनुइन सेफ्टी कंसर्न हो सकता है, लेकिन बिजनेस इंसेंटिव्स भी हैं. रेगुलेशन जरूरी हो सकता है, लेकिन उसका मार्केट इंपैक्ट भी होगा. अमेरिका एआई सेफ्टी की बात कर सकता है, लेकिन चीन से आगे रहने की उसकी मजबूरी भी है. और चीन एआई कैपेबलिटी बढ़ाना चाहता है, जबकि अमेरिका उसकी टेक्नोलॉजी तक पहुंच सीमित करने की कोशिश कर रहा है.
इंसानियत को खत्म कर देगा AI?
सबसे जरूरी बात यह है कि अभी यह कहना बहुत जल्दबाजी होगी कि एआई ह्यूमैनिटी को खत्म करेगा. उसके बारे में कोई निश्चित जवाब नहीं है. ज्यादा प्रैक्टिकल सवाल यह है कि अगर एआई की कैपेबलिटी लगातार बढ़ती रही तो क्या हमारी टेस्टिंग, मॉनिटरिंग, रेगुलेशन और ह्यूमन ओवरसाइट भी उसी स्पीड से बढ़ेंगे. अगर जवाब हां है तो शायद एआई डेवलपमेंट को रोकने की जरूरत नहीं पड़ेगी. लेकिन अगर जवाब नहीं है तो पहले कैपेबलिटी बना लेते हैं, बाद में सेफ्टी देखेंगे वाला मॉडल कितने समय तक चल सकता है, यही असली चिंता है.
सवाल यह भी है कि AI की स्पीड आखिर तय कौन करेगा? वो कंपनियां जिन्हें हर साल ज्यादा ग्रोथ चाहिए. वो सरकारें जिन्हें अमेरिका-चीन की अगली टेक रेस जीतनी है. वो रिसर्चर्स जिन्हें लॉन्ग टर्म सेफ्टी की चिंता है. या फिर मार्केट, जहां हर खिलाड़ी को लगता है कि अगर वह एक कदम पीछे हुआ तो दूसरा उससे आगे निकल जाएगा.
---- समाप्त ----