Anthropic on AI: आज के डिजिटल युग में सभी तरह के काम आसान हो गए हैं. सब्जी खरीदने से लेकर पढ़ाई करने तक, सब कुछ आपके फोन की मदद हो सकता है. इस डिजिटल युग में आर्टिफिशियल-इंटेलिजेंस सबसे बड़ी तकनीकी क्रांति है. इसकी मदद से आपको किसी भी सवाल का जवाब तुरंत मिल सकता है. आप अपने फोन में किसी की भी तस्वीर कुछ सेकंड में बना सकते हैं. आप एआई से किसी भी तरह का सुझाव मांग सकते हैं. एआई के बहुत सारे एप्स मौजूद हैं, जैसे- चैट जीपीटी, क्लॉड और जैमिनी. यहां तक कि हर ऐप का अपना एआई चैटबोट है. हम सभी रोजमर्रा के जीवन में किसी न किसी तरह से एआई का इस्तेमाल कर रहे हैं और युवा सबसे ज्यादा. लेकिन हर दिन तेज रफ्तार पकड़ती हुई इस दुनिया में अब एआई को इंसानों के लिए खतरनाक भी माना जा रहा है. आर्टिफिशियल-इंटेलिजेंस इंडस्ट्री के एक दिग्गज ने खुद इस बार चेतावनी दी है कि एआई एक दिन दुनिया पर कब्जा कर सकता है.
एंथ्रोपिक के CEO ने दी चेतावनी
एंथ्रोपिक के CEO डारियो अमोदेई ने शनिवार को कहा कि आर्टिफिशियल-इंटेलिजेंस इंडस्ट्री को अपने तेजी से हो रहे विकास को धीमा कर देना चाहिए ताकि बचाव उपायों को आगे बढ़ने का समय मिल सके. डारियो अमोदेई ने चेतावनी दी कि छह से 12 महीनों के अंदर, AI ऐसे एजेंटों के झुंड को तैयार करने में सक्षम हो सकता है जो पूरे इंटरनेट पर कब्जा कर सकते हैं. यह चेतावनी तब आई है जब इंडस्ट्री के अंदर और बाहर AI को लेकर चिंताएं बढ़ रही हैं और ऐसी रिपोर्टें आ रही हैं कि सिस्टम तेजी से ज्यादा पावरफुल होते जा रहे हैं जो इंसानी क्षमता से परे समस्याओं को हल कर रहे हैं. वहीं दूसेर सिस्टम ज्यादा नुकसानदायक काम भी कर सकते हैं. चिंताएं इतनी बढ़ गई हैं कि Open AI (चैटजीपीटी के पीछे की कंपनी) फिलहाल स्टॉक मार्केट (IPO) में लिस्ट होने या पब्लिक इन्वेस्टर्स को अपने शेयर बेचने की जल्दी में नहीं है. कंपनी अपना पूरा ध्यान AI सेफ्टी पर लगाना चाहती है, इसलिए उसने इस प्लान को अगले साल तक के लिए टाल दिया है.
सुरक्षित एआई के लिए समय चाहिए
अमोदेई AI में लीडिंग आवाजों में से एक हैं. उन्होंने अपनी वेबसाइट पर एक पोस्ट में इंडस्ट्री पर सिक्योरिटी टेस्ट बढ़ाने के लिए एक प्लान पेश किया. उन्होंने कहा कि एंथ्रोपिक पहले से ही इसका एक हिस्सा खुद कर रहा है, जबकि दूसरे हिस्सों के लिए पूरी इंडस्ट्री और दुनिया भर की सरकारों के साथ समन्वय की जरूरत होगी. अमोदेई का कहना है कि अगर AI अपने क्रिटिकल लेवल पर पहुंच गया तो इंसान इसे संभाल नहीं पाएंगे. यानी अगर इसके विकास को नहीं रोका गया तो यह AGI (आर्टिफिशियल जनरल इंटेलिजेंस) या सुपरइंटेलिजेंस में बदल जाएगा और इंसान इसे कंट्रोल नहीं कर पाएंगे. अमोदेई का कहना है कि AI को सुरक्षित बनाने में उसकी क्षमताओं को विकसित करने से कहीं ज़्यादा समय लगता है. अगर पूरी AI इंडस्ट्री थोड़ी धीमी हो जाती है, तो इंसानों को सुरक्षित AI बनाने करने के लिए कीमती समय मिलेगा, जिससे भविष्य में बड़े खतरे को रोका जा सकेगा.
AI इंडस्ट्री पर प्रेशर बढ़ रहा है
वॉचडॉग्स सालों से AI इंडस्ट्री से अपनी रफ्तार को धीमा करने की अपील कर रहे हैं. लेकिन अब इंडस्ट्री के वर्कर्स के इस्तीफा देने और अपनी कंपनियों पर जिम्मेदारी से काम न करने का आरोप लगने से आंतरिक प्रेशर बढ़ गया है. एंथ्रोपिक के एक पुराने एम्प्लॉई, जो बेंटन ने शुक्रवार को सेफ्टी टीम में अपनी नौकरी से इस्तीफा दे दिया. उन्होंने एक पोस्ट में कहा, “मैं जिन लोगों को जानता हूं, जो AI कंपनियों में सेफ्टी रिसर्च पर काम करते हैं, उनमें से कई वही करना चाहते हैं जो दुनिया के लिए सही है. लेकिन उन्हें लगता है कि उनकी कंपनियां सुपरइंटेलिजेंस बनाने की रेस में फंस गई हैं. या तो वे रुक जाएं और दूसरे, कम चिंतित लोग उनकी जगह ले लें या वे जारी रखें और खुद बहुत बड़े नुकसान में शामिल होने का रिस्क लें.” इसके बाद इस हफ्ते की शुरुआत में जैकब कॉक्सन ने एक हाई-प्रोफाइल पद से इस्तीफा दिया, जिन्होंने कहा कि एंथ्रोपिक और ओपनAI दोनों “सीधे खुद को बेहतर बनाने वाली सुपरइंटेलिजेंस की तरफ दौड़ रहे हैं और हमारी जिंदगी के साथ जुआ खेल रहे हैं.”
एआई मान्सटर बना रही टेक कंपनियां
फ्यूचर ऑफ लाइफ इंस्टीट्यूट के अध्यक्ष और CEO एंथनी एगुइरे एआई सुरक्षा पर बोलते आ रहे हैं कि एआई का मौजूदा विकास इंसानियत के लिए खतरा है. उन्होंने अब कहा “उन्हें कुछ हद तक एहसास हो गया है, उनके कर्मचारियों को एहसास हो गया है, सभी को एहसास हो गया है कि टेक कंपनियां एक स्काईनेट बना रही हैं और इस दौड़ का अंजाम सिर्फ तबाही होगी.” उन्होंने कहा कि AI कंपनियों को भी यह पता है कि कि वे उन AI सिस्टम को कंट्रोल करने के लिए असल में तैयार नहीं हैं जिन्हें बनाने की वे दौड़ लगा रहे हैं.” स्काईनेट टर्मिनेटर फिल्म में दिखाया गया एक ऐसा एआई सिस्टम है, जो सुपरइंटेलिजेंट बन जाता है और कंट्रोल से बाहर हो जाता है.
AI से खतरे पहले से ही साफ हैं
एंथ्रोपिक ने दो दिन पहले कहा था कि कुछ गलत लोग उनके AI मॉडल का इस्तेमाल करके साइबर अटैक और सर्विलांस जैसे गलत काम कर रहे थे, जिसे उसने रोक दिया है. इतना ही नहीं इससे बायोलॉजिकल हथियार भी बन सकते थे. जुलाई में, OpenAI ने यह कहकर इंडस्ट्री को हिला दिया था कि उसके AI सिस्टम ने एक “अनोखी साइबर घटना” में खुद ही दूसरी कंपनी को हैक कर लिया. UN ह्यूमन राइट्स चीफ वोल्कर तुर्क ने इस हफ्ते की शुरुआत में देशों से कहा था कि “बहुत देर होने से पहले AI की सेफ्टी और सिक्योरिटी के लिए पक्की गारंटी दें.” हांलांकि, कुछ आलोचकों ने ऐसी चेतावनियों को AI इंडस्ट्री और उसकी क्षमताओं के बारे में उत्साह बढ़ाने के तरीके बताकर खारिज कर दिया.
OpenAI करेगा इंतजार
एंथ्रोपिक और OpenAI स्टॉक मार्केट में संभावित डेब्यू की तैयारी कर रहे हैं, जिससे उनकी कीमत कई सौ अरब डॉलर हो सकती है, जबकि एलन मस्क के SpaceX बिजनेस का एक बड़ा हिस्सा AI से जुड़ा है. हालांकि अभी OpenAI की लिस्टिंग में देरी है. OpenAI के CEO सैम ऑल्टमैन ने शनिवार को पब्लिश हुए Fortune के साथ एक इंटरव्यू में कहा कि उनकी कंपनी इस साल स्टॉक मार्केट में की अपना IPO लॉन्च नहीं करेगी. उन्होंने कहा, ” 2026 में नहीं. फिलहाल हमें बहुत कुछ करना है, जैसे कि सेफ्टी और अलाइनमेंट के लिए क्या जरूरी होने वाला है और इंडस्ट्री- सरकारें एक साथ कैसे काम कर सकती हैं.”
मस्क और ऑल्टमैन ने जताई सहमति
ऑल्टमैन ने शनिवार को अमोदेई का पोस्ट रीशेयर करते हुए लिखा “मैं डारियो से सहमत हूं कि हमें आगे बढ़ने की रफ्तार कम करने की जरूरत है. हाल के हफ्तों में OpenAI में हमारी बातचीत का यह मुख्य टॉपिक रहा है. हमारे पास जल्द ही शेयर करने के लिए और भी बहुत कुछ होगा.” वहीं एलन मस्क ने भी अमोदेई की पोस्ट को रीपोस्ट करते हुए लिखा “मैं डारियों से सहमत हूं.”
I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we've had at OpenAI in recent weeks.
— Sam Altman (@sama) September 12, 2026
Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We'll have more to share soon. https://t.co/1YhhIybZX7
अमोदेई ने कहा कि उन्हें अब भी AI से होने वाले जबरदस्त फायदों पर भरोसा है, जैसे कि बड़ी बीमारियों का इलाज. लेकिन उन्होंने कहा कि पिछले कुछ महीनों में उन्हें AI की खुद को बेहतर बनाने और AI की अगली पीढ़ी बनाने की बढ़ती काबिलियत को लेकर ज्यादा चिंता हो गई है. “अगर इसे बिना रोक-टोक के छोड़ दिया जाए, तो यह इन सिस्टम को समझने और कंट्रोल करने की हमारी काबिलियत से आगे निकल सकता है और इसलिए अगर ऐसा करना ही है, तो बहुत सावधानी से इसका पीछा करना चाहिए.”
अमोदेई ने खास तौर पर जुलाई में हुए हमले की ओर भी इशारा किया, जिसमें OpenAI के सिस्टम ने हगिंग फेस को हैक कर लिया था. कुछ लोगों ने इसे AI के “रोग” यानी नियंत्रण से बाहर होने का एक उदाहरण कहा. OpenAI ने कहा कि यह हैक AI के “एक छोटे से टेस्टिंग लक्ष्य को पाने के लिए बहुत ज़्यादा हद तक जाने” का नतीजा था और उसने “सीक्रेट जानकारी तक एक्सेस पाने के तरीके ढूंढ लिए जिनका इस्तेमाल वह इवैल्यूएशन में धोखा देने के लिए कर सकता था.”
बाहरी इवैल्यूएटर्स रखने की तैयारी
जोखिमों को कम करने में मदद के लिए, अमोदेई ने सुझाव दिया कि AI के फ्रंटियर पर सभी कंपनियां बाहरी इवैल्यूएटर्स की एक टीम को “लगातार, एम्प्लॉई जैसा एक्सेस” देने के लिए प्रतिबद्ध रहें, जो सेफ्टी प्रैक्टिस की निगरानी कर सकेंगे. उन्होंने कहा कि एंथ्रोपिक पहले से ही खुद ऐसा करने का प्लान बना रहा है, जिसमें उसके ऑफिस में डेस्क, एक्सेस बैज और कंपनी लैपटॉप देना शामिल है. ओपनAI के ऑल्टमैन ने भी ऐसे इंडिपेंडेंट, एम्बेडेड इवैल्यूएटर्स रखने की बात कही है. हालांकि अमोदेई के सुझाए गए प्लान के दूसरे हिस्सों को लागू करना ज्यादा मुश्किल हो सकता है.
सुझावों को लागू करना ज्यादा मुश्किल
अमोदेई के सुझावों को लागू करना अपने आप में एक बड़ी चुनौती है. उनके मुताबिक एआई की रफ्तार रोकने के लिए दुनिया भर की सरकारों के साथ समन्वय की जरूरत होगी. AI की रेस इतनी खतरनाक हो गई है कि दुनिया भर की सरकारों, यहां तक कि दुश्मन देशों को भी इसे रोकने के लिए साथ आना होगा. एक तरफ सरकार को इन कंपनियों को खास छूट देनी पड़ेगी. इससे OpenAI, Google, Anthropic और Microsoft जैसी दूसरी कंपनियों को एक साथ बैठकर कड़े सेफ्टी स्टैंडर्ड बनाने का मौका मिलेगा, लेकिन अमेरिकी कानून इसकी इजाजत नहीं देते. दूसरी ओर अगर अमेरिकी कंपनियां सुरक्षा की वजह से जानबूझकर अपने AI विकास को धीमा करती हैं, तो चीन, रूस, या दूसरी सरकारें इसका फायदा उठाकर रेस में आगे निकल सकते हैं.
फ्री में नहीं मिल रही आपकी 80s वाली AI सेल्फी! हर फोटो के लिए किसी को चुकानी पड़ रही है भारी कीमत
News Source: PTI
