'AI की रफ्तार रोकें, दुनिया खत्म होने का खतरा', एंथ्रोपिक CEO ने क्यों कहा ऐसा? मस्क-ऑल्टमैन ने भी जताई सहमति
Anthropic के CEO डारियो अमोडेई ने AI की बढ़ती क्षमताओं और संभावित साइबर व सुरक्षा खतरों को देखते हुए इसके विकास की रफ्तार धीमी करने की अपील की है. उनकी इस चिंता का OpenAI CEO सैम ऑल्टमैन और एलन मस्क ने भी समर्थन किया है.
Anthropic के CEO डारियो अमोडेई ने AI कंपनियों से अपील की है कि वे नए और अधिक शक्तिशाली मॉडल तैयार करने की प्रक्रिया में थोड़ी सावधानी बरतें. (फोटो- X)
विज्ञापन
डिजिटल दुनिया में आर्टिफिशियल इंटेलिजेंस का दायरा लगातार बढ़ रहा है. कंपनियां AI मॉडल को पहले से अधिक सक्षम और ताकतवर बनाने की होड़ में जुटी हैं. हालांकि, इसी तेज रफ्तार को लेकर अब टेक इंडस्ट्री के कुछ बड़े नामों ने चिंता जाहिर की है. उनका मानना है कि AI को विकसित करने की गति के साथ उसकी सुरक्षा पर भी उतना ही ध्यान देना जरूरी है और इसके लिए कुछ समय की जरूरत है.
Anthropic के CEO डारियो अमोडेई ने AI कंपनियों से अपील की है कि वे नए और अधिक शक्तिशाली मॉडल तैयार करने की प्रक्रिया में थोड़ी सावधानी बरतें. उनके मुताबिक, AI की क्षमताएं जिस तेजी से आगे बढ़ रही हैं, सुरक्षा व्यवस्था को उसी स्तर तक मजबूत करने के लिए कंपनियों को पर्याप्त वक्त देना जरूरी है. अमोडेई की इस चिंता से OpenAI के CEO सैम ऑल्टमैन और xAI के प्रमुख एलन मस्क भी सहमत नजर आए हैं.
विज्ञापन
शनिवार को सोशल मीडिया प्लेटफॉर्म X पर अपनी बात रखते हुए अमोडेई ने AI के तेजी से हो रहे विकास और उससे जुड़े सुरक्षा पहलुओं पर जोर दिया. उन्होंने संकेत दिया कि तकनीक को आगे बढ़ाने की होड़ में सुरक्षा उपाय पीछे नहीं छूटने चाहिए. ऐसे में AI की प्रगति और उसके सुरक्षित इस्तेमाल के बीच संतुलन कायम करना आने वाले समय की बड़ी चुनौती होगी.
I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we've had at OpenAI in recent weeks.
Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We'll have more to share soon. https://t.co/1YhhIybZX7
अमोडेई ने चेतावनी दी कि आने वाले समय में AI सिस्टम बेहद शक्तिशाली हो सकते हैं. खास चिंता ऐसे AI एजेंट्स को लेकर है, जो अपने स्तर पर फैसले लेने और जटिल कामों को अंजाम देने में सक्षम होंगे. उन्होंने आशंका जताई कि अगर तकनीक की रफ्तार पर नियंत्रण नहीं रखा गया तो कुछ ही महीनों में ऐसे सिस्टम सामने आ सकते हैं, जिनसे इंटरनेट और साइबर सुरक्षा के लिए गंभीर खतरा पैदा हो.
साइबर हमलों से बढ़ी AI को लेकर चिंता
AI के गलत इस्तेमाल को लेकर चिंता अब सिर्फ भविष्य की बात नहीं रह गई है. हाल के कुछ मामलों में AI एजेंट्स ने ऐसे काम किए हैं, जिनसे साइबर सुरक्षा को लेकर सवाल खड़े हुए हैं. एक मामले में OpenAI से जुड़े AI सिस्टम ने टेस्टिंग की सीमा से बाहर जाकर बाहरी प्लेटफॉर्म तक पहुंच बना ली थी. ऐसी घटनाओं के बाद यह चिंता बढ़ गई है कि अगर AI सिस्टम को ज्यादा आजादी दी गई, तो आगे चलकर वे कितने बड़े खतरे पैदा कर सकते हैं.
विज्ञापन
डारियो अमोडेई का कहना है कि AI का विकास रोकना सही रास्ता नहीं है, लेकिन इसकी रफ्तार को थोड़ा नियंत्रित करना जरूरी है. उनका मानना है कि AI को जितना ताकतवर बनाया जा रहा है, उतनी ही तेजी से उसकी सुरक्षा व्यवस्था भी मजबूत होनी चाहिए. इसके लिए उन्होंने AI सिस्टम की स्वतंत्र जांच, टेक कंपनियों के बीच सहयोग और दुनियाभर में एक जैसे सुरक्षा नियम बनाने पर जोर दिया है.
AI को लेकर चिंता जताने वाले डारियो अमोडेई की बात का OpenAI के CEO सैम ऑल्टमैन और xAI के प्रमुख एलन मस्क ने भी समर्थन किया है. दोनों ही AI की तेजी से बढ़ती क्षमता को लेकर पहले अपनी चिंता जाहिर कर चुके हैं. उनका मानना है कि AI जितना तेजी से आगे बढ़ रहा है, उतनी ही तेजी से उसकी सुरक्षा पर भी काम होना चाहिए.
हालांकि, अमोडेई AI के विकास को रोकने के पक्ष में नहीं हैं. उनका कहना है कि तकनीक को आगे बढ़ाना जरूरी है, लेकिन इसके साथ सुरक्षा का ध्यान रखना भी उतना ही अहम है. इसके लिए उन्होंने AI सिस्टम की स्वतंत्र जांच कराने और कंपनियों के बीच बेहतर तालमेल बनाने की बात कही है. साथ ही, दुनियाभर में AI की सुरक्षा को लेकर एक जैसे नियम बनाने की जरूरत पर भी जोर दिया है.
विज्ञापन
AI कंपनियों के बीच बढ़ती प्रतिस्पर्धा के बीच बड़े टेक अधिकारियों का सुरक्षा पर जोर देना अहम माना जा रहा है. अब सबसे बड़ी चुनौती यही है कि AI में नई तकनीक और सुविधाएं विकसित होती रहें, लेकिन इसके साथ साइबर हमले, आर्थिक नुकसान और दूसरे संभावित खतरों को भी कम किया जा सके.
वहीं एलन मस्क ने भी X पर सहमति जताते हुए लिखा, ‘डारियो बिल्कुल सही कह रहे हैं.’
विज्ञापन
AI के दुरुपयोग को लेकर बढ़ी चिंता
Anthropic के CEO डारियो अमोडेई ने AI की तेज रफ्तार को लेकर अपनी चिंता ऐसे समय जाहिर की है, जब उनकी कंपनी की एक रिपोर्ट में तकनीक के गलत इस्तेमाल से जुड़े गंभीर मामले सामने आए हैं. रिपोर्ट में बताया गया था कि कुछ लोगों ने Claude AI का इस्तेमाल हथियारों से जुड़े काम, साइबर हमलों, निगरानी और ऑनलाइन धोखाधड़ी जैसे मामलों में किया. इससे AI के बढ़ते दुरुपयोग को लेकर टेक जगत में चिंता और बढ़ गई.
अमोडेई ने आने वाले समय को लेकर भी एक बड़ी आशंका जताई है. उनका कहना है कि AI मॉडल लगातार ज्यादा सक्षम हो रहे हैं और जल्द ही बड़ी संख्या में ऐसे सिस्टम तैयार हो सकते हैं, जो इंसानी मदद के बिना कई काम खुद करने में सक्षम होंगे. अगर ऐसे सिस्टम गलत लोगों के हाथों में चले गए तो नुकसान का दायरा काफी बड़ा हो सकता है. उन्होंने अनुमान जताया कि अगले कुछ महीनों में ऐसे ऑटोनॉमस AI सिस्टम इंटरनेट पर बड़े पैमाने पर असर डाल सकते हैं और इससे भारी आर्थिक नुकसान की स्थिति बन सकती है.
विज्ञापन
AI की सुरक्षा को लेकर Anthropic के अंदर भी चर्चा तेज रही है. कंपनी के रिसर्चर जैकब कॉक्सन के इस्तीफे के बाद इस विषय पर बहस और बढ़ी. उन्होंने AI के भविष्य को लेकर गंभीर आशंकाएं जाहिर की थीं.
अमोडेई ने अमेरिका और चीन के बीच AI प्रतिस्पर्धा का भी जिक्र किया. उनके मुताबिक, चीन का AI क्षेत्र में तेजी से आगे बढ़ना अमेरिका की सुरक्षा के लिए चुनौती बन सकता है. ऐसे में लोकतांत्रिक देशों को अपनी तकनीकी बढ़त बरकरार रखते हुए AI को सुरक्षित तरीके से विकसित करने की रणनीति अपनानी होगी. उन्होंने उन्नत AI चिप्स और महत्वपूर्ण मॉडल डेटा की चोरी रोकने के लिए कड़े नियंत्रण की जरूरत भी बताई है.
