इंसानों के हाथ से निकल न जाए कंट्रोल! खुद का नया वर्जन तैयार करने लगे AI; Anthropic की बड़ी चेतावनी
AI कंपनी Anthropic ने एक बड़ी चेतावनी देते हुए खुलासा किया है कि एडवांस्ड AI सिस्टम्स अब 'रिकर्सिव सेल्फ-इम्प्रूवमेंट' के स्टेज पर पहुंच रहे हैं। इसका ...और पढ़ें
Anthropic ने AI के सेल्फ इंप्रूवमेंट को लेकर चेतावनी दी है। Photo- Gemini AI.
समय कम है?
जानिए मुख्य बातें और खबर का सार एक नजर में
टेक्नोलॉजी डेस्क, नई दिल्ली। ऐसा लग रहा है जैसे AI को लेकर स्थितियां अब किसी डरावनी साइंस-फिक्शन फिल्म जैसी होती जा रही हैं। Claude बनाने वाली AI कंपनी Anthropic ने खुलासा किया है कि AI अब खुद को बनाना करना शुरू कर सकता है और अपना अगला वर्जन भी खुद ही बना सकता है। कंपनी ने चेतावनी भी दी है कि 'अगर AI खुद को ही लगातार सुधारने लगा, तो इंसानों के हाथ से इन सिस्टम्स का कंट्रोल खोने का रिस्क बहुत ज्यादा बढ़ जाएगा।' कंपनी ने इसके लिए 'रिकर्सिव सेल्फ-इम्प्रूवमेंट' फ्रेज का इ्स्तेमाल किया है। आसान शब्दों में कहें तो, इसका मतलब एक ऐसे स्टेज से है जहां AI बिना किसी इंसानी मदद के खुद को अपग्रेड करने और अपने से ज्यादा पावरफुल वर्जन बनाने में कामयाब हो जाएगा।
कंपनी का कहना है कि जैसे-जैसे वे AI डेवलपमेंट्स का काम AI सिस्टम्स को ही सौंप रहे हैं, ऐसे संकेत मिल रहे हैं कि भारी कंप्यूट पावर मिलने पर एक ऐसा फ्यूचर सामने आएगा जहां AI सिस्टम पूरी तरह से खुद ही अपना अगला वर्जन डिजाइन और डेवलप कर सकेंगे।
Claude ने लिखा 80 प्रतिशत कोड
वास्तव में, मई 2026 तक इनके कोडबेस में शामिल किए गए कोड का 80% से ज्यादा हिस्सा खुद Claude ने लिखा था, कंपनी ने इस बात की पुष्टि की है। कोडबेस उस मास्टर प्लान को कहते हैं जिसका इस्तेमाल डेवलपर्स सॉफ्टवेयर बनाने, टेस्ट करने और उसे मेंटेन करने के लिए करते हैं।
Anthropic आमतौर पर आर्टिफिशियल इंटेलिजेंस के इतनी तेजी से हो रहे डेवलपमेंट के खतरों को लेकर आगाह करती रहती है। कंपनी का कहना है कि टेक्निकल ट्रेंड्स से साफ है कि आने वाले सालों में AI सिस्टम्स बहुत ज्यादा कैपेबल होने जा रहे हैं। कंपनी ने कहा, 'इन ट्रेंड्स का बहुत बड़ा असर हो सकता है। ऐसा AI जो खुद को बना सके, टेक्नोलॉजी के इतिहास में एक बड़ी उपलब्धि होगी- इससे साइंस, हेल्थकेयर और दूसरे फील्ड्स में दुनिया का बहुत भला हो सकता है।'
खबरें और भी
हालांकि, कंपनी ने ये भी चेतावनी दी कि 'अगर सिस्टम पूरी तरह से अपना अगला वर्जन खुद बनाने के काबिल हो जाते हैं, तो उन्हें सुरक्षित रखने, उनकी निगरानी करने और उनके बिहेवियर को शेप करने तरीके कहीं ज्यादा महत्वपूर्ण हो जाते हैं।'
Future Shift Labs) के को-फाउंडर सागर विश्नोई ने भी इस बात पर जोर दिया कि जैसे-जैसे AI भविष्य के AI सिस्टम्स का कोड लिख रहा है, चुनौती इसके कैपेबिलिटी बिल्डिंग से हटकर इसके गवर्नेंस पर आ जाती है। उन्होंने कहा, 'रिकर्सिव सेल्फ-इम्प्रूवमेंट इनोवेशन की रफ्तार को काफी तेज कर सकता है, लेकिन ये निगरानी, सिक्योरिटी और जवाबदेही को लेकर भी महत्वपूर्ण सवाल खड़े करता है। इंडस्ट्री के लिए असली परीक्षा ये सुनिश्चित करना होगी कि जैसे-जैसे ये ऑटोनॉमस सिस्टम्स ज्यादा कैपेबल होते जाएं, वे इंसानी प्राथमिकताओं के हिसाब से ही काम करें।'
द पॉज क्लॉज
Anthropic का तर्क है कि सभी AI कंपनियों को फ्रंटियर AI डेवलपमेंट को कुछ समय के लिए 'रोकने' का फैसला लेने के लिए एक साथ आना चाहिए। लेकिन साथ ही चेतावनी दी कि 'अगर इस सुस्ती की वजह से कम सतर्क रहने वाले प्लेयर्स को तकनीकी रूप से आगे निकलने का मौका मिल गया, तो ये हर किसी के लिए असुरक्षित स्थिति होगी।'
कंपनी ने कहा, 'हमारा मानना है कि दुनिया के लिए फ्रंटियर AI डेवलपमेंट को धीमा करने या अस्थाई रूप से रोकने का ऑप्शन होना अच्छा होगा ताकि सोशल स्ट्रक्चर्स और अलाइनमेंट रिसर्च टेक्नोलॉजी की इस एडवांस रफ्तार के साथ तालमेल बिठा सकें।'
AiEnsured के CTO डॉ. श्रीनिवास पद्मनाभुनी ने हाइलाइट किया कि ये शायद सबसे कठिन काम हो सकता है। उन्होंने कहा, 'ये थ्योरी में सुनने में अच्छा लगता है लेकिन असलियत में लागू करना मुश्किल है। क्या हम सभी बड़े मॉडल बनाने वालों को रुकने के लिए मना सकते हैं? सभी को सहमत करना बहुत मुश्किल है, क्योंकि हर कोई पीछे छूट जाने के प्रेशर में जी रहा है।'
AI जायंट की रिसर्च आर्म, Anthropic Institute उन सिस्टम्स पर स्टडी करने और उन्हें बनाने में मदद करने का प्लान बना रही है, जो इस स्लोडाउन को सपोर्ट करने के लिए जरूरी होंगे। आने वाले महीनों में, इसकी योजना पॉलिसी मेकर्स, रिसर्चर्स, सिविल सोसायटी ग्रुप्स और दूसरे AI फर्मों के साथ चर्चा करने की है ताकि इस मुद्दे से निपटने के प्रमुख सवालों की जांच की जा सके। इन सवालों में ये शामिल है कि रिकर्सिव सेल्फ-इम्प्रूवमेंट जैसे AI से जुड़े रिस्क्स को कैसे मैनेज किया जाए और आपस में को-ऑर्डिनेशन को कैसे सुधारा जाए।
AI एजुकेटर और 'द कटिंग एज ग्रुप' के फाउंडर अंश मेहरा ने एंथ्रोपिक की इस पहल की तारीफ की। उन्होंने कहा कि टेक कंपनियों को अगले छह महीनों के लिए LLM रिलीज पर खुद से एक ग्लोबल पॉज लगाने के लिए राजी होना चाहिए और लोगों को इसके बारे में सिखाने और इसे लाइफ में अपनाने पर ज्यादा ध्यान देना चाहिए।
अंश मेहरा ने बताया, 'हमने 1970 के दशक में DNA टेक्नोलॉजी के दौर में भी इसी तरह के कदम देखे थे, जब साइंटिस्ट्स सिर्फ एडवांसमेंट्स की ओर भागने के बजाय सुरक्षा नियमों पर बहस करने के लिए पहले एक साथ आए थे। एक तरह की 'एलएलएम ट्रीटी' होनी चाहिए जहां सभी देश किसी भी नए फ्रंटियर मॉडल को रिलीज करने से पहले अपनी आबादी के एक निश्चित हिस्से को अपस्किल करने पर सहमत हों।' हालांकि, पद्मनाभुनी की तरह वे भी इस बात को लेकर संशय में दिखे कि AI की इस रेस में अंधी दौड़ लगा रहे टेक जाइंट्स इस पर कैसे राजी होंगे।
ShortHills AI के को-फाउंडर और प्रेसिडेंट पवन प्रभात का इंसानों द्वारा AI पर कंट्रोल खोने के डर को लेकर थोड़ा अलग रुख था। उन्होंने कहा, 'मैं इस बात से चिंतित नहीं हूं कि इससे 'द मैट्रिक्स' या 'टर्मिनेटर' जैसी स्थिति पैदा होगी, क्योंकि अगर AI इंसानों के वजूद को खतरा पहुंचाता है, तो इंसान हमेशा इसका प्लग खींच सकते हैं।' हालांकि, उन्होंने एक नुकसान की चेतावनी भी दी कि 'एक सेल्फ-इम्प्रूविंग सर्वशक्तिमान AI मानवता का बहुत भला कर सकता है, लेकिन इसकी एक सामाजिक कीमत भी चुकानी होगी।'