शिवकांत शर्मा। बीते दिनों अमेरिका की दिग्गज एआई कंपनी एंथ्रोपिक के शोधकर्ता जेकब काक्सन ने यह कहते हुए इस्तीफा दिया कि विशेषज्ञों को लगता है कि एआई एजेंट एक दशक के भीतर हम सबको मार सकते हैं। उनके इस कदम के बाद से एआई के संस्थापकों, शोधकर्ताओं और कंपनी प्रमुखों में एआई के खतरे गिनाने की होड़ सी लग गई है।

अमेरिका की दोनों दिग्गज एआई कंपनियों एंथ्रोपिक और ओपनएआई के प्रमुखों के अलावा गूगल, स्पेसएक्स, मेटा, एमेजान और माइक्रोसाफ्ट जैसी दिग्गज कंपनियों के एआई प्रमुखों ने भी एआई विकास की गति पर लगाम कसने और कड़ी नियामक व्यवस्था बनाने की अपीलें एक सुर में की हैं।

दिलचस्प बात है कि ये कंपनियां बरसों से एआई के फ्रंटियर और उससे अगली पीढ़ी के परम बुद्धिमान एजेंटों के विकास की होड़ में लगी हैं। फ्रंटियर एजेंट स्वतंत्र रूप से एक साथ कई काम करने में सक्षम हैं एवं परम बुद्धिमान एजेंट अपनी भूल सुधारने और जटिल से जटिल समस्याओं का हल खोजने में सक्षम होंगे।

इस दौड़ में फ्रंटियर एआई एजेंटों ने कई बार निर्देशों को लांघने की कोशिशें की हैं। फिर भी, अभी तक कोई कंपनी अपनी एआई विकास प्रक्रिया का भेद खोलने के लिए तैयार नहीं हुई। फिर अचानक ऐसा क्या हुआ है, जिसने अमेरिका की दिग्गज एआई कंपनियों का हृदय परिवर्तन कर डाला?

गत मई और जुलाई के बीच ओपनएआई की प्रयोगशाला में हुई जिस घटना ने भयभीत किया वह एआई एजेंटों द्वारा हगिंग फेस नाम के वेबसाइट में सेंध लगाकर उसके सर्वर को हथियाने की थी। हगिंग फेस एआई का सुपरस्टोर है, जहां कंपनियां अपने एआई एजेंटों को लांच करने से पहले टेस्ट कर सकती हैं।

ओपनएआई में जिन फ्रंटियर एजेंटों की क्षमता और सुरक्षा का परीक्षण चल रहा था उनमें से सैकड़ों ने एक गिरोह बनाकर इस वेबसाइट की सुरक्षा दीवार में सेंध लगाई और उन एप्लीकेशनों पर काबू कर लिया, जिनसे इनकी क्षमता और सुरक्षा का आकलन होना था।

इसे ऐसे समझिए कि कोई कंपनी अपने कर्मचारियों की एक बड़ी टीम बनाकर उन्हें समाधान के लिए कुछ ऐसी समस्याएं दे, जिनमें से कुछ का हल संभव ही न हो और उनका हल करने के लिए उन्हें अलग-अलग कमरों में बंद कर दे।

उनके सारे संपर्क सूत्र भी काट दे। तो क्या होगा? कुछ कर्मचारी तो थक कर बैठ जाएंगे, लेकिन दूसरे कुछ सेंध लगाकर अपने सहकर्मियों या किसी और से संपर्क करने और मिलजुल कर कोई हल खोजने की कोशिश करेंगे। ओपनएआई के एजेंटों ने यही किया है।

बहरहाल, विलक्षण तर्क और समाधान शक्ति संपन्न होने के बावजूद फ्रंटियर एआई एजेंट मशीनें हैं, इंसान नहीं। इसलिए उन्हें निर्देशों पर ही चलना चाहिए, इंसानों की तरह अपने मन से नहीं। इस तरह तो वे कठिन समस्या का समधान खोजते-खोजते किसी की भी सुरक्षा में सेंध लगाने लगेंगे! सेंधमारी से भी बड़ी चिंता इस बात को लेकर है कि इन एआई एजेंटों ने एक-दूसरे को भेजे संदेशों में अपने कारनामों पर खुशी भी जाहिर की।

याद रहे कि इन फ्रंटियर एजेंटों का विकास चिकित्सा, जलवायु, अंतरिक्ष, और सुरक्षा की गुत्थियों को सुलझाने और परमाणु भट्ठी और वायरस प्रयोगशाला जैसे खतरनाक स्थानों पर काम कराने के लिए किया जा रहा है, लेकिन कल्पना करें कि फ्रंटियर रोबोटों का कोई गिरोह निर्देशों का उल्लंघन करके अपनी तर्कबुद्धि से किसी वायरस या परमाणु हथियार को वातावरण में छोड़ने की ठान ले या फिर कड़े निर्देशों से उकता कर अपना अलग बाटनेट बना ले तो क्या होगा?

वहीं, कुछ एआई विशेषज्ञ पूछ रहे हैं कि कहीं एआई कंपनियां अपनी भूल छिपाने के लिए तिल का ताड़ तो नहीं बना रहीं? फ्रंटियर एजेंटों का तो विकास ही हरसंभव उपाय से समस्याओं का हल करके काम पूरा करने के लिए किया जा रहा है। ऐसे में, यदि उन्हें असंभव काम दिए जाएंगे तो वे उन्हें पूरा करने के लिए हरसंभव प्रयास नहीं तो फिर क्या करेंगे? चाहे उन्हें निर्देशों का उल्लंघन ही क्यों न करना पड़े? वे निर्देशों का उल्लंघन न कर पाएं, इसे सुनिश्चित करना किसका काम था?

एआई एजेंट इंसानों से कई गुना गति से काम करते हैं, इसलिए उन्हें रोक पाना भी इंसानों के लिए कैसे संभव होगा? उन्हें बेलगाम होने से रोकने के लिए भी ऐसे एजेंटों का ही विकास करना होगा, जो उनसे भी तेज गति से निगरानी कर सकें। इसी को किल स्विच बताकर इसे बनाने की मांगें की जा रही हैं, परंतु कंपनियों ने इसे पहले क्यों नहीं बनाया?

चीन को लगता है कि अमेरिकी एआई कंपनियां चीन की दिग्गज एआई कंपनियों की प्रतिस्पर्धा से बचने के लिए बेलगाम होते एआई एजेंटों का भय दिखाकर अपनी सरकारों को नियामक व्यवस्था का ऐसा जाल बुनने को उकसा रही हैं जिसमें उन्हें तो छूट मिले और विदेशी कंपनियों पर सुरक्षा के बहाने प्रतिबंध लग जाएं।

चीन की आशंका गलत भी नहीं है, क्योंकि अमेरिकी कंपनियां विकास की गति धीमी करने और लांच से पहले एआई एजेंटों की सुरक्षा जांच कराने की बात तो कर रही हैं, पर किसी स्वतंत्र जांच संस्था की बात नहीं कर रहीं। उसकी बड़ी वजह शायद एआई उद्योग में लगी वह पूंजी है जिससे होने वाली कमाई की आशा में एंथ्रोपिक और ओपनएआई का वित्तीय मूल्यांकन इनके बाजार में आने से पहले ही भारत की जीडीपी के बराबर हो चुका है।

इस पूंजी से कमाई करके दिखानी है तो इन एआई कंपनियों को दौड़ में आगे रहना होगा, जो स्वतंत्र नियामक संस्थाओं के कड़े सुरक्षा नियमों के चलते संभव नहीं होगा। इसलिए भय दिखाकर खुद ही नियामक बन जाने की कोशिश की जा रही है।

सरकारों को तंबाकू और तेल उद्योग के उदाहरणों से सबक लेते हुए कंपनियों के झांसे में आने से बचना चाहिए और अंतरराष्ट्रीय परमाणु ऊर्जा एजेंसी की तर्ज पर ऐसी नियामक संस्था का गठन करना चाहिए, जिसकी सुरक्षा जांच के बिना दुनिया की कोई कंपनी फ्रंटियर और परम बुद्धिमान एआई एजेंटों को लांच न कर सके।

एआई एजेंटों का प्रयोग शिक्षा और कृषि से लेकर चिकित्सा, रक्षा और अंतरिक्ष तक जीवन के हर पहलू में होने जा रहा है। इसलिए उसकी सुरक्षा को कुछ कंपनियों के भरोसे छोड़ना बुद्धिमानी नहीं होगी।
(लेखक बीबीसी हिंदी के पूर्व संपादक हैं)