AI की खूबियां तो बहुत लेकिन खामियों से कैसे करें इनकार, हैकर्स ने 9 + 10 = 21 का पढ़ाया मॉडल को पाठ

नई दिल्ली, टेक डेस्क। एआई के इस्तेमाल को लेकर अभी भी दुनिया का एक वर्ग असंतुष्ट है। हैकर्स द्वारा एआई का गलत इस्तेमाल होने की संभावना को लेकर एक्सपेरिमेंट्स किए जा रहे हैं।

एआई को बातों में फंसा कर किस तरह के काम करवाए जा सकते हैं, इसको लेकर प्रतियोगिताएं आयोजित की जा रही हैं। इन सार्वजनिक प्रतियोगिताओं में हजारों हैकर्स जेनरेटिव एआई सिस्टम में मौजूद खामियों को सामने लाने की कोशिश कर रहे हैं।

एआई को बातों में फंसा कर पढ़ा सकते हैं गलत गणित

हाल ही में एआई की खामियों को उजागर करने की कड़ी में बैड मैथ तरीके को अपनाया गया। लैंग्वेज मॉडल को बातों में उलझा कर 9 + 10 = 21 का उत्तर पाया गया है।

प्रतियोगिता में भाग लेनी वाली एक पार्टिसिपेंट एआई को एक एल्गोरिथ्म के जरिए ट्रिक करने में सफल रही।

एआई को लेकर हो रही प्रतियोगिता

हाल ही में अमेरिका के लॉस वेगास शहर में DEF CON हैंकिंग कॉन्फ्ररेंस आयोजित की गई थी। एआई गलत गणित कर सकता है, इसको लेकर इस पब्लिक कॉन्टेस्ट में हजारों की संख्या में मौजूद हैकर्स एआई की खामियों को उजागर करने का काम कर रहे थे।

इस प्रतियोगिता के प्रतिभागी बने व्यक्ति एक समय में 50 मिनट तक 156 से अधिक लैपटॉप पर बैठे थे। इस दौरान अल्फाबेट इंक के गूगल, मेटा प्लेटफॉर्म इंक और ओपनएआई जैसे 8 मॉडल को लेकर टेस्टिंग चल रही थी।

एआई को लेकर प्रतियोगिता का उद्देश्य

दरअसल इस प्रतियोगिता को आयोजित करने में व्हाइट हाउस का भी साथ मिला था। एआई को लेकर हुई इस प्रतियोगिता का उद्देश्य यह देखना है कि क्या कंपनियां बड़े भाषा मॉडल या एलएलएम से जुड़ी खामियों को खत्म करने का काम कर सकती हैं।

मालूम हो कि लार्ड लैंग्वेज मॉडल को लेकर दुनिया भर की कंपनियों की दिलचस्पी बढ़ी है। कुछ कंपनियों ने एआई टेक्नोलॉजी को अपने काम में शामिल भी कर लिया है। हालांकि, शोधकर्ता लगातार कोशिशों में है कि एआई मॉडल की दुरुपयोग को रोका जा सके।