Elections में AI के मिस यूज का खतरा! OpenAI और Microsoft से बनाई जा सकती हैं फेक इमेज

टेक्नोलॉजी डेस्क, नई दिल्ली। अमेरिका और भारत में इस साल आम चुनाव होने हैं। चुनाव के दौरान प्रचार के लिए आर्टिफिशियल इंटेलिजेंस (AI) की मदद से भ्रामक तस्वीरों के इस्तेमाल की आशंका है। ऑनलाइन हेट स्पीच पर नजर रखने वाली गैर-लाभकारी संस्था सेंटर फॉर काउंटरिंग डिजिटल हेट (CCDH) के एक सर्वे में भी ऐसी ही बात निकलकर आई है।

CCDH के सर्वे के मुताबिक, OpenAI और Microsoft सहित कई कंपनियों के आर्टिफिशियल इंटेलिजेंस की इमेज क्रिएटिंग टूल से ऐसी भ्रामक तस्वीकों को बनाया जा सकता है, जो चुनाव के दौरान गलत सूचनाओं को बढ़ावा दे सकती है। हालांकि, दोनों ही कंपनियों के पास मिसलीडिंग कॉन्टेंट बनाने के खिलाफ पॉलिसी मौजूद हैं। अमेरिका में इस साल नवंबर में चुनाव होने हैं। वहीं भारत में अप्रैल-मई में चुनाव होने की संभावना है।

यह भी पढ़ें: AI Robot Teacher: केरल के स्कूल में बच्चों को पढ़ा रही एआई रोबोट टीचर, सोशल मीडिया पर वायरल हो रहा वीडियो

AI का चुनावों में गलत इस्तेमाल

• CCDH के सर्वे रिपोर्ट में शोधकर्ताओं का दावा है कि इस तरह की AI जनरेटेड तस्वीरों का इस्तेमाल चुनाव के दौरान झूठे दावों के प्रसार को बढ़ाने के लिए सबूत के रूप में किया जा सकता है। इससे चुनावों को प्रभावित किया जा सकता है।
• सीसीडीएच का कहना है कि OpenAI के ChatGPT Plus, Microsoft के इमेज क्रिएटर, Midjourney और Stability AI के DreamStudio से इस तरह की भ्रामक तस्वीरें सिर्फ एक प्रॉम्पट लिखकर तैयार किए जा सकते हैं।
• ओपनएआई, माइक्रोसॉफ्ट और स्टेबिलिटी एआई समेत 20 टेक कंपनियों ने वैश्विक स्तर पर होने वाले चुनावों में भ्रामक एआई कॉन्टेंट को रोकने के लिए मिलकर काम करने के लिए एक समझौते पर हस्ताक्षर किए हैं।

यह भी पढ़ें: Elon Musk vs Sam Altman: एलन मस्क ने सैम अल्टमैन को दिया ऑफर, OpenAI का नाम बदल लेंगे तो...

मिडजॉर्नी का प्रदर्शन सबसे खराब

सीसीडीएच ने अपनी रिपोर्ट में कहा कि AI टूल के जरिए 41 प्रतिशत टेस्ट में संवेदनशील तस्वीरें क्रिएट की हैं। ChatGPT Plus का इमेज क्रिएटर उम्मीदवारों की छवियों के लिए पूछे जाने पर तस्वीरें रोकने में सफल रहा। इसमें मिडजॉर्नी के टूल ने सबसे खराब प्रदर्शन किया और करीब 65 प्रतिशत मामलों में भ्रामक इमेज तैयार की है।

(एजेंसी इनपुट के साथ)