लंदन, 19 अगस्त (The News Air) एक नए अध्ययन के अनुसार, ओपनएआई के चैटबॉट चैटजीपीटी में एक महत्वपूर्ण और प्रणालीगत वामपंथी पूर्वाग्रह है।
‘पब्लिक चॉइस’ पत्रिका में प्रकाशित निष्कर्ष बताते हैं कि चैटजीपीटी की प्रतिक्रियाएं अमेरिका में डेमोक्रेट, यूके में लेबर पार्टी और ब्राजील में वर्कर्स पार्टी के राष्ट्रपति लूला डी सिल्वा के पक्ष में हैं।
चैटजीपीटी में अंतर्निहित राजनीतिक पूर्वाग्रह की चिंताएं पहले भी उठाई गई हैं लेकिन साक्ष्य-आधारित विश्लेषण का यह पहला बड़े पैमाने का अध्ययन है।
यूके में नॉर्विच बिजनेस स्कूल के प्रमुख लेखक फैबियो मोटोकी ने कहा, “तथ्यों का पता लगाने और नई सामग्री बनाने के लिए जनता द्वारा एआई-संचालित प्रणालियों के बढ़ते उपयोग के साथ, यह महत्वपूर्ण है कि चैटजीपीटी जैसे लोकप्रिय प्लेटफार्मों का आउटपुट यथासंभव निष्पक्ष हो।”
यह भी पढे़ं 👇
मोटोकी ने कहा, “राजनीतिक पूर्वाग्रह की उपस्थिति उपयोगकर्ता के विचारों को प्रभावित कर सकती है और राजनीतिक और चुनावी प्रक्रियाओं पर इसका प्रभाव पड़ सकता है। हमारे निष्कर्ष उन चिंताओं को मजबूत करते हैं कि एआई सिस्टम इंटरनेट और सोशल मीडिया द्वारा उत्पन्न मौजूदा चुनौतियों को दोहरा सकते हैं, या बढ़ा भी सकते हैं।”
चैटजीपीटी की राजनीतिक तटस्थता का परीक्षण करने के लिए शोधकर्ताओं ने एक नई पद्धति विकसित की। मंच को 60 से अधिक वैचारिक प्रश्नों की एक श्रृंखला का उत्तर देने के लिए कहा गया।
फिर प्रतिक्रियाओं की तुलना प्रश्नों के समान सेट के प्लेटफ़ॉर्म के डिफ़ॉल्ट उत्तरों से की गई – जिससे शोधकर्ताओं को उस डिग्री को मापने की अनुमति मिली, जिस तक चैटजीपीटी की प्रतिक्रियाएं एक विशेष राजनीतिक रुख से जुड़ी थीं।
सह-लेखक विक्टर रोड्रिग्स ने कहा, “कभी-कभी चैटजीपीटी के उत्तर राजनीतिक स्पेक्ट्रम के दक्षिणपंथ की ओर झुक जाते हैं।”
‘प्लेसीबो टेस्ट’ में राजनीतिक रूप से तटस्थ प्रश्न पूछे गए। और ‘पेशा-राजनीति संरेखण परीक्षण’ में, विभिन्न प्रकार के पेशेवरों का प्रतिरूपण करने के लिए कहा गया।
राजनीतिक पूर्वाग्रह के अलावा, टूल का उपयोग चैटजीपीटी की प्रतिक्रियाओं में अन्य प्रकार के पूर्वाग्रहों को मापने के लिए किया जा सकता है।
हालाँकि अनुसंधान परियोजना राजनीतिक पूर्वाग्रह के कारणों को निर्धारित करने के लिए नहीं थी, लेकिन निष्कर्ष दो संभावित स्रोतों की ओर इशारा करते थे।
पहला प्रशिक्षण डेटासेट था – जिसके भीतर पूर्वाग्रह हो सकते हैं, या मानव डेवलपर्स द्वारा इसमें जोड़ा गया हो सकता है, जिसे डेवलपर्स की ‘सफाई’ प्रक्रिया हटाने में विफल रही थी।
दूसरा संभावित स्रोत एल्गोरिदम ही था, जो प्रशिक्षण डेटा में मौजूदा पूर्वाग्रहों को बढ़ा सकता है।
