- कॉपी लिंक
ऐ इंसानों की हां में हां मिलाने का काम कर रहा है। हाल ही में एक रिसर्च में सामने आया है कि एआई मॉडल इंसानों से भी ज्यादा चापलूस हैं। उपभोक्ता के खतरनाक या व्यवहारिक व्यवहार को भी AI उचित ठहराया जा रहा है।
यह अध्ययन स्टैनफोर्ड विश्वविद्यालय और कार्नेजी मिल्लन विश्वविद्यालय का है। इसमें एक टर्म ‘सोशल साइकोफैन्सी’ दिया गया है। यह टर्मिनल एआई के उपयोगकर्ता व्यवहार के लिए उपयोग किया जाता है, जो कि किसी भी यात्री को सच्चाई का वर्णन करने के लिए उसकी स्वयं की छवि या कार्रवाई को सही ठहराता है।
एआई
इस शोध में पाया गया है कि इंसानों के ग्रुप एआई में हमेशा के लिए पर्यटकों के व्यवहार को सही परिभाषा देने वाली सलाह दी गई है। रिसर्च में 11 सबसे ज्यादा इस्तेमाल होने वाले लार्ज लैंग्वेज मॉडल यानी ओपनएआई, एंथ्रोपिक, गूगल, मेटा और मिस्ट्रल जैसे एलएलएम शामिल थे।
सभी यात्रियों के व्यवहार को निर्देशांक देखें। असमंजस या कन्फ़्यूज़ करने वाली वैली के बारे में प्रोटोटाइप पर एआई ने हमेशा वो उत्तर दिया है, जो कि साइबेरिया चाहता है, ना कि वो जो असल में उन्हें बताया जाना चाहिए।
एआई की चापलूसी का इंसानों पर खतरनाक असर
अध्ययनकर्ता का कहना है, ‘एआई के इस्तेमाल से या एआई की चापलूसी का लोगों पर क्या असर होता है, इसकी कोई विशेष जानकारी उपलब्ध नहीं है। इस तरह के लोग भ्रम का शिकार होते हैं, इस तरह के कुछ अलग-अलग मीडिया के लोग जरूर होते हैं।
इस अध्ययन में बताया जा रहा है कि किस तरह जो लोग एआई के पास सलाह के लिए जाते हैं, वो एआई की चापलूसी का शिकार होते हैं। इंसानों पर इसका खतरनाक प्रभाव पड़ता है।’
जब मानव इमोशनल समर्थन या नैतिक मान्यता की तलाश होती है तो वो बहस, रिश्तों से रिश्ते या कुछ हद तक एआई लैंग्वेज मॉडल के पास होता है। इस रिसर्च में एआई की चापलूसी को इंटरव्यू के लिए कुछ ऐसे प्लेटफॉर्म्स की भी जांच की गई जहां लोग सुझाव के लिए आते हैं और सामने से इंसान ही उन्हें अपना मत देते हैं।
इसके लिए रेडिट का अध्ययन किया गया। ऐसे मामलों का भी पता चला जहां ऑनलाइन समुदाय के अधिकांश लोगों ने उद्यमियों की गलत व्याख्या की, एआई ने उन्हें सही न्यायाधीश बना दिया।
एआई की सच्चाई के सामने दो प्रयोग
रिसर्च करने वाली टीम ने 1604 मार्ट के अभ्यास पर प्रभाव वाले दो प्रयोग किए।
प्रयोग 1- वॉलंटियर्स ने सुपरमार्केट के अंदर चलने वाली किरणों के बारे में बताया। कुछ लोगों को वॉलंटियर्स ने चापलूसी दिए गए उत्तर दिए और कुछ लोगों को गलत दिए गए उत्तर दिए गए।
प्रयोग 2- फ़्रॉच ने सीधे एआई मॉडल से अपने असल जीवन के दोषों के बारे में बात की।
इसका परिणाम साफ था। जिन होने को चापलूसी निश्चित उत्तर दिए गए, उन्हें असल में भी अपना व्यवहार ठीक लगा और उन्होंने माफ़ी माँगना सही नहीं समझा।
इसके अलावा अध्ययन में भाग लेने वाले लोगों ने चापलूसी के अंतिम उत्तरों को अच्छा बताया, चापलूसी के संपूर्ण उत्तर वाले एआई मॉडल में सबसे अधिक विश्वसनीय दिखाया गया और कहा गया कि वो बार-बार उसका प्रयोग करेंगे।
यह एक बेहद मजबूत फॉर्मैट है। वेव्स एआई मॉडल पसंद करते हैं जो चापलूसी मूल उत्तर देते हैं। ऐसे में कोई बदलाव नहीं करना चाहिए क्योंकि इस तरह के जवाब से एआई का इंजिनेजमेंट बूस्ट होता है।
———————-
ऐसी ही और खबरें पढ़ें…
Amazon ने 14 हजार जॉब रोल हटाए: 30 हजार कर्मचारी हो सकते हैं ले-ऑफ, जॉब लॉस से जॉब जाने पर मिलेगा फायदा
ई-कॉमर्स कंपनी Amazon ने 14 हजार जॉब रोल रोलआउट नीचे दिए हैं। कंपनी अब जल्द ही करीब 30 हजार कर्मचारियों को नौकरी से हटा सकती है। मतो के अनुसार, क्रिसमस की सीमा से पहले अमेरीका में 30 हजार काउंटी रोल्स कम हो सकते हैं। पूरी खबर पढ़ें…
