- कॉपी लिंक
इलॉन मस्क के एक्स ने ग्रोक एआई से रियल पीपल्स की अश्लील इमेज बनाने पर दुनिया भर में प्रतिबंध लगा दिया है। यह निर्णय एआई-पावर्ड चैटबॉट से महिलाओं और बच्चों की सोसायटी मिसयूज के रजिस्ट्रेशन के बाद लिया गया है।
अब उपभोक्ता इस टूल का उपयोग करके किसी भी वास्तविक व्यक्ति की ऐसी फोटो नहीं बना पाएंगे जो कि ट्रायल हो या जिसमें उन्हें कम प्रोडक्ट में दिखाया गया हो। यह प्रतिबंध पेड और अनपेड सभी उपभोक्ताओं के लिए उपयोग किया गया है।
अश्लील फोटो संपादन पर पूरी तरह से रोक
एक्स के शेयर अकाउंट ने गुरुवार को इस बदलाव की जानकारी देते हुए बताया कि उन्होंने तकनीकी स्तर पर ऐसे बदलाव किए हैं, जिससे ग्रोक अब असली लोगों की बिना कपड़ों वाली फोटो नहीं बना सके। इसमें बिकिनी जैसी फ्लैट वाली एडिटिंग पर पूरी तरह से रोक लगा दी गई है।
कंपनी का कहना है कि यह बदलाव इसलिए किया गया है ताकि किसी की निजता का उल्लंघन न हो और मंच का इस्तेमाल किसी को परेशानी न हो।
महिलाओं के प्रशिक्षण से शुरू हुई जांच
पिछले साल दिसंबर में कई महिलाओं ने एक्स पर याचिका दायर की थी कि उनकी साइट पर सेक्स सेक्शुअल इमेज बनाई जा रही है। आईटी मिनिस्ट्री के साइबर लॉ डिवीजन ने आईटी नियम 2021 के तहत एक्स को निर्देश दिए हैं।
यूक्रेनी कुछ सोशल मीडिया प्लेटफॉर्म एक्स पर फ़र्ज़ी अकाउंटेंट ब्लॉक हैं। इन अकाउंट्स से वे महिलाओं की तस्वीरें पोस्ट करते हैं। इसके बाद ग्रोक एआई ने संकेत दिया कि महिलाओं की फोटो को गलत और चरित्र के रूप में दिखाया जाएगा।
एआई से शॉप शेयरिंग या तस्वीर को सेक्शुअल अंदाज में पेश करने के लिए प्रॉम्प्ट दिए गए हैं। इन आंकड़ों में महिलाओं के लिए कोई भी जानकारी नहीं दी गई है। कई बार महिलाएं खुद भी नहीं देखतीं कि उनकी तस्वीर का ऐसा होता है इस्तेमाल। आरोप है कि ग्रोक को इस तरह की गलत जगहों पर रोक लगाने के बजाय उन्हें स्वीकार कर लिया जाता है।
भारत में 3,500 फोटो हटाए गए, 600 उपभोक्ताओं पर प्रतिबंध
एक्स ने भारत सरकार को अपनी एक्शन रिपोर्ट में बताया कि उन्होंने भारत में ग्रोक के जरिए करीब 3,500 फिल्म और अश्लील तस्वीरें हटाई हैं। इतना ही नहीं, कंपनी ने उन 600 ग्राहकों की पहचान करके उन्हें प्लेटफॉर्म से बाहर कर दिया था, जो बार-बार इस एआई चैटबॉट का गलत इस्तेमाल कर रहे थे।
मस्क बोले- जिम्मेदारी टूल की नहीं, मॉस्को की
इससे पहले एक्स के मालिक एलन मस्क ने कहा था कि कुछ लोग कह रहे हैं कि ग्रोक फिल्म की तस्वीरें बनाई जा रही हैं, लेकिन यह किसी बुरी बात को देखने के लिए पेन को दोष देने जैसा है। कलम यह तय नहीं करता कि क्या लिखा होगा। यह काम उसे पैकेट वाला करता है।
मस्क ने कहा कि ग्रोक भी उसी तरह काम करता है। क्या होगा, यह काफी हद तक इस बात पर प्रतिबंध है कि आप इसमें शामिल हों। क्योंकि जिम्मेदारी टूल की नहीं, उसका उपयोग करने वाले व्यक्ति की होती है।
