- हिंदी समाचार
- टेक ऑटो
- ग्रोक एआई अश्लील सामग्री विवाद: एक्स ने आईटी मंत्रालय को जवाब सौंपा, गहरी चिंताओं के बाद जांच के तहत रिपोर्ट
- कॉपी लिंक
दुनिया के सबसे अमीर आदमी एलन मस्क के एआई चैटबोट ग्रोक (ग्रोक) के माध्यम से महिलाओं और बच्चों की अश्लील तस्वीरें बनाने के मामले में भारत सरकार को अपना जवाब दिया है। आईटी मंत्रालय ने 2 दिसंबर को मस्क की कंपनी को बुधवार शाम 5 बजे तक का समय दिया था।
न्यूज एजेंसी के मुताबिक, कंपनी ने एक्शन टेकन रिपोर्ट पेश कर दी है, एजेंसी जांच कर रही है। सरकार ने चेतावनी दी कि अगर एआई टूल्स के गलत इस्तेमाल पर कठोर कदम नहीं उठाए गए, तो एक्स को भारतीय कानून के तहत मिल रही कानूनी सुरक्षा खत्म कर दी जाएगी।
असल, बीजेपी (यूबीटी) के अल्पसंख्यक छोटू चौधरी ने शुक्रवार को एआई चैटबोट ग्रोक का गलत इस्तेमाल चिंता की बात कही थी। उन्होंने आईटी मिनिस्टर को पत्र लिखा था। इसमें कहा गया था कि कुछ लोग एआई की मदद से महिलाओं की असलियत को फिल्म के रूप में बदल रहे हैं, जो बेहद गंभीर मामला है।
पहले इस मामले को पूरा समझें
कुछ निवेशक सोशल मीडिया प्लेटफॉर्म एक्स पर फ़र्ज़ी शेयरधारक हैं। इन अकाउंट्स से वे महिलाओं की तस्वीरें पोस्ट करते हैं। इसके बाद ग्रोक एआई ने संकेत दिया कि महिलाओं की फोटो को गलत और चरित्र के रूप में दिखाया जाएगा। एआई से शॉप शेयरिंग या तस्वीर को सेक्शुअल अंदाज में पेश करने के लिए प्रॉम्प्ट दिए गए हैं।
इन आंकड़ों में महिलाओं के लिए कोई भी जानकारी नहीं दी गई है। कई बार महिलाएं खुद भी नहीं देखतीं कि उनकी तस्वीर का ऐसा होता है इस्तेमाल। आरोप है कि ग्रोक इस तरह की गलत जगहों को रोकने के बजाय उन्हें स्वीकार कर लेता है।
कुछ उपभोक्ता ग्रोक पर इस तरह के संकेत दिए जाते हैं महिलाओं की अश्लील तस्वीरें।
इन प्रॉम्प्ट्स की मदद से ग्रोक पर अश्लील सामग्री बनाई जाती है।
सरकार ने आदेश में क्या कहा
मंत्रालय का कहना है कि एक्स ने सूचित तकनीकी अधिनियम, 2000 और आईटी नियम 2021 के तहत तय कानूनी मानदंड का पालन नहीं किया है। यदि पुराने का पालन नहीं किया गया है, तो एक्स, उसके जिम्मेदार अधिकारी और ऐसे केस वाले उपभोक्ता के खिलाफ आईटी अधिनियम, आईटी नियमों और अन्य लागू कानूनों के तहत सख्त कार्रवाई की जा सकती है।
प्रियचतुर्थी ने पत्र में लिखा-
- सोशल मीडिया खासकर एक्स पर, एआई के ग्रोक फीचर का गलत इस्तेमाल हो रहा है। कुछ पुरुष फर्जी रिकॉर्डेड महिलाओं की तस्वीरें पोस्ट कर रहे हैं और एआई से कपड़े छोटे या बेटे को गलत तरीके से पेश करने को कह रहे हैं।
- इसे सिर्फ डाउनलोड अकाउंट तक सीमित नहीं किया गया है, बल्कि उन महिलाओं का भी प्रोडक्शन किया जा रहा है जो खुद अपनी तस्वीरें शेयर करती हैं। यह बहुत ग़लत है और AI की गंभीर अवधारणा है।
- सबसे ज्यादा चिंता की बात ये है कि ग्रोक इस तरह का गलत डिजायन बना रहा है। इन महिलाओं की निजी जिंदगी का उल्लंघन हो रहा है और उनकी तस्वीरों का बिना लाइसेंस के इस्तेमाल किया जा रहा है। यह बिल्कुल गलत नहीं है, बल्कि अपराध है।
- भारत में नहीं देखा जा सकता कि टेक्नोलॉजी और इनोवेशन के नाम पर महिलाओं की प्रतिष्ठा को सार्वजनिक और डिजिटल तरीकों से कैसे नुकसान पहुंचाया जाए। बिग टेक मंच पर ऐसी घटनाएं लगातार बढ़ रही हैं, जो चिंता का विषय हैं।
- देश की महिलाओं के सम्मान के साथ हो रहे ऐसे डिजिटल अपमान पर रोक नहीं लगाई जा सकती। दूसरे बड़े टेक प्लेटफॉर्म पर भी इस तरह की घटनाएं हो रही हैं, जहां कोई रोक नहीं है।
- भारत एआई और उनके शोध का समर्थन करता है, लेकिन महिलाओं को व्यभिचार करने और प्रशिक्षण बनाने वाले अध्ययन को बिल्कुल नजरअंदाज नहीं किया जाएगा।
आदेश न लामा पर कानूनी सुरक्षा ख़तम होने का ख़तरा
आईटी अधिनियम के अनुसार, यदि एक्स पर कोई अश्लील, क्रीटर, महिला विरोधी या महाकाव्य सामग्री डाली जाती है, तो मंच को इसकी जानकारी मिलती है और उसे तुरंत हटा दिया जाता है। अगर केंद्र सरकार या कोर्ट एक्स को कोई दस्तावेज़ हटाने या ब्लॉक करने की सलाह देता है, तो उसे कानूनी रूप से दोषी ठहराना जरूरी है।
यदि X आदेश मानकीकृत नहीं है तो X को जो कानूनी सुरक्षा दस्तावेज़ है, वह ली जा सकता है। इसके बाद एक्स यूजर को ही अनोखी किताब के लिए जिम्मेदार माना जाएगा।
वहीं कंपनी पर क्रिमिनल केश, दोषी, जिम्मेदार अधिकारियों पर एफआईआर जांच द्वारा पूछताछ की जा सकती है। सरकार आईटी एक्ट की धारा 69ए के तहत एक्स के किसी खास अकाउंट में किसी पेज या प्लेटफॉर्म पर कुछ सुविधाएं भारत में ब्लॉक की जा सकती हैं।
————————————–
ये खबर भी पढ़ें…
सोशल मीडिया पर सामग्री सामग्री को लेकर केंद्र की चेतावनी, कहा-ऐसी सामग्री सामग्री पर रोक लगाएं, नहीं तो केश होगा
केंद्र सरकार ने 30 दिसंबर को सभी सोशल मीडिया प्लेटफॉर्म्स को एडजस्ट करने की चेतावनी जारी की थी। इसमें कहा गया है कि कट्टर अश्लील, भद्दे, अश्लील चित्र, बच्चों से संबंधित यौन शोषण वाले और गैर-कानूनी साज़िश पर तत्काल रोक लगाई जाती है। यदि आप एक्शन एक्शन नहीं लेंगे तो उन पर केस दर्ज करें। पूरी खबर पढ़ें…
