ज‍िसकी वजह से भारत ने फेसबुक-इंस्‍टा के माल‍िक को हड़काया था, अब अमेर‍िकी एजेंसी ने ही सामने रख द‍िए कुकर्म

कुछ ही हफ्ते पहले भारत सरकार ने मार्क जुकरबर्ग की कंपनी Meta को चेताया था. कहा था क‍ि फेसबुक-इंस्‍टाग्राम पर बच्‍चों से जुड़ा आपत्तिजनक कंटेंट तुरंत हटाओ. आगे से ये होना नहीं चाह‍िए. मामला इतना गंभीर था कि जुकरबर्ग को माफी तक मांगनी पड़ी थी. अब अमेरिका की एक जांच में भी मेटा के वही कुकर्म उजागर हो गए हैं. अमेर‍िकी एजेंसी की जांच में पाया गया है क‍ि Facebook और Instagram पर 300 से ज्‍यादा ऐसे पेड विज्ञापन चले, जिनमें AI की मदद से बच्चों की वास्तविक तस्वीरों को यौन शोषण वाले कंटेंट में बदला गया था.

अगस्त में मेटा की ग्लोबल टीम ने भारतीय अध‍िकार‍ियों के साथ बैठक की थी. तब सरकार ने मेटा को यह साफ संदेश दिया था कि बच्चों से जुड़े ऐसे कंटेंट को लेकर किसी भी तरह की लापरवाही स्वीकार नहीं की जाएगी.उस वक्त शायद ही किसी ने सोचा होगा कि कुछ ही समय बाद अमेरिका में हुई जांच मेटा के सिस्टम की ऐसी तस्वीर सामने रख देगी, जो भारत की चिंता को और गंभीर बना देगी.

अब अमेरिका से आई जांच ने क्या खोला?

टेक ट्रांसपेरेंसी प्रोजेक्‍ट यानी TTP की जांच के मुताबिक मेटा के प्लेटफॉर्म पर 300 से ज्यादा AI-जेनरेटेड या AI मैनुपुलेटेड विज्ञापन पाए गए. इन विज्ञापनों में बच्चों की तस्वीरों का इस्तेमाल किया गया था और कई मामलों में वास्तविक बच्चों की सार्वजनिक रूप से उपलब्ध तस्वीरों को AI के जरिए आपत्तिजनक कंटेंट में बदले जाने का आरोप है. जांचकर्ताओं के मुताबिक कुछ विज्ञापन चीन में विकसित AI एप्लिकेशन की ओर यूजर्स को ले जा रहे थे. इनमें ऐसे AI टूल भी शामिल थे, जिन्हें तथाकथित न्‍यूडीफ‍िकेशन के लिए इस्तेमाल किया जा सकता है.

मतलब तस्वीर असली, अश्लीलता AI की!

इस पूरे मामले का सबसे खतरनाक पहलू यही है. किसी बच्चे की सामान्य तस्वीर सोशल मीडिया या इंटरनेट पर सार्वजनिक है. कोई व्यक्ति उस तस्वीर को उठाता है और AI टूल की मदद से उसका आपत्तिजनक रूप तैयार कर देता है. इसके बाद वही कंटेंट विज्ञापन के जरिए बड़े सोशल मीडिया प्लेटफॉर्म पर पहुंच जाता है. यानी AI ने सिर्फ फर्जी कंटेंट बनाने का खतरा नहीं बढ़ाया है, बल्कि बच्चों की सार्वजनिक तस्वीरों के दुरुपयोग का खतरा भी कई गुना बढ़ा दिया है.

Meta ने कार्रवाई की, लेकिन सवाल बच गया

TTP की र‍िपोर्ट के बाद कंपनी ने कार्रवाई की. रिपोर्ट के मुताबिक Ad लाइब्रेरी में मौजूद करीब 150 विज्ञापन हटाए गए. इसके अलावा 100 से ज्यादा पहले हटाए जा चुके विज्ञापनों के रिकॉर्ड को बाद में चाइल एक्‍सप्‍लॉयटेशन पॉलिसी के उल्लंघन के तौर पर क्‍लास‍िफाई किया गया. सवाल ये क‍ि अगर मेटा के पास इतने बड़े पैमाने पर कंटेंट पहचानने और हटाने की तकनीक थी तो ये विज्ञापन पहले पकड़े क्यों नहीं गए?