नई दिल्ली। भारत सरकार के सख्त रुख और कानूनी चेतावनी के बाद सोशल मीडिया प्लेटफॉर्म X (पूर्व में ट्विटर) को आखिरकार बैकफुट पर आना पड़ा है। एलन मस्क की कंपनी ने स्वीकार किया है कि उसके प्लेटफॉर्म पर कंटेंट मॉडरेशन में गंभीर चूक हुई, खासकर एआई टूल Grok के दुरुपयोग को लेकर। सरकारी नोटिस के बाद X ने बड़ी कार्रवाई करते हुए 600 से अधिक अकाउंट्स को स्थायी रूप से निलंबित कर दिया है, जबकि करीब 3,500 अश्लील और आपत्तिजनक पोस्ट को प्लेटफॉर्म से हटा दिया गया है।
क्या है पूरा विवाद? Grok AI बना अश्लीलता का हथियार:
इस विवाद की जड़ X का आर्टिफिशियल इंटेलिजेंस टूल Grok AI है। आरोप है कि कुछ यूजर्स इस टूल का इस्तेमाल महिलाओं की सामान्य तस्वीरों को डिजिटल तरीके से अश्लील रूप में बदलने के लिए कर रहे थे। इंटरनेट पर इसे ‘मास डिजिटल अनड्रेसिंग’ कहा गया, जिसमें एआई की मदद से फोटो एडिट कर उन्हें वायरल किया गया। यह न सिर्फ महिलाओं की गरिमा के खिलाफ था, बल्कि भारतीय कानूनों का भी खुला उल्लंघन माना गया। राज्यसभा सांसद प्रियंका चतुर्वेदी समेत कई सामाजिक संगठनों ने इस मुद्दे को लेकर आईटी मंत्रालय से शिकायत की, जिसके बाद केंद्र सरकार ने सख्त रुख अपनाया।
सरकार की चेतावनी सेफ हार्बर छिनने का खतरा:
इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने X को नोटिस जारी कर साफ कहा कि आईटी अधिनियम और आईटी नियमों का पालन अनिवार्य है। सरकार ने चेतावनी दी थी कि यदि अश्लील कंटेंट पर तत्काल कार्रवाई नहीं हुई, तो X से ‘सेफ हार्बर’ सुरक्षा छीन ली जाएगी। सेफ हार्बर हटने का मतलब यह होता कि यूजर्स द्वारा पोस्ट की गई अवैध सामग्री के लिए कंपनी और उसके अधिकारी सीधे कानूनी तौर पर जिम्मेदार माने जाते।
X की बड़ी स्वीकारोक्ति और कार्रवाई:
सरकारी दबाव के बाद X ने अपनी रिपोर्ट में माना कि उनके कंटेंट मॉडरेशन सिस्टम में खामियां थीं। कंपनी ने बताया कि 600+ अकाउंट्स को हमेशा के लिए बैन किया गया 3,500 से अधिक अश्लील पोस्ट हटाई गईं, Grok AI के दुरुपयोग को रोकने के लिए नई गाइडलाइंस पर काम शुरू किया गया कंपनी ने भरोसा दिलाया है कि वह भारतीय कानूनों के तहत अपनी नीतियों को और मजबूत करेगी।
आगे की रणनीति Grok पर लगेगी लगाम:
विवाद को देखते हुए X अब Grok के इमेज जनरेशन फीचर को लेकर बड़ा बदलाव कर सकता है। रिपोर्ट्स के मुताबिक, कंपनी इस फीचर को केवल पेड सब्सक्राइबर्स तक सीमित करने पर विचार कर रही है ताकि इसके गलत इस्तेमाल पर रोक लगाई जा सके। एलन मस्क ने भी संकेत दिए हैं कि एआई का अवैध इस्तेमाल करने वालों पर सख्त कार्रवाई की जाएगी। वहीं, आईटी मंत्रालय ने X से यह स्पष्ट करने को कहा है कि भविष्य में AI-जनरेटेड डीपफेक और अश्लील कंटेंट रोकने के लिए कौन-कौन से तकनीकी सुरक्षा उपाय अपनाए जाएंगे। यह मामला भारत में सोशल मीडिया प्लेटफॉर्म्स और एआई टूल्स की जवाबदेही को लेकर एक मील का पत्थर माना जा रहा है। सरकार का सख्त रुख यह संकेत देता है कि डिजिटल आज़ादी के साथ कानूनी जिम्मेदारी से समझौता नहीं किया जाएगा।