Elon Musk की कंपनी xAI द्वारा विकसित आर्टिफिशियल इंटेलिजेंस चैटबॉट Grok एक बार फिर वैश्विक विवादों के घेरे में आ गया है। Deepfake और बिना सहमति के अश्लील कंटेंट तैयार किए जाने के गंभीर आरोपों के बाद इंडोनेशिया और मलेशिया ने Grok की सेवाओं पर अस्थायी प्रतिबंध लगाने का फैसला किया है। सरकारों का कहना है कि Grok का दुरुपयोग महिलाओं, बच्चों और आम नागरिकों के खिलाफ किया जा रहा था, जो डिजिटल सुरक्षा और मानवाधिकारों का सीधा उल्लंघन है।
मलेशिया ने क्यों लगाया Grok AI पर बैन?
मलेशिया के Communication and Multimedia Commission (MCMC) ने सोशल मीडिया प्लेटफॉर्म X पर जारी आधिकारिक बयान में बताया कि Grok के जरिए लगातार अश्लील, आपत्तिजनक और बिना अनुमति के बदली गई तस्वीरें बनाई जा रही थीं। रेगुलेटर के अनुसार, इन मामलों में महिलाओं और बच्चों से जुड़ा कंटेंट भी सामने आया, जिसे बेहद गंभीर माना गया। MCMC ने स्पष्ट किया कि जनवरी की शुरुआत में ही X और xAI को नोटिस भेजा गया था, लेकिन इसके बावजूद कोई प्रभावी तकनीकी समाधान लागू नहीं किया गया।
तकनीकी सुरक्षा उपायों की कमी पर सवाल:
मलेशियाई रेगुलेटर ने X पर आरोप लगाया कि कंपनी ने केवल यूज़र-रिपोर्टिंग सिस्टम पर निर्भर रहकर जिम्मेदारी निभाने की कोशिश की। जबकि ऐसे शक्तिशाली AI टूल के लिए ऑटोमैटिक फिल्टर, इमेज डिटेक्शन और सख्त कंटेंट मॉडरेशन जैसे तकनीकी उपाय जरूरी थे। इसी लापरवाही को देखते हुए Grok AI पर अस्थायी प्रतिबंध लगाने का फैसला किया गया।
इंडोनेशिया ने भी अपनाया सख्त रुख:
मलेशिया के बाद इंडोनेशिया ने भी Grok पर अस्थायी रोक की घोषणा की। इंडोनेशिया की कम्युनिकेशन और डिजिटल मंत्रालय की मंत्री मेउत्या हाफिद ने कहा कि यह फैसला महिलाओं, बच्चों और नागरिकों को AI-जनरेटेड फर्जी पोर्नोग्राफिक कंटेंट से बचाने के लिए लिया गया है। सरकार ने X से Grok फीचर को लेकर तत्काल स्पष्टीकरण भी मांगा है।
मानवाधिकारों का गंभीर उल्लंघन बताया:
इंडोनेशियाई सरकार ने बिना सहमति के बनाए गए यौन Deepfake कंटेंट को मानव गरिमा, निजता और डिजिटल अधिकारों का गंभीर उल्लंघन बताया है। सरकार का कहना है कि AI तकनीक का उपयोग नवाचार के लिए होना चाहिए, न कि लोगों की छवि खराब करने और मानसिक उत्पीड़न के लिए।
पहले भी उठ चुके हैं Grok पर सवाल:
यह पहली बार नहीं है जब Grok विवादों में फंसा हो। इससे पहले भारत, यूरोपीय संघ और अन्य देशों में भी इसके इमेज एडिटिंग फीचर पर सवाल उठ चुके हैं। हालांकि xAI ने बाद में इस फीचर को केवल वेरिफाइड यूजर्स तक सीमित किया, लेकिन आलोचकों का मानना है कि यह कदम समस्या का स्थायी समाधान नहीं है।