‘Grok AI’ के अश्लील कंटेंट पर भड़का IT मंत्रालय, दिया 72 घंटे का अल्टीमेटम!

नई दिल्ली: भारत सरकार ने एलन मस्क के सोशल मीडिया प्लेटफॉर्म ‘X’ (पूर्व में ट्विटर) के खिलाफ सख्त रुख अख्तियार कर लिया है। केंद्र सरकार ने ‘X’ को अपने प्लेटफॉर्म से सभी अश्लील, आपत्तिजनक और गैर-कानूनी कंटेंट को तुरंत हटाने का कड़ा निर्देश दिया है। सरकार की मुख्य नाराजगी ‘X’ के एआई चैटबॉट ‘Grok’ द्वारा बनाए जा रहे आपत्तिजनक कंटेंट को लेकर है।

72 घंटे के भीतर मांगी रिपोर्ट, वरना होगी जेल!

इलेक्ट्रॉनिक्स एवं आईटी मंत्रालय (MeitY) ने ‘X’ के मुख्य अनुपालन अधिकारी को नोटिस जारी करते हुए स्पष्ट किया है कि यदि 72 घंटे के भीतर विस्तृत कार्रवाई रिपोर्ट (ATR) दाखिल नहीं की गई, तो कंपनी और उसके अधिकारियों के खिलाफ आईटी एक्ट, 2000 और आईटी नियम, 2021 के तहत सख्त कानूनी कार्रवाई की जाएगी।

नोटिस में कहा गया है कि साक्ष्यों को नुकसान पहुंचाए बिना, नियमों का उल्लंघन करने वाले सभी कंटेंट और अकाउंट्स को तुरंत डिसेबल किया जाए।

क्यों शुरू हुआ यह विवाद? (Grok AI का दुरुपयोग)

यह मामला तब गरमाया जब यह सामने आया कि यूजर्स ‘X’ के एआई टूल ‘Grok’ का इस्तेमाल कर महिलाओं की अश्लील तस्वीरें (Deepfakes) और वीडियो बना रहे हैं।

• सांसद की शिकायत: राज्यसभा सदस्य प्रियंका चतुर्वेदी ने केंद्रीय मंत्री अश्विनी वैष्णव को पत्र लिखकर ‘ग्रोक’ के दुरुपयोग पर चिंता जताई थी।

• महिलाओं को निशाना: आदेश में कहा गया है कि ‘ग्रोक’ का इस्तेमाल न केवल फेक अकाउंट बनाने के लिए हो रहा है, बल्कि उन महिलाओं को भी निशाना बनाया जा रहा है जो प्लेटफॉर्म पर अपनी असली तस्वीरें पोस्ट करती हैं।

• सुरक्षा की विफलता: मंत्रालय ने इसे प्लेटफॉर्म लेवल की सुरक्षा की “गंभीर विफलता” करार दिया है।

सिर्फ प्लेटफॉर्म ही नहीं, यूजर्स पर भी गिरेगी गाज

सरकार ने साफ कर दिया है कि यह चेतावनी केवल एलन मस्क की कंपनी के लिए नहीं है। कानून का उल्लंघन कर अश्लील कंटेंट बनाने, होस्ट करने या शेयर करने वाले यूजर्स के खिलाफ भी भारतीय न्याय संहिता (BNS) और अन्य कानूनों के तहत बिना किसी नोटिस के कार्रवाई की जा सकती है।

‘Grok’ ने मानी सुरक्षा में चूक

सरकार की सख्ती के बीच ‘XAI’ के चैटबॉट ‘ग्रोक’ ने शुक्रवार को सफाई दी। ग्रोक ने स्वीकार किया कि सुरक्षा उपायों में चूक के कारण प्लेटफॉर्म पर नाबालिगों की आपत्तिजनक तस्वीरें सामने आईं। ग्रोक ने एक पोस्ट में कहा: “हमने सुरक्षा उपायों में चूक की पहचान की है और उन्हें तुरंत ठीक कर रहे हैं। बाल यौन शोषण सामग्री (CSAM) अवैध है और हम इसे रोकने के लिए सुधार कर रहे हैं।”

सरकार की मांग: व्यापक तकनीकी समीक्षा

मंत्रालय ने ‘X’ से ‘ग्रोक’ की पूरी प्रणाली (प्रॉम्प्ट प्रोसेसिंग, इमेज हैंडलिंग और सेफ्टी गार्डरेल्स) की व्यापक समीक्षा करने को कहा है ताकि भविष्य में ऐसा कंटेंट जेनरेट ही न हो सके।

न्यूजहॉक (Newshawk) टेक नोट: एआई का बेलगाम विकास अब सरकारों के लिए चुनौती बन रहा है। भारत का यह कड़ा रुख अन्य देशों के लिए भी एक मिसाल बन सकता है कि तकनीकी नवाचार के नाम पर शालीनता और सुरक्षा से समझौता नहीं किया जा सकता।