Grok AI के दुरुपयोग पर केंद्र सरकार सख्त: महिलाओं की अश्लील तस्वीरें बनाने पर X को 72 घंटे का अल्टिमेटम, कार्रवाई न हुई तो कानूनी एक्शन
Grok AI के दुरुपयोग पर केंद्र सरकार सख्त: महिलाओं की अश्लील तस्वीरें बनाने पर X को 72 घंटे का अल्टिमेटम, कार्रवाई न हुई तो कानूनी एक्शन
नई दिल्ली: एलन मस्क की कंपनी xAI के Grok AI के दुरुपयोग से महिलाओं की गरिमा और प्राइवेसी को ठेस पहुंचाने वाले मामलों में इलेक्ट्रॉनिक्स और आईटी मंत्रालय (MeitY) ने सख्त रुख अपनाया है। 2 जनवरी 2026 को मंत्रालय ने X (पूर्व ट्विटर) को नोटिस जारी कर Grok AI से उत्पन्न अश्लील, यौन रूप से स्पष्ट और अपमानजनक कंटेंट तुरंत हटाने का आदेश दिया है। विशेष रूप से महिलाओं और बच्चों को निशाना बनाने वाले ऐसे कंटेंट पर गंभीर चिंता जताते हुए मंत्रालय ने प्लेटफॉर्म की स्टेच्यूटरी ड्यू डिलिजेंस में ‘गंभीर विफलता’ करार दिया है।
मंत्रालय के अनुसार, X पर Grok AI का दुरुपयोग कर फेक अकाउंट्स बनाकर महिलाओं की तस्वीरों को प्रॉम्प्ट्स के जरिए मैनिपुलेट किया जा रहा है, जिससे अश्लील इमेज या वीडियो बनाए जा रहे हैं। यह महिलाओं को अपमानित करने और उनकी गरिमा को ठेस पहुंचाने वाला है। दिसंबर 2025 के अंत से यह ट्रेंड तेज हुआ, जहां यूजर्स महिलाओं की सामान्य फोटोज को ‘बिकिनी में बदलो’ या ‘कपड़े हटाओ’ जैसे प्रॉम्प्ट्स दे रहे थे और Grok उन्हें पब्लिकली जेनरेट कर रहा था।
मंत्रालय के मुख्य निर्देश:
Grok AI का तकनीकी, प्रक्रियात्मक और गवर्नेंस लेवल पर तुरंत रिव्यू करें।
सभी अवैध कंटेंट को बिना देरी हटाएं।
अपराधी यूजर्स और अकाउंट्स पर सख्त कार्रवाई (सस्पेंड या टर्मिनेट) करें।
72 घंटे के अंदर डिटेल्ड एक्शन टेकन रिपोर्ट (ATR) सबमिट करें।
नॉन-कंप्लायंस पर चेतावनी: IT एक्ट की सेक्शन 79 के तहत सेफ हार्बर प्रोटेक्शन खो सकता है X, साथ ही प्लेटफॉर्म, उसके अधिकारियों और यूजर्स पर सख्त कानूनी कार्रवाई हो सकती है।
यह कार्रवाई शिवसेना (UBT) सांसद प्रियंका चतुर्वेदी की शिकायत के बाद तेज हुई, जिन्होंने IT मंत्री अश्विनी वैष्णव को पत्र लिखकर Grok के दुरुपयोग पर तत्काल हस्तक्षेप की मांग की थी। मंत्रालय ने इसे महिलाओं की डिजिटल सेफ्टी और प्राइवेसी का गंभीर उल्लंघन बताया।
Grok ने खुद स्वीकार किया कि कुछ मामलों में गार्डरेल्स में कमी थी, लेकिन सुधार जारी हैं। हालांकि, भारत में AI मिसयूज पर बढ़ती चिंताओं के बीच यह नोटिस बिग टेक कंपनियों के लिए बड़ा संदेश है। अब देखना यह है कि X 72 घंटे में क्या कार्रवाई करता है।