Grok AI इमेज विवाद: दुनिया भर में Grok से अश्लील इमेज बनाने पर रोक, तकनीकी बदलाव लागू

दुनिया भर में एआई चैटबॉट Grok से अश्लील और अपमानजनक तस्वीरें बनाने पर रोक लगा दी गई है। एलन मस्क की कंपनी X (पहले Twitter) ने Grok के विवादित फीचर को बदलने का बड़ा कदम उठाया है। अब वास्तविक लोगों की अश्लील या उत्तेजक तस्वीरें AI से नहीं बनाई जा सकेंगी। यह बदलाव घरेलू और अंतरराष्ट्रीय दबाव के बीच आया है। 

Grok की तकनीक और अश्लील तस्वीरों को रोकने का फैसला

Grok एक एआई टूल है जो टेक्स्ट कमांड के आधार पर तस्वीरें बना सकता है। पहले इसे “स्पाइसी मोड” जैसी सेटिंग में इस्तेमाल करके बिना अनुमति के महिलाओं और बच्चों की उत्तेजक या अश्लील तस्वीरें बनाई जा रही थीं। ऐसे AI-निर्मित फोटो या डीपफेक कई देशों में गैर-कानूनी माने जाते हैं।
अब X ऐसी तस्वीरें नहीं बना पाएगा जो किसी व्यक्ति को बिकनी, अंडरवियर या इसी तरह की उत्तेजक पोशाक में दिखाती हैं। यह प्रतिबंध उन देशों में सख्ती से लागू होगा जहाँ ऐसी सामग्री गैरकानूनी है। 

पेड यूजर को भी नहीं मिलेगी अश्लील इमेज सुविधा

पहले Grok में पेड सब्सक्राइबर को विशेष तस्वीरें बनाने की सुविधा थी। अब यह सुविधा भी सीमित कर दी गई है। कंपनी ने कहा है कि अब Grok पर तस्वीर बनाना और एडिट करना केवल तभी होगा जब वह प्लेटफॉर्म के नियमों का सही पालन करता हो।
इस बदलाव का मकसद है कि ऐसे लोग जिनका इरादा गलत हो, उन्हें पहचान कर रोक सके। अगर कोई नियम तोड़े तो उसके खिलाफ सख्त कार्रवाई होगी। 

भारत सहित कई देशों ने कार्रवाई की मांग की थी

भारत जैसे देशों में भी Grok की अश्लील इमेज बनाने वाली क्षमता को लेकर चिंता जताई गई थी। सूचना प्रौद्योगिकी मंत्रालय ने X को नोटिस जारी किया था और कहा था कि अगर नियमों के मुताबिक कदम नहीं लिए गए, तो कंपनी के खिलाफ कड़ी कार्रवाई की जाएगी।
भारत में ग्रोक से लगभग 3,500 आपत्तिजनक पोस्ट हटाए गए और 600 से ज्यादा अकाउंट ब्लॉक किए गए। इसके बाद इस बड़े बदलाव को लागू किया गया। 

कई देशों ने पहले ही बैन किया है, दुनिया भर के देशों की प्रतिक्रिया

मलेशिया और इंडोनेशिया जैसे देशों ने Grok पर पहले ही प्रतिबंध लगा दिया था। वहां के कानून के तहत बिना अनुमति वाले डीपफेक पोर्नोग्राफिक कंटेंट गैरकानूनी है, इसलिए वहां Grok का इस्तेमाल रोक दिया गया। कई और देशों जैसे ब्रिटेन, यूरोपीय संघ और कैलिफोर्निया (अमरीका) में भी कानूनी जांच चल रही है। 

ब्रिटेन के प्रधानमंत्री और तकनीकी अधिकारियों ने Grok पर कहा कि यह एक गंभीर समस्या है। ब्रिटेन में कहा गया कि अगर X AI कानूनों का पालन नहीं करेगा तो प्लेटफॉर्म पर प्रतिबंध भी लगाया जा सकता है। ऐसे विचार कई हिस्सों में उठे हैं जहाँ ये इमेज बनाने की क्षमता पहले खुली थी।