एलन मस्क की कंपनी xAI के एआई चैटबॉट Grok को बढ़ते विवादों के बाद अपनी नीतियों में बदलाव करना पड़ा है। महिलाओं की आपत्तिजनक और बिना सहमति वाली तस्वीरें बनाए जाने के आरोपों तथा सरकारों के कड़े रुख के चलते अब Grok ने स्पष्ट किया है कि वह महिलाओं को बिकिनी, स्विमवेयर या किसी भी तरह की यौन उत्तेजक पोज़ में दर्शाने वाली इमेज जनरेट नहीं करेगा। यह बदलाव खासतौर पर ब्रिटेन में देखने को मिला है, जहां सरकार ने X प्लेटफॉर्म को सख्त चेतावनी दी थी।
Grok की नई पॉलिसी क्या कहती है
मीडिया रिपोर्ट्स के मुताबिक, अब अगर कोई यूज़र महिलाओं को रिवीलिंग कपड़ों या यौन संदर्भ वाली स्थिति में दिखाने की रिक्वेस्ट करता है, तो Grok उसे सीधे अस्वीकार कर देता है। जवाब में यह बताया जा रहा है कि ऐसी इमेज बनाना संभव नहीं है और किसी वास्तविक व्यक्ति या उससे मिलती-जुलती तस्वीर को इस तरह दिखाना बिना सहमति की इमेज मैनिपुलेशन माना जाएगा।
ब्रिटेन सरकार के दबाव का असर
इस फैसले को ब्रिटेन सरकार के दबाव से जोड़कर देखा जा रहा है। हाल ही में प्रधानमंत्री कीयर स्टारमर ने संसद में चेतावनी दी थी कि यदि X अपने एआई टूल्स को नियंत्रित नहीं कर पाया, तो सरकार हस्तक्षेप करेगी और सेल्फ-रेगुलेशन का अधिकार छीना जा सकता है।
डबल स्टैंडर्ड पर उठे सवाल
हालांकि नियम सख्त होने के बाद भी विवाद थमा नहीं है। आरोप है कि यह रोक मुख्य रूप से महिलाओं से जुड़ी इमेज रिक्वेस्ट पर लागू की गई है, जबकि पुरुषों या निर्जीव वस्तुओं को बिकिनी में दिखाने वाली तस्वीरें अब भी बनाई जा रही हैं। इसे लेकर सोशल मीडिया पर दोहरे मापदंड अपनाने के आरोप लग रहे हैं।
पहले से विवादों में रहा है Grok
बीते कुछ हफ्तों में Grok का इस्तेमाल कर कई महिलाओं, सार्वजनिक हस्तियों और सेलेब्रिटीज की डीपफेक जैसी तस्वीरें बनाए जाने के मामले सामने आए थे। इनमें बिना अनुमति रिवीलिंग इमेज तैयार की गईं, जिससे व्यापक आलोचना हुई।
पेड सब्सक्रिप्शन भी नहीं बना समाधान
गलत इस्तेमाल रोकने के लिए X ने पहले Grok के इमेज फीचर्स को केवल पेड सब्सक्राइबर्स तक सीमित किया था, लेकिन रेगुलेटर्स ने इसे भी नाकाफी बताया। उनका कहना था कि इससे समस्या खत्म होने के बजाय गलत इस्तेमाल को प्रीमियम बना दिया गया।
भारत समेत कई देशों का सख्त रुख
भारत सरकार ने भी X को डीपफेक और आपत्तिजनक कंटेंट हटाने तथा सुरक्षा तंत्र मजबूत करने के निर्देश दिए हैं। कई अकाउंट्स पर कार्रवाई हो चुकी है। वहीं मलेशिया और इंडोनेशिया जैसे देशों ने नॉन-कंसेंशुअल सेक्सुअल कंटेंट को लेकर X को ब्लॉक करने तक के कदम उठाए हैं। इससे साफ है कि एआई टूल्स के गलत इस्तेमाल पर अब दुनियाभर की सरकारें सख्ती के मूड में हैं।
