एलन मस्क ने सोशल मीडिया प्लेटफॉर्म X पर अपने Grok चैटबॉट पर इमेज जनरेशन फंक्शन को सिर्फ़ पेड सब्सक्राइबर तक सीमित कर दिया है. इस टूल द्वारा AI का इस्तेमाल करके महिलाओं की अभद्र तस्वीरें बनाई जा रही थीं.
सोशल मीडिया प्लेटफॉर्म एक्स ने अपने नए AI फीचर का गलत प्रयोग रोकने के लिए कई कदम उठाए हैं. अब एक्स पर ग्रोक को कमांड देकर भद्दे और अश्लील तस्वीरें नही बनाई जा सकेंगी. एक्स के AI फीचर ग्रोक पर मात्र छोटा सा कमांड देकर किसी की अभद्र तस्वीर बनाई जा रही थी. भारत, ब्रिटेन समेत कई देशों ने ग्रोक के इस फीचर की शिकायत एक्स से की थी और इस पर रोक लगाने की मांग की थी, अन्यथा कई देशों ने ग्रोक पर बैन लगाने की धमकी दी थी. इसके बाद एलन मस्क की कंपनी एक्स ने ये फैसला उठाया है.
अब एलन मस्क के मालिकाना हक वाली X ने ग्रोक पर कई और फीचर डाल दिया है और इस विवादि इमेज एडिटिंग टूल के इस्तेमाल पर चार्ज लेना शुरू कर दिया है. यह कदम तब उठाया गया जब UK सरकार ने चल रहे AI बिकिनी वायरल ट्रेंड को लेकर प्लेटफॉर्म को बैन करने की धमकी दी थी. यानी कि अब पेड सब्सक्राइबर्स ही इस फीचर का इस्तेमाल कर पाएंगे.
ये विवाद तब शुरू हुआ जब ग्रोक ने एक सिंपल प्रॉम्प्ट से किसी के भी कपड़े स्ट्रिप करने शुरू दिए. जिससे प्लेटफॉर्म पर मुख्य रूप से महिलाओं की सेक्सुअली एक्सप्लिसिट डीपफेक इमेज की बाढ़ आ गई. इसके बाद हुए विरोध और UK की कड़ी चेतावनी के बाद, X, या बल्कि xAI, को इमेज जेनरेशन को लॉक करना पड़ा.
बीबीसी की एक रिपोर्ट के अनुसार यूके के ऐसे X यूज़र्स जो पेमेंट नहीं करते और Grok के इमेज जनरेशन और एडिटिंग फीचर्स का इस्तेमाल करने की कोशिश कर रहे हैं , उन्हें यह एरर मैसेज मिल रहा है.
इस फीचर का एक्सेस पाने के लिए X प्रीमियम (या X प्रीमियम प्लस) सब्सक्राइब करने के लिए कहा जा रहा है. नए प्रतिबंधों के तहत यूज़र्स को इस फीचर को एक्सेस करने के लिए पहचान और पेमेंट डिटेल्स देनी होंगी,और अब सिर्फ़ वेरिफाइड, ब्लू-टिक अकाउंट होल्डर ही प्लेटफॉर्म पर इमेज एडिट कर पाएंगे.
भारत में लोगों ने कई युवतियों की तस्वीरों को ग्रोक पर डालकर ‘ग्रोक रिमूव दिस’, ‘ग्रोक पुट ए बिकिनी’ ट्रेंड शुरू किया था. इसे लेकर काफी हंगामा हुआ था. राज्यसभा सांसद प्रियंका चतु्र्वेदी ने इस मामले को उठाते हुए केंद्र को चिट्ठी लिखी थी. और इसे महिलाओं की निजता का हनन बताया था. केंद्र सरकार ने इस इस मामले में एक्स से रिपोर्ट मांगी थी.
