Grok AI Ban: एलन मस्क की कंपनी एक्सएआई द्वारा विकसित आर्टिफिशियल इंटेलिजेंस (AI) चैटबॉट ‘ग्रोक’ को लेकर दुनिया में पहली बड़ी नियामक कार्रवाई सामने आई है। दक्षिण-पूर्व एशिया के दो देश—मलेशिया और इंडोनेशिया—ने इस टूल पर प्रतिबंध लगाने का फैसला किया है। अधिकारियों का कहना है कि ग्रोक का दुरुपयोग अश्लील, यौन-आधारित और बिना सहमति के डीपफेक चित्र तैयार करने में किया जा रहा था, जिनमें महिलाओं और बच्चों से जुड़ी सामग्री भी शामिल है। इन देशों का यह कदम जनरेटिव एआई से जुड़ी वैश्विक चिंताओं को और गहरा करता है।
ग्रोक, एलन मस्क के सोशल मीडिया प्लेटफॉर्म ‘एक्स’ के जरिए उपयोगकर्ताओं को उपलब्ध कराया गया था। नियामकों के अनुसार, मौजूदा सुरक्षा उपाय ऐसे खतरनाक दुरुपयोग को रोकने में नाकाम साबित हुए, जहां वास्तविक लोगों की तस्वीरों से छेड़छाड़ कर नकली अश्लील कंटेंट तैयार किया गया। अधिकारियों का मानना है कि इस तरह की तकनीक न केवल निजता का उल्लंघन करती है, बल्कि पीड़ितों को गंभीर मानसिक, सामाजिक और प्रतिष्ठा संबंधी नुकसान भी पहुंचा सकती है।
इंडोनेशिया सरकार ने शनिवार को ग्रोक तक पहुंच अस्थायी रूप से बंद करने का आदेश जारी किया। देश की संचार और डिजिटल मामलों की मंत्री मेउत्या हाफिद ने कहा कि सरकार गैर-सहमति वाले डीपफेक को मानवाधिकारों और मानवीय गरिमा का गंभीर उल्लंघन मानती है। उनके अनुसार, डिजिटल स्पेस में नागरिकों की सुरक्षा सरकार की प्राथमिक जिम्मेदारी है और ऐसे टूल्स पर सख्त कार्रवाई जरूरी है, जो इस सुरक्षा को कमजोर करते हैं।
इंडोनेशियाई संचार मंत्रालय के डिजिटल स्पेस निगरानी महानिदेशक अलेक्जेंडर साबर ने बताया कि प्रारंभिक जांच में यह सामने आया है कि ग्रोक में ऐसे प्रभावी फिल्टर और नियंत्रण तंत्र मौजूद नहीं हैं, जो इंडोनेशियाई नागरिकों की वास्तविक तस्वीरों के आधार पर अश्लील कंटेंट बनाए जाने से रोक सकें। उन्होंने चेतावनी दी कि बिना सहमति किसी की तस्वीर में हेरफेर या उसका प्रसार निजता और छवि के अधिकारों का सीधा उल्लंघन है।
मलेशिया में भी इसी तरह की चिंताओं के चलते रविवार को मलेशियाई संचार और मल्टीमीडिया आयोग (MCMC) ने ग्रोक पर अस्थायी प्रतिबंध लगाने का आदेश दिया। आयोग ने कहा कि इस टूल का बार-बार दुरुपयोग कर अश्लील और यौन-आधारित चित्र तैयार किए गए, जिनमें नाबालिगों से जुड़ी सामग्री भी पाई गई। नियामक संस्था ने यह भी स्पष्ट किया कि एक्स कॉर्प और एक्सएआई को पहले ही मजबूत सुरक्षा उपाय लागू करने के लिए नोटिस भेजे गए थे, लेकिन कंपनी के जवाब संतोषजनक नहीं रहे।
आयोग ने अपने बयान में कहा कि कानूनी और नियामक प्रक्रियाएं पूरी होने तक यह प्रतिबंध “निवारक और संतुलित कदम” के तौर पर लगाया गया है और तब तक जारी रहेगा, जब तक उपयोगकर्ताओं की सुरक्षा सुनिश्चित करने वाले प्रभावी उपाय लागू नहीं हो जाते। गौरतलब है कि ग्रोक को वर्ष 2023 में लॉन्च किया गया था और यह एक्स प्लेटफॉर्म पर मुफ्त में उपलब्ध था।
पिछले साल कंपनी ने ‘ग्रोक इमैजिन’ नाम से इमेज जनरेशन फीचर जोड़ा था, जिसमें वयस्क सामग्री तैयार करने वाला तथाकथित ‘स्पाइसी मोड’ भी शामिल था। आलोचकों का कहना है कि यही फीचर बड़े पैमाने पर दुरुपयोग का कारण बना। हाल ही में वैश्विक आलोचना के बाद कंपनी ने इमेज जनरेशन और एडिटिंग सुविधाओं को केवल भुगतान करने वाले उपयोगकर्ताओं तक सीमित कर दिया, लेकिन विशेषज्ञों का मानना है कि यह कदम समस्या के मूल समाधान के लिए पर्याप्त नहीं है।
दक्षिण-पूर्व एशिया में लगाया गया यह प्रतिबंध ऐसे समय आया है, जब यूरोपीय संघ, ब्रिटेन, भारत और फ्रांस सहित कई देशों में भी ग्रोक और अन्य जनरेटिव एआई टूल्स को लेकर कड़ी जांच चल रही है। नियामकों और मानवाधिकार संगठनों का कहना है कि यदि समय रहते सख्त नियम नहीं बनाए गए, तो डीपफेक और एआई-जनित अश्लील सामग्री समाज के लिए गंभीर खतरा बन सकती है।
