ओकलैंड : कैलिफ़ोर्निया के अटॉर्नी जनरल रॉब बॉन्टा ने कृत्रिम बुद्धिमत्ता मॉडल ‘ग्रोक’ के पीछे की कंपनी xAI के खिलाफ जाँच शुरू की है। यह जाँच उन चिंताओं के मद्देनज़र शुरू की गई है कि इस टूल का उपयोग ऑनलाइन बिना सहमति के यौन रूप से स्पष्ट सामग्री बनाने और प्रसारित करने के लिए किया जा रहा है।
यह जाँच उन रिपोर्टों के बाद शुरू की गई है जिनमें कहा गया है कि ग्रोक का इस्तेमाल महिलाओं और लड़कियों को बिना उनकी सहमति के यौन रूप से स्पष्ट परिस्थितियों में दिखाने वाली डीपफेक तस्वीरें बनाने के लिए किया गया। यह भी रिपोर्ट है कि इस सामग्री का उपयोग सोशल मीडिया प्लेटफ़ॉर्म X सहित इंटरनेट पर लोगों को परेशान करने के लिए किया गया।
रॉब बॉन्टा ने कहा, “हाल के हफ्तों में xAI द्वारा तैयार की गई और ऑनलाइन पोस्ट की गई बिना सहमति की यौन रूप से स्पष्ट सामग्री से जुड़ी रिपोर्टों की बाढ़ चौंकाने वाली है। इस सामग्री में महिलाओं और बच्चों को नग्न और यौन रूप से स्पष्ट स्थितियों में दिखाया गया है और उनका उपयोग इंटरनेट पर लोगों को परेशान करने के लिए किया गया है। xAI इसे आगे बढ़ने से रोकने के लिए तत्काल कार्रवाई करे। एआई के ज़रिये बिना सहमति की अंतरंग तस्वीरें या बाल यौन शोषण सामग्री बनाने और फैलाना स्वीकार्य नहीं है।”
उन्होंने आगे कहा, “आज मेरा कार्यालय औपचारिक रूप से xAI के खिलाफ जाँच की घोषणा करता है ताकि यह निर्धारित किया जा सके कि xAI ने क़ानून का उल्लंघन किया है या नहीं और यदि किया है तो कैसे। कैलिफ़ोर्निया के निवासियों की सुरक्षा के आवश्यक कदम उठाये जायेंगे।”
अटॉर्नी जनरल बॉन्टा ने AI टूल्स से जुड़े व्यापक जोखिमों पर अपनी चिंता दोहराई और कहा कि उनका कार्यालय AI सुरक्षा, विशेष रूप से बच्चों की सुरक्षा पर केंद्रित है। उन्होंने पहले बच्चों को AI कम्पैनियन चैटबॉट्स से बचाने के लिए राज्य स्तर के क़ानूनों का समर्थन किया है और सुरक्षा से जुड़े मुद्दों पर एआई कंपनियों से सीधे संवाद भी किया है।
CBS न्यूज़ ने अपनी रिपोर्ट में कहा कि हाल ही में इंडोनेशिया AI के दुरुपयोग से बिना सहमति के यौनिकृत तस्वीरें बनाए जाने को लेकर बढ़ती वैश्विक चिंताओं के बीच एलन मस्क की कंपनी xAI द्वारा विकसित एआई चैटबॉट ग्रोक तक पहुँच को पूरी तरह निलंबित करने वाला पहला देश बना।
भारत में भी इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने कार्रवाई की है। मंत्रालय ने सूचना प्रौद्योगिकी अधिनियम, 2000 के तहत वैधानिक ‘ड्यू डिलिजेंस’ दायित्वों का पालन न करने के आरोप में X को पत्र लिखा। मंत्रालय ने प्लेटफ़ॉर्म से एक ‘एक्शन टेकन रिपोर्ट’ माँगी ताकि ग्रोक जैसे AI टूल्स के माध्यम से अश्लील और यौन रूप से स्पष्ट सामग्री की होस्टिंग, जनरेशन और प्रसार को रोकने के लिए तत्काल कदम सुनिश्चित किए जा सकें।
एलन मस्क ने पिछले सप्ताह ग्रोक को लेकर हुई आलोचनाओं पर प्रतिक्रिया देते हुए उपयोगकर्ताओं को अवैध गतिविधियों से दूर रहने की चेतावनी दी। उन्होंने कहा कि जो कोई भी चैटबॉट का उपयोग अवैध सामग्री बनाने के लिए करेगा, उसे वही परिणाम भुगतने होंगे जैसे अवैध सामग्री अपलोड करने पर होते हैं।
