Grok AI Misused: महिला-मुलांचे अश्लील फोटो बनवल्याने जागतिक स्तरावर संताप व्यक्त

Grok AI Misused: महिला आणि मुलांचे फोटो मॉर्फ करून ते अश्लील बनवण्यासाठी युजर्स Grok AI चा गैरवापर करत आहेत. यावरून जगभरातून तीव्र निषेध व्यक्त होत आहे. महिला हक्क कार्यकर्त्यांनी यावर त्वरित कारवाईची मागणी केली आहे. पीडितांना मानसिक त्रास होत आहे.

(Grok AI Misused) कॅलिफोर्निया:  Grok AI हा एक चॅटबॉट आहे. म्हणजे जर तुम्हाला एखाद्या प्रश्नाचं उत्तर जाणून घ्यायचं असेल तर एक्सवर तो प्रश्न टॅग करावा लागतो किंवा ग्रोक एआयच्या वेबसाईटवर जाऊन तो प्रश्न विचारावा लागतो. त्यावर Grok AI हा आपल्याला चॅटबॉट म्हणजे गप्पांप्रमाणे उत्तर देतो. चॅटबॉट हे पोपटाप्रमाणे असतात. पोपट जशी आपली नक्कल करू शकतात तसाच काहीसा प्रकार Grok AI च्या संदर्भात होतो. काही वेळा संपूर्ण संदर्भ समजून न घेता ऐकलेल्या शब्दांच्या थोड्याशा आकलनाच्या आधारे पोपट जशी त्याची पुनरावृत्ती करू शकतो. चॅटबॉटदेखील असंच करतात, फक्त अधिक चांगल्या आकलनाद्वारे एवढाच काय तो फरक. 

याच Grok AI द्वारे महिला आणि मुलांचे फोटो लैंगिक सामग्रीमध्ये रूपांतरित करण्याची परवानगी दिल्याबद्दल एक्स (X) प्लॅटफॉर्मवर जगभरातून तीव्र निषेध होत आहे. Grok चा गैरवापर करून महिला आणि मुलांचे फोटो अश्लील चित्रांमध्ये बदलण्याचा ट्रेंड गेल्या काही दिवसांपासून एक्सवर मोठ्या प्रमाणात वाढल्यानंतर हा निषेध तीव्र झाला आहे. लैंगिक सामग्री तयार करण्यासाठी आणि लोकांची बदनामी करण्यासाठी AI च्या गैरवापराबाबतची जागतिक चिंता या घटनेमुळे वाढली आहे.

AI वापरून अश्लील चित्रनिर्मिती

सामान्य फोटोंना Grok AI वापरून अश्लील आणि आक्षेपार्ह चित्रांमध्ये बदलण्याचा ट्रेंड काही दिवसांपूर्वी एक्सवर मोठ्या प्रमाणात सुरू झाला. नवीन वर्षाच्या दिवशी हा धोकादायक ट्रेंड आणखी पसरला. एक्स युजर्सनी महिला आणि मुलांचे सामान्य फोटो Grok वर अपलोड करून थेट प्रॉम्प्ट देऊन ही चित्रे तयार केली. अशी चित्रे एक्स प्लॅटफॉर्मवर मोठ्या प्रमाणात शेअरही केली गेली. या धक्कादायक घटनेने महिला आणि मुलांची प्रायव्हसी आणि त्यांच्या हक्कांबाबत जागतिक स्तरावर मोठे प्रश्न निर्माण केले आहेत. लोकांना अपमानित करण्यासाठी आणि त्यांची बदनामी करण्यासाठी अनेकांनी अशा AI-निर्मित चित्रांचा वापर केल्याने या समस्येची तीव्रता दिसून येते.

एक्स विरोधात तीव्र निषेध

Grok AI चा अशाप्रकारे होणारा गैरवापर त्वरित थांबवावा, या मागणीसाठी अनेक देशांतील महिला हक्क कार्यकर्त्या पुढे आल्या आहेत. या प्रकरणात एक्सचे मालक एलॉन मस्क यांनी तातडीने हस्तक्षेप करावा, अशी त्यांची मागणी होती. यानंतर एक्सने Grok मीडिया फीचर लपवले असले तरी, फोटो मॉर्फ करणे आणि शेअर करणे विनाअडथळा सुरूच असल्याचे सीएनबीसीटीव्ही18 च्या रिपोर्टमध्ये म्हटले आहे. महिला आणि मुलांच्या हक्कांचे संरक्षण करण्यात आणि त्यांच्या फोटोंचा लैंगिक गैरवापर रोखण्यात अपयशी ठरल्याने एक्सवर मोठी टीका होत आहे.

Grok AI वापरून फोटो मॉर्फ करण्याची ही गंभीर समस्या भारतातही समोर आली आहे. ऑनलाइन मित्र आणि विरोधकांना ट्रोल करण्यापलीकडे, अशी AI चित्रे एक मोठा सायबर धोका असल्याचे सायबर तज्ज्ञांचे म्हणणे आहे. अशा प्रकारे फोटोंचा गैरवापर झाल्यास पीडित व्यक्ती मानसिक धक्क्यात जाऊ शकते, असा इशाराही देण्यात आला आहे. फोटो मॉर्फ होण्यापासून वाचण्यासाठी अनेक महिला एक्स युजर्स त्यांच्या अकाउंटवरून फोटो काढून टाकत असल्याचे मीडिया रिपोर्ट्समध्ये म्हटले आहे.