Horrible & Weird : महिलेच्या शरीरावरची Google Gemini ने अशी गोष्ट शोधून काढली जी फोटोतही नव्हती, Nano Banana चा धक्कादायक अनुभव!

इंस्टाग्रामवरील व्हायरल एआय साडी ट्रेंडने एका महिलेने तिच्या एआय-जनरेट केलेल्या फोटोमध्ये एक धक्कादायक तपशील शोधल्यानंतर एक वादग्रस्त वळण घेतले आहे. एआयला तिच्या हातावरील एक तीळ माहित असल्याचे दिसून आले जे मूळ फोटोमध्ये दिसत नव्हते.

गुगलच्या 'जेमिनी' एआय टूलवर सध्या सुरू असलेला 'बनाना एआय साडी ट्रेंड' इंस्टाग्रामवर खूपच लोकप्रिय झाला आहे. या ट्रेंडमध्ये वापरकर्ते त्यांचे फोटो 90 च्या दशकातील बॉलीवूड चित्रपटांसारख्या रेट्रो साडी पोर्ट्रेटमध्ये बदलत आहेत. पण, एका वापरकर्तीने या ट्रेंडचा वापर करताना मिळालेल्या एका धक्कादायक अनुभवामुळे या एआय टूल्सच्या सुरक्षिततेबद्दल प्रश्नचिन्ह निर्माण झाले आहे.

'झलकभवानी' नावाच्या एका इंस्टाग्राम वापरकर्तीने तिचा अनुभव शेअर केला. तिने हिरव्या रंगाच्या सूटमधील तिचा एक फोटो जेमिनीवर अपलोड करून साडी पोर्ट्रेट तयार करण्याचा प्रयत्न केला. एआयने तयार केलेला फोटो तिला आवडला आणि तिने तो इंस्टाग्रामवर पोस्ट केला. मात्र, जेव्हा तिने तो फोटो बारकाईने पाहिला, तेव्हा तिला धक्का बसला. एआयने तयार केलेल्या त्या फोटोमध्ये तिच्या डाव्या हातावर एक लहान तीळ दिसत होता, जो तिच्या मूळ फोटोमध्ये दिसत नव्हता.

सर्वात धक्कादायक बाब म्हणजे, खऱ्या आयुष्यात तिला त्याच ठिकाणी तीळ आहे. यामुळे ती गोंधळून गेली आणि तिने तिच्या पोस्टमध्ये विचारले, "एआयला हे कसे कळले की माझ्या शरीराच्या या भागावर तीळ आहे?" तिने हा अनुभव "भितीदायक आणि विचित्र" असे म्हटले. या घटनेनंतर तिने आपल्या फॉलोअर्सना सोशल मीडिया आणि एआय प्लॅटफॉर्मवर काहीही अपलोड करताना काळजी घेण्याचा इशारा दिला.

या घटनेमुळे इंस्टाग्रामवर मोठी चर्चा सुरू झाली आहे. काही वापरकर्त्यांनी एआय टूल्स किती वैयक्तिक डेटा ॲक्सेस करू शकतात याबद्दल चिंता व्यक्त केली आहे, तर काही जण याला एक योगायोग मानत आहेत.

अदृश्य वॉटरमार्क

गुगल आणि ओपनएआय (OpenAI) सारख्या कंपन्या त्यांच्या एआय टूल्समध्ये सुरक्षिततेचे उपाय वापरत असल्याचा दावा करतात. उदाहरणार्थ, गुगल त्यांच्या 'नॅनो बनाना' एडिटमध्ये 'सिंथआयडी' (SynthID) नावाचा एक अदृश्य वॉटरमार्क वापरते. मानवी डोळ्यांना न दिसणारा हा वॉटरमार्क, एआयने तयार केलेला फोटो ओळखण्यास मदत करतो, असे गुगलचे म्हणणे आहे. विशेष साधनांचा वापर करून या वॉटरमार्कचा शोध घेता येतो, ज्यामुळे फोटोचे मूळ तपासता येते.

पण, या सुरक्षिततेच्या उपायांवर टीकाकारांना शंका आहे. 'सिंथआयडी' शोधणारी साधने सर्वसामान्यांसाठी उपलब्ध नाहीत, त्यामुळे कोणताही फोटो एआयने तयार केला आहे की नाही हे सामान्य वापरकर्त्यांना कळत नाही. याशिवाय, तज्ज्ञांचे म्हणणे आहे की वॉटरमार्कमध्ये फेरफार करता येतो किंवा तो पूर्णपणे काढताही येतो.

वॉटरमार्किंग पुरेसे नाही

यूसी बर्कलेचे प्राध्यापक हनी फरीद यांच्या मते, "केवळ वॉटरमार्किंग कधीही पुरेसे नाही." रिॲलिटी डिफेंडरचे सीईओ बेन कोलमन यांनीही या मताला दुजोरा दिला. वॉटरमार्क प्रणाली अनेकदा "वास्तविक जगात सुरुवातीपासूनच अयशस्वी होतात," असे ते म्हणाले. तज्ञांचे मत आहे की जर आपल्याला डीपफेकच्या (Deepfake) वाढीला थांबवायचे असेल, तर वॉटरमार्किंगचा वापर इतर तंत्रज्ञानासोबत केला पाहिजे.

एकंदरीत, 'एआय साडी ट्रेंड' लोकप्रिय होत असला, तरी त्याभोवतीच्या सुरक्षिततेची चर्चा वाढत आहे. वापरकर्त्यांनी जे काही शेअर करतात त्याबद्दल सावध राहिले पाहिजे आणि एआय त्यांच्याबद्दल अपलोड केलेल्या पिक्सेलच्या पलीकडे किती माहिती गोळा करू शकते, यावर प्रश्न विचारणे गरजेचे आहे.