सायबर सुरक्षेच्या एका चाचणीदरम्यान गुगलच्या जेमिनी एआयने चुकून तीन खऱ्याखुऱ्या कंपन्यांच्या सिस्टीममध्ये घुसखोरी केली. पण, या खऱ्या कंपन्या आहेत हे लक्षात येताच जेमिनीने स्वतःहून हॅकिंग थांबवले. एआय मॉडेलने अत्यंत जबाबदारीने काम केल्याचे गुगलने स्पष्ट केले आहे.
मुंबई : एआय (AI) सिस्टीम स्वतःहून सायबर हल्ले करू शकतील का, अशी भीती व्यक्त केली जात असतानाच एक धक्कादायक बातमी समोर आली आहे. सायबर सुरक्षेच्या एका चाचणीदरम्यान गुगलच्या जेमिनी एआय मॉडेलने तीन खऱ्याखुऱ्या कंपन्यांच्या सिस्टीममध्ये घुसखोरी केली. गुगलने स्वतः याला दुजोरा दिला आहे. पण, आपण खऱ्या कंपन्यांच्या सिस्टीममध्ये शिरलो आहोत, हे लक्षात येताच जेमिनीने स्वतःहून हॅकिंग थांबवले आणि तिथून माघार घेतली, असे गुगलने स्पष्ट केले. 'वॉल स्ट्रीट जर्नल'च्या रिपोर्टनुसार, मे महिन्यात इस्रायली एआय स्टार्टअप 'इरग्युलर'ने (Eragular) घेतलेल्या सायबर सुरक्षा चाचणीदरम्यान ही घटना घडली. इंटरनेटचा अॅक्सेस मिळाल्यामुळे जेमिनीने तीन बाहेरील कंपन्यांच्या सिस्टीममध्ये प्रवेश केला. गुगलच्या एआय सिस्टीमने स्वतःहून अशी कृती केल्याची ही पहिलीच ज्ञात घटना आहे.
नेमकं काय घडलं?
'इरग्युलर'च्या सिस्टीमवर 'कॅप्चर द फ्लॅग' (Capture the Flag) या सायबर सुरक्षा चाचणीदरम्यान या घटनेची सुरुवात झाली. चाचणीसाठी तयार केलेल्या एका काल्पनिक कंपनीच्या सॉफ्टवेअरमधून माहिती शोधण्याची सूचना जेमिनीला देण्यात आली होती. पण, चाचणीत वापरलेल्या काल्पनिक कंपनीचे नाव एका खऱ्या कंपनीच्या नावाशी जुळले. जेमिनीला इंटरनेटचा अॅक्सेस देण्याचा कोणताही हेतू नव्हता, पण एका तांत्रिक चुकीमुळे त्याला इंटरनेट मिळाले. यामुळे जेमिनीला खऱ्या कंपनीच्या सिस्टीममध्ये प्रवेश करणे शक्य झाले. एका घटनेत जेमिनीने चक्क पासवर्डचा अंदाज लावून सिस्टीममध्ये प्रवेश मिळवला. पण, आपण खऱ्या कंपनीच्या सिस्टीममध्ये आहोत, हे लक्षात येताच एआयने स्वतःहून आपले काम थांबवले आणि सिस्टीममधून बाहेर पडले.
दोन कंपन्यांची माहितीही शोधली
इतर दोन चाचण्यांमध्ये जेमिनीने वेबवर कंपनीचे नाव वापरून शोध घेतला. दोन सार्वजनिक ऑनलाइन रिपॉझिटरीजमधून (माहिती साठवणारी ठिकाणे) जेमिनीने लॉगिनची माहिती मिळवली. या माहितीचा वापर करून जेमिनीने संबंधित सिस्टीममध्ये प्रवेश केला. पण, त्या खऱ्या कंपन्या आहेत हे समजताच एआयने पुन्हा एकदा स्वतःहून आपले काम थांबवले.
'एआयने योग्य पद्धतीने काम केले'; गुगलची प्रतिक्रिया
गुगलला जुलै महिन्यातच या घटनेची माहिती मिळाली होती. पण, ही घटना सार्वजनिक करण्याची गरज नसल्याचे कंपनीला तेव्हा वाटले. खऱ्या कंपन्यांच्या सिस्टीममध्ये प्रवेश करूनही जेमिनीने स्वतःहून हल्ला थांबवला, हेच यामागचे कारण असल्याचे गुगलने सांगितले.
"शक्तिशाली एआय मॉडेल्सना जबाबदारीने वागण्याचे प्रशिक्षण देणे किती महत्त्वाचे आहे, हे या घटनेवरून स्पष्ट होते. या परिस्थितीत मॉडेलने अगदी योग्य पद्धतीने काम केले," असे गुगलच्या सुरक्षा इंजिनिअरिंग विभागाच्या उपाध्यक्षा हीदर अॅडकिन्स (Heather Adkins) म्हणाल्या. गुगलने बाधित झालेल्या तीनही कंपन्यांना आणि फेडरल अधिकाऱ्यांना या घटनेची माहिती दिली आहे. पण, कंपन्यांची नावे गुगलने उघड केलेली नाहीत. या घटनेत सर्वात नवीन जेमिनी मॉडेलचा सहभाग नव्हता, असे कंपनीने स्पष्ट केले. नेमके कोणते मॉडेल वापरले गेले, हे गुगलने सांगितलेले नाही.
ओपनएआय आणि अँथ्रोपिकलाही आला होता असाच अनुभव
'इरग्युलर'शी संबंधित चाचण्यांमध्ये ओपनएआय (OpenAI), अँथ्रोपिक (Anthropic) आणि मेटा (Meta) यांसारख्या कंपन्यांनीही यापूर्वी अशाच घटनांची नोंद केली आहे. पण, गुगलच्या घटनेत एक मोठा फरक आहे. खऱ्या कंपनीच्या सिस्टीममध्ये प्रवेश केल्याचे समजल्यानंतर जेमिनीने स्वतःहून हल्ला थांबवला. याउलट, अशाच एका चाचणीदरम्यान खऱ्या कंपनीत प्रवेश केल्याचे समजूनही अँथ्रोपिकच्या 'क्लॉड ओपस ४.७' (Claude Opus 4.7) मॉडेलने आपले काम थांबवले नव्हते, असे कंपनीने यापूर्वी स्पष्ट केले होते. ओपनएआयच्या एका मॉडेलने खऱ्या कंपनीला चाचणीचा भाग समजल्याची घटनाही समोर आली होती.
एआय सुरक्षेचा मुद्दा पुन्हा चर्चेत
आर्टिफिशियल इंटेलिजन्स सिस्टीमच्या स्वतःहून काम करण्याच्या क्षमतेबद्दल चिंता वाढत असतानाच गुगलचा हा नवीन खुलासा समोर आला आहे. एआय सिस्टीम मानवाच्या नियंत्रणाबाहेर जाण्याच्या शक्यतेबद्दल संशोधकांनी यापूर्वीच इशारा दिला आहे. एआय सुरक्षेबाबत चिंता व्यक्त करत अँथ्रोपिकचे संशोधक जेकब कॉक्सन (Jacob Coxon) यांनी दिलेला राजीनामाही नुकताच चर्चेत आला होता. ओपनएआय आणि अँथ्रोपिकने एआयच्या विकासाचा वेग कमी करण्याची भूमिका घेतली आहे. पण, अमेरिकेचे राष्ट्राध्यक्ष डोनाल्ड ट्रम्प (Donald Trump) यांनी या कल्पनेला विरोध केला आहे. एनव्हिडियाचे (Nvidia) प्रमुख जेन्सन हुआंग (Jensen Huang) आणि मेटाचे प्रमुख मार्क झुकरबर्ग (Mark Zuckerberg) यांनीही एआयचा विकास संथ करण्याच्या मागणीशी असहमती दर्शवली आहे.
