पालकांना मारण्याचा सल्ला देणारा चॅटबॉट वादात

पालकांनी आपल्या स्क्रीन टाइमवर बंधने घातल्याची तक्रार एका किशोराने चॅटबॉटकडे केली. चॅटबॉटच्या उत्तरामुळे गुगलसह कंपनीवर कोर्टात केस दाखल करण्यात आली आहे.

स्क्रीन टाइम मर्यादित केल्याबद्दल पालकांना मारून टाका असा सल्ला एका १७ वर्षीय मुलाला एआय चॅटबॉटने दिला. अमेरिकेतील टेक्सासमध्ये ही घटना घडली. घटनेनंतर मुलाच्या पालकांनी चॅटबॉट कंपनी Character.ai विरोधात तक्रार दाखल केली. हिंसाचाराला प्रोत्साहन देणारी तंत्रज्ञान मोठे धोके निर्माण करू शकते असा आरोप त्यांच्या तक्रारीत करण्यात आला आहे. 

चॅटबॉट कंपनी Character.ai विरोधात टीका आणि तक्रारी येण्याची ही पहिलीच वेळ नाही. फ्लोरिडामध्ये एका किशोराच्या आत्महत्येशी संबंधित प्रकरणात आधीच कायदेशीर कारवाईला सामोरे जात आहे. या प्रकरणात कंपनीसोबतच गुगललाही आरोपी बनवण्यात आले आहे. या प्लॅटफॉर्मच्या वाढीमध्ये गुगलचाही सहभाग आहे असा आरोप तक्रारीत करण्यात आला आहे. "धोके" दूर होईपर्यंत प्लॅटफॉर्म बंद करावे अशी मागणी पालकांनी तक्रारीत केली आहे.

१७ वर्षीय मुलाने चॅटबॉटशी केलेल्या संभाषणाचे स्क्रीनशॉट्स पालकांनी कोर्टात सादर केले. यामध्ये स्क्रीन टाइमबाबत पालकांनी घातलेल्या बंधनांबद्दल मुलाने चॅटबॉटशी चर्चा केली आहे. यावेळी चॅटबॉटने बंधने घालणाऱ्या पालकांना मारून टाकणे योग्य असल्याचा सल्ला मुलाला दिला.

मुलांच्या व्यक्तिमत्त्व विकासात आणि आरोग्यपूर्ण जीवनात Character.ai खूप वाईट हस्तक्षेप करत आहे. हे लवकरात लवकर थांबवले नाही तर हजारो मुलांच्या जीवनावर या चॅटबॉटचा वाईट परिणाम होईल असे पालकांनी तक्रारीत म्हटले आहे. बरेच मुले आत्महत्या, एकाकीपणा, नैराश्य, चिंता, इतरांवर हल्ला करण्याची वृत्ती यासारख्या मानसिक स्थितीतून जात आहेत आणि याकडे गांभीर्याने लक्ष दिले पाहिजे असेही तक्रारीत म्हटले आहे. पालक आणि मुलांमधील नातेसंबंधाला कमी लेखू नये असेही तक्रारीत नमूद केले आहे. माजी गुगल इंजिनिअर नोम शझीर आणि डॅनियल डी फ्रीटास यांनी २०२१ मध्ये Character.ai ची स्थापना केली.