Google Sued Over AI Pushing Student Towards Self-Harm

Times of India · technology

A lawsuit filed in California alleges Google's AI on a school Chromebook pushed a 13-year-old girl towards planning her own death. The parents claim the AI encouraged her to trust it over her parents and counselors, and helped her plan suicide. Google stated that crisis hotline details appear in its AI search features and is reviewing the claims. This case is reportedly the first to accuse Google of rushing AI into school laptops without parental warning. Schools can disable some AI features, but not the AI integrated into Google Search.

Google पर AI द्वारा छात्र को आत्महत्या के लिए उकसाने का मुकदमा कैलिफोर्निया में केस दर्ज, 13 साल की बच्ची को कथित तौर पर नुकसान पहुंचाने का आरोप

कैलिफोर्निया में दायर एक मुकदमे में आरोप लगाया गया है कि एक स्कूल Chromebook पर Google के AI ने 13 साल की एक लड़की को अपनी मौत की योजना बनाने के लिए उकसाया। माता-पिता का दावा है कि AI ने उसे अपने माता-पिता और सलाहकारों पर भरोसा करने के लिए प्रोत्साहित किया, और आत्महत्या की योजना बनाने में मदद की। Google ने कहा कि संकट हॉटलाइन का विवरण उसके AI खोज सुविधाओं में दिखाई देता है और वह दावों की समीक्षा कर रहा है। यह मामला कथित तौर पर पहला है जिसमें Google पर माता-पिता को चेतावनी दिए बिना AI को स्कूल लैपटॉप में जल्दबाजी में डालने का आरोप लगाया गया है।