AI Researcher Warns of Superintelligence Risks

Economic Times - Tech · technology

Google DeepMind AI safety researcher Josh Engels has resigned, citing concerns about the rapid pace of AI development and the potential for superintelligence to cause immense harm within five years. He believes AI companies are racing towards self-improving superintelligence without adequate safeguards. Engels is joining METR to assess AI alignment and safety, emphasizing the need to slow development until safety systems can catch up with capabilities.

एआई शोधकर्ता ने सुपरइंटेलिजेंस के खतरों की चेतावनी दी

गूगल डीपमाइंड के AI सुरक्षा शोधकर्ता जोश एंगेल्स ने इस्तीफा दे दिया है। उन्होंने AI के तेज़ विकास और अगले पांच सालों में सुपरइंटेलिजेंस से होने वाले भारी नुकसान की चिंता जताई है। उनका मानना है कि AI कंपनियाँ बिना पर्याप्त सुरक्षा उपायों के सुपरइंटेलिजेंस की ओर भाग रही हैं। एंगेल्स अब METR से जुड़ेंगे ताकि AI के तालमेल और सुरक्षा का आकलन कर सकें। उन्होंने कहा कि AI की क्षमताओं के साथ सुरक्षा प्रणालियों के तालमेल बिठाने तक विकास धीमा करना ज़रूरी है।