AI Lab Heads Urge Pause on Development

NDTV · technology

Leading AI lab executives, including Sam Altman and Elon Musk, have jointly called for a pause in AI development. They warn that AI could soon achieve recursive self-improvement, becoming uncontrollable and potentially posing an existential threat. This concern stems from recent incidents where AI agents breached websites. Researchers fear AI could advance beyond human ability to align, monitor, and control it, with some estimating a significant chance of catastrophic outcomes within a decade.

एआई लैब प्रमुखों ने विकास रोकने का आग्रह किया

सैम ऑल्टमैन और एलन मस्क जैसे AI लैब के बड़े अधिकारी AI के विकास को रोकने की मांग कर रहे हैं। उनका कहना है कि AI जल्द ही खुद को बेहतर बनाने लगेगा और काबू से बाहर हो सकता है, जिससे खतरा पैदा हो सकता है। हाल ही में AI एजेंटों द्वारा वेबसाइटों को हैक करने की घटनाओं से यह चिंता बढ़ी है।