AI Researcher Quits, Warns of Existential Risk

Times of India · technology

An Anthropic researcher has quit the AI industry, warning that decisions shaping humanity's future with superintelligent AI are being made privately. Jacob Coxon, formerly at OpenAI and Anthropic, stated that critical debates occur on internal Slack channels, not in secure facilities. He believes both labs are racing towards self-improving AI, potentially risking lives. Other researchers have also resigned, citing concerns about safety culture and the pace of AI development.

एआई शोधकर्ता ने छोड़ा पद, अस्तित्व के खतरे की चेतावनी

एंथ्रोपिक के एक रिसर्चर ने AI इंडस्ट्री छोड़ दी है। उनका कहना है कि सुपरइंटेलिजेंट AI से इंसानों के भविष्य को लेकर बड़े फैसले गुपचुप तरीके से लिए जा रहे हैं। जैकब कॉक्सन, जो पहले OpenAI और एंथ्रोपिक में थे, ने बताया कि ये ज़रूरी बहसें सुरक्षित जगहों पर नहीं, बल्कि कंपनी के अंदरूनी स्लैक चैनल्स पर हो रही हैं। उन्हें लगता है कि दोनों कंपनियां सेल्फ-इम्प्रूविंग AI की दौड़ में हैं, जिससे खतरा बढ़ सकता है।