Anthropic Warns Investors of AI Risks, Including Existential Threats

Economic Times - Tech · technology

AI company Anthropic has disclosed significant risks to potential investors in its filing with the U.S. Securities and Exchange Commission. The company dedicated 93 out of 335 pages to outlining potential dangers, far exceeding rival SpaceX's disclosures. These risks include the possibility of AI models being used to create deadly weapons or the technology itself becoming uncontrollable. Anthropic acknowledges that rapid AI development could outpace safety measures, potentially leading to incidents, regulatory intervention, or reputational harm.

एंथ्रोपिक ने निवेशकों को दी AI के खतरों की चेतावनी जानलेवा हथियार और अनियंत्रित तकनीक का भी जिक्र

AI कंपनी एंथ्रोपिक ने अमेरिकी प्रतिभूति और विनिमय आयोग (U.S. Securities and Exchange Commission) के पास अपनी फाइलिंग में संभावित निवेशकों को महत्वपूर्ण जोखिमों के बारे में बताया है। कंपनी ने 335 पन्नों में से 93 पन्ने संभावित खतरों का वर्णन करने में लगाए, जो प्रतिद्वंद्वी SpaceX के खुलासों से कहीं ज़्यादा है। इन जोखिमों में AI मॉडल का इस्तेमाल जानलेवा हथियार बनाने के लिए किया जाना या खुद तकनीक का अनियंत्रित हो जाना शामिल है। एंथ्रोपिक स्वीकार करता है कि AI का तेज़ विकास सुरक्षा उपायों से आगे निकल सकता है, जिससे घटनाएं, नियामक हस्तक्षेप या प्रतिष्ठा को नुकसान हो सकता है।