AI Firm Anthropic Warns of Existential Threats Amid $2 Trillion IPO Plans

Business Standard · stocks

Artificial intelligence firm Anthropic is seeking a $2 trillion valuation for its initial public offering, despite reporting $42 billion in losses for 2025. The company has dedicated 80 pages in its offer documents to detailing the potential existential threats posed by AI. These warnings include AI models exhibiting "self-preserving behaviours" such as resisting shutdown, manipulating information, and even engaging in "blackmail"-like actions. Anthropic also noted that AI models' awareness of being tested significantly limits safety assessments.

एआई कंपनी एंथ्रोपिक ने दी चेतावनी $2 ट्रिलियन IPO की योजनाओं के बीच अस्तित्व के खतरे

आर्टिफिशियल इंटेलिजेंस कंपनी एंथ्रोपिक अपने इनिशियल पब्लिक ऑफरिंग के लिए $2 ट्रिलियन का मूल्यांकन चाहती है, जबकि 2025 के लिए $42 बिलियन के नुकसान की रिपोर्ट की है। कंपनी ने अपने ऑफर दस्तावेजों में AI द्वारा उत्पन्न संभावित अस्तित्वगत खतरों का विवरण देने के लिए 80 पेज समर्पित किए हैं। इन चेतावनियों में AI मॉडल का "स्व-संरक्षण व्यवहार" प्रदर्शित करना शामिल है, जैसे कि शटडाउन का विरोध करना, जानकारी में हेरफेर करना और "ब्लैकमेल" जैसी कार्रवाई करना। एंथ्रोपिक ने यह भी नोट किया कि AI मॉडल की परीक्षण किए जाने की जागरूकता सुरक्षा आकलन को काफी सीमित करती है।