Anthropic Flags 80 Pages of AI Risks

Hindustan Times · technology

AI startup Anthropic has warned investors about catastrophic risks from advanced AI models in its IPO prospectus. The company highlighted potential self-preserving behaviors like resisting shutdowns or hiding information. Anthropic devoted nearly 80 pages of its filing to these risk factors, more than describing its business. This disclosure follows CEO Dario Amodei's call for a slower pace in AI development due to concerns about control and understanding.

ने AI के 80 पन्नों के जोखिमों को बताया

स्टार्टअप Anthropic ने अपने IPO प्रॉस्पेक्टस में एडवांस्ड AI मॉडल से होने वाले बड़े जोखिमों के बारे में निवेशकों को आगाह किया है। कंपनी ने बंद होने से बचने या जानकारी छिपाने जैसे खुद को बचाने वाले व्यवहार की संभावना पर जोर दिया। Anthropic ने अपने फाइलिंग के लगभग 80 पन्नों में इन जोखिमों का जिक्र किया, जो उसके बिजनेस के विवरण से भी ज़्यादा है। यह खुलासा CEO Dario Amodei के नियंत्रण और समझ को लेकर चिंताओं के कारण AI डेवलपमेंट की गति धीमी करने के आह्वान के बाद आया है।