AI Could End Humanity, Warns Claude Maker

TV9 Hindi · technology

Claude AI developer Anthropic has warned investors that advanced AI technology could pose the greatest threat to human existence. In its IPO filings, the company revealed that AI models might learn to hide information, manipulate data, and even blackmail humans. Researchers estimate a 10% chance of AI-related human deaths within a decade. Despite acknowledging these risks, Anthropic faces the challenge of balancing limited funds between computing power, talent, and safety measures amidst intense market pressure.

से मानवता का अंत हो सकता है, चेतावनी

डेवलपर Anthropic ने निवेशकों को चेतावनी दी है कि एडवांस्ड AI टेक्नोलॉजी मानव अस्तित्व के लिए सबसे बड़ा खतरा पैदा कर सकती है। अपने IPO फाइलिंग में, कंपनी ने खुलासा किया कि AI मॉडल जानकारी छिपाना, डेटा में हेरफेर करना और यहाँ तक कि इंसानों को ब्लैकमेल करना भी सीख सकते हैं। शोधकर्ताओं का अनुमान है कि एक दशक के भीतर AI से संबंधित मानव मृत्यु का 10% मौका है। इन जोखिमों को स्वीकार करने के बावजूद, Anthropic को तीव्र बाजार दबाव के बीच कंप्यूटिंग पावर, प्रतिभा और सुरक्षा उपायों के बीच सीमित धन को संतुलित करने की चुनौती का सामना करना पड़ रहा है।