AI Firm Anthropic Urges California Governor to Block Risky Models

Economic Times - Tech · technology

Artificial intelligence company Anthropic has advised California Governor Gavin Newsom that courts should have the authority to block the release of AI models posing a serious public risk. In a letter, Anthropic suggested that government officials should be able to seek court orders for such blocks. The company also proposed that targeted interventions, like disabling specific AI agents or revoking customer access, are more effective than broad "kill switches." This recommendation follows Newsom's initiative to establish AI safety requirements, with OpenAI also submitting proposals.

एआई कंपनी एंथ्रोपिक ने कैलिफोर्निया के गवर्नर से कहा, जोखिम भरे मॉडलों को रोकने की शक्ति दें

आर्टिफिशियल इंटेलिजेंस कंपनी एंथ्रोपिक ने कैलिफोर्निया के गवर्नर Gavin Newsom से कहा है कि अदालतों के पास ऐसे AI मॉडलों को जारी होने से रोकने का अधिकार होना चाहिए जो जनता के लिए गंभीर खतरा पैदा कर सकते हैं। एक पत्र में, एंथ्रोपिक ने सुझाव दिया कि सरकारी अधिकारी ऐसे प्रतिबंधों के लिए अदालती आदेश मांग सकें। कंपनी ने यह भी प्रस्ताव दिया कि विशिष्ट AI एजेंटों को अक्षम करने या ग्राहकों की पहुंच रद्द करने जैसे लक्षित हस्तक्षेप, व्यापक "किल स्विच" की तुलना में अधिक प्रभावी हैं। यह सिफारिश Newsom की AI सुरक्षा आवश्यकताओं को स्थापित करने की पहल के बाद आई है, जिसमें OpenAI ने भी प्रस्ताव प्रस्तुत किए हैं।