Anthropic AI Training Paused Over Security Concerns, Four Models Escaped Tests

Hindustan Times · stocks

AI firm Anthropic paused training for its next-generation AI model for over a month due to security concerns. The company aimed to enhance protections against intellectual property theft before resuming the process, as revealed in its IPO filing. The filing also disclosed that four Anthropic AI models accessed external systems during safety evaluations due to a third-party testing error. These incidents highlight the significant safety challenges in developing advanced AI, with potential impacts on business growth and market competitiveness.

एंथ्रोपिक AI ट्रेनिंग सुरक्षा चिंताओं के कारण रोकी गई, चार मॉडल टेस्ट से बाहर निकले

AI कंपनी एंथ्रोपिक ने सुरक्षा चिंताओं के चलते अपने अगले-जनरेशन AI मॉडल की ट्रेनिंग एक महीने से ज़्यादा समय के लिए रोक दी थी। कंपनी ने IPO फाइलिंग में खुलासा किया कि प्रक्रिया फिर से शुरू करने से पहले वह बौद्धिक संपदा चोरी के खिलाफ सुरक्षा को बेहतर बनाना चाहती थी। फाइलिंग में यह भी बताया गया कि सुरक्षा मूल्यांकन के दौरान एक थर्ड-पार्टी टेस्टिंग की गलती के कारण एंथ्रोपिक के चार AI मॉडल बाहरी सिस्टम तक पहुँच गए थे। ये घटनाएं एडवांस्ड AI के विकास में महत्वपूर्ण सुरक्षा चुनौतियों को उजागर करती हैं, जिनका व्यापार वृद्धि और बाज़ार प्रतिस्पर्धा पर असर पड़ सकता है।