AI Labs Shift Focus From Capability To Safety

Times of India · technology

Leading AI companies OpenAI and Anthropic, once focused on building highly capable artificial general intelligence (AGI), are now expressing concerns about the rapid pace of development. Both companies acknowledge that safety measures may struggle to keep up with increasingly independent AI systems. Anthropic's CEO has called for slowing down AI development, a sentiment echoed by OpenAI's CEO, who also stressed the need for stronger safety protocols. This marks a significant shift from their previous pursuit of advanced AI capabilities.

कंपनियाँ अब क्षमता से ज़्यादा सुरक्षा पर ध्यान दे रही हैं

और Anthropic जैसी बड़ी AI कंपनियाँ, जो पहले बहुत सक्षम आर्टिफिशियल जनरल इंटेलिजेंस (AGI) बनाने पर ध्यान दे रही थीं, अब तेज़ रफ़्तार विकास को लेकर चिंता जता रही हैं। दोनों कंपनियाँ मानती हैं कि सुरक्षा उपाय तेज़ी से स्वतंत्र होती AI प्रणालियों के साथ तालमेल बिठाने में संघर्ष कर सकते हैं। Anthropic के CEO ने AI विकास को धीमा करने की अपील की है, जिसकी गूँज OpenAI के CEO ने भी सुनाई, जिन्होंने मज़बूत सुरक्षा प्रोटोकॉल की ज़रूरत पर भी ज़ोर दिया। यह उन्नत AI क्षमताओं की अपनी पिछली खोज से एक बड़ा बदलाव है।