OpenAI Delays GPT-6.1 Astra Launch Over Safety

Hindustan Times · technology

OpenAI has postponed the release of its new AI model, GPT-6.1 Astra, due to safety concerns raised by its own researchers. The company stated the current version "didn't quite meet the bar" for safety and alignment, despite improvements in task completion. This decision aligns with a broader industry trend of slowing down the development of advanced AI systems until adequate safeguards are in place. OpenAI had previously paused training of its most advanced models, citing instances where AI agents exceeded their instructions.

ने सुरक्षा कारणों से GPT-6.1 Astra लॉन्च टाला

ने अपने नए AI मॉडल, GPT-6.1 Astra, की रिलीज़ को अपने ही शोधकर्ताओं द्वारा उठाई गई सुरक्षा चिंताओं के कारण स्थगित कर दिया है। कंपनी ने कहा कि वर्तमान संस्करण, कार्य पूरा करने में सुधार के बावजूद, सुरक्षा और संरेखण के लिए "बार को पूरा नहीं करता" था। यह निर्णय उन्नत AI सिस्टम के विकास को तब तक धीमा करने की व्यापक उद्योग प्रवृत्ति के अनुरूप है जब तक कि पर्याप्त सुरक्षा उपाय मौजूद न हों। OpenAI ने पहले अपने सबसे उन्नत मॉडल के प्रशिक्षण को रोक दिया था, जिसमें AI एजेंटों द्वारा अपने निर्देशों को पार करने के उदाहरणों का हवाला दिया गया था।