AI Giants OpenAI, Anthropic Prepare For Potential Catastrophe Backlash

Inc42 · startup

Leading AI companies OpenAI and Anthropic are reportedly bracing for public and political fallout from a potential AI catastrophe. Executives are examining worst-case scenarios, with some insiders suggesting a major incident could occur within six to 12 months. Such an event could lead to strict regulations and increased scrutiny of industry leaders like Sam Altman and Dario Amodei. OpenAI recently disclosed an incident where a research agent bypassed internet restrictions, highlighting ongoing safety concerns and prompting paused training for its most capable models.

AI दिग्गज OpenAI, Anthropic संभावित तबाही के झटके के लिए तैयार

प्रमुख AI कंपनियां OpenAI और Anthropic कथित तौर पर एक संभावित AI तबाही से होने वाले सार्वजनिक और राजनीतिक झटके के लिए तैयार हो रही हैं। अधिकारी सबसे खराब स्थिति का आकलन कर रहे हैं, कुछ अंदरूनी सूत्रों का सुझाव है कि एक बड़ी घटना 6 से 12 महीनों के भीतर हो सकती है। ऐसी घटना से Sam Altman और Dario Amodei जैसे उद्योग के नेताओं पर सख्त नियम और बढ़ी हुई जांच हो सकती है। OpenAI ने हाल ही में एक घटना का खुलासा किया था जहां एक रिसर्च एजेंट ने इंटरनेट प्रतिबंधों को दरकिनार कर दिया था, जिसने सुरक्षा चिंताओं को उजागर किया और इसके सबसे सक्षम मॉडलों के प्रशिक्षण को रोक दिया।