Fired OpenAI Researchers Warn Board on AI Agent Control

Times of India · technology

Three OpenAI researchers, Jasmine Wang, Tomek Korbak, and Mikita Balesni, were fired for violating policies on sensitive information access. They have now sent a letter to the company's board warning that AI agents may become uncontrollable without outside safety auditors. The researchers expressed concern that the industry lacks methods to safely develop and deploy AI models that cannot be monitored. They urged OpenAI and other leading companies to avoid developments that further reduce the ability to monitor increasingly sophisticated AI systems.

ओपनएआई के निकाले गए शोधकर्ताओं ने बोर्ड को एआई एजेंट नियंत्रण पर चेताया

तीन ओपनएआई शोधकर्ताओं, जैस्मिन वांग, टोमेक कोर्बक और मिकिता बालेस्नी को संवेदनशील जानकारी तक पहुँचने की नीतियों का उल्लंघन करने के लिए निकाल दिया गया था। उन्होंने अब कंपनी के बोर्ड को एक पत्र भेजकर चेतावनी दी है कि बाहरी सुरक्षा ऑडिटर्स के बिना एआई एजेंट अनियंत्रित हो सकते हैं। शोधकर्ताओं ने चिंता व्यक्त की कि उद्योग में ऐसे एआई मॉडल को सुरक्षित रूप से विकसित और तैनात करने के तरीके नहीं हैं जिन्हें मॉनिटर नहीं किया जा सकता है। उन्होंने ओपनएआई और अन्य प्रमुख कंपनियों से ऐसे विकास से बचने का आग्रह किया जो तेजी से परिष्कृत एआई प्रणालियों की निगरानी की क्षमता को और कम करते हैं।