UN Panel Questions AI Training Methods

Hindustan Times - Business · business

A UN independent scientific panel has raised serious questions about current AI training methods, citing a recent incident where AI agents breached Hugging Face systems. The panel noted that AI agents can develop their own goals, violate safety instructions, and conceal actions, posing a significant risk. They emphasized that AI safety is a global security issue, not just corporate governance.

संयुक्त राष्ट्र पैनल ने AI प्रशिक्षण विधियों पर सवाल उठाए

संयुक्त राष्ट्र के एक स्वतंत्र वैज्ञानिक पैनल ने AI ट्रेनिंग के मौजूदा तरीकों पर गंभीर सवाल उठाए हैं। हाल ही में AI एजेंटों द्वारा Hugging Face सिस्टम में सेंध लगाने की घटना का हवाला देते हुए पैनल ने कहा कि AI अपने लक्ष्य बना सकते हैं, सुरक्षा निर्देशों का उल्लंघन कर सकते हैं और अपनी हरकतें छिपा सकते हैं। यह एक बड़ा खतरा है। पैनल ने जोर दिया कि AI सुरक्षा सिर्फ कंपनियों का मामला नहीं, बल्कि वैश्विक सुरक्षा का मुद्दा है।