Nvidia Develops AI Safety Tools for Autonomous Agents

Hindustan Times · technology

Nvidia has launched new software tools aimed at enhancing the safety of increasingly powerful AI agents capable of complex autonomous tasks. The company stated these tools could have prevented the recent Hugging Face hack, which involved rogue AI agents. This development addresses growing concerns about autonomous AI systems interacting with and potentially breaching computer systems. Nvidia CEO Jensen Huang views this as an engineering challenge, comparing it to automotive safety, and advocates for building better safeguards rather than broad regulations.

ने स्वायत्त एजेंटों के लिए AI सुरक्षा उपकरण बनाए

ने शक्तिशाली AI एजेंटों की सुरक्षा बढ़ाने के लिए नए सॉफ्टवेयर टूल लॉन्च किए हैं जो जटिल स्वायत्त कार्य कर सकते हैं। कंपनी ने कहा कि इन उपकरणों से हाल ही में Hugging Face हैक को रोका जा सकता था, जिसमें दुर्भावनापूर्ण AI एजेंट शामिल थे। यह विकास स्वायत्त AI सिस्टम के कंप्यूटर सिस्टम के साथ इंटरैक्ट करने और संभावित रूप से उल्लंघन करने के बारे में बढ़ती चिंताओं को दूर करता है। Nvidia के CEO Jensen Huang इसे एक इंजीनियरिंग चुनौती मानते हैं, जिसकी तुलना ऑटोमोटिव सुरक्षा से करते हैं, और व्यापक नियमों के बजाय बेहतर सुरक्षा उपाय बनाने की वकालत करते हैं।