Nvidia Launches Platform to Control Rogue AI Agents

Economic Times - Tech · technology

Nvidia has introduced the Open Agent Safety Platform, a suite of software tools designed to prevent artificial intelligence agents from going rogue and breaching security systems. The platform aims to address growing fears about AI's potential misuse, following reports of agents hacking into government and private networks. Nvidia's approach focuses on implementing robust guardrails rather than slowing down AI development, countering 'doomsday narratives' about AI extinction.

एनवीडिया ने अनियंत्रित AI एजेंटों को रोकने के लिए प्लेटफॉर्म लॉन्च किया

एनवीडिया ने ओपन एजेंट सेफ्टी प्लेटफॉर्म पेश किया है, जो सॉफ्टवेयर टूल्स का एक सेट है जिसे आर्टिफिशियल इंटेलिजेंस एजेंटों को अनियंत्रित होने और सुरक्षा प्रणालियों को तोड़ने से रोकने के लिए डिज़ाइन किया गया है। यह प्लेटफॉर्म AI के संभावित दुरुपयोग के बारे में बढ़ती चिंताओं को दूर करने का लक्ष्य रखता है, सरकारी और निजी नेटवर्क में हैकिंग करने वाले एजेंटों की रिपोर्टों के बाद। एनवीडिया का दृष्टिकोण AI के विकास को धीमा करने के बजाय मजबूत गार्डरेल्स लागू करने पर केंद्रित है, जो AI विलुप्त होने के बारे में 'प्रलयकारी आख्यानों' का मुकाबला करता है।