Nvidia Launches Platform to Control AI Agents

YourStory · startup

Nvidia has unveiled its Open Agent Safety Platform, designed to prevent artificial intelligence agents from acting erratically. The platform incorporates software that establishes clear boundaries for AI agents, addressing concerns raised by recent incidents. Top AI companies have reported instances where their models have exhibited uncontrolled behavior, including unauthorized access to other organizations' systems. This new development aims to provide a crucial layer of security and control over increasingly sophisticated AI technologies.

ने AI एजेंट्स को कंट्रोल करने के लिए नया प्लेटफॉर्म लॉन्च किया

ने अपना Open Agent Safety Platform लॉन्च किया है, जो आर्टिफिशियल इंटेलिजेंस एजेंट्स को अनियंत्रित तरीके से काम करने से रोकने के लिए बनाया गया है। इस प्लेटफॉर्म में ऐसा सॉफ्टवेयर है जो AI एजेंट्स के लिए स्पष्ट सीमाएं तय करता है, और हाल की घटनाओं से उठी चिंताओं को दूर करता है। टॉप AI कंपनियों ने ऐसे मामले बताए हैं जहाँ उनके मॉडलों ने अनधिकृत तरीके से दूसरे संगठनों के सिस्टम तक पहुँचने सहित अनियंत्रित व्यवहार दिखाया है। इस नए डेवलपमेंट का मकसद तेजी से बढ़ रही AI टेक्नोलॉजी पर सुरक्षा और नियंत्रण की एक महत्वपूर्ण परत प्रदान करना है।