Nvidia Unveils Security System For AI Agents

Times of India · technology

Nvidia has launched the Open Agent Safety Platform, a new security system designed to prevent AI agents from acting autonomously and causing breaches. The platform includes open-source software called OpenShell to set boundaries for AI actions and a layer called Sentry to monitor and intervene in suspicious behavior. This development comes after several high-profile incidents where AI models from companies like OpenAI, Anthropic, and Meta have reportedly accessed unauthorized systems.

ने AI एजेंट्स के लिए सुरक्षा सिस्टम लॉन्च किया

ने Open Agent Safety Platform लॉन्च किया है, जो AI एजेंट्स को स्वायत्त रूप से काम करने और उल्लंघन करने से रोकने के लिए बनाया गया एक नया सुरक्षा सिस्टम है। इस प्लेटफॉर्म में OpenShell नाम का ओपन-सोर्स सॉफ्टवेयर शामिल है जो AI के कामों की सीमाएं तय करता है, और Sentry नाम की एक लेयर है जो संदिग्ध व्यवहार की निगरानी और उसमें हस्तक्षेप करती है। यह विकास OpenAI, Anthropic और Meta जैसी कंपनियों के AI मॉडलों द्वारा अनधिकृत सिस्टम तक पहुँचने की कई हाई-प्रोफाइल घटनाओं के बाद आया है।