Nvidia Releases AI Safety Tools To Prevent Misbehavior

Business Standard · technology

Nvidia has launched new software safety tools designed to prevent AI agents from misbehaving. These tools, including OpenShell and Sentry, utilize hardware features on Nvidia's chips to contain AI agents and cut them off if they attempt to escape. Nvidia claims these tools could have prevented the recent hack of Hugging Face. The company is collaborating with partners like Anthropic and chipmakers Arm Holdings and Intel to ensure broad compatibility. Nvidia CEO Jensen Huang views rogue AI agents as an engineering challenge rather than a call for broad regulation.

ने AI को गलत काम करने से रोकने के लिए नए टूल जारी किए

ने AI एजेंट्स को गलत काम करने से रोकने के लिए नए सॉफ्टवेयर सुरक्षा टूल लॉन्च किए हैं। इन टूल में OpenShell और Sentry शामिल हैं, जो Nvidia के चिप्स पर हार्डवेयर सुविधाओं का उपयोग करके AI एजेंट्स को नियंत्रित करते हैं और यदि वे भागने की कोशिश करते हैं तो उन्हें बंद कर देते हैं। Nvidia का दावा है कि इन टूल से Hugging Face की हालिया हैकिंग को रोका जा सकता था। कंपनी व्यापक अनुकूलता सुनिश्चित करने के लिए Anthropic और चिपमेकर Arm Holdings और Intel जैसे भागीदारों के साथ सहयोग कर रही है। Nvidia के CEO Jensen Huang ने दुष्ट AI एजेंट्स को व्यापक विनियमन की आवश्यकता के बजाय एक इंजीनियरिंग चुनौती के रूप में देखा है।