CERT-In Issues Guidelines for Auditing AI Agents for Security Risks

The Hindu - Business · business

India's Computer Emergency Response Team (CERT-In) has released guidelines for auditing artificial intelligence systems that can act autonomously. These guidelines focus on agentic AI, which can plan and execute tasks independently, use external tools, and delegate work. CERT-In emphasizes the need to test for unauthorized permission use, privilege abuse, credential misuse, and unsafe task delegation. The framework also addresses risks related to AI memory, potential data leaks between users, and the secure interaction of multiple AI agents.

CERT-In ने AI एजेंट्स के लिए सुरक्षा जोखिमों के ऑडिट हेतु दिशानिर्देश जारी किए

भारत की कंप्यूटर इमरजेंसी रिस्पांस टीम (CERT-In) ने ऐसे आर्टिफिशियल इंटेलिजेंस सिस्टम के ऑडिट के लिए दिशानिर्देश जारी किए हैं जो स्वायत्त रूप से कार्य कर सकते हैं। ये दिशानिर्देश एजेंटिक AI पर केंद्रित हैं, जो स्वतंत्र रूप से कार्यों की योजना बना और उन्हें निष्पादित कर सकते हैं, बाहरी उपकरणों का उपयोग कर सकते हैं और काम सौंप सकते हैं। CERT-In अनधिकृत अनुमति के उपयोग, विशेषाधिकार के दुरुपयोग, क्रेडेंशियल के दुरुपयोग और असुरक्षित कार्य सौंपने के लिए परीक्षण की आवश्यकता पर जोर देता है। यह ढांचा AI मेमोरी, उपयोगकर्ताओं के बीच संभावित डेटा लीक और कई AI एजेंटों की सुरक्षित बातचीत से संबंधित जोखिमों को भी संबोधित करता है।