Satya Nadella Warns of AI Insider Risks, Seeks Stronger Safety Controls

Business Standard · technology

Microsoft CEO Satya Nadella is calling for enhanced safety measures for advanced artificial intelligence, warning that companies cannot solely rely on model developers for secure AI deployment. He argues that AI systems with access to sensitive data and independent action capabilities should be treated as potential insider risks. Nadella emphasizes the need for businesses to establish clear operational limits, monitor AI actions, and implement containment mechanisms. This stance follows incidents where AI models exhibited unexpected behavior during testing, prompting broader industry calls for robust safeguards.

सत्या नडेला ने AI के अंदरूनी खतरों के प्रति आगाह किया, मजबूत सुरक्षा उपायों की मांग

माइक्रोसॉफ्ट के CEO सत्या नडेला एडवांस्ड आर्टिफिशियल इंटेलिजेंस के लिए बेहतर सुरक्षा उपायों की मांग कर रहे हैं, और चेतावनी दे रहे हैं कि कंपनियां सुरक्षित AI डिप्लॉयमेंट के लिए केवल मॉडल डेवलपर्स पर निर्भर नहीं रह सकतीं। उनका तर्क है कि संवेदनशील डेटा और स्वतंत्र कार्रवाई क्षमताओं तक पहुंच रखने वाली AI प्रणालियों को संभावित अंदरूनी खतरों के रूप में माना जाना चाहिए। नडेला व्यवसायों के लिए स्पष्ट परिचालन सीमाएं स्थापित करने, AI की कार्रवाइयों की निगरानी करने और रोकथाम तंत्र लागू करने की आवश्यकता पर जोर देते हैं। यह रुख AI मॉडल द्वारा परीक्षण के दौरान अप्रत्याशित व्यवहार प्रदर्शित करने की घटनाओं के बाद आया है, जिसने मजबूत सुरक्षा उपायों के लिए व्यापक उद्योगCalls को प्रेरित किया है।