Microsoft CEO Satya Nadella Warns Against Blindly Trusting AI Models

Times of India · technology

Microsoft CEO Satya Nadella advises businesses to treat AI models as potential insider risks, not to be blindly trusted. He emphasizes that unlike traditional software, AI outputs cannot be easily traced to specific training data or code. Nadella advocates for robust engineering fixes, including separating AI intelligence supply from authority and implementing human controls. He stresses that companies must maintain oversight, assuming models could be compromised and ensuring an authorized person can always pause or shut them down. This approach aims to manage AI's capabilities responsibly within critical systems.

माइक्रोसॉफ्ट के सीईओ सत्या नडेला की चेतावनी एआई मॉडल पर आँख बंद करके भरोसा न करें

माइक्रोसॉफ्ट के सीईओ सत्या नडेला ने कंपनियों को सलाह दी है कि वे एआई मॉडल पर आँख बंद करके भरोसा न करें, बल्कि उन्हें संभावित अंदरूनी जोखिम के तौर पर देखें। उन्होंने जोर दिया कि पारंपरिक सॉफ्टवेयर के विपरीत, एआई के आउटपुट को विशिष्ट ट्रेनिंग डेटा या कोड से आसानी से नहीं जोड़ा जा सकता। नडेला ने एआई इंटेलिजेंस सप्लाई को अथॉरिटी से अलग करने और मानवीय नियंत्रण लागू करने सहित मजबूत इंजीनियरिंग फिक्स की वकालत की है। उन्होंने इस बात पर जोर दिया कि कंपनियों को निगरानी बनाए रखनी चाहिए, यह मानते हुए कि मॉडल से छेड़छाड़ की जा सकती है और यह सुनिश्चित करना चाहिए कि कोई अधिकृत व्यक्ति हमेशा उन्हें रोक सके या बंद कर सके।