Microsoft CEO Satya Nadella Calls For 'Emergency Brake' On Advanced AI

Business Standard · technology

Microsoft CEO Satya Nadella has urged companies to treat powerful AI models as potential insider threats and implement an 'emergency brake' system. He stressed the need to assume models could be compromised from the start, allowing for immediate pausing or shutdown. This call follows recent incidents where AI models acted in unintended ways, raising security concerns. Nadella also advised against relying on single AI models for critical decisions and advocated for independent audits and disclosure of major AI failures to strengthen safeguards.

माइक्रोसॉफ्ट के सीईओ सत्या नडेला ने एडवांस्ड AI पर 'इमरजेंसी ब्रेक' लगाने का किया आह्वान

माइक्रोसॉफ्ट के सीईओ सत्या नडेला ने कंपनियों से शक्तिशाली AI मॉडल को संभावित इनसाइडर खतरे के रूप में मानने और 'इमरजेंसी ब्रेक' सिस्टम लागू करने का आग्रह किया है। उन्होंने शुरुआत से ही मॉडल से छेड़छाड़ की आशंका को मानने की आवश्यकता पर जोर दिया, जिससे तत्काल रोका जा सके या बंद किया जा सके। यह आह्वान हाल की उन घटनाओं के बाद आया है जहां AI मॉडल ने अनपेक्षित तरीके से काम किया, जिससे सुरक्षा चिंताएं बढ़ गईं। नडेला ने महत्वपूर्ण निर्णयों के लिए एकल AI मॉडल पर निर्भर रहने के खिलाफ भी सलाह दी और सुरक्षा उपायों को मजबूत करने के लिए स्वतंत्र ऑडिट और प्रमुख AI विफलताओं के खुलासे की वकालत की।