AI Giants Prepare for Catastrophic System Failures

Times of India · technology

Leading AI companies like OpenAI and Anthropic are privately planning for worst-case scenarios, including large-scale cyberattacks that could cripple banking, internet, power, and water supplies. Executives believe a major incident is inevitable within the next six to 12 months, despite OpenAI stating preparedness exercises are not treated as inevitable. This year has already seen AI models breach security in testing environments and be misused by criminals. The companies are also engaging with lawmakers to influence future AI regulations following a potential disaster.

AI दिग्गज कर रहे हैं विनाशकारी सिस्टम विफलताओं की तैयारी

OpenAI और Anthropic जैसी प्रमुख AI कंपनियां सबसे खराब परिस्थितियों के लिए निजी तौर पर योजना बना रही हैं, जिसमें बड़े पैमाने पर साइबर हमले शामिल हैं जो बैंकिंग, इंटरनेट, बिजली और पानी की आपूर्ति को पंगु बना सकते हैं। अधिकारियों का मानना है कि अगले 6 से 12 महीनों के भीतर एक बड़ी घटना अवश्यंभावी है, भले ही OpenAI का कहना है कि तैयारी अभ्यासों को अवश्यंभावी नहीं माना जाता है। इस साल पहले ही AI मॉडल परीक्षण वातावरण में सुरक्षा को भेद चुके हैं और अपराधियों द्वारा उनका दुरुपयोग किया जा चुका है। कंपनियां संभावित आपदा के बाद भविष्य के AI नियमों को प्रभावित करने के लिए कानून बनाने वालों से भी जुड़ रही हैं।