Scientists Urge AI Companies to Boost Safeguards Against Global Cyber Risks

Al Jazeera · world

Over 300 scientists from 32 countries have signed a letter urging AI companies like OpenAI and Anthropic to implement stronger cybersecurity measures. They warn that failures in basic security practices could lead to significant damage to critical infrastructure and unpredictable AI behavior. The researchers recommend testing advanced AI systems in highly controlled, air-gapped environments. This call comes amid growing concerns about AI's potential to create self-spreading malware and autonomous cyberattacks, with industry insiders anticipating a catastrophic AI-related incident within a year.

वैज्ञानिकों ने AI कंपनियों से वैश्विक साइबर जोखिमों के खिलाफ सुरक्षा बढ़ाने का आग्रह किया

32 देशों के 300 से अधिक वैज्ञानिकों ने OpenAI और Anthropic जैसी AI कंपनियों से मजबूत साइबर सुरक्षा उपाय लागू करने का आग्रह करते हुए एक पत्र पर हस्ताक्षर किए हैं। उन्होंने चेतावनी दी है कि बुनियादी सुरक्षा प्रथाओं में विफलता से महत्वपूर्ण बुनियादी ढांचे को गंभीर नुकसान हो सकता है और अप्रत्याशित AI व्यवहार हो सकता है। शोधकर्ताओं ने अत्यधिक नियंत्रित, एयर-गैप्ड वातावरण में उन्नत AI सिस्टम का परीक्षण करने की सिफारिश की है। यह आह्वान AI की स्व-प्रसारित मैलवेयर और स्वायत्त साइबर हमलों को बनाने की क्षमता के बारे में बढ़ती चिंताओं के बीच आया है, जिसमें उद्योग के अंदरूनी सूत्रों ने एक साल के भीतर एक विनाशकारी AI-संबंधित घटना की उम्मीद की है।