Anthropic Exec Warns Open-Source AI Models Pose Greater Cybersecurity Risks

Business Standard · technology

Guillaume Princen, Anthropic's head of international sales, stated that open-source AI models inherently carry more cybersecurity risks compared to closed systems. He emphasized the need for caution with open-source AI, especially as companies like France's Mistral AI offer them as sovereign alternatives. Anthropic, which has also warned about AI's potential for creating self-replicating botnets, is increasing safeguards for its own models. Princen advocates for investing in advanced AI models, noting that their costs decrease over time, making them more accessible.

एंथ्रोपिक एग्जीक्यूटिव ने चेताया, ओपन-सोर्स AI मॉडल से साइबर सुरक्षा को ज़्यादा खतरा

एंथ्रोपिक के इंटरनेशनल सेल्स हेड, गुइल्यूम प्रिंसेन ने कहा है कि ओपन-सोर्स AI मॉडल में बंद सिस्टम की तुलना में स्वाभाविक रूप से ज़्यादा साइबर सुरक्षा जोखिम होते हैं। उन्होंने ओपन-सोर्स AI के साथ सावधानी बरतने की ज़रूरत पर ज़ोर दिया, खासकर जब फ्रांस की मिस्ट्रल AI जैसी कंपनियां उन्हें संप्रभु विकल्प के तौर पर पेश कर रही हैं। एंथ्रोपिक, जिसने AI द्वारा सेल्फ-रेप्लिकेटिंग बॉटनेट बनाने की क्षमता के बारे में भी चेतावनी दी है, अपने मॉडलों के लिए सुरक्षा उपायों को बढ़ा रहा है। प्रिंसेन ने एडवांस्ड AI मॉडल में निवेश की वकालत की है, यह बताते हुए कि समय के साथ उनकी लागत कम हो जाती है, जिससे वे ज़्यादा सुलभ हो जाते हैं।