Anthropic AI Safeguards Slash Distillation Attacks By Up To 99%

Economic Times - Tech · technology

Anthropic has announced new safeguards that significantly reduce data harvested in AI distillation attacks, cutting them by approximately 90% to 99%. These measures aim to prevent rivals from easily copying the capabilities of its Claude AI models. Model distillation is a growing concern for leading AI companies amid intensifying US-China competition, as it allows rivals to reproduce advanced AI features faster and cheaper. Anthropic's system restricts access to Claude's reasoning, making large-scale distillation efforts harder and posing fewer risks.

एंथ्रोपिक AI के नए सुरक्षा उपाय डिस्टिलेशन हमलों को 99% तक घटाते हैं

एंथ्रोपिक ने नए सुरक्षा उपायों की घोषणा की है जो AI डिस्टिलेशन हमलों में एकत्र किए गए डेटा को काफी कम करते हैं, उन्हें लगभग 90% से 99% तक घटाते हैं। इन उपायों का उद्देश्य प्रतिद्वंद्वियों को इसके Claude AI मॉडल की क्षमताओं को आसानी से कॉपी करने से रोकना है। मॉडल डिस्टिलेशन अमेरिका-चीन प्रतिस्पर्धा के बीच प्रमुख AI कंपनियों के लिए एक बढ़ती चिंता का विषय है, क्योंकि यह प्रतिद्वंद्वियों को उन्नत AI सुविधाओं को तेज़ी से और सस्ते में पुन: पेश करने की अनुमति देता है। एंथ्रोपिक की प्रणाली Claude की तर्क क्षमता तक पहुंच को प्रतिबंधित करती है, जिससे बड़े पैमाने पर डिस्टिलेशन प्रयास कठिन हो जाते हैं और कम जोखिम पैदा होते हैं।