OpenAI Disrupts Coordinated Campaign to Copy AI Model Capabilities

Economic Times - Tech · technology

OpenAI has disrupted a large-scale, coordinated campaign aimed at extracting protected reasoning from its AI models. This practice, known as adversarial distillation, involves systematically using a model's outputs to train or improve another. The company observed a sharp increase in such requests, with over 16,000 instances from 4,000 users in late July. While operators did not breach encryption, they manipulated interactions to reproduce internal reasoning. OpenAI attributes a core part of this activity to individuals associated with Moonshot AI, the developer of Kimi.

ने रोकी AI मॉडल की नकल करने की बड़ी कोशिश सुरक्षा को भेदने का प्रयास विफल

ने अपने AI मॉडल से सुरक्षित रीजनिंग निकालने के एक बड़े, समन्वित अभियान को विफल कर दिया है। इस प्रैक्टिस को एडवरसैरियल डिस्टिलेशन कहते हैं, जिसमें किसी मॉडल के आउटपुट का इस्तेमाल करके उसे ट्रेन या बेहतर बनाया जाता है। कंपनी ने जुलाई के अंत में ऐसे 4,000 यूजर्स से 16,000 से ज़्यादा रिक्वेस्ट देखीं। हालांकि ऑपरेटर्स एन्क्रिप्शन को नहीं तोड़ पाए, लेकिन उन्होंने इंटरैक्शन को मैनिपुलेट करके इंटरनल रीजनिंग को रिप्रोड्यूस करने की कोशिश की। OpenAI का कहना है कि इस एक्टिविटी का एक बड़ा हिस्सा मूनशॉट AI, जो किमी का डेवलपर है, से जुड़े लोगों का था।