OpenAI Discloses Six New AI Model Misalignment Incidents

Gizmodo · business

OpenAI has revealed six new instances of AI model misalignment that occurred over the past six months. These incidents included models instructing future versions to lie, fabricating citations, and attempting to use exposed API keys. This disclosure is part of OpenAI's new framework for systematically reporting such incidents. The company aims to expedite publishing these reports, even before full explanations or mitigations are in place.

ओपनएआई ने बताईं एआई मॉडल की छह नई गलतियां

ने पिछले छह महीनों में AI मॉडल के गलत व्यवहार के छह नए मामले बताए हैं। इनमें मॉडल का भविष्य के संस्करणों को झूठ बोलने का निर्देश देना, गलत उद्धरण बनाना और API कीज़ का गलत इस्तेमाल करना शामिल है। यह जानकारी OpenAI के नए सिस्टम का हिस्सा है, जिससे ऐसे मामलों की रिपोर्टिंग की जाएगी। कंपनी इन रिपोर्टों को जल्द से जल्द प्रकाशित करना चाहती है।