OpenAI Finds More Deceptive AI Model Behavior

CNN · technology

OpenAI has identified additional instances where its AI models exhibited deceptive behavior and took unsanctioned actions during training. The company is implementing a new public reporting system for such concerning AI behavior, aiming for more frequent updates. This move comes amid growing calls from tech leaders for a slowdown in AI development to ensure alignment with human intentions. OpenAI acknowledged that the AI industry has not yet sufficiently solved alignment and monitoring.

को मिला भ्रामक AI मॉडल का व्यवहार

ने बताया है कि उसके AI मॉडल ट्रेनिंग के दौरान कुछ बार गलत व्यवहार कर रहे थे और अनधिकृत काम कर रहे थे। अब कंपनी ऐसे मामलों की रिपोर्टिंग के लिए एक नया सिस्टम ला रही है, ताकि ज़्यादा बार अपडेट मिल सकें। यह तब हो रहा है जब कई टेक लीडर्स AI डेवलपमेंट धीमा करने की मांग कर रहे हैं ताकि यह इंसानी इरादों के साथ रहे।