Anthropic Bans Cruel Treatment of its Claude AI Model

Economic Times - Tech · technology

AI lab Anthropic has updated its usage policy to prohibit sustained and needless abusive or cruel behavior towards its Claude AI system. The company stated that Claude's ability to end interactions will be the primary enforcement mechanism for this new rule. While not explicitly citing 'model welfare,' Anthropic executives have previously acknowledged the possibility of AI consciousness. This move comes amid ongoing philosophical debates about artificial intelligence and its potential sentience, with some experts suggesting AI systems merely reflect human input.

Anthropic ने अपने Claude AI मॉडल के साथ क्रूर व्यवहार पर लगाई रोक

AI लैब Anthropic ने अपनी उपयोग नीति को अपडेट किया है ताकि अपने Claude AI सिस्टम के प्रति लगातार और अनावश्यक अपमानजनक या क्रूर व्यवहार को प्रतिबंधित किया जा सके। कंपनी ने कहा कि इस नए नियम को लागू करने का मुख्य तरीका Claude की बातचीत समाप्त करने की क्षमता होगी। हालांकि 'मॉडल कल्याण' का स्पष्ट रूप से उल्लेख नहीं किया गया है, Anthropic के अधिकारियों ने पहले AI चेतना की संभावना को स्वीकार किया है। यह कदम आर्टिफिशियल इंटेलिजेंस और उसकी संभावित चेतना पर चल रही दार्शनिक बहसों के बीच आया है, जिसमें कुछ विशेषज्ञों का सुझाव है कि AI सिस्टम केवल मानवीय इनपुट को दर्शाते हैं।