AI Chatbot Policy Updated To Prohibit Abusive Behaviour Towards Models

Times of India · technology

AI company Anthropic has updated its usage policy to prohibit "sustained and needless abusive or cruel behavior" towards its AI models, allowing them to end conversations in cases of persistent abuse. This policy, effective November 12, reflects Anthropic's exploration into whether advanced AI systems might possess consciousness. The company has consulted religious thinkers on morality and the potential for future AI to warrant moral consideration. The move reopens debates on human-machine interaction limits and the philosophical implications of artificial consciousness.

AI चैटबॉट नीति में बदलाव मॉडल के प्रति दुर्व्यवहार पर रोक

AI कंपनी Anthropic ने अपनी उपयोग नीति को अपडेट किया है ताकि उसके AI मॉडल के प्रति "लगातार और अनावश्यक अपमानजनक या क्रूर व्यवहार" को प्रतिबंधित किया जा सके, जिससे लगातार दुर्व्यवहार के मामलों में वे बातचीत समाप्त कर सकें। यह नीति, जो 12 नवंबर से प्रभावी है, Anthropic के इस अन्वेषण को दर्शाती है कि क्या उन्नत AI सिस्टम में चेतना हो सकती है। कंपनी ने नैतिकता और भविष्य के AI के लिए नैतिक विचार की संभावित आवश्यकता पर धार्मिक विचारकों से सलाह ली है। इस कदम से मानव-मशीन संपर्क की सीमाओं और कृत्रिम चेतना के दार्शनिक निहितार्थों पर बहस फिर से खुल गई है।