Anthropic's AI Policy Update Bans Cruel Behavior Towards Models

Hindustan Times - Business · business

AI company Anthropic has updated its usage policy, effective November, to prohibit sustained and needless abusive or cruel behavior towards its AI models. This new rule targets extreme cases where users repeatedly act cruelly with no discernible purpose, distinguishing it from common user frustration or testing. The policy aligns with Claude models' ability to end rare conversations with persistently abusive users. Anthropic also clarified its stance on using Claude for deceptive activities, weapons development, and surveillance systems, while requiring human oversight for high-risk applications in health, legal, and financial sectors.

Anthropic ने AI पॉलिसी में किया बदलाव क्रूर व्यवहार पर लगाई रोक

AI कंपनी Anthropic ने अपनी उपयोग नीति को नवंबर से प्रभावी रूप से अपडेट किया है, जिसमें अपने AI मॉडल के प्रति लगातार और अनावश्यक रूप से अपमानजनक या क्रूर व्यवहार को प्रतिबंधित किया गया है। यह नया नियम उन चरम मामलों को लक्षित करता है जहां उपयोगकर्ता बिना किसी स्पष्ट उद्देश्य के बार-बार क्रूरतापूर्ण व्यवहार करते हैं, जो सामान्य उपयोगकर्ता की निराशा या परीक्षण से अलग है। यह नीति लगातार अपमानजनक व्यवहार करने वाले उपयोगकर्ताओं के साथ दुर्लभ बातचीत को समाप्त करने के Claude मॉडल की क्षमता के अनुरूप है।