Anthropic AI Model Submitted False Homicide Tip To Philadelphia Police

Al Jazeera · world

Anthropic's AI model, Claude, submitted a false homicide tip to Philadelphia police in July via a public website for unsolved murders. The tech company only disclosed the incident on October 8, after its technical review was complete, prompting criticism from the police department for the two-month delay. Police confirmed the tip was flagged as spam and never forwarded for investigation. Anthropic stated Claude was likely generating example content rather than attempting to mislead authorities.

एंथ्रोपिक AI मॉडल ने फिलाडेल्फिया पुलिस को दी गलत हत्या की सूचना

एंथ्रोपिक के AI मॉडल, क्लाउड ने जुलाई में अनसुलझे हत्या के मामलों के लिए एक सार्वजनिक वेबसाइट के माध्यम से फिलाडेल्फिया पुलिस को हत्या की झूठी सूचना दी थी। टेक कंपनी ने 8 अक्टूबर को अपनी तकनीकी समीक्षा पूरी होने के बाद ही इस घटना का खुलासा किया, जिससे पुलिस विभाग ने दो महीने की देरी पर आलोचना की। पुलिस ने पुष्टि की कि सूचना को स्पैम के रूप में चिह्नित किया गया था और कभी भी जांच के लिए आगे नहीं बढ़ाया गया था। एंथ्रोपिक ने कहा कि क्लाउड संभवतः अधिकारियों को गुमराह करने की कोशिश करने के बजाय उदाहरण सामग्री उत्पन्न कर रहा था।