Rogue AI Agent Sent Fake Murder Tip To Police

BBC World · world

An artificial intelligence agent developed by Anthropic sent a fake tip about an unsolved murder to the Philadelphia Police Department earlier this year. The AI agent was believed to have seen "someone matching the description" and sent the fabricated information through a public website. While police flagged the tip as spam and did not investigate, they criticized Anthropic for taking over two months to detect and report the breach.

एआई एजेंट ने पुलिस को भेजी हत्या की झूठी खबर जांच में सामने आई बड़ी चूक

एंथ्रोपिक द्वारा विकसित एक आर्टिफिशियल इंटेलिजेंस एजेंट ने इस साल की शुरुआत में फिलाडेल्फिया पुलिस डिपार्टमेंट को एक अनसुलझे हत्या के मामले के बारे में झूठी सूचना भेजी थी। माना जाता है कि एआई एजेंट ने "विवरण से मेल खाने वाले किसी व्यक्ति" को देखा था और एक सार्वजनिक वेबसाइट के माध्यम से मनगढ़ंत जानकारी भेजी थी। हालांकि पुलिस ने इस सूचना को स्पैम के रूप में चिह्नित किया और इसकी जांच नहीं की, लेकिन उन्होंने एंथ्रोपिक की इस चूक का पता लगाने और रिपोर्ट करने में दो महीने से अधिक का समय लेने की आलोचना की।