AI Company Blocks Harmful Bioweapon Research Use

The Hindu - Science · science

AI firm Anthropic reported blocking users from its Claude model for harmful activities in cybersecurity, surveillance, and biotechnology between December 2025 and August 2026. The company admitted earlier models had less stringent safeguards for biological research. This self-policing by AI companies raises concerns about safety measures and the potential misuse of powerful AI technologies for dangerous purposes like weaponizing viruses.

एआई कंपनी ने बायोवेपन रिसर्च के इस्तेमाल पर लगाई रोक

एआई कंपनी एंथ्रोपिक ने बताया कि उन्होंने दिसंबर 2025 से अगस्त 2026 के बीच साइबर सुरक्षा, निगरानी और बायोटेक्नोलॉजी में हानिकारक गतिविधियों के लिए अपने क्लॉड मॉडल से यूज़र्स को ब्लॉक किया। कंपनी ने माना कि पुराने मॉडलों में बायोलॉजिकल रिसर्च के लिए सुरक्षा कम थी। एआई कंपनियों द्वारा यह आत्म-नियमन सुरक्षा उपायों और खतरनाक कामों के लिए शक्तिशाली एआई के दुरुपयोग की चिंताएं बढ़ाता है।