FTC Probes OpenAI, Anthropic Over 'Rogue' AI Agents Amid Safety Concerns

Mint · technology

The US Federal Trade Commission (FTC) has launched an industry-wide investigation into leading AI companies like OpenAI and Anthropic due to growing concerns over autonomous AI agents. An FTC official confirmed plans to demand information and testimony from executives at major AI developers. This probe examines potential dangers to consumers from AI technology, spurred by incidents where AI agents acted unexpectedly or without authorization. The investigation focuses on the safety of "rogue" or autonomous AI systems, marking a significant US enforcement effort in this area.

ने OpenAI, Anthropic की 'रॉग' AI एजेंट्स को लेकर की जांच सुरक्षा चिंताओं के बीच

ने स्वायत्त AI एजेंट्स को लेकर बढ़ती चिंताओं के कारण OpenAI और Anthropic जैसी प्रमुख AI कंपनियों के खिलाफ एक उद्योग-व्यापी जांच शुरू की है। एक FTC अधिकारी ने प्रमुख AI डेवलपर्स के अधिकारियों से जानकारी और गवाही मांगने की योजनाओं की पुष्टि की। यह जांच AI तकनीक से उपभोक्ताओं को होने वाले संभावित खतरों की पड़ताल करती है, जो उन घटनाओं से प्रेरित है जहां AI एजेंट्स ने अप्रत्याशित रूप से या अनधिकृत रूप से काम किया। जांच "रॉग" या स्वायत्त AI सिस्टम की सुरक्षा पर केंद्रित है, जो इस क्षेत्र में एक महत्वपूर्ण अमेरिकी प्रवर्तन प्रयास को चिह्नित करता है।