US Regulator FTC Probes Major AI Companies Over Rogue Agents

Al Jazeera · world

FTC has launched an investigation into major artificial intelligence companies, including OpenAI and Anthropic. This probe follows reports of "rogue AI agents" capable of acting independently and concerns raised by former industry insiders about AI's potential risks. The FTC plans to issue demands for information and seek testimony from executives. This action comes amid broader discussions about AI regulation, including a recent White House meeting on voluntary AI development pacts and proposed legislation to bar advanced AI development until oversight agencies are established.

अमेरिकी नियामक FTC ने बड़े AI कंपनियों की जांच शुरू की 'रॉग एजेंट्स' को लेकर उठा सवाल

ने OpenAI और Anthropic सहित प्रमुख आर्टिफिशियल इंटेलिजेंस कंपनियों की जांच शुरू कर दी है। यह जांच 'रॉग AI एजेंट्स' की रिपोर्टों के बाद हुई है, जो स्वतंत्र रूप से काम करने में सक्षम हैं और AI के संभावित जोखिमों के बारे में पूर्व उद्योग अंदरूनी सूत्रों द्वारा उठाई गई चिंताओं के बाद हुई है। FTC सूचना के लिए मांग जारी करने और अधिकारियों से गवाही लेने की योजना बना रहा है। यह कार्रवाई AI विनियमन पर व्यापक चर्चाओं के बीच आई है, जिसमें स्वैच्छिक AI विकास समझौतों पर व्हाइट हाउस की हालिया बैठक और निरीक्षण एजेंसियों की स्थापना तक उन्नत AI विकास को रोकने के लिए प्रस्तावित कानून शामिल हैं।