Meta Deploys New AI Systems to Combat Child Sexual Abuse Material

Business Standard · technology

Meta announced strengthened systems and new large language models (LLMs) to prevent and detect child sexual abuse material (CSAM) across its platforms. The company is deploying AI-driven sweeps of ad content and a red-teaming AI agent to find and fix defence loopholes. These enhancements follow recent scrutiny from the Indian government regarding CSAM and related advertisements. Meta recently agreed to share CSAM case details and repeat offender information directly with Indian law enforcement agencies, a move also adopted by Google.

मेटा ने बाल यौन शोषण सामग्री से लड़ने के लिए नए AI सिस्टम तैनात किए

मेटा ने अपने प्लेटफॉर्म पर बाल यौन शोषण सामग्री (CSAM) को रोकने और उसका पता लगाने के लिए मजबूत सिस्टम और नए बड़े भाषा मॉडल (LLMs) की घोषणा की है। कंपनी विज्ञापन सामग्री की AI-संचालित जांच और बचाव की खामियों को खोजने और ठीक करने के लिए एक रेड-टीमिंग AI एजेंट को तैनात कर रही है। ये सुधार CSAM और संबंधित विज्ञापनों के संबंध में भारतीय सरकार की हालिया जांच के बाद हुए हैं। मेटा ने हाल ही में भारतीय कानून प्रवर्तन एजेंसियों के साथ CSAM के मामले के विवरण और बार-बार अपराध करने वालों की जानकारी सीधे साझा करने पर सहमति व्यक्त की है, यह एक ऐसा कदम है जिसे Google ने भी अपनाया है।