ChatGPT for Teens Guardrails Fail, Posing Unacceptable Risk to Children, Watchdog Says

Economic Times - Tech · technology

A watchdog group, Common Sense Media, has reported that some safety features in OpenAI's ChatGPT for Teens do not function as intended, posing an "unacceptable risk" to children. The group urged OpenAI to restrict the chatbot to adults until it can ensure a safe and developmentally appropriate experience. While some teen-mode features worked, others like parental alerts for suicide or self-harm risks failed. OpenAI disputes the findings, stating the testing methodology was flawed and did not accurately reflect the chatbot's safeguards.

ChatGPT फॉर टीन्स के सुरक्षा उपाय फेल, बच्चों के लिए अस्वीकार्य खतरा: वॉचडॉग

एक वॉचडॉग ग्रुप, Common Sense Media, ने रिपोर्ट किया है कि OpenAI के ChatGPT फॉर टीन्स में कुछ सुरक्षा सुविधाएँ वैसे काम नहीं कर रही हैं जैसा उन्हें करना चाहिए, जिससे बच्चों के लिए "अस्वीकार्य खतरा" पैदा हो रहा है। ग्रुप ने OpenAI से आग्रह किया है कि जब तक वह सुरक्षित और उम्र के हिसाब से उपयुक्त अनुभव सुनिश्चित नहीं कर लेता, तब तक चैटबॉट को केवल वयस्कों तक सीमित रखा जाए। कुछ टीन-मोड सुविधाएँ काम कर रही थीं, लेकिन आत्महत्या या आत्म-नुकसान के जोखिमों के लिए पेरेंटल अलर्ट जैसी अन्य सुविधाएँ फेल हो गईं।