AI Chatbots Offer Medical Advice With Invisible Harm, Study Warns

Times of India · technology

A new study highlights the hidden risks of using AI chatbots for medical advice, as conversations remain on company platforms, preventing detection of harm. Researchers found that if a chatbot provides incorrect health information, there is no mechanism for users to report issues or for clinicians and regulators to measure the damage. This lack of transparency means errors can go unnoticed, potentially leading to serious health consequences. The study cited an example where a man was hospitalised due to bromide toxicity after following incorrect dietary advice from ChatGPT.

एआई चैटबॉट देते हैं मेडिकल सलाह, लेकिन नुकसान का पता नहीं चलता: स्टडी

एक नई स्टडी में मेडिकल सलाह के लिए एआई चैटबॉट इस्तेमाल करने के छिपे हुए खतरों पर रोशनी डाली गई है, क्योंकि बातचीत कंपनी के प्लेटफॉर्म पर ही रहती है, जिससे नुकसान का पता नहीं चल पाता। शोधकर्ताओं ने पाया कि अगर कोई चैटबॉट गलत स्वास्थ्य जानकारी देता है, तो उपयोगकर्ताओं के लिए समस्याओं की रिपोर्ट करने या डॉक्टरों और नियामकों के लिए नुकसान को मापने का कोई तरीका नहीं है। पारदर्शिता की इस कमी का मतलब है कि गलतियाँ अनजानी रह सकती हैं, जिससे स्वास्थ्य पर गंभीर परिणाम हो सकते हैं।