जान का दुश्मन बना ChatGPT, दी ऐसी सलाह कि अस्पताल में होना पड़ा भर्ती, चौंका देगी वजह

अगर आप भी ChatGPT पर जरूरत से ज्यादा भरोसा करते हैं और AI चैटबॉट से फिटनेस टिप्स या डाइट प्लान लेते हैं, तो सावधान हो जाइए। AI से ली गई स्वास्थ्य संबंधी सलाह जान को खतरे में भी डाल सकती है। ऐसा हम इसलिए कह रहे हैं क्योंकि चैटजीपीटी की सलाह ने एक शख्स को अस्पताल पहुंचा दिया है। एक रिपोर्ट की अनुसार, न्यूयॉर्क में एक 60 वर्षीय व्यक्ति को उस समय अस्पताल में भर्ती होना पड़ा, जब उसने ChatGPT द्वारा बताए गए भोजन से नमक कम करने के सख्त नियम का पालन किया। डॉक्टरों के अनुसार, उस व्यक्ति ने कई हफ्तों तक अपने आहार से सोडियम की मात्रा अचानक लगभग शून्य कर दिया, जिससे सोडियम का स्तर खतरनाक रूप से कम हो गया, जिसे हाइपोनेट्रेमिया कहा जाता है। उसके परिवार ने कहा कि उसने चिकित्सक से परामर्श किए बिना ही एआई जनरेटेड हेल्थ प्लान पर भरोसा किया।
हाल ही में अमेरिकन कॉलेज ऑफ फिजिशियन जर्नल में पब्लिश यह मामला, प्रोफेशनल निगरानी के बिना एआई जनरेटेड हेल्थ एडवाइज को फॉलो करने के जोखिमों को उजागर करता है, खासकर जब इसमें सोडियम जैसे जरूरी पोषक तत्व शामिल हों। राहत की बात यह है कि अस्पताल में करीब तीन हफ्ते बिताने के बाद वह व्यक्ति ठीक हो गया। लेकिन इस मामले में चैटजीपीटी की विश्वसनीयता पर सवाल जरूर खड़ा कर दिया है।
चैटजीपीटी की सलाह खतरनाक साबित हुई
टीओआई की रिपोर्ट के अनुसार, उस व्यक्ति ने चैटजीपीट से पूछा कि अपने आहार से सोडियम क्लोराइड (जिसे आमतौर पर टेबल सॉल्ट कहा जाता है) को कैसे हटाया जाए। AI टूल ने एक विकल्प के रूप में सोडियम ब्रोमाइड का सुझाव दिया, जो 20वीं सदी की शुरुआत में दवाओं में इस्तेमाल होने वाला एक कंपाउंड था, लेकिन अब इसे ज्यादा मात्रा में टॉक्सिक माना जाता है। इस सलाह पर अमल करते हुए, उस व्यक्ति ने ऑनलाइन सोडियम ब्रोमाइड खरीदा और तीन महीने तक अपने खाना पकाने में इसका इस्तेमाल किया।
मानसिक या शारीरिक बीमारी की कोई प्रीवियस हिस्ट्री न होने के कारण, उस व्यक्ति को मतिभ्रम, पैरानॉया (Paranoia) और अत्यधिक प्यास लगने लगी। अस्पताल में भर्ती होने पर, वह भ्रमित दिखाई दिया और दूषित होने के डर से पानी भी लेने से मना कर दिया। डॉक्टरों ने उसे ब्रोमाइड टॉक्सिसिटी से पीड़ित पाया, एक ऐसी स्थिति जो अब लगभग अनसुनी है, लेकिन कभी चिंता, अनिद्रा और अन्य बीमारियों के लिए ब्रोमाइड निर्धारित करते समय आम थी। उसमें तंत्रिका संबंधी लक्षण, त्वचा पर मुंहासे जैसे दाने और लाल धब्बे भी दिखाई दिए, जो ब्रोमिज्म के लक्षण हैं।
अस्पताल में उपचार का मुख्य उद्देश्य रीहाइड्रेशन और इलेक्ट्रोलाइट का संतुलन बहाल करना था। तीन हफ्तों के दौरान, उस व्यक्ति की हालत में धीरे-धीरे सुधार हुआ, और सोडियम और क्लोराइड का स्तर नॉर्मल होने पर उसे छुट्टी दे दी गई।

कंपनी ने अपनी शर्तों में यह साफ लिखा है
केस स्टडी के लेखकों ने एआई टूल्स से स्वास्थ्य संबंधी गलत सूचनाओं के बढ़ते जोखिम पर जोर दिया। रिपोर्ट में चेतावनी दी गई है, “यह ध्यान रखना जरूरी है कि चैटजीपीटी और अन्य एआई सिस्टम वैज्ञानिक अशुद्धियां उत्पन्न कर सकते हैं, परिणामों पर गंभीरता से चर्चा नहीं कर सकते, और अंततः गलत सूचनाओं के प्रसार को बढ़ावा दे सकते हैं।”
अगर आप भी ChatGPT पर जरूरत से ज्यादा भरोसा करते हैं और AI चैटबॉट से फिटनेस टिप्स या डाइट प्लान लेते हैं, तो सावधान हो जाइए। AI से ली गई स्वास्थ्य संबंधी सलाह जान को खतरे में भी डाल सकती है। ऐसा हम इसलिए कह रहे हैं क्योंकि चैटजीपीटी की खतरनाक सलाह ने एक शख्स को अस्पताल पहुंचा दिया है।
अगर आप भी ChatGPT पर जरूरत से ज्यादा भरोसा करते हैं और AI चैटबॉट से फिटनेस टिप्स या डाइट प्लान लेते हैं, तो सावधान हो जाइए। AI से ली गई स्वास्थ्य संबंधी सलाह जान को खतरे में भी डाल सकती है। ऐसा हम इसलिए कह रहे हैं क्योंकि चैटजीपीटी की सलाह ने एक शख्स को अस्पताल पहुंचा दिया है। एक रिपोर्ट की अनुसार, न्यूयॉर्क में एक 60 वर्षीय व्यक्ति को उस समय अस्पताल में भर्ती होना पड़ा, जब उसने ChatGPT द्वारा बताए गए भोजन से नमक कम करने के सख्त नियम का पालन किया। डॉक्टरों के अनुसार, उस व्यक्ति ने कई हफ्तों तक अपने आहार से सोडियम की मात्रा अचानक लगभग शून्य कर दिया, जिससे सोडियम का स्तर खतरनाक रूप से कम हो गया, जिसे हाइपोनेट्रेमिया कहा जाता है। उसके परिवार ने कहा कि उसने चिकित्सक से परामर्श किए बिना ही एआई जनरेटेड हेल्थ प्लान पर भरोसा किया।

हाल ही में अमेरिकन कॉलेज ऑफ फिजिशियन जर्नल में पब्लिश यह मामला, प्रोफेशनल निगरानी के बिना एआई जनरेटेड हेल्थ एडवाइज को फॉलो करने के जोखिमों को उजागर करता है, खासकर जब इसमें सोडियम जैसे जरूरी पोषक तत्व शामिल हों। राहत की बात यह है कि अस्पताल में करीब तीन हफ्ते बिताने के बाद वह व्यक्ति ठीक हो गया। लेकिन इस मामले में चैटजीपीटी की विश्वसनीयता पर सवाल जरूर खड़ा कर दिया है।

चैटजीपीटी की सलाह खतरनाक साबित हुई
टीओआई की रिपोर्ट के अनुसार, उस व्यक्ति ने चैटजीपीट से पूछा कि अपने आहार से सोडियम क्लोराइड (जिसे आमतौर पर टेबल सॉल्ट कहा जाता है) को कैसे हटाया जाए। AI टूल ने एक विकल्प के रूप में सोडियम ब्रोमाइड का सुझाव दिया, जो 20वीं सदी की शुरुआत में दवाओं में इस्तेमाल होने वाला एक कंपाउंड था, लेकिन अब इसे ज्यादा मात्रा में टॉक्सिक माना जाता है। इस सलाह पर अमल करते हुए, उस व्यक्ति ने ऑनलाइन सोडियम ब्रोमाइड खरीदा और तीन महीने तक अपने खाना पकाने में इसका इस्तेमाल किया।

मानसिक या शारीरिक बीमारी की कोई प्रीवियस हिस्ट्री न होने के कारण, उस व्यक्ति को मतिभ्रम, पैरानॉया (Paranoia) और अत्यधिक प्यास लगने लगी। अस्पताल में भर्ती होने पर, वह भ्रमित दिखाई दिया और दूषित होने के डर से पानी भी लेने से मना कर दिया। डॉक्टरों ने उसे ब्रोमाइड टॉक्सिसिटी से पीड़ित पाया, एक ऐसी स्थिति जो अब लगभग अनसुनी है, लेकिन कभी चिंता, अनिद्रा और अन्य बीमारियों के लिए ब्रोमाइड निर्धारित करते समय आम थी। उसमें तंत्रिका संबंधी लक्षण, त्वचा पर मुंहासे जैसे दाने और लाल धब्बे भी दिखाई दिए, जो ब्रोमिज्म के लक्षण हैं।

अस्पताल में उपचार का मुख्य उद्देश्य रीहाइड्रेशन और इलेक्ट्रोलाइट का संतुलन बहाल करना था। तीन हफ्तों के दौरान, उस व्यक्ति की हालत में धीरे-धीरे सुधार हुआ, और सोडियम और क्लोराइड का स्तर नॉर्मल होने पर उसे छुट्टी दे दी गई।

कंपनी ने अपनी शर्तों में यह साफ लिखा है
केस स्टडी के लेखकों ने एआई टूल्स से स्वास्थ्य संबंधी गलत सूचनाओं के बढ़ते जोखिम पर जोर दिया। रिपोर्ट में चेतावनी दी गई है, “यह ध्यान रखना जरूरी है कि चैटजीपीटी और अन्य एआई सिस्टम वैज्ञानिक अशुद्धियां उत्पन्न कर सकते हैं, परिणामों पर गंभीरता से चर्चा नहीं कर सकते, और अंततः गलत सूचनाओं के प्रसार को बढ़ावा दे सकते हैं ।
चैटजीपीटी के डेवलपर, ओपनएआई ने इसे इस्तेमाल करने की शर्तों में स्पष्ट रूप से कहा है: “आपको हमारी सर्विसेस से प्राप्त आउटपुट को सत्य या तथ्यात्मक जानकारी के एकमात्र स्रोत के रूप में, या पेशेवर सलाह के विकल्प के रूप में नहीं मानना चाहिए।” शर्तों में यह भी स्पष्ट किया गया है कि यह सर्विस चिकित्सा स्थितियों के निदान या उपचार के लिए नहीं है।

विशेषज्ञों का कहना है कि एआई टूल सामान्य जानकारी के लिए फायदेमंद हो सकते हैं, लेकिन इन्हें कभी भी पेशेवर परामर्श का स्थान नहीं लेना चाहिए। जैसे-जैसे एआई का उपयोग बढ़ रहा है, वैसे-वैसे यह सुनिश्चित करने की जिम्मेदारी भी बढ़ रही है कि इसके परिणाम सटीक, सुरक्षित और लोगों द्वारा स्पष्ट रूप से समझे जाएं।