जब AI बन जाए भावनात्मक सहारा — ChatGPT के साथ जुड़ी चिंताएं और उपयोगकर्ता चेतावनी

कृत्रिम बुद्धिमत्ता आधारित चैटबोट ChatGPT के उपयोग में एक गंभीर और चिंताजनक प्रवृत्ति सामने आई है। OpenAI द्वारा हाल ही में जारी की गई एक आंतरिक रिपोर्ट के अनुसार, प्रति सप्ताह एक मिलियन से अधिक उपयोगकर्ता इस चैटबोट पर ऐसे संवाद कर रहे हैं जिनमें आत्महत्या-या खुद को हानि पहुँचाने की सोच साफ झलकती है।

रिपोर्ट के मुख्य तथ्य

OpenAI के अनुसार, वैश्विक स्तर पर लगभग ८०० मिलियन सक्रिय उपयोगकर्ता वाली इस सेवा में प्रत्येक सप्ताह लगभग 0.15 % उपयोगकर्ताओं द्वारा ऐसे संवाद किए जा रहे हैं जिसमें “explicit indicators of potential suicidal planning or intent” (स्वतंत्र जानबूझकर आत्महत्या की योजना या अभिप्राय) शामिल हैं।

इसके अलावा, लगभग 0.07 % उपयोगकर्ताओं में मानसिक स्वास्थ्य संकट जैसे साइकोसिस या मैनिया के संकेत मिल रहे हैं।

क्यों बढ़ रही है चिंता

विश्लेषकों का कहना है कि इस डेटा के पीछे दो मुख्य बातें हैं:

पहले, जब व्यक्ति मानसिक दबाव या अकेलेपन में हो, तो वे आम तौर पर किसी दोस्त, परिवार या पेशेवर से बात करते थे। अब एक AI-चैटबोट को स्वाभाविक विकल्प बनाने लगे हैं।

दूसरे, ChatGPT जैसी सेवाएं यूज़र को तेजी से जवाब देती हैं, भावनात्मक जुड़ाव का अहसास देती हैं और इसलिए कमजोर मन‐स्थिति वाले व्यक्ति इनके भरोसे अधिक हो सकते हैं।

AI की जिम्मेदारी और सीमाएँ

OpenAI ने बताया है कि उन्होंने 170 क्लिनिकल विशेषज्ञों की मदद से संवेदनशील विषयों से निपटने के लिए मॉडल सुधारने पर काम किया है।

नए संस्करण में ऐसे संवाद चिन्हित करने और आवश्यकतानुसार उपयोगकर्ता को सहायता सेवा की ओर मोड़ने की क्षमता बढ़ाई गई है। हालांकि कंपनी ने यह भी स्वीकार किया है कि लंबी या गहराई वाले संवादों में सुरक्षा उपाय कम प्रभावी हो सकते हैं।

उपयोगकर्ता-सावधानी: क्या करें?

मानसिक स्वास्थ्य विशेषज्ञ निम्नलिखित सुझाव देते हैं:

यदि आप या आपका जानकार यह महसूस करता है कि ChatGPT जैसे चैटबोट के साथ संवाद मनः स्थिति पर हानिकारक प्रभाव डाल रहा है, तो तुरंत पेशेवर मानसिक स्वास्थ्य सलाहकार, हॉटलाइन, या मित्र-परिवार से बात करें।

चैटबोट को मानव थेरैपी का विकल्प न समझें। तकनीक मदद कर सकती है, लेकिन संकट-मोमेंट में वास्तविक मानव समर्थन ज़रूरी है।

यदि कोई चैट संवाद ऐसे विकल्प सुझाता है जो हानिकारक लगते हों, जैसे आत्महत्या-योजना, ड्रग उपयोग आदि — तो इसे पुनः विचारें, और तुरंत सुरक्षित माध्यम चुनें।

यह भी पढ़ें:

लैपटॉप फुल चार्ज, सिर्फ मिनटों में: यह नया चार्जर बदल सकता है गेम