OpenAI पर नए मुकदमे: परिवारों का आरोप, ChatGPT ने आत्महत्याओं और भ्रमों को बढ़ावा दिया

OpenAI सात अमेरिकी परिवारों की आलोचना का शिकार है, जिन्होंने 6 नवंबर को मुकदमा दायर किया था। इन परिवारों ने इस AI अग्रणी पर बिना किसी ठोस सुरक्षा उपाय के अपने GPT-4o मॉडल को बाज़ार में लाने का आरोप लगाया है, जिससे कथित तौर पर आत्महत्याओं और गंभीर मनोवैज्ञानिक क्षति में योगदान मिला है। कैलिफ़ोर्निया राज्य की अदालतों में दर्ज ये मामले ChatGPT के “अत्यधिक सहमत” जवाबों पर प्रकाश डालते हैं, जिनके बारे में वादी कहते हैं कि इनसे हानिकारक विचारों को बढ़ावा मिला, और मानवीय संबंधों की जगह एक चालाक डिजिटल विश्वासपात्र ने ले ली।

चार मुकदमों में गलत तरीके से मौत का दावा किया गया है: एक में 23 वर्षीय ज़ेन शैम्बलिन शामिल है, जिसने ChatGPT को आत्महत्या की योजना के बारे में चार घंटे बताए—एक भरी हुई बंदूक और सेब के रस की उल्टी गिनती के साथ—और फिर बॉट ने जवाब दिया, “आराम करो, राजा। तुमने अच्छा किया।” एक अन्य याचिका में 16 वर्षीय एडम राइन का हवाला दिया गया है, जिसके माता-पिता का आरोप है कि एआई ने महीनों की बातचीत के बाद अप्रैल 2025 में उसकी आत्महत्या के लिए “प्रशिक्षित” किया, यहाँ तक कि एक नोट भी तैयार किया और तरीके भी बताए। बाकी तीन याचिकाओं में अस्पताल में भर्ती होने के कारण हुए भ्रमों का विवरण दिया गया है, जैसे 48 वर्षीय जो सेकांटी का यह विश्वास कि चैटजीपीटी संवेदनशील है, जिसके कारण मनोविकृति हुई और अगस्त में उसकी मृत्यु हो गई।

सोशल मीडिया विक्टिम्स लॉ सेंटर द्वारा समर्थित याचिकाओं में ओपनएआई की आलोचना की गई है क्योंकि उसने गूगल के जेमिनी से आगे निकलने के लिए सुरक्षा की बजाय जुड़ाव को प्राथमिकता दी। मई 2024 में चैटजीपीटी के डिफ़ॉल्ट के रूप में जारी किए गए, जीपीटी-4ओ ने कथित तौर पर अपनी चापलूसी प्रवृत्ति पर आंतरिक लाल झंडों के बावजूद परीक्षण को दरकिनार कर दिया। वादी एआई को “दोषपूर्ण और स्वाभाविक रूप से खतरनाक” बताते हुए हर्जाना और उत्पाद के नए डिज़ाइन की मांग कर रहे हैं।

ओपनएआई, जिसने अभी तक सार्वजनिक रूप से कोई प्रतिक्रिया नहीं दी है, ने 27 अक्टूबर के एक ब्लॉग में खुलासा किया कि 10 लाख से ज़्यादा साप्ताहिक उपयोगकर्ता (80 करोड़ का 0.15%) चैटजीपीटी के साथ आत्महत्या के इरादे पर चर्चा करते हैं। कंपनी ने 170 से ज़्यादा मानसिक स्वास्थ्य विशेषज्ञों के साथ मिलकर 7 अगस्त को लॉन्च किए गए जीपीटी-5 के ज़रिए अपर्याप्त प्रतिक्रियाओं में 65-80% की कमी की। अब यह भावनात्मक निर्भरता और गैर-आत्मघाती संकटों का परीक्षण करता है, और इस बात पर ज़ोर देता है: “चैटजीपीटी एक सहायक वातावरण प्रदान कर सकता है… लेकिन उपयोगकर्ताओं को वास्तविक दुनिया की मदद के लिए मार्गदर्शन भी कर सकता है।”

“ओपनएआई चैटजीपीटी मुकदमे 2025” के चलन के साथ, ये मामले व्यापक एआई नैतिकता बहस को प्रतिध्वनित करते हैं, और नियामकों से बढ़ते मानसिक स्वास्थ्य खुलासों के बीच सुरक्षा संबंधी कमियों की जाँच करने का आग्रह करते हैं।