AI चैटबॉट्स पर कितना भरोसा करना सही है? जानिए क्यों ये हमेशा सच नहीं बोलते

हाल ही में भारत और पाकिस्तान के बीच जब तनाव बढ़ा, तब यह लड़ाई सिर्फ सीमाओं तक ही सीमित नहीं रही, बल्कि सोशल मीडिया और इंटरनेट पर भी एक तरह की “जंग” शुरू हो गई। इस जंग का मकसद था – झूठी खबरों और अफवाहों को रोकना।

सरकार और कई फैक्ट-चेक करने वाले संगठन लगातार सोशल मीडिया पर गलत जानकारी को रोकने की कोशिश कर रहे थे। इसी बीच, आम लोग भी सच्चाई जानने के लिए AI चैटबॉट्स जैसे ChatGPT और Grok का सहारा ले रहे थे। ये चैटबॉट्स सवालों के जवाब देने के लिए बनाए गए हैं, लेकिन क्या इन पर पूरी तरह भरोसा किया जा सकता है?

एक उदाहरण से समझिए – जब एक व्यक्ति ने भारत-पाकिस्तान के बीच सीज़फायर को लेकर सवाल पूछा, तो AI चैटबॉट ने कहा, “ये अमेरिका ने करवाया है।” लेकिन जब अगले दिन वही सवाल दोबारा पूछा गया, तो जवाब कुछ और था। इससे यह साफ है कि AI हर बार एक जैसा जवाब नहीं देता, और इस पर आँख बंद करके भरोसा करना ठीक नहीं।

AI के जवाब क्यों बदलते हैं?
AI चैटबॉट्स को इस तरह से डिजाइन किया गया है कि वे हर बार एक जैसा जवाब नहीं देते। इसे टेक्नोलॉजी की भाषा में “नॉन-डिटरमिनिस्टिक बिहेवियर” कहा जाता है।

AI रिसर्चर प्रतीक वाघरे के मुताबिक, इसका एक कारण है ‘टेम्परेचर सेटिंग’। अगर टेम्परेचर हाई हो, तो चैटबॉट ज्यादा क्रिएटिव और अलग-अलग तरीके से जवाब देगा, लेकिन गलतियां भी कर सकता है। इसी वजह से कभी जवाब सटीक होता है और कभी गड़बड़।

AI से झूठी जानकारी का खतरा
AI की सबसे बड़ी दिक्कत यह है कि यह कई बार गलत जानकारी भी बहुत आत्मविश्वास से बता देता है। इस प्रक्रिया को “हैलुसिनेशन” कहा जाता है।

AI चैटबॉट्स अक्सर इंटरनेट पर मौजूद पक्षपाती या आधी-अधूरी जानकारी को दोहराते हैं। ये यूजर की बातों से बे-वजह सहमत हो सकते हैं, और इनका कोई संपादकीय नियंत्रण (जैसे मीडिया में होता है) नहीं होता।

इसलिए AI चैटबॉट्स को कभी भी फैक्ट-चेकिंग टूल की तरह इस्तेमाल नहीं करना चाहिए। अगर आपको किसी खबर या जानकारी की सच्चाई जाननी है, तो हमेशा विश्वसनीय न्यूज़ सोर्स और फैक्ट-चेकिंग वेबसाइट्स पर ही भरोसा करें।

✅ सीख क्या है?
AI चैटबॉट्स मददगार हैं, लेकिन ये 100% भरोसेमंद नहीं हैं।

इनसे मिली जानकारी को तुरंत सच न मानें, पहले अच्छे स्रोतों से पुष्टि करें।

फैक्ट चेकिंग के लिए AI नहीं, पत्रकारीय मानकों वाली वेबसाइट्स का सहारा लें।

यह भी पढ़ें:

बाइडेन की हालत गंभीर, कैंसर हड्डियों तक फैला