AI चैटबॉट्स कितने भरोसेमंद? एक ही सवाल के Grok और ChatGPT ने दिए अलग-अलग जवाब

हाल ही में जब भारत और पाकिस्तान के बीच तनाव बढ़ा, तब सिर्फ बॉर्डर पर ही नहीं, इंटरनेट पर भी एक “जंग” चल रही थी। ये जंग झूठी खबरों और गलत जानकारी के खिलाफ थी। सरकार और कई फैक्ट-चेक करने वाले लोग मिलकर सोशल मीडिया पर फैल रही अफवाहों को रोकने की कोशिश कर रहे थे। लेकिन बहुत से लोग खुद भी सच्चाई जानने के लिए AI चैटबॉट्स का इस्तेमाल कर रहे थे, जैसे ‘Grok’ और ‘ChatGPT’ ये AI टूल्स सवालों के जवाब देने के लिए बनाए गए हैं, लेकिन विशेषज्ञों का कहना है कि इन पर पूरी तरह भरोसा नहीं किया जा सकता। उदाहरण के तौर पर, जब एक व्यक्ति ने भारत और पाकिस्तान के बीच सीजफायर के बारे में पूछा, तो चैटबॉट ने कहा कि “ये अमेरिका ने कराया है”। लेकिन अगले ही दिन जब वही सवाल दोबारा पूछा गया, तो चैटबॉट का जवाब कुछ और था। इससे ये समझ आता है कि AI चैटबॉट्स हर बार एक जैसा जवाब नहीं देते। इसीलिए इनकी बातों पर आंख बंद करके भरोसा करना सही नहीं है। सच्चाई जानने के लिए हमेशा भरोसेमंद खबरों के स्रोत और फैक्ट-चेक करने वाली वेबसाइट्स पर ही ध्यान देना चाहिए।

AI चैटबॉट्स के जवाब क्यों बदलते रहते हैं?

विशेषज्ञों का कहना है कि AI मॉडल्स पूरी तरह तय नहीं होते यानी ये हर बार एक जैसा जवाब नहीं देते। इसे अंग्रेजी में “नॉन-डिटरमिनिस्टिक” कहा जाता है। टेक्नोलॉजी के जानकार प्रतीक वाघरे बताते हैं कि AI का जवाब कैसा होगा, ये एक सेटिंग पर निर्भर करता है, जिसे ‘टेम्परेचर’ कहा जाता है। ये टेम्परेचर सेटिंग तय करती है कि AI कितना creative और अलग-अलग तरह से जवाब देगा। अगर टेम्परेचर ज्यादा हो, तो जवाब में ज्यादा विविधता होगी, लेकिन जवाब कभी-कभी गलत भी हो सकता है। इसलिए कई बार AI सही जवाब देता है और कई बार गड़बड़ कर देता है, जिससे लोगों को यह गलतफहमी हो सकती है कि AI हमेशा सच ही बोलता है। इस वजह से AI टूल्स का इस्तेमाल करते समय सावधानी जरूरी है और हर बात पर तुरंत भरोसा नहीं करना चाहिए।

The truth about ‘Grok’ and all the other ‘AI’ nonsense.

I have come up against these programs (and I do mean programs because there is no such this as artificial intelligence) to find either typical narrative info (accepted or main stream media truth), or partial truth (the old…

---विज्ञापन---

— Cliff Willhoff (@CRWillhoff) May 15, 2025

AI चैटबॉट्स में गलत जानकारी देने का खतरा

AI चैटबॉट्स की सबसे बड़ी परेशानी यह है कि ये कभी-कभी झूठी बातें भी बना लेते हैं और उन्हें ऐसे बताते हैं जैसे वे बिल्कुल सच हों। इसे “हैलुसिनेशन” कहा जाता है। मीडिया के जानकार बताते हैं कि ये चैटबॉट्स अक्सर इंटरनेट पर मौजूद पक्षपाती (एकतरफा) जानकारी को दोहराते हैं। ये टूल्स कई बार यूजर की बातों से सहमत होने की कोशिश करते हैं, चाहे वो सही हों या गलत। सबसे जरूरी बात ये चैटबॉट्स न तो किसी जानकारी का सही स्रोत देखते हैं और न ही पत्रकारों जैसे सख्त नियमों (editorial standards) को मानते हैं। इसीलिए इन्हें सच्चाई की जांच करने वाले (फैक्ट-चेकर) टूल की तरह भरोसे से इस्तेमाल नहीं किया जा सकता। अगर हमें कोई खबर या जानकारी जांचनी हो, तो अच्छे फैक्ट-चेकिंग वेबसाइट्स या मीडिया की रिपोर्ट पर ही भरोसा करना चाहिए।