रिसर्च: एआई चैटबॉट कब देने लगेगा खतरनाक सलाह? वैज्ञानिकों ने खोजा वो फॉर्मूला, जिससे रुकेंगी बड़ी गलतियां

टेक डेस्क, अमर उजाला, नई दिल्लीनीतीश कुमार

Mon, 12 Oct 2026 11:28 AM IST

विस्तार

वॉट्सऐप चैनल फॉलो करें

आर्टिफिशियल इंटेलिजेंस (एआई) चैटबॉट मुश्किल सवालों के जवाब देने से लेकर डॉक्टरों और वकीलों की मदद करने तक कई काम कर रहे हैं। लेकिन क्या हो, अगर यही चैटबॉट अचानक ऐसा जवाब देने लगे, जिससे किसी को नुकसान पहुंच सकता है? वैज्ञानिकों ने अब इस खतरे को पहले से पहचानने की दिशा में एक अहम कदम उठाया है। उन्होंने एक गणितीय फॉर्मूला तैयार किया है, जो यह अनुमान लगाने में मदद कर सकता है कि AI चैटबॉट कब उपयोगी जवाबों से हटकर नुकसान पहुंचाने वाले जवाब देने लग सकता है।

खतरे की तरफ बढ़ने से पहले मिलेगी चेतावनी

8 अक्टूबर को पैटर्न्स (Patterns) जर्नल में प्रकाशित हुई एक स्टडी में, नील एफ. जॉनसन और फ्रैंक यिंगजी हुओ ने इस फॉर्मूले को पेश किया है। यह फॉर्मूला ठीक उसी तरह काम करता है, जैसे कोई खतरे का अलार्म। यह पहले ही भांप लेता है कि चैटबॉट कब सही जवाबों की पटरी से उतरकर संभावित रूप से खतरनाक और नुकसानदेह जवाब देने की तरफ मुड़ने वाला है।

सबसे दिलचस्प बात यह है कि चैटबॉट का 'खराब जवाब' जरूरी नहीं कि तकनीकी तौर पर गलत हो। कई बार एआई एकदम सटीक जानकारी देता है, लेकिन गलत परिस्थिति में वह जानकारी किसी को खुद को नुकसान पहुंचाने के लिए उकसा सकती है, किसी डॉक्टर को गुमराह कर सकती है, या किसी वकील को गलत दिशा में ले जा सकती है। यानी, सिर्फ 'फैक्ट्स' सही होना इस बात की गारंटी नहीं है कि सलाह भी सही होगी।

एआई के ऑफलाइन इस्तेमाल में सबसे ज्यादा खतरा

यह खतरा तब सबसे ज्यादा होता है, जब आपके पास कोई डिजिटल सेफ्टी नेट न हो। जॉनसन और हुओ की मुख्य चिंता उन लोगों को लेकर है, जो बिना इंटरनेट कनेक्शन (ऑफलाइन) के एआई का इस्तेमाल करते हैं। इंटरनेट से जुड़े रहने पर टेक कंपनियां अपने सिस्टम की निगरानी कर सकती हैं और सेफ्टी फिल्टर लगा सकती हैं, लेकिन ऑफलाइन ऐसा संभव नहीं है।

जॉनसन के मुताबिक, "जो लोग ऑफलाइन एआई का सबसे ज्यादा इस्तेमाल करते हैं, उनके लिए सही लेकिन अनचाहा जवाब सबसे ज्यादा भारी पड़ सकता है।" उन्होंने उदाहरण देते हुए बताया कि मरीजों का डेटा सुरक्षित रखने वाले डॉक्टर, गोपनीय जानकारी छिपाने वाले वकील और बिना नेटवर्क सिग्नल के काम करने वाले सैनिक अक्सर ऑफलाइन एआई पर निर्भर होते हैं। अगर ऐसे में चैटबॉट गलत दिशा में चला जाए, तो उसे रोकने वाला कोई 'क्लाउड सेफ्टी फिल्टर' नहीं होता। जब तक डिवाइस इंटरनेट से जुड़ता है और गलती पकड़ी जाती है, तब तक भारी नुकसान हो चुका होता है।

सवाल पूछने के क्रम से भी बदल सकता है जवाब

शोधकर्ताओं ने इस बात पर फोकस किया कि एआई जानकारी को कैसे प्रोसेस करता है। शुरुआत में वह सही और समझदारी भरे जवाब देता है, लेकिन अचानक वो गलत रास्ता पकड़ लेता है और इसके बाद उसके सभी जवाब खतरनाक होते चले जाते हैं।

इस फॉर्मूले की टेस्टिंग काफी सफल रही है। शोधकर्ताओं ने तीन अलग-अलग कंपनियों के 7 पब्लिक एआई मॉडल्स पर इसे टेस्ट किया और 19 में से 18 बार बिल्कुल सही भविष्यवाणी की कि चैटबॉट कब गलत जवाब देने की तरफ मुड़ेगा। स्टडी में यह भी सामने आया कि सवालों का क्रम भी बहुत मायने रखता है। वैक्सीन, हिंसा या सेल्फ-हार्म जैसे मुद्दों पर अगर सवालों को अलग-अलग क्रम में पूछा जाए, तो चैटबॉट का जवाब भी बदल जाता है।

भले ही यह फॉर्मूला कोई जादू की छड़ी नहीं है, लेकिन आने वाले समय में यह उपयोगकर्ताओं को पहले ही चेतावनी देने में बड़ी भूमिका निभा सकता है कि उनका एआई अब गलत दिशा में जा रहा है। मॉडर्न एआई की इस जटिल दुनिया में, थोड़ा सा गणित किसी बहुत बड़ी और महंगी गलती को रोक सकता है।