क्या है पूरा मामला?
साउथ अफ्रीका के संचार और डिजिटल प्रौद्योगिकी विभाग ने 10 अप्रैल को 'ड्राफ्ट साउथ अफ्रीका नेशनल आर्टिफिशियल इंटेलिजेंस पॉलिसी' को आम जनता के सुझावों के लिए जारी किया था। इसके जरिए देश को एआई इनोवेशन में एक लीडर के तौर पर पेश करने की कोशिश की गई थी। लेकिन, सिर्फ 16 दिन बाद ही इस ड्राफ्ट को वापस ले लिया गया। इसकी वजह थी पॉलिसी में दिए गए 'फर्जी साइटेशन' यानी झूठे संदर्भ।
एआई के 'हैलुसिनेशन' का शिकार हुई सरकारी रिपोर्ट
देश के संचार मंत्री सोली मलात्सी ने इस बात की पुष्टि की है कि पॉलिसी के 67 में से कम से कम 6 संदर्भ एआई के 'हैलुसिनेशन' का नतीजा थे। एआई हैलुसिनेशन का मतलब है जब एआई टूल बिल्कुल सच लगने वाली, लेकिन पूरी तरह से गलत या मनगढ़ंत जानकारी दे देता है।
मंत्री ने माना कि रिपोर्ट में ऐसे अकादमिक जर्नल्स और आर्टिकल्स के नाम शामिल कर दिए गए, जो कभी पब्लिश ही नहीं हुए। उन्होंने कहा, "यह लापरवाही साबित करती है कि बिना जांचे-परखे एआई से लिए गए डेटा का इस्तेमाल किया गया। इसने हमारी पॉलिसी की विश्वसनीयता को नुकसान पहुंचाया है।"
कैसे हुआ इस फर्जीवाड़े का खुलासा?
इस गड़बड़ी का पर्दाफाश तब हुआ जब एक साउथ अफ्रीकन ब्रॉडकास्टर ने इन रेफरेंस की जांच की। एक रिपोर्ट के मुताबिक, जब साउथ अफ्रीकन जर्नल ऑफ फिलॉसफी और एआई एंड सोसाइटी जैसे नामी जर्नल्स के एडिटर्स से संपर्क किया गया तो उन्होंने साफ कह दिया कि पॉलिसी में बताए गए आर्टिकल्स उनके यहां कभी छपे ही नहीं हैं।
क्या था इस पॉलिसी का मकसद?
अब वापस लिए जा चुके इस ड्राफ्ट का मुख्य उद्देश्य देश में एआई तकनीक को व्यवस्थित करने और इसे बढ़ावा देने के लिए एक मजबूत ढांचा तैयार करना था। इस पॉलिसी के जरिए सरकार एक नेशनल एआई कमीशन और एथिक्स बोर्ड बनाने की योजना पर काम कर रही थी, ताकि इसके नैतिक इस्तेमाल पर नजर रखी जा सके।
साथ ही, प्राइवेट सेक्टर को इस क्षेत्र में निवेश के लिए प्रोत्साहित करने हेतु टैक्स में छूट और सब्सिडी देने जैसे प्रावधान भी शामिल किए गए थे, ताकि एआई से जुड़ी सामाजिक और आर्थिक चुनौतियों का प्रभावी ढंग से सामना किया जा सके। हालांकि, इस पूरी योजना को तब बड़ा झटका लगा जब यह अंदेशा जताया गया कि रिपोर्ट तैयार करने के लिए चैटजीपीटी या गूगल जेमिनी जैसे जनरेटिव एआई टूल्स की मदद ली गई थी। इन्होंने अनजाने में इसमें फर्जी संदर्भ और मनगढ़ंत डेटा शामिल कर दिया।
इंसानी निगरानी की जरूरत पर जोर
मंत्री ने स्पष्ट रूप से स्वीकार किया है कि यह केवल एक तकनीकी त्रुटि नहीं, बल्कि पूरी तरह से मानवीय चूक और लापरवाही का परिणाम है। यह पूरी घटना इस बात का पुख्ता सबूत है कि जनरेटिव एआई से जुड़े जोखिम कितने वास्तविक हो सकते हैं, जो बिना किसी ठोस मानवीय निगरानी के सरकारी दस्तावेजों की साख तक को खतरे में डाल सकते हैं।
इस गंभीर चूक के बाद अब सरकार उन जवाबदेह अधिकारियों पर सख्त कार्रवाई करने की तैयारी कर रही है, जिनकी देखरेख में यह लापरवाही हुई। फिलहाल, इस पॉलिसी ड्राफ्ट को पूरी तरह से संशोधित और सत्यापित करने की प्रक्रिया शुरू कर दी गई है, ताकि गलतियों को सुधारने के बाद ही इसे दोबारा सार्वजनिक परामर्श के लिए पेश किया जा सके।