ChatGPT और हिंसा की सोच: क्या AI चैट से पहले ही लगाया जा सकता है खतरनाक इरादों का पता| Explainer
अमेरिका में 17 साल भारतीय मूल के किशोर पर मां और छोटे भाई की हत्या का आरोप लगा है. जांच में उसके ChatGPT और इंटरनेट इस्तेमाल से जुड़ी चिंताजनक बातें सामने आने की रिपोर्ट है. लेकिन AI और कथित अपराध के बीच सीधा संबंध अभी साबित नहीं हुआ है.
- जांचकर्ताओं के मुताबिक किशोर ने ChatGPT पर परिवार की हत्या से जुड़ी काल्पनिक और सैद्धांतिक बातें तलाशीं.
- पुलिस ने अभी तक उसके पूरे चैट जीपीटी प्रॉम्प्ट या चैटबॉट के जवाब सार्वजनिक नहीं किए हैं.
- सिर्फ हिंसक कहानी या विचार लिखना किसी किशोर के हिंसक होने का प्रमाण नहीं माना जा सकता.
- AI कंपनियों के सामने हिंसा से जुड़े वास्तविक खतरे पहचानने और यूजर की प्राइवेसी बचाने के बीच संतुलन की चुनौती है.
अमेरिका के मैसाचुसेट्स में 17 साल के भारतीय मूल के किशोर पर अपनी मां और छोटे भाई की हत्या करने का आरोप लगा है. इस मामले की जांच के दौरान अधिकारियों को उसके इंटरनेट इस्तेमाल से जुड़ी कुछ ऐसी गतिविधियों के बारे में जानकारी मिली, जिनमें परिवार के सदस्यों की हत्या से जुड़े कथित काल्पनिक विचार शामिल थे.
मिडलसेक्स डिस्ट्रिक्ट अटॉर्नी के अनुसार, किशोर अर्जुन अरविंद हाल के समय में इंटरनेट और ChatGPT का इस्तेमाल ऐसी 'थ्योरेटिकल आइडिया और फैंटेसी स्टोरी' तलाशने के लिए कर रहा था, जिनमें परिवार के मारे जाने से जुड़े परिदृश्यों बताए गए थे. हालांकि, इस मामले में सबसे जरूरी बात ये है कि अधिकारियों ने अभी तक किशोर की पूरी ChatGPT हिस्ट्री सार्वजनिक नहीं की है. इसलिए ये कहना जल्दबाजी होगी कि उसने chatbot से असल में क्या पूछा था, AI ने क्या जवाब दिया या इन बातचीत का उसके कथित अपराध से कितना संबंध था.
क्या ChatGPT ने उसे हिंसा के लिए उकसाया?
अब तक सार्वजनिक जानकारी के आधार पर ऐसा कोई निष्कर्ष नहीं निकाला गया है कि ChatGPT ने किशोर को अपनी मां या भाई की हत्या करने के लिए प्रेरित किया या उसे ऐसा करने का तरीका बताया. जांच में AI का इस्तेमाल एक व्यापक ऑनलाइन एक्टिविटी के हिस्से के तौर पर सामने आया है. बताया गया है कि किशोर काल्पनिक पात्र और परिदृश्यों तैयार करने के लिए chatbot का इस्तेमाल करता था और कुछ बातचीत ऐसी थीं जिन्हें जांचकर्ताओं ने परिवार से जुड़ी धमकियों या उनके संभावित मारे जाने के विचारों से संबंधित माना.
लेकिन किसी व्यक्ति द्वारा हिंसक कल्पना लिखना और वास्तविक हिंसा करने का इरादा रखना दो अलग बातें हैं. किशोर कई बार डरावनी कहानियां, डार्क फिक्शन या बेहद परेशान करने वाले काल्पनिक विचारों में रुचि दिखा सकते हैं. इसलिए केवल किसी एक प्रॉम्प्ट या कहानी को देखकर ये निष्कर्ष निकालना उचित नहीं होगा कि कोई व्यक्ति हिंसा करने वाला है.
फिर AI चैट चेतावनी का संकेत कैसे बन सकती है?
AI चैटबॉट के साथ बातचीत किसी व्यक्ति की सोच का एक हिस्सा सामने ला सकती है. अगर कोई किशोर बार-बार किसी वास्तविक व्यक्ति को नुकसान पहुंचाने की बात करे, एक ही टारगेट पर लौटता रहे और बातचीत धीरे-धीरे ज्यादा गंभीर होती जाए, तो ये एक चेतावनी का संकेत हो सकता है. इसका मतलब है सामान्य हिंसा की कल्पना और किसी वास्तविक व्यक्ति के खिलाफ बार-बार पूछे जाने में काफी अंतर है. इसी तरह अचानक गुस्से में कही गई बात और लंबे समय तक किसी व्यक्ति के खिलाफ हिंसक विचारों को दोहराने के बीच भी फर्क है.
क्या AI खुद हिंसा का खतरा पहचान सकता है?
तकनीकी रूप से एआई सिस्टम बातचीत में कुछ पैटर्न पहचानने में सक्षम हो सकते हैं. उदाहरण के लिए, बार-बार हिंसक इरादा, किसी पहचाने जाने वाले व्यक्ति को निशाना बनाना, धमकियों का बढ़ता स्तर या आसन्न नुकसान की बात ऐसे संकेत हो सकते हैं जिन पर ज्यादा सावधानी बरती जाए. लेकिन यहां प्राइवेसी का बड़ा सवाल भी जुड़ा है. अगर हर हिंसक कीवर्ड को देखकर AI किसी व्यक्ति की बातचीत मॉनिटर करने लगे, तो मासूम यूजर्स भी गलत तरीकों से संदिग्ध माने जा सकते हैं.
एक किशोर का मर्डर पर सवाल पूछना जरूरी नहीं कि वो मर्डर करना चाहता है. कोई स्टूडेंट क्रिमिनोलॉजी पढ़ रहा हो सकता है, कोई राइटर क्राइम फिक्शन बना सकता है या कोई व्यक्ति किसी घटना को समझने के लिए सवाल कर सकता है. इसलिए केवल कीवर्ड्स के आधार पर एक्शन लेने के बजाय कॉन्टेक्स्ट और रिपीटेड पैटर्न को समझना ज्यादा महत्वपूर्ण होगा.
AI कंपनियों की क्या जिम्मेदारी होनी चाहिए?
AI कंपनियों के सामने सबसे पहली जिम्मेदारी ये है कि चैटबॉट किसी व्यक्ति को वास्तविक हिंसा करने में ऑपरेशनल मदद न दे. अगर बातचीत काल्पनिक चर्चा से आगे बढ़कर किसी वास्तविक व्यक्ति को नुकसान पहुंचाने की विश्वसनीय प्लानिंग तक पहुंचती है, तो सिस्टम को हानिकारक निर्देश देने से मना करना चाहिए।. इसके साथ किशोर यूजर्स के लिए अतिरिक्त सुरक्षा उपाय भी जरूरी हो सकते हैं. किशोरों का भावनात्मक और संज्ञानात्मक विकास अभी जारी रहता है, इसलिए लगातार हिंसक या आत्म-विनाशकारी बातचीत की स्थिति में चैटबॉट को सहायक प्रतिक्रिया देना चाहिए.
सबसे मुश्किल सवाल, कब दखल हो?
यही इस पूरी बहस का सबसे मुश्किल हिस्सा है. अगर कोई व्यक्ति सिर्फ डार्क फिक्शन लिख रहा है, तो दखल की जरूरत नहीं होनी चाहिए, लेकिन अगर कोई लगातार किसी पहचाने जाने वाले व्यक्ति को मारने की इच्छा जाहिर करता है, धमकी दोहराता है और बातचीत में खतरे के संकेत देते हैं, तो स्थिति अलग हो सकती है.
हालांकि, इसका मतलब ये नहीं होना चाहिए कि AI कंपनियां हर संदिग्ध बातचीत को सीधे पुलिस को सौंप दें. ऐसा करने से प्राइवेसी, गलत सकारात्मकता और नागरिक स्वतंत्रता से जुड़े गंभीर सवाल खड़े हो सकते हैं.
इस मामले से क्या सीख मिलती है?
मैसाचुसेट्स मामले में ChatGPT का इस्तेमाल जांच का एक हिस्सा है, लेकिन उपलब्ध सार्वजनिक जानकारी से अभी ये साबित नहीं होता कि AI चैटबॉट्स ने कथित हत्याओं को जन्म दिया या उनके लिए जिम्मेदार था. इस मामले की अहमियत इससे ज्यादा व्यापक है. जैसे-जैसे किशोर AI चैटबॉट्स के साथ निजी और लंबी बातचीत कर रहे हैं, ये प्लेटफॉर्म उनके विचारों, डर, गुस्से और कल्पनाओं का डिजिटल रिकॉर्ड भी बन सकते हैं.
इसलिए भविष्य की चुनौती सिर्फ यह नहीं होगी कि AI हिंसक कॉन्टेंट को रोक पाए. असली सवाल यह होगा कि वह गंभीर खतरे के संकेत मिलने पर कैसे जिम्मेदारी से प्रतिक्रिया दे, बिना हर परेशान करने वाले विचार को अपराध की निशानी मान लिए. AI को न तो हिंसा का कारण मान लेना चाहिए और न ही चेतावनी के संकेत के रूप में उसके इस्तेमाल को पूरी तरह नजरअंदाज करना चाहिए. सही रास्ता सुरक्षा, संदर्भ, गोपनीयता और मानवीय हस्तक्षेप के बीच संतुलन बनाने में है.
किशोर ने ChatGPT पर क्या तलाशा था?
जांचकर्ताओं के मुताबिक उसने परिवार की हत्या से जुड़े थ्योरिटिकल आइडिया और फैंटेसी स्टोरी पर काम किया था. हालांकि, उसके वास्तविक prompts और AI के जवाब सार्वजनिक नहीं किए गए हैं.
क्या ChatGPT ने कथित हत्या के लिए उसे उकसाया?
अब तक सार्वजनिक जानकारी में ऐसा कोई प्रमाण नहीं है. जांचकर्ताओं ने AI इस्तेमाल को चिंताजनक ऑनलाइन एक्टिविटी का हिस्सा बताया है, लेकिन वजह पता नहीं लग पाई है.
क्या हिंसक कहानी लिखना खतरे का संकेत है?
जरूरी नहीं. काल्पनिक हिंसा अपने आप में अपराध की भविष्यवाणी नहीं करती. चिंता तब ज्यादा बढ़ती है जब बातचीत वास्तविक व्यक्ति, लगातार धमकी और संभावित प्लानिंग से जुड़ने लगे.
क्या AI हिंसक व्यवहार की भविष्यवाणी कर सकता है?
AI कुछ पैटर्न पहचानने में मदद कर सकता है, लेकिन अकेले चैटबॉट बातचीत से किसी व्यक्ति के हिंसक होने की विश्वसनीय भविष्यवाणी नहीं की जा सकती. मानवीय मूल्यांकन (Human assessment) जरूरी रहता है.
AI कंपनियों को ऐसे मामलों में क्या करना चाहिए?
उन्हें हिंसा को आसान करने वाली जानकारी रोकनी चाहिए, किशोरों के लिए मजबूत सेफगार्ड रखने चाहिए और विश्वसनीय और आसान खतरे की स्थिति में कानून के अनुरूप जिम्मेदार हस्तक्षेप के तरीके तैयार करने चाहिए.
ब्रेकिंग न्यूज और लाइव न्यूज अपडेट के लिए हमें फेसबुक पर लाइक करें या ट्विटर पर फॉलो करें. India.Com पर विस्तार से पढ़ें मनोरंजन की और अन्य ताजा-तरीन खबरें