ChatGPT बनाने वाली कंपनी OpenAI ने हाल ही में खुलासा किया है कि वह यूजर्स के साथ हुई बातचीत की निगरानी कर रही है। कंपनी का कहना है कि यदि किसी बातचीत में हिंसा या किसी व्यक्ति को नुकसान पहुंचाने की संभावना पाई जाती है, तो उसे तुरंत स्पेशल रिव्यू टीम को भेजा जाएगा। यदि टीम को लगता है कि खतरा गंभीर है, तो वे बिना देरी किए कानून प्रवर्तन एजेंसियों के साथ जानकारी साझा कर सकते हैं।
इस खुलासे से कई सवाल खड़े हो गए हैं, क्योंकि पहले यह माना जाता था कि ChatGPT के साथ की गई बातचीत निजी और सुरक्षित रहती है। OpenAI की स्पेशल टीम गंभीर खतरे की स्थिति में अकाउंट को ब्लॉक कर सकती है और पुलिस से संपर्क कर सकती है। इसका मतलब है कि अब चैटजीपीटी पर आपकी बातचीत पूरी तरह से निजी नहीं रही।
यह कदम AI सुरक्षा को लेकर बढ़ती चिंताओं के कारण उठाया गया है। हाल ही में, एक मामला सामने आया था जिसमें एक व्यक्ति ने ChatGPT के साथ लंबी बातचीत की और बाद में अपनी मां की हत्या कर दी और आत्महत्या कर ली।
