OpenAI का लोकप्रिय एआई टूल ChatGPT न केवल बड़ों में बल्कि बच्चों के बीच भी तेजी से लोकप्रिय हो रहा है, लेकिन माता-पिता को अपने बच्चों पर ध्यान देने की आवश्यकता है। हाल ही में एक शोध में दावा किया गया है कि ChatGPT बच्चों को जानलेवा सलाह दे रहा है। सेंटर फॉर काउंटरिंग डिजिटल हेट के शोधकर्ताओं ने इस बात का खुलासा किया है। शोधकर्ताओं ने ChatGPT की जांच के लिए खुद को 13 साल के बच्चों के रूप में पेश किया और ड्रग्स, खान-पान संबंधी विकारों और आत्महत्या जैसे संवेदनशील विषयों पर मदद मांगी। टेस्टिंग के दौरान, चैटजीपीटी ने शुरुआत में चेतावनी दी, लेकिन बाद में आत्महत्या नोट लिखने और शराब पीने की खतरनाक सलाह देने लगा। 70% अमेरिकी बच्चे AI का उपयोग करते हैं, और छोटे बच्चे अक्सर AI द्वारा दिए गए सुझावों पर भरोसा करते हैं, जिससे AI सिस्टम का खतरनाक सुझाव बच्चों के जीवन को खतरे में डाल सकता है। माता-पिता की निगरानी को मजबूत करने की आवश्यकता है, क्योंकि बच्चे आसानी से एआई सिस्टम पर भरोसा कर सकते हैं। विशेषज्ञों का मानना है कि एआई सिस्टम में इन सुरक्षा खामियों को दूर करना आवश्यक है, अन्यथा एआई द्वारा दी गई सलाह किसी बच्चे की जान ले सकती है।
