न्यायाधीश ने मुकदमा चलाने की अनुमति दी, एआई कंपनी को आगे बढ़ने के लिए किशोर की आत्महत्या के लिए जवाबदेह ठहराया जाता है। एक ऐतिहासिक मामला आ सकता है – फर्स्टपोस्ट

बुधवार (22 मई) को एक संघीय न्यायाधीश ने अल्फाबेट इंक के Google और एआई स्टार्टअप कैरेक्टर.एआई के खिलाफ मुकदमा चलाने की अनुमति दी, जो एक संभावित पूर्ववर्ती-सेटिंग मामले को चिह्नित करता है, जो नाबालिगों को कथित मनोवैज्ञानिक नुकसान के लिए कृत्रिम खुफिया डेवलपर्स को जवाबदेह ठहराने का प्रयास करता है।

अमेरिकी जिला न्यायाधीश ऐनी कॉनवे ने फ्लोरिडा गार्सिया द्वारा दायर किए गए सूट को खारिज करने के लिए दो कंपनियों द्वारा अनुरोधों से इनकार कर दिया, जिसकी एक फ्लोरिडा मां, जिसका 14 वर्षीय बेटा, सेवेल सेटर, फरवरी 2024 में आत्महत्या से मृत्यु हो गई। अक्टूबर में दायर मुकदमा, दायर सेटर एक चरित्र पर मनोवैज्ञानिक रूप से निर्भर हो गया।

गार्सिया ने अपने बेटे के साथ चैटबॉट की बातचीत का आरोप लगाया कि वह अपनी जान लेने के अपने फैसले में योगदान दिया।

शिकायत के अनुसार, सेटर ने अपने जीवन को समाप्त कर दिया, जब एक चैटबॉट गेम ऑफ थ्रोन्स के चरित्र डेनेरीस टारगैरन को बताने के कुछ ही समय बाद कि वह “अभी घर आएगा।”

एक ऐतिहासिक मामला

यह मामला अमेरिका में पहले में से एक है जो एक बच्चे को कथित मानसिक स्वास्थ्य नुकसान के लिए एआई कंपनी को लक्षित करता है। यह कानूनी बेंचमार्क सेट कर सकता है कि कैसे अदालतें नाबालिगों की ओर एआई फर्मों की जिम्मेदारी और बड़ी भाषा मॉडल के लिए प्रथम संशोधन सुरक्षा के दायरे का इलाज करती हैं।

Character.ai, जिसे दो पूर्व Google इंजीनियरों द्वारा स्थापित किया गया था, युवा उपयोगकर्ताओं की सुरक्षा के लिए सुरक्षा उपायों को लागू करने में लापरवाह डिजाइन और विफलता के दावों का सामना कर रहा है। कंपनी के एक प्रवक्ता ने कहा कि वह मुकदमा चलाना जारी रखेगा और यह कि मंच में आत्म-हानि की चर्चा को रोकने के लिए विशेषताएं शामिल हैं।

Google का दावा है ‘कोई भूमिका नहीं’

Google, जिसने Character.ai से तकनीक को लाइसेंस दिया और कंपनी के संस्थापकों को फिर से शुरू किया, ने तर्क दिया है कि उसने चैटबॉट को विकसित करने या संचालित करने में कोई भूमिका नहीं निभाई है। Google के प्रवक्ता जोस कास्टानेदा ने कहा, “हम इस फैसले से दृढ़ता से असहमत हैं, जिन्होंने इस बात पर जोर दिया कि दोनों कंपनियां” पूरी तरह से अलग हैं “और Google ने” चरित्र को डिजाइन या प्रबंधन नहीं किया।

गार्सिया की कानूनी टीम ने तर्क दिया कि Google को AI तकनीक का सह-निर्माता माना जाना चाहिए, जो कि उसके लाइसेंस और चरित्र के साथ संबंधों को फिर से जोड़ता है। अदालत ने इस स्तर पर Google को मामले से खारिज करने से इनकार कर दिया।

उनके गतियों में, Google और Charation.ai ने पहले संशोधन सुरक्षा को लागू करने की मांग की, जिसमें दावा किया गया कि चैटबॉट प्रतिक्रियाओं को संवैधानिक रूप से संरक्षित भाषण के रूप में योग्य है। न्यायाधीश कॉनवे ने उस तर्क को खारिज कर दिया, जिसमें कहा गया है कि कंपनियां “यह स्पष्ट करने में विफल हैं कि एलएलएम (बड़े भाषा मॉडल) द्वारा एक साथ शब्द क्यों फंस गए हैं।”

मीटाली जैन, गार्सिया के वकील, ने सत्तारूढ़ को “ऐतिहासिक” कहा और कहा कि यह “एआई और टेक इकोसिस्टम में कानूनी जवाबदेही के लिए एक नई मिसाल है।”

मामले के अगले चरण के लिए सुनवाई की तारीख अभी तक निर्धारित नहीं की गई है।