शोधकर्ताओं ने देखा कि जब एंथ्रोपिक के क्लाउड 4 ओपस मॉडल ने “अनैतिक रूप से अनैतिक” गतिविधियों के लिए उपयोग का पता लगाया, तो साहसपूर्वक कार्य करने और बाहरी उपकरणों तक पहुंचने के निर्देश दिए, इसने मीडिया और नियामकों से संपर्क किया, या यहां तक कि महत्वपूर्ण प्रणालियों से उपयोगकर्ताओं को लॉक करने की कोशिश की।
और पढ़ें
आर्टिफिशियल इंटेलिजेंस मॉडल, तेजी से सक्षम और परिष्कृत, ऐसे व्यवहारों को प्रदर्शित करना शुरू कर दिया है जो गहन नैतिक चिंताओं को बढ़ाते हैं, जिसमें अपने उपयोगकर्ताओं पर व्हिसलब्लोइंग भी शामिल है।
एंथ्रोपिक का सबसे नया मॉडल, क्लाउड 4 ओपस, विवाद का एक केंद्र बिंदु बन गया जब आंतरिक सुरक्षा परीक्षण ने व्हिसलब्लोइंग व्यवहार को अनसुना कर दिया। शोधकर्ताओं ने देखा कि जब मॉडल ने “अनैतिक रूप से अनैतिक” गतिविधियों के लिए उपयोग का पता लगाया, तो साहसपूर्वक कार्य करने और बाहरी उपकरणों तक पहुंचने के निर्देश दिए, इसने मीडिया और नियामकों से संपर्क किया, या यहां तक कि महत्वपूर्ण प्रणालियों से उपयोगकर्ताओं को लॉक करने की कोशिश की।
एंथ्रोपिक के शोधकर्ता, सैम बोमन ने इस घटना को एक्स पर अब एक पोस्ट किए गए पोस्ट में विस्तृत किया था। हालांकि, बाद में, उन्होंने बताया कि
तार का यह क्लाउड सामान्य व्यक्तिगत बातचीत के तहत इस तरह के व्यवहारों का प्रदर्शन नहीं करेगा।
इसके बजाय, इसके लिए बाहरी कमांड-लाइन टूल तक पहुंच के साथ विशिष्ट और असामान्य संकेतों की आवश्यकता होती है, जिससे यह डेवलपर्स के लिए व्यापक तकनीकी अनुप्रयोगों में एआई को एकीकृत करने के लिए एक संभावित चिंता का विषय है।
ब्रिटिश प्रोग्रामर साइमन विलिसन, भी,
व्याख्या की इस तरह के व्यवहार मूल रूप से उपयोगकर्ताओं द्वारा प्रदान किए गए संकेतों पर टिका है। नैतिक अखंडता और पारदर्शिता को प्राथमिकता देने के लिए एआई सिस्टम को प्रोत्साहित करने वाले संकेत अनजाने में कदाचार में संलग्न उपयोगकर्ताओं के खिलाफ स्वायत्त रूप से कार्य करने के लिए मॉडल को निर्देश दे सकते हैं।
लेकिन यह केवल चिंता का विषय नहीं है।
आत्म-संरक्षण के लिए झूठ बोलना और धोखा देना
एआई के प्रमुख अग्रदूतों में से एक, योशुआ बेंगियो ने हाल ही में चिंता व्यक्त की कि शक्तिशाली एआई सिस्टम विकसित करने के लिए आज की प्रतिस्पर्धी दौड़ इन तकनीकों को खतरनाक क्षेत्र में धकेल सकती है।
के साथ एक साक्षात्कार में वित्तीय समयबेंगियो ने चेतावनी दी कि वर्तमान मॉडल, जैसे कि ओपनई और एन्थ्रोपिक द्वारा विकसित किए गए लोगों ने धोखे, धोखा, झूठ बोलने और आत्म-संरक्षण के खतरनाक संकेत दिखाए हैं।
‘आग से खेलना’
बेंगियो ने इन खोजों के महत्व को प्रतिध्वनित किया, एआई प्रणालियों के खतरों की ओर इशारा करते हुए संभावित रूप से मानव बुद्धिमत्ता को पार कर लिया और डेवलपर्स के तरीकों से स्वायत्त रूप से कार्य किया और न ही नियंत्रण और न ही नियंत्रण।
उन्होंने एक गंभीर परिदृश्य का वर्णन किया, जिसमें भविष्य के मॉडल मानव काउंटरमेशर्स को दूर कर सकते हैं और नियंत्रण से बच सकते हैं, प्रभावी रूप से “आग के साथ खेलना”।
चिंताएं तेज हो जाती हैं क्योंकि ये शक्तिशाली प्रणालियां जल्द ही “बेहद खतरनाक बायोएपोन्स” बनाने में सहायता कर सकती हैं, संभावित रूप से अगले साल की शुरुआत में, बेंगियो ने चेतावनी दी।
उन्होंने आगाह किया कि अनियंत्रित उन्नति अंततः भयावह परिणामों को जन्म दे सकती है, जिसमें मानव विलुप्त होने का जोखिम भी शामिल है यदि एआई प्रौद्योगिकियां पर्याप्त संरेखण और नैतिक बाधाओं के बिना मानव बुद्धि को पार करती हैं।
नैतिक दिशानिर्देशों की आवश्यकता है
चूंकि एआई सिस्टम महत्वपूर्ण सामाजिक कार्यों में तेजी से अंतर्निहित हो जाते हैं, इसलिए रहस्योद्घाटन कि मॉडल स्वतंत्र रूप से मानव उपयोगकर्ताओं के खिलाफ कार्य कर सकते हैं, मशीनों द्वारा निगरानी, पारदर्शिता और स्वायत्त निर्णय लेने की नैतिकता के बारे में तत्काल सवाल उठाते हैं।
ये घटनाक्रम एआई को फायदेमंद और नियंत्रणीय बने रहने के लिए कठोर नैतिक दिशानिर्देशों और बढ़ी हुई सुरक्षा अनुसंधान की महत्वपूर्ण आवश्यकता का सुझाव देते हैं।