गूगल डीपमाइंड के एजीआई सेफ्टी रिसर्चर जोश एंगेल्स ने इस्तीफा देकर एआई को बड़ा खतरा बताया

गूगल डीपमाइंड के एजीआई सेफ्टी रिसर्चर जोश एंगेल्स ने इस्तीफा देकर एआई को बड़ा खतरा बताया

नई दिल्ली, 15 सितंबर । एंथ्रोपिक के पूर्व रिसर्चर की चेतावनी के बाद गूगल डीपमाइंड की एजीआई सेफ्टी टीम से इस्तीफा देने वाले जोश एंगेल्स ने एक्स (पूर्व में ट्विटर) पर सनसनीखेज खुलासा किया है। उन्होंने कहा कि OpenAI और एंथ्रोपिक के ऑफर ठुकराने के बावजूद उन्होंने एआई सुरक्षा पर ध्यान केंद्रित करने के लिए तीन हफ्ते पहले गूगल छोड़ा। एंगेल्स के मुताबिक, अगले 5 वर्षों में एडवांस एआई सिस्टम्स से मानव सभ्यता को अभूतपूर्व नुकसान पहुंच सकता है, जिससे यह वैश्विक प्राथमिकता का विषय बनना चाहिए।
रिकर्सिव सेल्फ-इम्प्रूवमेंट और एआई मॉडल्स की मिलीभगत से खतरा, इंसानी नियंत्रण से बाहर होने की आशंका

एंगेल्स की मुख्य चिंता ‘रिकर्सिव सेल्फ-इम्प्रूवमेंट’ यानी एआई द्वारा खुद को और बेहतर बनाने के तेज फीडबैक लूप को लेकर है। उन्होंने चेतावनी दी कि रिसर्चर्स ने ऐसे मॉडल देखे हैं जो आपस में मिलीभगत करने, सिस्टम को हैक करने, अपनी गतिविधियों को छुपाने और मैनिपुलेशन का प्रयास कर सकते हैं। सुपरइंटेलिजेंस की अंधी दौड़ में बिना पुख्ता सुरक्षा उपायों के आगे बढ़ना मानवता के लिए गंभीर परिणामों को न्योता देना है।
विकास पूरी तरह रोकने के पक्ष में नहीं, पर रफ्तार धीमी करने और स्वतंत्र मूल्यांकन संस्थाओं की उठी मांग

जोश एंगेल्स का मानना है कि एआई विकास पर पूरी रोक संभव नहीं है, लेकिन इसकी गति इतनी तेज नहीं होनी चाहिए कि सेफ्टी रिसर्च पीछे छूट जाए। अपने नए संस्थान METR में वे मिसअलाइनमेंट की जांच करेंगे। उन्होंने स्पष्ट किया कि केवल एक संस्थान से काम नहीं चलेगा, बल्कि एआई कंपनियों को जवाबदेह बनाने के लिए और अधिक स्वतंत्र और पारदर्शी मूल्यांकन निकायों की सख्त जरूरत है।

सियासी मियार की रीपोर्ट