– जैकब कॉक्सन ने इस्तीफा देकर AI की तेज रफ्तार पर उठाए सवाल; Anthropic के एलाइनमेंट प्रमुख इवान हुबिंगर ने अगले दशक में मानव-विनाश का जोखिम 10% से अधिक बताया

भारत 19 डेस्क

AI को सुरक्षित बनाने की कोशिशों के लिए पहचानी जाने वाली कंपनी Anthropic के भीतर से ही अब AI की रफ्तार को लेकर बड़ा अलार्म उठा है। कंपनी के रिसर्चर जैकब कॉक्सन ने इस्तीफा देकर आरोप लगाया है कि Anthropic और OpenAI जैसी कंपनियां खुद को बेहतर बनाने वाली सुपरइंटेलिजेंट AI की दौड़ में जरूरत से ज्यादा तेजी से आगे बढ़ रही हैं। उनकी चेतावनी के बाद Anthropic के Alignment Science Lead इवान हुबिंगर ने कहा कि उनकी टीम वास्तव में मानती है कि AI सभी इंसानों की मौत का कारण बन सकती है। हुबिंगर ने अपने व्यक्तिगत आकलन में अगले दशक में इस जोखिम को 10% से अधिक बताया है।

नौकरी छोड़ी, फिर AI की रफ्तार पर उठाए सवाल

जैकब कॉक्सन ने Anthropic से इस्तीफे की घोषणा करते हुए AI विकास की मौजूदा दिशा पर गंभीर सवाल उठाए। कॉक्सन के मुताबिक उन्होंने पिछले तीन वर्षों में OpenAI और Anthropic दोनों में AI के प्री-ट्रेनिंग रिसर्च पर काम किया। उनका आरोप है कि दोनों कंपनियां self-improving superintelligence की तरफ तेजी से बढ़ रही हैं, जबकि इस स्तर की AI को सुरक्षित रखने की समस्या अभी हल नहीं हुई है। उनकी चिंता का केंद्र यही है कि अगर AI खुद अपनी क्षमताओं को बेहतर करने लगे तो इंसान उसके विकास की गति और दिशा पर नियंत्रण बनाए रख पाएंगे या नहीं।

Anthropic के भीतर से दूसरी बड़ी चेतावनी

कॉक्सन की बात को Anthropic के Alignment Science Lead इवान हुबिंगर की प्रतिक्रिया ने और गंभीर बना दिया। हुबिंगर ने कहा कि वे और उनके सहयोगी वास्तव में मानते हैं कि AI सभी इंसानों को खत्म कर सकती है। उन्होंने अगले दशक में इस संभावना को 10% से अधिक आंका है। हुबिंगर ने यह भी स्वीकार किया कि Anthropic के पास अभी सुपरइंटेलिजेंस को मानव मूल्यों के अनुरूप सुरक्षित रखने यानी AI alignment की समस्या का समाधान करने की ठोस योजना नहीं है और कंपनी इस समाधान की दिशा में स्पष्ट रूप से आगे नहीं बढ़ रही है।

असली डर आज की AI नहीं, सुपरइंटेलिजेंस

यहां सबसे महत्वपूर्ण फर्क मौजूदा AI और भविष्य की सुपरइंटेलिजेंट AI के बीच है। हुबिंगर के मुताबिक वर्तमान AI मॉडल से तत्काल मानव-विनाश का जोखिम कम है। चिंता उस स्थिति को लेकर है जब AI खुद को लगातार बेहतर करने लगे। इसे recursive self-improvement कहा जाता है। यानी AI अपनी क्षमताओं में खुद सुधार करे और उससे भी ज्यादा सक्षम अगली पीढ़ी के सिस्टम तैयार करने में मदद करे। हुबिंगर के अनुसार इस दिशा में प्रगति उनकी अपेक्षा से तेज हो रही है।

AI की रफ्तार बनाम सुरक्षा, असली टकराव यही

कॉक्सन की चेतावनी केवल तकनीक के खतरे तक सीमित नहीं है। उनका सवाल AI कंपनियों के बीच बढ़ती प्रतिस्पर्धा पर भी है। उनका कहना है कि कंपनियां सुपरइंटेलिजेंस की दौड़ में आगे निकलने के दबाव में ऐसी तकनीक की ओर बढ़ रही हैं, जिसके जोखिमों को अभी पूरी तरह समझा नहीं गया है। यही AI उद्योग की सबसे बड़ी दुविधा बन रही है—अगर एक कंपनी रफ्तार कम करती है तो दूसरी आगे निकल सकती है, लेकिन सभी कंपनियां तेजी से आगे बढ़ती हैं तो सुरक्षा के लिए जरूरी समय कम पड़ सकता है।

एक और Anthropic रिसर्चर ने जताई चिंता

यह मामला सिर्फ कॉक्सन और हुबिंगर तक सीमित नहीं है। Anthropic के रिसर्चर Samuel Marks ने भी कंपनी के भीतर AI के बेहद गंभीर जोखिमों को लेकर चिंता जताई है। इससे यह बहस एक कर्मचारी के इस्तीफे से आगे बढ़कर AI सुरक्षा की व्यापक समस्या बन गई है।

कॉक्सन ने विकास की रफ्तार पर ब्रेक मांगा

कॉक्सन ने AI लैब्स के बीच बेहतर समन्वय और AI की क्षमताएं बढ़ाने की दौड़ पर पुनर्विचार की जरूरत बताई है। उनका तर्क है कि सुपरइंटेलिजेंस बनाने की होड़ में सबसे पहले पहुंचना प्राथमिकता नहीं होनी चाहिए; पहले यह सुनिश्चित करना जरूरी है कि ऐसी तकनीक को सुरक्षित और नियंत्रित कैसे रखा जाएगा।

10% का आंकड़ा चेतावनी है, भविष्यवाणी नहीं

यह स्पष्ट करना जरूरी है कि AI के मानवता खत्म करने की 10% से अधिक संभावना कोई प्रमाणित वैज्ञानिक भविष्यवाणी नहीं है। यह इवान हुबिंगर का व्यक्तिगत जोखिम आकलन है। हालांकि इसकी गंभीरता इसलिए बढ़ जाती है क्योंकि यह अनुमान AI सुरक्षा पर काम करने वाले Anthropic के वरिष्ठ रिसर्चर ने दिया है।