AI को लेकर क्यों छिड़ी बहस? अमोडेई की चेतावनी के समर्थन में आए मस्क और ऑल्टमैन

Anthropic के CEO डारियो अमोडेई ने AI डेवलपमेंट की रफ्तार धीमी करने की अपनी अपील दोहराई है। उनका कहना है कि AI सिस्टम जितने शक्तिशाली होते जा रहे हैं, उतना ही ज…

Anthropic के CEO डारियो अमोडेई ने AI डेवलपमेंट की रफ्तार धीमी करने की अपनी अपील दोहराई है। उनका कहना है कि AI सिस्टम जितने शक्तिशाली होते जा रहे हैं, उतना ही जरूरी है कि कंपनियों और सरकारों को उनकी सुरक्षा व्यवस्था समझने और मजबूत करने के लिए पर्याप्त समय मिले

OpenAI के CEO सैम ऑल्टमैन ने भी अमोडेई के विचार का समर्थन किया है। ऑल्टमैन ने कहा कि AI की अगली सीमा यानी ‘फ्रंटियर’ तक पहुंचने की रफ्तार को नियंत्रित करने की जरूरत है

उन्होंने स्वतंत्र मूल्यांकनकर्ताओं को AI कंपनियों के सिस्टम और सुरक्षा व्यवस्था तक कर्मचारियों जैसी पहुंच देने का समर्थन किया। OpenAI ने इस उपाय को अपनाने की बात भी कही है। Tesla और xAI के CEO एलन मस्क ने भी अमोडेई के रुख का सार्वजनिक रूप से समर्थन करते हुए कहा, “डारियो सही हैं।”

इस तरह AI की प्रतिस्पर्धी दुनिया में एक असामान्य स्थिति देखने को मिल रही है, जहां अलग-अलग कंपनियों के प्रमुख AI की क्षमता बढ़ाने के साथ-साथ सुरक्षा पर अधिक ध्यान देने की जरूरत पर सहमत दिखाई दे रहे हैं

सबसे बड़ा सवाल यही है कि क्या भविष्य में AI इंसानों के लिए इतना खतरनाक हो सकता है कि वह मानव जीवन के अस्तित्व को ही चुनौती दे दे? अमोडेई का कहना है कि इस सवाल का जवाब केवल किसी प्रतिशत में देना पर्याप्त नहीं है। उनके मुताबिक, यह कहना कि AI से किसी बड़े नुकसान की 10 फीसदी संभावना है, ऐसा लगता है जैसे पूरा मामला किसी ‘लकी ड्रॉ’ या सिक्के के उछाल पर निर्भर हो

उनका मानना है कि असल सवाल यह है कि AI का विकास किस दिशा में किया जाता है। अगर कंपनियां और सरकारें सही रास्ता चुनती हैं तो किसी गंभीर घटना की संभावना बहुत कम हो सकती है। वहीं गलत रास्ते पर जाने से खतरा काफी बढ़ सकता है

अमोडेई ने AI सुरक्षा को मजबूत करने के लिए एक नया प्रस्ताव भी रखा है। इसके तहत फ्रंटियर AI कंपनियों को स्वतंत्र मूल्यांकनकर्ताओं को स्थायी रूप से कर्मचारियों के स्तर की पहुंच देने की बात कही गई है। ऐसे स्वतंत्र विशेषज्ञ AI कंपनियों की सुरक्षा व्यवस्था की जांच कर सकेंगे और अगर उन्हें कोई गंभीर समस्या नजर आती है तो उसकी रिपोर्ट कर सकेंगे। Anthropic इस उपाय को लागू करने के लिए पहले ही प्रतिबद्धता जता चुकी है।

अमोडेई ने लोकतांत्रिक देशों के बीच AI सुरक्षा के साझा मानकों और अंतरराष्ट्रीय स्तर पर ज्यादा समन्वय की भी जरूरत बताई है

अमोडेई की मांग का मतलब AI का विकास पूरी तरह रोकना नहीं है। उनका जोर इस बात पर है कि कंपनियां AI की क्षमताओं को बढ़ाने की रफ्तार ऐसी रखें कि शोधकर्ताओं और सरकारों को नई तकनीक को समझने तथा उसके आसपास पर्याप्त सुरक्षा उपाय तैयार करने का समय मिल सके। उनके मुताबिक, AI को बहुत तेजी से आगे बढ़ाने पर सुरक्षा व्यवस्था पीछे छूट सकती है

हालांकि अमोडेई यह भी मानते हैं कि AI का विकास जरूरत से ज्यादा धीमा करना सही नहीं होगा। उनका तर्क है कि अगर जिम्मेदार कंपनियां बहुत पीछे हटती हैं तो कम जिम्मेदार लोग इस तकनीक को विकसित करने की दौड़ में आगे निकल सकते हैं। इससे जोखिम कम होने के बजाय बढ़ भी सकता है

AI सुरक्षा पर यह बहस Anthropic के पूर्व रिसर्चर जैकब कॉक्सन के इस्तीफे के बाद और तेज हुई। कॉक्सन ने कंपनी छोड़ने के बाद सार्वजनिक रूप से AI कंपनियों पर गंभीर सवाल उठाए और चेतावनी दी कि एडवांस्ड AI को विकसित करने की होड़ इंसानों के लिए खतरनाक साबित हो सकती है

कॉक्सन, जो पहले OpenAI में भी काम कर चुके हैं, ने दावा किया कि एडवांस्ड AI पर काम करने वाले कुछ शोधकर्ताओं को लगता है कि यह दशक खत्म होने से पहले ही मानवता के लिए गंभीर खतरा बन सकता है

उनकी टिप्पणियों के बाद AI सुरक्षा को लेकर बहस सोशल मीडिया और टेक इंडस्ट्री में तेजी से फैल गई। Anthropic के AI alignment researcher Evan Hubinger ने भी इस चिंता को लेकर अपनी व्यक्तिगत राय जाहिर की और अगले दशक में गंभीर जोखिम की संभावना को 10 फीसदी से अधिक माना

अमोडेई ने स्पष्ट किया कि कॉक्सन की चेतावनी को केवल Anthropic के खिलाफ आरोप के तौर पर नहीं देखा जाना चाहिए। उनके मुताबिक, कॉक्सन ने Anthropic को AI इंडस्ट्री की सबसे जिम्मेदार और इन जोखिमों के प्रति सबसे जागरूक कंपनियों में से एक माना था। उनकी असली चिंता पूरी इंडस्ट्री के बीच चल रही प्रतिस्पर्धा को लेकर थी, जहां कंपनियां एक-दूसरे से आगे निकलने के लिए AI सिस्टम को तेजी से शक्तिशाली बनाने में लगी हैं

स्रोत: readnownews.in