जैकब कॉक्सन ने सोशल मीडिया साइट एक्स पर अपनी पोस्ट में कहा कि मैंने आज एंथ्रोपिक (Anthropic) से इस्तीफा दे दिया है। मैंने पिछले तीन साल ओपनएआई (OpenAI) और एंथ्…
जैकब कॉक्सन ने सोशल मीडिया साइट एक्स पर अपनी पोस्ट में कहा कि मैंने आज एंथ्रोपिक (Anthropic) से इस्तीफा दे दिया है। मैंने पिछले तीन साल ओपनएआई (OpenAI) और एंथ्रोपिक दोनों में प्री-ट्रेनिंग रिसर्च करते हुए बिताए हैं। इनमें से कोई भी कंपनी जिम्मेदारी से काम नहीं कर रही है। वे सीधे तौर पर खुद को बेहतर बनाने वाली सुपरइंटेलिजेंस की रेस में भाग रही हैं और हमारी जिंदगियों के साथ जुआ खेल रही हैं
कॉक्सन ने सवाल उठाया कि अगर एआई सिस्टम इंसानों से ज्यादा सक्षम हो गए और खुद को सुधारने लगे तो क्या इंसान उन्हें नियंत्रित कर पाएंगे? एआई की ताकत को कम करके नहीं आंकना चाहिए। उनके मुताबिक, आने वाले समय में ऐसे सिस्टम तैयार हो सकते हैं जो इंसानों से बेहतर तरीके से कई काम कर सकें, किसी भी सिस्टम को हैक कर सकें, अलग-अलग क्षेत्रों में तेजी से बदलाव ला सकें और वास्तविक ताकत तथा संसाधनों तक पहुंच बना सकें
सभी को खत्म कर सकता है AI
कॉक्सन ने यह भी कहा कि एआई बनाने वाले लोग पूरी ईमानदारी से यह मानते हैं कि यह इस दशक के अंत तक हम सभी को खत्म कर सकता है। यह कोई मार्केटिंग स्टंट नहीं है। अगर कुछ है, तो कई एक्जीक्यूटिव और वरिष्ठ शोधकर्ता प्रेस में समझदार दिखने के लिए अपनी बात को तोड़-मरोड़ कर पेश करते हैं – लेकिन मैं खुद उन्हीं लोगों को निजी तौर पर डर व्यक्त करते हुए सुनता हूँ। मानवीय गतिविधि का कोई अन्य रूप इस स्तर का खतरा पैदा नहीं करता है
कॉक्सन के मुताबिक, एंथ्रोपिक में एआई से जुड़े जोखिमों को अच्छी तरह समझा जाता है। लेकिन कंपनी खुद को दूसरी एआई कंपनियों से आगे रखने की दौड़ में फंसी हुई है। कंपनी का मानना है कि अगर वह खुद विकास की रफ्तार कम करती है तो दूसरी कंपनियां आगे निकल जाएंगी और शायद वे ज्यादा गैर-जिम्मेदार तरीके से एआई विकसित करेंगी
जैकब ने कहा कि इस रेस को स्वीकार करना और “एंडगेम” में प्रवेश करना एक ऐसा अहंकार से भरा जुआ है जिसे किसी निजी कंपनी के स्लैक (Slack) से शुरू नहीं किया जाना चाहिए। एलाइनमेंट (सुरक्षा और तालमेल) को स्पीडरन करने यानी जल्दबाजी में पूरा करने की कोशिश के लिए यह असाधारण विश्वास होना चाहिए कि इससे बेहतर कोई अन्य रास्ता उपलब्ध नहीं है
स्रोत: readnownews.in
