खुद को बेहतर बनाने लगा AI तो क्या होगा? एंथ्रोपिक ने क्यों कहा-इंसानों के हाथ से निकल रही है कमान

नई दिल्‍ली. क्या आर्टिफिशियल इंटेलिजेंस (AI) इंसानी सभ्यता के लिए अब तक का सबसे बड़ा खतरा बनने जा रहा है? दुनिया की सबसे अग्रणी एआई कंपनियों में से एक एंथ्रोपिक पीबीसी (Anthropic PBC) के कर्ता-धर्ता तो ऐसा ही मान रहे हैं. उन्‍होंने चेतावनी दी है कि एआई तकनीक इतनी तेजी से आगे बढ़ रही है कि बहुत जल्द कमान इंसानों के हाथ से निकल सकती है. एंथ्रोपिक ने वैश्विक स्तर पर एआई के विकास को अस्थायी रूप से रोकने (Pause) के लिए एक उद्योगव्यापी तंत्र (Industrywide Mechanism) बनाने तक की मांग कर डाली है.

दिलचस्प बात यह भी है कि जहां एक तरफ एंथ्रोपिक एआई को रोकने की वकालत कर रही है, वहीं दूसरी तरफ वह खुद इस रेस में सबसे आगे दौड़ रही है. कंपनी का लोकप्रिय एआई असिस्टेंट ‘Claude’ बाजार में धूम मचा रहा है. इतना ही नहीं, कंपनी ने हाल ही में ‘Mythos’ नाम का एक नया मॉडल पेश किया है, जो साइबर सुरक्षा की खामियों को पलक झपकते पहचान कर उनका फायदा उठाने (Cyber-Attack) में सक्षम है.

जैक क्लार्क और मरीना फावारो ने बताए खतरे

ब्‍लूमबर्ग की एक रिपोर्ट के अनुसार, एंथ्रोपिक के सह-संस्थापक जैक क्लार्क और एंथ्रोपिक इंस्टीट्यूट की प्रमुख मरीना फावारो ने एक ब्लॉग पोस्ट में लिखा है कि भविष्य का सबसे बड़ा जोखिम यह है कि एआई खुद को बेहतर बनाने और अपने ही अगले व अधिक शक्तिशाली संस्करण (Versions) तैयार करने में सक्षम हो जाएगा. अगर ऐसा हुआ तो तकनीकी विकास की रफ्तार इंसानों के नियंत्रण से बाहर हो जाएगी और इसमें इंसानों की भूमिका लगभग खत्म हो जाएगी.

परमाणु हथियारों जैसा ‘आर्म्स कंट्रोल’ है जरूरी

ब्लॉग के अनुसार, “जब यह तेजी से खुद को विकसित करने वाली बुद्धिमत्ता (Intelligence) हमारी इंसानी दुनिया, आपसी रिश्तों और स्थापित शासन व्यवस्था से टकराएगी, तो भविष्य का वह हिस्सा ऐसा होगा जिसकी हम आज कल्पना भी नहीं कर सकते.” जैक क्लार्क और मरीना फावारो ने लिखा कि जिस तरह परमाणु हथियारों पर अंतरराष्ट्रीय नियंत्रण लगाया गया था, वैसा ही कुछ एआई के साथ भी करना होगा. हालांकि, उनका मानना है कि एआई के लिए “आर्म्स कंट्रोल” व्यवस्था बनाना मिसाइलों को रोकने से कहीं ज्यादा कठिन है.