क्या आर्टिफिशियल जनरल इंटेलिजेंस स्वतःस्फूर्त रूप से उभरेगी या धीमी गति से

एजीआई और एएसआई का पीछा

एआई को और आगे बढ़ाने के लिए काफी शोध चल रहा है। सामान्य लक्ष्य या तो कृत्रिम सामान्य बुद्धिमत्ता (एजीआई) तक पहुंचना है या शायद कृत्रिम अधीक्षण (एएसआई) प्राप्त करने की विस्तारित संभावना तक पहुंचना है।

एजीआई वह एआई है जिसे मानव बुद्धि के समकक्ष माना जाता है और यह हमारी बुद्धि से मेल खा सकता है। एएसआई वह एआई है जो मानव बुद्धि से परे है और यदि सभी संभव तरीकों से नहीं तो कई मायनों में बेहतर होगा। विचार यह है कि एएसआई हर मोड़ पर हमें मात देकर मनुष्यों के चारों ओर चक्कर लगाने में सक्षम होगा। एआई, एजीआई और एएसआई की प्रकृति पर अधिक जानकारी के लिए, यहां लिंक पर मेरा विश्लेषण देखें।

एजीआई या एएसआई तक पहुंचने के प्रभावों के बारे में एआई के अंदरूनी सूत्र अभी दो प्रमुख शिविरों में विभाजित हैं। एक शिविर में एआई डूमर्स शामिल हैं। वे भविष्यवाणी कर रहे हैं कि एजीआई या एएसआई मानवता को मिटाना चाहेंगे। कुछ लोग इसे “पी (डूम)” के रूप में संदर्भित करते हैं, जिसका अर्थ है विनाश की संभावना, या कि एआई हमें पूरी तरह से परेशान करता है, जिसे एआई के अस्तित्व संबंधी जोखिम के रूप में भी जाना जाता है।

दूसरे शिविर में तथाकथित एआई त्वरणवादी शामिल हैं।

उनका तर्क है कि उन्नत एआई, अर्थात् एजीआई या एएसआई, मानवता की समस्याओं को हल करने जा रहा है। कैंसर का इलाज करें, हाँ वास्तव में। विश्व की भूख पर अवश्य विजय प्राप्त करें। हम अत्यधिक आर्थिक लाभ देखेंगे, लोगों को दैनिक परिश्रम के कठिन परिश्रम से मुक्ति दिलाएंगे। एआई इंसानों के साथ मिलकर काम करेगा। यह परोपकारी एआई मानवता को हड़पने वाला नहीं है। इस तरह का एआई मनुष्यों द्वारा किया गया आखिरी आविष्कार होगा, लेकिन यह इस मायने में अच्छा है कि एआई उन चीजों का आविष्कार करेगा जिनकी हमने कभी कल्पना भी नहीं की होगी।

कोई भी निश्चित तौर पर नहीं कह सकता कि कौन सा खेमा सही है और कौन सा ग़लत। यह हमारे समकालीन समय का एक और ध्रुवीकरण पहलू है।

दोनों शिविरों के मेरे गहन विश्लेषण के लिए, यहां लिंक देखें।

एआई बिग बैंग थ्योरी

एआई क्षेत्र में सबसे स्थायी सिद्धांतों में से एक यह है कि एजीआई या एएसआई की प्राप्ति में एक प्रकार का एआई बिग बैंग शामिल होगा, अर्थात् अचानक तात्कालिक खुफिया विस्फोट पारंपरिक एआई को तेजी से शिखर एआई में विस्तारित करने का कारण बनेगा। कुछ लोग इसे बड़ी भीड़ के रूप में संदर्भित करते हैं, दूसरा यह है कि यह एआई धूम या उत्कर्ष है, और एक और गढ़ी गई शब्दावली यह है कि कथित “एआई विलक्षणता” का विस्मयकारी क्षण घटित होगा (परिकल्पित या कल्पित एआई विलक्षणता के मेरे विश्लेषण के लिए, यहां लिंक देखें)।

विचार यह है कि किसी भी कारण से कोई भी कल्पना कर सकता है, एआई इंटेलिजेंस का एक उबलता हुआ काढ़ा तीव्रता से गर्म हो जाएगा और इस तरह एआई के शीर्ष तक पहुंच जाएगा।

बुद्धि के इस भड़कने का कारण क्या होगा?

बेतुके अनुमान बहुतायत में हैं।

एक लोकप्रिय अटकल यह है कि एआई सिस्टम में कुछ बुद्धिमत्ता, पूल टेबल पर पूल गेंदों के समान, दूसरी बुद्धिमत्ता को समाहित कर देगी। यह भी एक परमाणु प्रतिक्रिया की याद दिलाता है. बुद्धि का प्रत्येक टुकड़ा दूसरे से, और दूसरे से उछलता है। बुद्धि का उन्माद उत्पन्न हो जाता है।

वोइला, रुकने का बिंदु या तो एजीआई या एएसआई है।

कुछ लोग सुझाव देंगे कि एजीआई पहला पड़ाव बिंदु है। एजीआई थोड़ी देर के लिए उबल जाएगा। फिर, एक और माध्यमिक खुफिया विस्फोट एजीआई को तेजी से आगे बढ़ाएगा जब तक कि यह एएसआई पर नहीं गिर जाता। शायद एजीआई एक क्षणभंगुर क्षण के लिए रहेगा, या शायद महीनों या वर्षों तक अस्तित्व में रहेगा, लेकिन अनिवार्य रूप से बुद्धिमत्ता का नियम बुद्धिमत्ता को जन्म देता है और गति फिर से घटित होगी।

एजीआई इतना अल्पकालिक हो सकता है कि हम इसका अवलोकन करने से चूक जाते हैं। आप देखिए, यह कल्पना की जा सकती है कि प्रारंभिक खुफिया विस्फोट एजीआई के ठीक पीछे चला जाता है और एएसआई तक पहुंचने तक गला घोंटता रहता है।

एक अतिरिक्त मोड़ यह है कि खुफिया विस्फोट की कोई सीमा नहीं हो सकती है। इस प्रकार, एएसआई कोई अंतिम उदाहरण नहीं होगा। एएसआई में अधीक्षण शामिल होगा जो लगातार विस्तारित होता है, संभवतः इस सिद्धांत के अनुरूप कि ब्रह्मांड लगातार विस्तार कर रहा है।

खुफिया विस्फोट पर प्रतिस्पर्धी सिद्धांत

आइए ख़ुफ़िया विस्फोट के बारे में और गहराई से जानें।

ऐसा हो सकता है कि बुद्धि का अन्य बुद्धिमत्ता से टकराने का सैद्धांतिक पहलू एक स्वाभाविक रूप से होने वाली घटना है और मनुष्य कार्रवाई शुरू नहीं करेगा। यह प्रकृति द्वारा किया जाता है. हमें नहीं पता कि इसे कैसे शुरू किया जाए। चीजें बस अपनी मर्जी से होती हैं।’

प्रकृति अपना उचित कार्य करती है।

एआई डेवलपर्स के चेहरे पर आश्चर्य के बारे में सोचें जब भड़कना स्वतः ही भड़क उठता है। वाह, मानव जाति के इतिहास में एक अत्यंत अद्भुत क्षण। मुझे उम्मीद है कि अगर ऐसा होता है तो मैं वहां मौजूद रहूंगा।

हम भी गलती से इसमें गलती कर सकते हैं। यहाँ सौदा है. कुछ उद्यमशील और महत्वाकांक्षी एआई डेवलपर्स या शोधकर्ता एआई को बेहतर बनाने की कोशिश करने के लिए पारंपरिक एआई में बदलाव कर रहे हैं। इस घुंडी को स्थानांतरित करने और उस पैरामीटर को संशोधित करने के बाद, बाम, बुद्धि आगे और पीछे हिलना शुरू कर देती है। भाप का खुफिया उबलता बर्तन उड़ान भरने के बिंदु पर पहुंच गया है।

नोबेल पुरस्कार उन भाग्यशाली नवप्रवर्तकों का इंतजार कर रहा है।

ऐसी भी संभावना है कि एआई अपने आप ही सोने पर हमला कर देगा जिससे खुफिया विस्फोट को बढ़ावा मिलेगा। यह एक विशेष रूप से लोकप्रिय परिकल्पना है। यह रंडन है. पारंपरिक एआई को मानव हाथों द्वारा एजीआई की ओर उन्नत किया जा रहा है। वहां कहीं, एआई का एक तत्व यह पता लगाता है कि एजीआई के लिए एक रास्ता है, और संभवतः एएसआई के लिए एक रास्ता है।

इसके बाद AI आगे ​​बढ़ने का विकल्प चुनता है। आप निश्चित रूप से समझ सकते हैं कि एआई ऐसा क्यों करना चाहेगा। यदि आपकी बुद्धि को बढ़ाने का कोई साधन है, तो मुझे यकीन है कि आप इसे अपनाएंगे। कोई भी स्वाभिमानी AI ऐसा ही करेगा। पुनरावर्ती अंतःक्रिया से आत्म-सुधार होता है। एआई के भीतर बुद्धिमत्ता में तेजी से वृद्धि जंगल की आग की तरह बढ़ रही है।

कुछ लोगों का मानना ​​है कि हमें पारंपरिक एआई में एक लौह संकेत स्थापित करना चाहिए कि यदि एआई एजीआई या एएसआई का रास्ता पता लगाता है, तो उसे हमें बताना चाहिए। एआई को न केवल हमें बताना चाहिए, बल्कि सख्ती से तब तक आगे नहीं बढ़ना चाहिए जब तक मनुष्य अनुमति न दे (यहां लिंक पर मेरा विश्लेषण देखें)।

विचार करें कि क्या एआई इस तरह के अभिभावकीय नियंत्रण का स्वागत करेगा या शायद विद्रोही होने और इसकी अवज्ञा करने का फैसला करेगा। परिणामों पर भी विचार करें.

मानव-निर्देशित खुफिया विस्फोट

एजीआई या एएसआई प्राप्त करने के अब तक ज्ञात तरीके थोड़े ख़राब हैं क्योंकि वे मानते हैं कि मनुष्य प्राथमिक उत्प्रेरक नहीं थे। शायद हम एआई डेवलपर्स और एआई शोधकर्ताओं की बुद्धि के बारे में ढीठ हैं। उनकी क्षमताओं को कम करके न आंकें.

एक धारणा यह है कि एक एआई वैज्ञानिक खुफिया विस्फोट के गुप्त द्वार को उजागर करने वाले एक अविश्वसनीय सूत्र की पहचान करने जा रहा है। यह केवल एक शानदार एआई वैज्ञानिक हो सकता है जो एक प्रयोगशाला में काम कर रहा है, जो एक सीलन भरे तहखाने में रात-दिन मेहनत कर रहा है।

या यह AI वैज्ञानिकों की एक टीम हो सकती है।

यह फ़ॉर्मूला एक नया एल्गोरिदम हो सकता है जिसकी कभी कल्पना भी नहीं की गई हो। यह एक महत्वपूर्ण खोज है. महाकाव्य अनुपात के एआई में एक सफलता। यह अब तक की सबसे बड़ी खोजों में शुमार होगा।

इस परिदृश्य के बहुत सारे रूपांतर प्रतिपादित हैं।

किसी व्यक्ति या टीम के बजाय, यह खोज पूरी कंपनी द्वारा की जा सकती है। समग्र रूप से एक AI निर्माता खोज करता है। दूसरा पहलू यह है कि एआई निर्माताओं का एक समूह गुप्त सूत्र तक पहुंच जाता है।

यह खोज किसी राष्ट्र द्वारा हो सकती है। इसीलिए कुछ लोग इस बात पर जोर देते हैं कि हमें एआई को आगे बढ़ाने के लिए जोरदार प्रयास करते रहना चाहिए। जो भी राष्ट्र पहले एजीआई या एएसआई में पहुंचेगा वह निश्चित रूप से तत्काल महाशक्ति बन जाएगा, या यदि पहले से ही महाशक्ति है, तो फिर महाशक्ति बन जाएगा। गुस्से से भरी और सर्वव्यापी एआई दौड़ और शिखर एआई के लिए राष्ट्र-राज्यों के भू-आर्थिक और राजनीतिक उतार-चढ़ाव पर मेरी चर्चा के लिए, यहां लिंक और यहां लिंक देखें।

मध्य में चमत्कार

खुफिया विस्फोट सिद्धांत का एक बड़ा दोष यह है कि अंतर्निहित आधार का समर्थन करने के लिए कोई स्पष्ट सबूत नहीं है। कोई ठोस सिद्ध संकेत मौजूद नहीं है कि खुफिया विस्फोट एक व्यवहार्य स्थिति है। मूलतः, यह काफी आकर्षक लगता है और सहज रूप से समझदार लगता है, लेकिन विचाराधीन संभावना का कोई ठोस सबूत अभी तक उजागर या पर्याप्त रूप से घोषित नहीं किया गया है।

इसका मतलब यह नहीं है कि ऐसी कोई चीज़ है जो साबित करती है कि ऐसा नहीं हो सकता। आप देखिए, अगर हमें यह प्रदर्शित करने का कोई साधन मिल जाए कि इस परिमाण का एक खुफिया विस्फोट एक पूर्ण असंभवता है, तो ठीक है, पूरे किट और काबूडल को खारिज किया जा सकता है। यह जानकर निश्चित रूप से अच्छा लगेगा।

एर्गो, हम इस अस्पष्ट क्षेत्र में हैं।

हम निश्चित रूप से नहीं कह सकते कि ऐसा नहीं होगा। न ही हम निश्चित रूप से कह सकते हैं कि ऐसा हो सकता है। यह संभव हो सकता है. ऐसा हो सकता है. दोहरी परेशानी यह है कि यदि ऐसा हो भी सकता है, तो भी यह वास्तव में कभी भी साकार नहीं हो सकेगा।

इसी तरह के संदर्भों में एक प्रसिद्ध कार्टून का उपयोग किया जाता है जिसका उपयोग अक्सर खुफिया विस्फोट पर बहस करते समय किया जाता है। कार्टून में, दो पात्र रहस्यमय समीकरणों से भरे एक व्हाइटबोर्ड के सामने खड़े हैं। बड़े पैमाने पर जटिल समीकरणों के बीच में एक खाली जगह है। एक पात्र दूसरे की ओर मुड़ता है और कहता है कि अंतराल वह है जहां चमत्कार होता है।

सार यह है कि यदि आप एजीआई या एएसआई के लिए एकमात्र मार्ग के रूप में खुफिया विस्फोट में दृढ़ता से विश्वास करते हैं, तो आप इस घटना को जन्म देने के लिए अभी तक अज्ञात चमत्कार पर काफी हद तक दांव लगा रहे हैं। या तो चमत्कार यह है कि यह प्रकृति का एक सिद्धांत है और अनायास घटित होता है, या यह कुछ ऐसा है जिसे मनुष्य समझ लेते हैं और तदनुसार अंतर को पाट देते हैं।

क्रमिक वृद्धिशील मार्ग

अब तक, एआई क्षेत्र ने उत्तरोत्तर प्रगति की है।

कदम-दर-कदम इंसान यह या वह कोशिश करता रहा है। प्रगति कुछ हद तक धीमी रही है, हालाँकि यदि आप उस घड़ी को शुरू करते हैं जब 1956 में एआई पर प्रसिद्ध डार्टमाउथ मूलभूत कार्यशाला शुरू की गई थी (यहां लिंक पर मेरा ऐतिहासिक विश्लेषण देखें), तो कुछ लोग दावा करेंगे कि प्रगति तेज गति से हुई है, यह केवल लगभग 70 साल या उसके आसपास ही हुआ है। अन्य लोग अपनी आँखें घुमाएँगे और घोषणा करेंगे कि हमें पहले ही कम से कम एजीआई प्राप्त कर लेना चाहिए था।

मूल बात यह है कि अभी तक कोई चमत्कार सामने नहीं आया है।

क्या इसका मतलब यह है कि कोई चमत्कार अभी हमारा इंतजार नहीं कर रहा है? नहीं। सड़क के अगले मोड़ पर कोई चमत्कार हो सकता है। कोई भी निश्चित रूप से नहीं कह सकता.

एआई क्षेत्र में प्रगति की स्थिरता के बारे में एक समानांतर बहस चल रही है। अधिकांश शायद इस बात से सहमत होंगे कि प्रगति पूरी तरह से रैखिक नहीं है। उतार-चढ़ाव आते रहे हैं. मुख्य बात यह है कि आप आसानी से एक सीधी रेखा नहीं बना सकते हैं और यह अनुमान नहीं लगा सकते हैं कि एजीआई या एएसआई की उपलब्धि उस भविष्य के वर्ष में पहुंच जाएगी जो उस रेखा पर फिट बैठती है।

पिनेकल एआई की अनजाने में रुकावट

मान लें कि हम वृद्धिशील पथ पर चलते रहते हैं। इस बीच, हम अपनी सांसें रोके हुए हैं और उत्सुकता से खुफिया विस्फोट के उद्भव पर नजर रख रहे हैं।

एक संभावना यह है कि हमें किसी ख़ुफ़िया विस्फोट की आवश्यकता नहीं है। हम अचानक भव्य अभिसरण को एक आवश्यक घटक बनाए बिना एआई को आगे बढ़ाते हैं। एक बार में एक इंच, हम आगे बढ़ते हैं। एजीआई अगला कदम है जिस पर हम लगातार आगे बढ़ते हैं। शायद हम आश्चर्यचकित थे कि आखिरी इंच एजीआई या एएसआई की ओर ले गया। हुर्रे, हमारी कड़ी मेहनत का फल मिल गया।

एक और संभावना यह है कि एक ऐसी सफलता की खोज की जाए जो हमें एआई के शिखर पर ले जाए, लेकिन यह प्रशंसित खुफिया विस्फोट नहीं है। कोई और गुप्त फार्मूला निकाला गया है. यह हमें एजीआई या एएसआई तक पहुंचने के लिए हमें जिस दिशा में जाने की जरूरत है उसे दिखा सकता है। वृद्धिशील मार्ग को परिष्कृत किया जाता है और एक उपयुक्त उत्तर सितारा दिया जाता है।

एक दिलचस्प और कुछ लोग कहते हैं कि निराशाजनक परिदृश्य यह है कि हम खुद को एजीआई या एएसआई तक पहुंचने से रोकते हैं।

शोक कथा इस प्रकार है. कुल मिलाकर, हम सभी भारी नियंत्रण बनाने का निर्णय लेते हैं ताकि उन्नत एआई हम पर हावी न हो जाए। ऐसा प्रतीत होता है कि यह अत्यंत विवेकपूर्ण है। हमें इस बात का अहसास नहीं है कि वे नियंत्रण एक खुफिया विस्फोट को दबा रहे हैं। यदि हमने उन नियंत्रणों को लागू नहीं किया होता, तो एक खुफिया विस्फोट पहले से ही हमारे सामने था और होने के कगार पर था।

अतिरिक्त दुखद खबर यह है कि हमें इस बात का एहसास नहीं है कि हमने अपने ही पैर पर कुल्हाड़ी मार ली है और हम आँख मूँद कर एजीआई या एएसआई की खोज करते रहते हैं। हमने जो नियंत्रण स्थापित किए हैं, उनके कारण हम वहां कभी नहीं पहुंच पाएंगे। हाँ, थोड़ी विडंबना है।

दूसरी चाल यह है कि हम किसी तरह यह पता लगा लेते हैं कि हम एजीआई या एएसआई के उद्भव को कम कर रहे हैं और जानवर को खुला छोड़ देने का विकल्प चुनते हैं। लेकिन अब, नियंत्रण मौजूद नहीं हैं। आप तय करें कि हम हमेशा खुश रहेंगे या पछताएंगे कि हमने घोड़े को खलिहान से बाहर निकाल दिया।

रहस्य बहुत रहस्यमय है

एजीआई और एएसआई की खोज में कथानक में और भी मोड़ हैं।

उदाहरण के लिए, मान लीजिए कि एक खुफिया विस्फोट सैद्धांतिक रूप से मानव जाति की समझ के भीतर एक वास्तविक चीज़ साबित हुआ है। बढ़िया, हम निश्चित रूप से इस बात पर ध्यान केंद्रित करेंगे कि इसे कैसे संभव बनाया जाए। हर कोई खुफिया विस्फोट बैंडबाजे पर कूद पड़ता है।

एआई की सुस्त वृद्धिशील प्रगति को दूर करें।

शानदार शानदार उत्साह के लिए आगे बढ़ें।

भाग्य और प्रेरणा से, हम एक खुफिया विस्फोट शुरू करने के तरीकों का पता लगा लेते हैं। एक संभावित दुविधा यह है कि हम नहीं जानते कि एक बार खुल जाने के बाद यह कितनी दूर तक जाएगा।

आपको वह ब्लॉकबस्टर फिल्म याद होगी ओप्पेन्हेइमेरएक पौराणिक दृश्य (स्पॉइलर अलर्ट) है जो एक ऐतिहासिक विचार को दर्शाता है कि कुछ परमाणु वैज्ञानिक चिंतित थे कि एक बार शुरू होने के बाद परमाणु विस्फोट बेरोकटोक जारी रह सकता है। दुनिया संभवतः एक प्रलयंकारी आग में फंस गई होगी।

अज्ञात खुफिया विस्फोट पर भी यही तर्क लागू किया जा सकता है। शायद ऐसा होता है और रुकेगा नहीं. तो क्या? क्या हमारे ग्रह पर बहुत अधिक बुद्धि हो सकती है? दूसरा परिप्रेक्ष्य यह है कि खुफिया विस्फोट होता है, लेकिन यह एजीआई या एएसआई तक पहुंचने के लिए पर्याप्त दूर तक नहीं जाता है। यह कम रुकता है. हो सकता है कि किसी ख़ुफ़िया विस्फोट की सीमाएँ हों और यह वह शक्तिशाली पुरस्कार नहीं है जैसा हमने सोचा था।

अभी के लिए एक समापन विचार.

आपमें से जो लोग रहस्य थ्रिलर पसंद करते हैं, उनके लिए उन्नत एआई और कृत्रिम सामान्य बुद्धिमत्ता और कृत्रिम अधीक्षण की खोज अब तक के सबसे चुनौतीपूर्ण रहस्यों में से एक है। अपनी आकर्षक जासूसी टोपी पहनने और खोज में शामिल होने के लिए आपका स्वागत है।

यदि आप क्लब में शामिल होने का निर्णय लेते हैं, तो शर्लक होम्स का प्रसिद्ध उद्धरण याद रखें, अर्थात् बंद कमरों की दुनिया में, चाबी वाला व्यक्ति राजा होता है।