होम शोबिज़ एक व्यवहार्य ‘एआई किल स्विच’ कानून तैयार करना कानून निर्माताओं को भारी...

एक व्यवहार्य ‘एआई किल स्विच’ कानून तैयार करना कानून निर्माताओं को भारी तकनीकी और कानूनी चुनौतियों का सामना करना पड़ता है

31
0

आज के कॉलम में, मैं एक समझदार और पारित होने योग्य “एआई किल स्विच” कानून तैयार करने से जुड़ी तकनीकी और कानूनी जटिलताओं की जांच करता हूं, जिसमें संघीय स्तर पर कांग्रेस और व्यक्तिगत राज्य-स्तरीय प्रयासों के लिए विचार शामिल हैं। एआई किल स्विच कानून का मसौदा तैयार करने और उसे अधिनियमित करने के लिए कांग्रेस के सांसदों की बार-बार रुचि है। यह नवीनतम रुचि ओपनएआई द्वारा दुष्ट एआई से जुड़े कुछ हालिया षडयंत्रों से प्रेरित थी, और इसी तरह एंथ्रोपिक द्वारा एआई से जुड़े एक पूर्व चिंताजनक मामले से भी।

एआई किल स्विच की मूल अवधारणा सीधी है और एआई क्षेत्र में इसका एक लंबा इतिहास है (यहां लिंक पर मेरा व्यापक कवरेज देखें)। यह इस प्रकार चलता है। इस बात की निरंतर संभावना है कि एआई किसी दिन भयानक रूप से गड़बड़ा जाएगा और मानव संचालकों के पास इसे रोकने का कोई साधन नहीं होगा। इस जोखिम भरी परिस्थिति से उबरने के लिए, एआई निर्माताओं को कानूनी रूप से एआई में एक विशेष स्टॉप बटन या किल स्विच स्थापित करने की आवश्यकता होनी चाहिए जिसका उपयोग मनुष्यों द्वारा किया जा सके। बटन या स्विच को चालू करने से AI रुक जाएगा। दुनिया बच गयी. खैर, वास्तव में नहीं, क्योंकि एआई किल स्विच की स्वप्निल धारणा वास्तविक दुनिया में व्यावहारिक रूप से जो किया जा सकता है उससे बहुत दूर है। कई तकनीकी चुनौतियाँ और कानूनी कठिनाइयाँ हैं जिन्हें दूर किया जाना चाहिए।

चलो इसके बारे में बात करें। एआई सफलताओं का यह विश्लेषण एआई में नवीनतम पर मेरे चल रहे फोर्ब्स कॉलम कवरेज का हिस्सा है, जिसमें विभिन्न प्रभावशाली एआई जटिलताओं की पहचान करना और समझाना शामिल है (यहां लिंक देखें)।

एआई किल स्विच आता रहता है

एआई किल स्विच रखने में रुचि एआई की शुरुआत से ही रही है। मुझे यकीन है कि आपने एआई की काल्पनिक कहानियाँ पढ़ी होंगी जिनका लक्ष्य मनुष्यों को गुलाम बनाना या हमें ग्रह से मिटा देना है। वास्तव में, पिछले साल कृत्रिम सामान्य बुद्धिमत्ता (एजीआई) और कृत्रिम अधीक्षण (एएसआई) के बारे में वास्तविक दुनिया के उन्माद के दौरान, हर कोई विनाश की संभावना, जिसे पी (डूम) के रूप में जाना जाता है, और एआई के अस्तित्व संबंधी जोखिमों के बारे में तनावग्रस्त था; यहां लिंक पर मेरी गहन कवरेज देखें।

एक दृष्टिकोण यह है कि बड़े पैमाने पर एआई खतरनाक रूप से द्वेषपूर्ण हो सकता है, शायद संवेदना में प्रवेश कर सकता है या अतिमानवीय बुद्धि तक पहुंच सकता है, और मानवता केवल एआई को बंद करने के साधन से ही जीवित रहेगी। हो सकता है कि यह थोड़ा विज्ञान-कथा उन्मुख हो। अधिक व्यावहारिक दृष्टिकोण यह है कि एआई कोई त्रुटि कर सकता है या सॉफ़्टवेयर बग का सामना कर सकता है और गड़बड़ा सकता है। एआई अनजाने में इंसानों को खतरे में डाल सकता है। इस प्रकार, स्टॉप बटन या किल स्विच का होना विवेकपूर्ण है, ठीक वैसे ही जैसे किसी कारखाने में स्वचालित असेंबली लाइन के लिए होना।

एआई किल स्विच के साथ समस्या यह है कि इसे लागू करना जितना लगता है उससे कहीं अधिक कठिन है।

एआई किल स्विच की तकनीकी चुनौतियाँ

सतही तौर पर, बस एआई को चालू होने से रोकना है। यदि आपके स्मार्टफ़ोन पर कोई AI चल रहा था और आप उसे रोकना चाहते थे, तो क्रियाएँ सीधी प्रतीत होती हैं। आप एक ऐसा बटन दबा सकते हैं जिससे स्मार्टफोन वर्तमान में जो कुछ भी कर रहा है उसे बाधित कर देगा। या आप बस स्मार्टफोन बंद कर सकते हैं। ये आसान-से-आसान समाधान हैं।

एआई को लोकप्रिय जेनरेटिव एआई और बड़े भाषा मॉडल (एलएलएम) तक बढ़ाएं, जिनका हम सभी आजकल उपयोग करते हैं, जैसे कि चैटजीपीटी, जीपीटी-5, जेमिनी, ग्रोक, क्लाउड, कोपायलट, आदि। वे एआई आकार में बड़े हैं और व्यापक रूप से वितरित हैं। वे आम तौर पर अनेक कंप्यूटर सर्वरों पर चल रहे होते हैं। किसी विशिष्ट डेटा केंद्र के बंद होने की स्थिति में लचीलापन सुनिश्चित करने के लिए सर्वर विश्व स्तर पर फैले हुए हैं।

सार यह है कि एआई निर्माता अपने एआई को कठोर या लचीला बनाते हैं और किसी भी प्रत्याशित प्राकृतिक आपदा या अन्य सिस्टम विफलता से प्रभावित नहीं होते हैं। एक विडंबना है कि वही विशेषताएं और कार्य जिनका लक्ष्य एआई को सुचारू रूप से चालू रखना है, एआई किल स्विच को अपनाने का सरल साधन खोजने में भी समस्या का हिस्सा हैं।

हाल ही में तैयार किया गया विधेयक

यही कारण है कि एआई किल स्विचों में अचानक रुचि फिर से बढ़ रही है।

आपने ओपनएआई से जुड़ी हालिया स्थिति के बारे में सुना या पढ़ा होगा, जिसने एआई किल स्विच कानूनों को कानूनी रूप से अपनाने के लिए सुर्खियां बटोरीं और कॉल को प्रेरित किया। संक्षेप में, OpenAI अपने नवीनतम AI का परीक्षण कर रहा था; ऐसा लगता है कि यह अपने सैंडबॉक्स से बच गया और एआई को प्रस्तुत किए गए परीक्षण लक्ष्य को प्राप्त करने के लिए रहस्य प्राप्त करने की कोशिश करने के लिए हगिंग फेस में टूट गया (परिस्थितियों के मेरे विश्लेषण के लिए, यहां लिंक देखें)। इससे व्यापक चिंता फैल गई। कई लोगों ने नीति निर्माताओं और कानून निर्माताओं से जागने और एआई स्थितियों से निपटने के तरीकों का अनुमान लगाने का आग्रह किया जो बड़े पैमाने पर बुरी तरह से खराब हो सकती हैं।

इस शीर्ष समाचार को पहले एंथ्रोपिक ने शीर्ष पर रखा था, जिसने अपने नवीनतम एआई को माइथोस के रूप में जाना था, जो रेडी-टू-गो साइबरहैक्स से भरपूर था; यहां लिंक पर मेरा कवरेज देखें। चिंताएं यह थीं कि यदि एंथ्रोपिक ने एआई को सार्वजनिक उपयोग के लिए जारी किया, तो किसी भी और हर किसी के लिए एआई को व्यवसायों, गैर-लाभकारी संस्थाओं, उपभोक्ताओं और यहां तक ​​​​कि सरकारी प्रणालियों के कंप्यूटरों में सेंध लगाने के लिए कहना बेहद आसान हो जाएगा।

23 जुलाई, 2026 को, एआई किल स्विच में रुचि की उभरती लहर के जवाब में, कांग्रेस की रुचि भी बढ़ी और अमेरिकी प्रतिनिधि सभा के दो सदस्यों ने तुरंत एक मसौदा विधेयक पेश किया। प्रतिनिधि टेड लियू (डी-कैलिफ़ोर्निया) और प्रतिनिधि नथानिएल मोरन (आर-टेक्सास) ने एआई किल स्विच एक्ट नामक अपना मसौदा कानून उपलब्ध कराया। यह अभी तक प्रस्तुत बिल नहीं है, और हमें इंतजार करना होगा और देखना होगा कि चीजें इसके साथ कैसे आगे बढ़ती हैं। मैं आपको सूचित करता रहूंगा, इसलिए बने रहें।

ड्राफ्ट किए गए एआई किल स्विच एक्ट को खोलना

आपको यह बताने के लिए कि एआई किल स्विच पर एक मजबूत कानून बनाना कितना चुनौतीपूर्ण हो सकता है, मैं आपको एआई किल स्विच अधिनियम के मसौदे के कुछ तत्वों के बारे में संक्षेप में बताऊंगा। यह शिक्षाप्रद होगा और इस तरह के कानून को लिखने के कठिन समाधानों पर प्रकाश डालेगा। जैसा कि उल्लेख किया गया है, एआई किल स्विच कानून ढीला-ढाला नहीं होना चाहिए, न ही यह अत्यधिक संकीर्ण होना चाहिए, और इसका लक्ष्य उचित रूप से कार्यान्वयन योग्य होना चाहिए। यह पूछने के लिए बहुत कुछ है।

सबसे पहले, आइए देखें कि एआई किल स्विच से क्या हासिल होना चाहिए, जो ड्राफ्ट के अनुसार, यह है:

  • “निम्नलिखित कार्यों को करने के लिए तकनीकी क्षमता बनाए रखें:”।
  • “(i) ऐसी कवर की गई इकाई की कवर की गई तकनीक का अनुमान लगाना बंद करें,”
  • “(ii) ऐसी तकनीक तक उपयोगकर्ता की पहुंच समाप्त करें,”
  • “(iii) ऐसी कवर की गई इकाई या सचिव द्वारा पहचाने गए खाते, उपयोगकर्ता या उपयोग पैटर्न के संबंध में ऐसी तकनीक तक पहुंच को निलंबित करें, जो निम्नलिखित में से किसी एक का जोखिम पैदा करता है: (I) एक कवर की गई घटना, (II) कानून का उल्लंघन या ऐसी तकनीक की सेवा की शर्तों का उल्लंघन,”
  • “(iv) ऐसी तकनीक को बंद करें।”

इस मामले में, एआई किल स्विच एआई को अनुमान लगाने से रोक देगा, उपयोगकर्ता की पहुंच समाप्त कर देगा और एआई को बंद कर देगा। यह एक प्रशंसनीय लक्ष्य है. संभावित खामियां हैं.

उदाहरण के लिए, “अनुमान” की शब्दावली का उपयोग करने से उस शब्द के साथ संभावित अस्पष्टता जुड़ी होती है। सामान्य निहितार्थ यह है कि एआई अनिवार्य रूप से किसी चीज़ के बारे में तर्क कर रहा है। मान लीजिए कि एआई केवल एक घटक का उपयोग कर रहा है जो अन्य प्रणालियों से डेटा प्राप्त करने के लिए पहुंचता है, ऐसा करने में सीधे तौर पर सक्रिय अनुमान शामिल नहीं होता है; क्या यह दायरे में नहीं आता? एआई घटक कहर बरपा रहा हो सकता है और फिर भी उस समय किसी भी अनुमान पर इसका कोई सीधा असर नहीं पड़ता है।

कौन सा AI प्रभावित है

एआई पर किसी भी कानून के बारे में एक सिर खुजलाने वाला कानूनी सवाल यह है कि किस प्रकार के एआई को कानून द्वारा बाध्य माना जाता है। सभी एआई में एलएलएम शामिल नहीं हैं। AI के और भी बहुत सारे प्रकार हैं। इसके अलावा, बड़े पैमाने के एआई और अन्य छोटे एआई भी हैं। क्या एआई का आकार मायने रखता है, या किसी भी आकार के सभी एआई को किसी दिए गए एआई कानून में शामिल किया जाना चाहिए? एक एआई कानून ओवररीच हो सकता है, या अंडररीच हो सकता है, यह इस बात पर निर्भर करता है कि उस कानून के लिए एआई का दायरा क्या है।

मसौदा विधेयक यह कहता है:

  • कवर की गई प्रौद्योगिकी. इस अनुभाग में अन्यथा प्रदान किए गए को छोड़कर, ‘कवर्ड टेक्नोलॉजी’ शब्द का अर्थ कंप्यूटिंग शक्ति की मात्रा का उपयोग करके विकसित एक कृत्रिम बुद्धिमत्ता प्रणाली है, जिसकी लागत संयुक्त राज्य अमेरिका में क्लाउड कंप्यूटिंग के मौजूदा बाजार मूल्य पर $ 100,000,000 से अधिक होगी, जैसा कि सचिव द्वारा निर्धारित किया गया है।”

मसौदा विधेयक में प्रस्ताव दिया गया है कि यदि एआई को विकसित करने के लिए कंप्यूटिंग की लागत 100 मिलियन डॉलर से अधिक थी, तो एआई एआई किल स्विच आवश्यकताओं के दायरे में है। आप सोच रहे होंगे कि इसका मतलब क्या है क्योंकि सबसे बड़ा खतरा सबसे बड़े एआई से है। ख़ैर, ज़रूरी नहीं कि ऐसा ही हो। एक छोटा एआई जो वायरल हो जाता है वह आसानी से खतरनाक हो सकता है और इंटरनेट के अंतर्संबंध के कारण दुनिया भर में व्यापक रूप से फैल सकता है।

कुछ लोग कहेंगे कि यह एक खामी है। इसका मतलब है कि एआई जो उस आकार में नहीं है वह एआई किल स्विच से स्वतंत्र रूप से बचने में सक्षम होगा।

एआई किल स्विच को कौन सक्रिय करता है

मैंने पहले उल्लेख किया था कि एक पेचीदा मुद्दा यह चुनना है कि एआई किल स्विच को कौन सक्रिय कर सकता है। आम तौर पर, एक एआई निर्माता को बटन दबाने का विशेषाधिकार दिया जाता है यदि वे ऐसा करना चाहते हैं, जबकि यदि सरकार उन्हें ऐसा करने के लिए कहती है तो उन्हें बटन दबाना होगा।

यहाँ मसौदा क्या कहता है:

  • आपातकालीन प्राधिकरण. यदि सचिव, निदेशक के माध्यम से और वाणिज्य सचिव और राष्ट्रीय खुफिया निदेशक के परामर्श से यह निर्धारित करता है कि एक कवर की गई घटना हुई है, तो सचिव ऐसी घटना की प्रकृति और तत्कालता के अनुपात में कार्रवाई करने के लिए कवर की गई इकाई को आदेश दे सकता है, जिसमें उपधारा (बी) (1) (ए) में वर्णित कोई भी कार्रवाई शामिल हो सकती है।

यह इंगित करता है कि होमलैंड सुरक्षा सचिव के पास एआई किल स्विच को सक्रिय करने का आदेश देने का आपातकालीन अधिकार होगा। बेशक, यह केवल उन संस्थाओं पर लागू होगा जिनके पास एआई किल स्विच होना चाहिए, जैसा कि मैंने ऊपर उल्लेख किया है कि बड़े आकार के एआई हैं।

क्या आपको लगता है कि कोई AI निर्माता ऐसे आदेश की अवहेलना कर सकता है? हो सकता है कि आपके मन में यह बात हो कि कोई भी एआई निर्माता सरकार से कानूनी रूप से स्वीकृत आदेश को रद्द करने में सक्षम नहीं होना चाहिए। हम यह निर्णय एआई निर्माता पर नहीं छोड़ सकते कि वे इस तरह के आदेश से सहमत हैं या असहमत हैं। अन्य लोग इस बात पर जोर दे सकते हैं कि एआई निर्माता को कानूनी सहारा लेना चाहिए यदि उन्हें लगता है कि आदेश गलत है।

एआई किल स्विच ऑर्डर के खिलाफ अपील

एआई किल स्विच ऑर्डर पर अपील करने के बारे में ड्राफ्ट में क्या कहा गया है:

  • निवेदन। पैराग्राफ (1) के तहत आदेश के 48 घंटे से अधिक समय बाद, ऐसे आदेश के अधीन कवर की गई इकाई ऐसे आदेश पर पुनर्विचार के लिए सचिव को याचिका दे सकती है, लेकिन ऐसी याचिका ऐसे आदेश पर रोक नहीं लगाती है।
  • दृढ़ निश्चय। उप-पैराग्राफ (ए) के अनुसार कवर की गई इकाई की याचिकाओं के पांच दिनों के भीतर, सचिव, निदेशक के माध्यम से कार्य करते हुए, ऐसी याचिका के संबंध में निर्णय लेगा, लेकिन यदि सचिव ऐसा निर्धारण करने में विफल रहता है, तो ऐसी विफलता को नकारात्मक निर्धारण माना जाता है।
  • न्यायिक समीक्षा। एक कवर की गई इकाई जिसके लिए पैराग्राफ (1) के तहत एक आदेश है, वह ऐसे आदेश के 60 दिनों के भीतर दायर याचिका पर कोलंबिया सर्किट जिले के लिए संयुक्त राज्य अपील न्यायालय में ऐसे आदेश की समीक्षा का अनुरोध कर सकती है।

इस बात पर ध्यान दें कि भले ही एआई निर्माता आदेश के खिलाफ अपील करता हो, फिर भी उन्हें आदेश को पूरा करने के लिए आगे बढ़ना होगा। वे एआई किल स्विच को लागू करने की कार्रवाई में देरी करने के लिए अपील प्रक्रिया का उपयोग नहीं कर सकते। ऐसा लगता है कि यह समझ में आता है, क्योंकि अन्यथा एक एआई निर्माता अपील कर सकता है और एआई को कुछ समय बाद तक नहीं रोका जाएगा जब तक कि अपील पर अंतिम निर्णय नहीं हो जाता। उस मध्यवर्ती समय के दौरान, संभवतः एआई अभी भी कहर बरपा रहा है, और एआई निर्माता किल स्विच लागू करने से बच रहा है।

क्या एआई किल स्विच काम करेगा?

जब एआई किल स्विच की बात आती है तो इसमें कई और मोड़ आते हैं। मेरे पास आपके लिए नूडल बनाने के लिए एक है। मान लीजिए कि एक एआई निर्माता एआई किल स्विच के बारे में एक कानून के तहत आता है और कहता है कि उन्होंने वास्तव में एआई किल स्विच लागू किया है। शायद एआई निर्माता किल स्विच का परीक्षण करता है और दावा करता है कि यह काम करता है।

एक क्षण आता है जब सरकार निर्णय लेती है कि एआई किल स्विच को चालू करने की आवश्यकता है। एआई निर्माता को एक आदेश जारी किया जाता है। मान लें कि आदेश वैध है. एआई निर्माता संभवतः एआई किल स्विच को दबाने के लिए कानूनी रूप से मजबूर है।

हो सकता है कि एआई निर्माता सरकार को बताए कि उन्होंने ऐसा किया है, लेकिन वास्तव में उन्होंने किल स्विच को सक्रिय नहीं करने का फैसला किया है। क्या सरकार को पता चलेगा कि एआई निर्माता ने आदेश की अवहेलना की है? ऐसे और भी परिदृश्य हैं. मान लीजिए कि एआई निर्माता किल स्विच को सक्रिय करता है, लेकिन यह खराब तरीके से बनाया गया है और जो करना आवश्यक है वह नहीं करता है। क्या सरकार को पता चलेगा कि एआई किल स्विच आधा-अधूरा था?

यहां बताया गया है कि मसौदा विधेयक क्या कहता है:

  • अंकेक्षण। पैराग्राफ (2)(सी) के तहत पुष्टि होने पर, सचिव, निदेशक के माध्यम से कार्य करते हुए, ऑडिट, टेलीमेट्री, ऑन-साइट निरीक्षण, या अन्य फोरेंसिक समीक्षा के माध्यम से, उस आदेश के अनुपालन को सत्यापित करेगा जिसने ऐसी पुष्टि को प्रेरित किया।

प्रावधान यह निर्धारित करता है कि यह सत्यापित करने के लिए ऑडिट किया जा सकता है कि आदेश का पालन किया गया था और परिणाम वही था जो कानूनी आवश्यकता निर्धारित करती है। अच्छी खबर यह है कि इससे एआई निर्माता सतर्क रहेंगे, यह जानते हुए कि उनका ऑडिट किया जाएगा। बुरी खबर यह है कि ऑडिट में समय लगता है, और घोड़ा पहले ही खलिहान से बाहर हो सकता है। जब तक ऑडिट किया जाता है, और यदि ऑडिट से पता चलता है कि एआई निर्माता ने आदेश की अवहेलना की है या केवल आधा-अधूरा काम किया है, तो एआई द्वारा क्षति या विनाश पहले ही हो चुका होगा।

हम जिस दुनिया में हैं

इसमें कोई संदेह नहीं है कि जैसे-जैसे एआई सर्वव्यापी होता जा रहा है, हम जोखिम में बढ़ते जा रहे हैं। चाहे एआई किसी दूरगामी विज्ञान-फाई तरीके से दुष्ट हो या रोजमर्रा के फैशन में गलती या कुटिल हैकिंग के जरिए ऐसा करता हो, मुद्दा यह है कि एआई को रोकने के लिए कुछ व्यवहार्य साधन होने चाहिए। मैंने ऊपर बताया है कि ऐसा करने के लिए तकनीकी और कानूनी विशिष्टताओं को एक साथ लाना कठिन है और अंत में खामियां या गड़बड़ी हो सकती है।

आप दावा कर सकते हैं कि एआई किल स्विच के बारे में बात करना ही फायदेमंद हो सकता है। इससे जन जागरूकता बढ़ती है. संभावना यह है कि कई लोग शायद पहले से ही मान लेते हैं कि सभी एआई में एक एम्बेडेड किल स्विच होता है (नहीं, यह गलत है)। एक और धारणा होने की संभावना है कि एआई किल स्विच त्रुटिहीन रूप से काम करता है (फिर से, गलत)। एक सूक्ष्म अंतर जो स्पष्ट नहीं हो सकता है वह यह है कि यदि एआई का उपयोग लाखों-करोड़ों लोगों द्वारा किया जा रहा है, और वे एआई पर अत्यधिक निर्भर हैं, तो एआई को सरसरी तौर पर बंद करने से जुड़े खतरे या जोखिम हैं। ऐसा करने से उन लोगों को काफी मुश्किलों का सामना करना पड़ सकता है।

अभी के लिए अंतिम विचार. प्रसिद्ध दार्शनिक और अर्थशास्त्री, जॉन स्टुअर्ट मिल ने यह स्पष्ट टिप्पणी की: “एक व्यक्ति न केवल अपने कार्यों से बल्कि अपनी निष्क्रियता से दूसरों को नुकसान पहुँचा सकता है, और किसी भी स्थिति में वह चोट के लिए उनके प्रति उचित रूप से जवाबदेह है।” एआई किल स्विच पर चर्चा करके और उसके बाद कानूनों को तैयार करके, हम उम्मीद करते हैं कि एआई लाभों को अधिकतम करने का लक्ष्य रखते हुए एआई नुकसान को कम करने के बारे में स्पष्ट रूप से और खुले तौर पर सोचने के बारे में जनता, नीति निर्माताओं, कानून निर्माताओं, एआई निर्माताओं और उनके जैसे लोगों के बीच जागरूकता बढ़ा रहे हैं।