WEBVTT

00:00.000 --> 00:07.220
स्वायत्त हतियारहरू – विश्वव्यापी वित्तीय
अभिजात वर्गको अन्तिम किल्ला ढल्नै पर्छ!

00:07.220 --> 00:15.360
स्वायत्त हतियारहरूले कृत्रिम बुद्धिमत्ताको मद्दतले मानव
हस्तक्षेप बिना निर्णय लिन्छन् र स्वतन्त्र रूपमा कार्य गर्छन्।

00:15.360 --> 00:22.320
यद्यपि तिनीहरू अझै विकासको क्रममा छन्, तिनीहरूले
पहिले नै अन्तर्राष्ट्रिय समुदायलाई उत्सुकतामा राखेका छन्।

00:22.320 --> 00:26.220
यो वास्तवमा के हो र समस्या के हो?

00:26.220 --> 00:33.344
स्वायत्त हतियारहरू, जसलाई हत्यारा रोबोटहरू
पनि भनिन्छ, युद्धमा 'तेस्रो क्रान्ति' मानिन्छ।

00:33.344 --> 00:39.131
विगतमा बारुद र आणविक हतियारको आविष्कारले
जस्तै, स्वायत्त हतियार प्रणालीहरूले युद्धको

00:39.131 --> 00:42.990
प्रकृतिलाई मौलिक रूपमा परिवर्तन गरिरहेका छन्।

00:42.990 --> 00:46.480
स्वायत्त हतियारहरू स्वतन्त्र रूपमा सञ्चालन हुने प्रणालीहरू हुन्।

00:46.480 --> 00:56.213
उनीहरूलाई कृत्रिम बुद्धिमत्ता प्रयोग गरी मानव नियन्त्रण
बिना लक्ष्यहरू पहिचान गरी आक्रमण गर्न प्रोग्राम गरिएको छ।

00:56.213 --> 01:05.913
यी मानव रहित ड्रोन मात्र होइनन्, तर जहाज, ट्याङ्क,
रकेट प्रक्षेपक, रोबोट र अन्य हतियारहरू पनि हुन सक्छन्।

01:05.913 --> 01:12.033
अनुकूलनशील कृत्रिम बुद्धिमत्तासहितका पूर्ण
रूपमा स्वायत्त हतियार प्रणालीहरू अझै विश्वका

01:12.033 --> 01:16.000
सेनाहरूको आधिकारिक रूपमा अभिन्न अंग बनेका छैनन्।

01:16.000 --> 01:23.581
१२३४३२१ १२३४३२१ सन् २०१४ देखि संयुक्त राष्ट्रसंघले जेनेभामा
वार्ता गर्दै आएको छ, जसमा ७५ राष्ट्रहरू घातक स्वायत्त

01:23.581 --> 01:31.424
हतियार प्रणालीहरूमा प्रतिबन्ध लगाउने विषयमा वार्ता
गरिरहेका छन् ताकि हत्यारा रोबोटहरूलाई नियमन गर्न सकियोस्।

01:31.424 --> 01:37.860
केही देशहरूले आफ्नै स्वार्थ पछ्याइरहेकाले सम्झौता अव्यावहारिक छ।

01:37.860 --> 01:47.546
शान्ति कार्यकर्ताहरूका अनुसार, अष्ट्रिया र सबै विकासोन्मुख देशहरू
सहित २६ देशहरू यस्ता हतियारहरूमा प्रतिबन्ध लगाउन पक्षमा छन्।

01:47.546 --> 01:51.776
चीनले यसको प्रयोगमा प्रतिबन्ध लगाउनुपर्ने पक्षमा बोलेको छ।

01:51.776 --> 01:56.973
रिपोर्टअनुसार अमेरिका विकासमा लगाइएका
प्रतिबन्धहरूको पूर्ण रूपमा विरोधी छ।

01:56.973 --> 02:07.560
यस विकासमा संलग्न जर्मनीका कम्पनीहरू पनि छन्, जसले
अन्तर्राष्ट्रिय हतियार दौडलाई थप उक्साइरहेका छन्।

02:07.560 --> 02:10.997
तर स्वायत्त हतियारहरू किन यति धेरै मागमा छन्?

02:10.997 --> 02:19.460
अमेरिकी सेनाको आधिकारिक तथ्याङ्कअनुसार हाल शत्रुको
कारबाहीभन्दा बढी अमेरिकी सैनिकहरू आत्महत्याबाट मर्छन्।

02:19.460 --> 02:27.710
उनीहरूले तथाकथित 'मानवीय' युद्धहरूसँग आफूलाई जोड्न सक्दैनन्, जुन
वास्तवमा शक्ति रणनीतिमा आधारित आक्रमणकारी

02:27.710 --> 02:36.672
युद्धहरू मात्र हुन्, र नागरिक आबादीविरुद्ध समेत क्रूर
युद्धका कारण जीवनभर नैतिक द्विविधा भोग्न बाध्य छन्।

02:36.672 --> 02:42.384
युद्धका पूर्व सैनिकहरू ठूलो संख्यामा आफ्ना पदकहरू
फिर्ता गरिरहेका छन् किनभने उनीहरू युद्धका कार्यहरूमा

02:42.384 --> 02:46.020
लज्जित छन् र गहिरो पश्चात्ताप व्यक्त गरिरहेका छन्।

02:46.020 --> 02:55.160
यहाँसम्म कि ड्रोन पाइलटहरू, जो आफ्नो डेस्कबाट कम्प्युटर
खेल खेलेझैं मानिसहरूलाई मार्छन् र लडाइँबाट टाढा भएको कारण

02:55.160 --> 03:00.220
कम सहानुभूति देखाउँछन्, केही वर्षपछि नै 'थकित' हुन्छन्।

03:00.220 --> 03:07.535
दशकौँ मनोवैज्ञानिक अध्ययनहरूले पनि देखाएका छन् कि
लडाइँमा रहेका सैनिकहरूले प्रायः शत्रु सैनिकहरूमा

03:07.535 --> 03:12.340
गोली नै चलाउँदैनन्, बरु जानाजानी आफ्नो निशाना चूक्छन्।

03:12.340 --> 03:18.752
यसले स्पष्ट पार्छ कि मानिसहरू आफ्नो
मौलिक स्वभावमा 'युद्ध यन्त्र' होइनन्।

03:18.752 --> 03:25.440
विश्वव्यापी शान्ति आन्दोलन र र्‍यालीहरूले यस तथ्यलाई जोड दिन्छन्।

03:25.440 --> 03:34.440
१२३४३२१ शक्ति-लोभी युद्धप्रेमीहरू र उनीहरूको पछाडि रहेका
विश्वव्यापी कठपुतली मालिकहरूका लागि स्वायत्त हतियार प्रणालीहरू,

03:34.440 --> 03:42.240
अर्थात् हत्यारा रोबोटहरू, आवश्यक छन् जसले त्रुटिरहित
र निर्मम रूपमा काम गरून् – प्रश्न नगरी, करुणा बिना,

03:42.240 --> 03:47.440
विवेक बिना, र विशेष गरी क्रोधित भीडबाट सुरक्षाका लागि।

03:47.440 --> 03:56.813
यसको कारण यो हो कि बढ्दो मानिसहरूले विश्वव्यापी अन्तरसम्बन्धहरूलाई
पहिचान गरिरहेका छन् र अब शोषण र हेरफेर हुन इच्छुक छैनन्।

03:56.813 --> 04:05.492
मानवताले दीर्घकालीन रूपमा सम्पूर्ण मौद्रिक
प्रणाली, सबै सरकारहरू, देशहरू र तिनीहरूका स्रोतहरू केही

04:05.492 --> 04:10.660
परिवारहरूको नियन्त्रणमा रहने कुरा स्वीकार्ने छैन।

04:10.660 --> 04:15.680
त्यसैले सबै प्रकार र राष्ट्रियताका शान्ति
कार्यकर्ताहरूले चेतावनीको घण्टी बजाइरहेका छन्:

04:15.680 --> 04:20.928
स्वायत्त हतियार प्रणालीहरूको विकासलाई
विश्वव्यापी रूपमा प्रतिबन्ध लगाउनुपर्छ।

04:20.928 --> 04:31.291
कृत्रिम बुद्धिमत्ताको क्षेत्रमा २,५०० भन्दा बढी अनुसन्धानकर्ता
र १७६ संस्थाहरूले स्वायत्त घातक हतियार प्रणालीहरूमा अनुसन्धान

04:31.291 --> 04:37.216
नगर्ने स्वैच्छिक प्रतिबद्धतामा पहिले नै हस्ताक्षर गरिसकेका छन्।

04:37.216 --> 04:45.765
हस्ताक्षर गरेर, सहभागीहरूले "स्वायत्त घातक
हतियारहरूको विकास, उत्पादन, व्यापार वा प्रयोगलाई

04:45.765 --> 04:50.960
समर्थन वा योगदान नगर्ने" प्रतिबद्धता जनाउँछन्।

04:50.960 --> 04:53.700
तर, धेरै ठूला नामहरू अनुपस्थित छन्।

04:53.700 --> 05:01.622
न त गुगलले न त गुगलको होल्डिङ कम्पनी अल्फाबेटले स्वैच्छिक
प्रतिबद्धतामा हस्ताक्षर गरेका छन्; प्रसिद्ध रोबोट

05:01.622 --> 05:06.784
मोडेलहरूको निर्माता बोस्टन डाइनामिक्स पनि अहिलेसम्म सूचीमा छैन।

05:06.784 --> 05:10.464
सम्बन्धित रक्षा कम्पनीहरू पनि अनुपस्थित छन्।

05:10.464 --> 05:18.825
त्यसैले कार्यकर्ताहरूको लक्ष्य स्वायत्त हतियारका
खतराहरू प्रति सर्वसाधारणको ध्यान आकर्षित गरेर

05:18.825 --> 05:24.200
हस्ताक्षरकर्ताहरूको घेराभन्दा धेरै पर प्रभाव पार्नु हो।

05:24.200 --> 05:35.160
'स्लटरबोट्स' नामक एउटा छोटो चलचित्रले स्वायत्त हतियारहरू
कति विनाशकारी रूपमा प्रभावकारी हुन सक्छन् भन्ने कुरा देखाउँछ।

05:35.160 --> 05:43.743
मानवजातिको अस्तित्वगत जोखिमहरू न्यूनीकरण गर्ने लक्ष्य
राखेको अमेरिकास्थित फ्युचर अफ लाइफ इन्स्टिच्युट

05:43.743 --> 05:49.664
(एफएलआई) ले १२ नोभेम्बर २०१७ मा उक्त भिडियो प्रकाशित गर्‍यो।

05:49.664 --> 05:53.906
केही हप्ताभित्रै यसमा लाखौं पटक क्लिक भइसकेको थियो।

05:53.906 --> 06:01.102
यसले उदाहरणका लागि प्रणालीका आलोचकहरू वा अवाञ्छित जातीय
समूहहरूलाई आँखा झिम्क्याउँदा नै कसरी सखाप पार्न सकिन्छ भन्ने

06:01.102 --> 06:05.353
कुराको काल्पनिक, रौँ खडा पार्ने पूर्वावलोकन प्रदान गर्दछ।

06:05.353 --> 06:08.896
निष्कर्ष: यो प्रविधि रोक्नुहोस्!

06:08.896 --> 06:12.880
यहाँ भिडियोका केही अंशहरू छन्:

06:14.580 --> 06:22.740
हाम्रा ग्राहकका पाइलटहरूले गत वर्ष लगभग ३,००० सटीक
प्रहारहरू गरे, र हामी त्यसमा अत्यन्तै गर्व गर्छौं।

06:22.740 --> 06:27.000
यसले तपाईंलाई खराब मान्छेहरूलाई
राम्रा मान्छेहरूबाट अलग गर्न अनुमति दिन्छ।

06:27.000 --> 06:33.340
यो ठूलो कुरा हो। तर हामीसँग अझ ठूलो कुरा छ।

06:37.393 --> 06:43.980
तपाईंका बच्चाहरूले सायद यस्तै एउटा
पाएको होलान्, होइन र? ठीक त्यस्तो होइन।

06:45.920 --> 06:49.248
१२३४३२१ १२३४३२१ एक साहसी पाइलट? होइन।

06:49.248 --> 06:54.848
यो क्षमता पूर्ण रूपमा एआई – कृत्रिम
बुद्धिमत्तासँग सम्बन्धित छ। यो आफैं उड्छ।

06:54.848 --> 06:59.220
यसको प्रोसेसरले मानिसभन्दा सय गुणा छिटो प्रतिक्रिया दिन सक्छ।

06:59.220 --> 07:04.760
स्टोकास्टिक चाल स्नाइपर-विरोधी मोडमा छ।

07:08.506 --> 07:13.560
आजकलका अरू कुनै पनि मोबाइल
उपकरणजस्तै यसमा क्यामेरा र सेन्सरहरू छन्।

07:13.560 --> 07:19.552
र तपाईंको मोबाइल फोन र सामाजिक सञ्जाल एपहरू
जस्तै, यसमा पनि अनुहार पहिचानको सुविधा छ।

07:19.552 --> 07:26.080
यहाँ तीन ग्राम विशेष विस्फोटक छ।

07:26.080 --> 07:40.880
र यसरी यो काम गर्छ। १२३४३२१ १२३४३२१ के तिमीले त्यो देख्यौ?

07:40.880 --> 07:48.606
यो सानो गोली खोपडीको माथिल्लो भाग छिद्र गर्न र
त्यसपछि त्यसको पछाडि रहेको सबै कुरा नष्ट गर्न पर्याप्त छ।

07:48.606 --> 07:52.599
अक्सर भनिन्छ कि मानिसहरूलाई मार्ने
हतियार होइन, तर मानिसहरू आफैं हुन्।

07:52.599 --> 07:54.233
खैर, उनीहरूले त्यो गर्दैनन्।

07:54.233 --> 07:58.752
उनीहरू भावुक हुन्छन्, आदेशको अवज्ञा
गर्छन्, जानाजानी आफ्नो लक्ष्य चूक्छन्।

07:58.752 --> 08:03.295
त्यसैले हेरौं हतियारहरूले यहाँ कसरी निर्णय लिन्छन्।

08:03.295 --> 08:08.379
अब मलाई विश्वास गर – तिनीहरू सबै खराब केटाहरू थिए।

08:11.712 --> 08:18.453
त्यो शल्यक्रियात्मक सटीकताको हवाई हमला थियो।
यो उत्पादनहरूको सम्पूर्ण श्रृंखलामध्ये एक हो।

08:18.453 --> 08:24.206
झुण्डको रूपमा प्रोग्राम गरिएका यी वस्तुहरूले भवन,
कार र रेलहरू छिचोल्न, मानिस र गोलीहरूबाट बच्न, र

08:24.206 --> 08:27.120
लगभग कुनै पनि प्रतिरोधी उपायलाई विफल पार्न सक्छन्।

08:27.120 --> 08:34.820
उनीहरूलाई रोक्न सकिँदैन। खैर, मैले भनेँ: त्यो त राम्रो भयो।

08:34.820 --> 08:41.273
किन? किनभने हामी ठूलो सोच्छौं। हेर्नुहोस्:

08:43.260 --> 08:47.733
२० मिलियन पाउन्डको सम्झौताले उनीहरूलाई यो किन्छ।

08:47.733 --> 08:53.312
सहरको आधा भाग, दुष्ट आधा भागलाई मार्न पर्याप्त।

08:53.312 --> 08:55.936
आणविक ऊर्जा – त्यो त हिजोको समाचार हो।

08:55.936 --> 09:00.679
तपाईंको सम्पूर्ण शत्रुलाई लगभग
कुनै जोखिम बिना नै समाप्त गर्नुहोस्।

09:00.679 --> 09:05.880
उसको मात्र विश्लेषण गर, आफ्नो क्रशलाई छोडिदेऊ र आराम गर।

09:05.880 --> 09:09.860
१२३४३२१ मूर्ख हतियारहरू तपाईंले जहाँ
देखाउनुहुन्छ त्यहाँ प्रहार गर्छन्।

09:09.860 --> 09:13.240
बुद्धिमान हतियारहरूले डेटा प्रशोधन गर्छन्।

09:13.240 --> 09:21.051
यदि तपाईंले डेटाको मद्दतले – यहाँसम्म कि ह्यासट्यागको प्रयोग
गरेर – आफ्नो शत्रुलाई पत्ता लगाउन सक्नुहुन्छ भने, तपाईंले दुष्ट

09:21.051 --> 09:26.393
विचारधारालाई ठीक त्यसको सुरुवातमा नै प्रहार गर्न सक्नुहुन्छ।

09:29.408 --> 09:32.266
यो छोटो चलचित्र केवल अनुमान मात्र होइन।

09:32.266 --> 09:38.000
यसले हामीसँग पहिलेदेखि नै भएका प्रविधिहरूलाई एकीकृत
र सूक्ष्मीकरण गर्दा प्राप्त हुने परिणामहरू देखाउँछ।

09:38.000 --> 09:40.980
म स्टुअर्ट रसेल हुँ, बर्कलेमा कम्प्युटर विज्ञानका प्राध्यापक।

09:40.980 --> 09:44.666
मैले ३५ वर्षभन्दा बढी समयदेखि कृत्रिम
बुद्धिमत्ता (AI) मा काम गर्दै आएको छु।

09:44.666 --> 09:47.980
मानवताको हितका लागि, रक्षा क्षेत्रसमेत
समावेश गरी, तिनीहरूको सम्भावना विशाल छ।

09:47.980 --> 09:54.140
तर मेसिनहरूलाई मानिसहरू मार्ने निर्णय गर्न दिनु
हाम्रो सुरक्षा र स्वतन्त्रताका लागि विनाशकारी हुनेछ।

09:54.140 --> 09:56.726
मेरो हजारौं सहकर्मीहरू यसमा सहमत छन्।

09:56.726 --> 10:04.980
तपाईंलाई भर्खरै देखाइएको यो भविष्यलाई रोक्ने अवसर
हामीसँग अझै छ, तर कार्य गर्ने अवसरको झ्याल छिट्टै बन्द हुँदैछ!