1
00:00:00,000 --> 00:00:07,220
स्वायत्त शस्त्रे – जागतिक आर्थिक
अभिजात वर्गाचा शेवटचा दुर्ग पाडावाच लागेल!

2
00:00:07,220 --> 00:00:15,360
स्वायत्त शस्त्रे कृत्रिम बुद्धिमत्तेच्या मदतीने मानवी
हस्तक्षेपाशिवाय निर्णय घेतात आणि स्वतंत्रपणे कार्य करतात.

3
00:00:15,360 --> 00:00:22,320
जरी ते अद्याप विकासाधीन असले तरीही ते
आंतरराष्ट्रीय समुदायाला उत्सुकतेत ठेवत आहेत.

4
00:00:22,320 --> 00:00:26,220
हे नेमके काय आहे आणि समस्या काय आहे?

5
00:00:26,220 --> 00:00:33,344
स्वायत्त शस्त्रे, ज्यांना 'हत्यारूबोट्स' म्हणूनही
ओळखले जाते, त्यांना 'युद्धातील तिसरी क्रांती' मानले जाते.

6
00:00:33,344 --> 00:00:42,990
भूतकाळात बारूद आणि अणुशस्त्रांच्या शोधाप्रमाणेच,
स्वायत्त शस्त्र प्रणाली युद्धस्वरूपात आमूलाग्र बदल घडवत आहेत.

7
00:00:42,990 --> 00:00:46,480
स्वायत्त शस्त्रे ही स्वतंत्रपणे कार्य करणाऱ्या प्रणाली आहेत.

8
00:00:46,480 --> 00:00:56,213
ते कृत्रिम बुद्धिमत्ता वापरून आणि मानवी नियंत्रणाशिवाय
लक्ष्ये ओळखून हल्ला करण्यासाठी प्रोग्राम केलेले आहेत.

9
00:00:56,213 --> 00:01:05,913
ही मानवरहित ड्रोन असू शकतात, परंतु जहाजे, टँक,
रॉकेट लाँचर, रोबोट आणि इतर शस्त्रे देखील असू शकतात.

10
00:01:05,913 --> 00:01:16,000
अनुकूल कृत्रिम बुद्धिमत्तेसह पूर्णपणे स्वायत्त शस्त्र
प्रणाली अद्याप जगातील सैन्यांचा अधिकृतपणे अविभाज्य भाग नाहीत.

11
00:01:16,000 --> 00:01:25,632
2014 पासून संयुक्त राष्ट्रसंघ जिनीव्हामध्ये चर्चा करत आहे,
जिथे 75 देश घातक स्वायत्त शस्त्र प्रणालींवर बंदी घालण्यासाठी

12
00:01:25,632 --> 00:01:31,424
वाटाघाटी करत आहेत, ज्याद्वारे हत्यारू रोबोट्सचे नियमन केले जाईल.

13
00:01:31,424 --> 00:01:37,860
करार अवास्तविक आहे कारण काही देश
त्यांच्या स्वतःच्या हितासाठी प्रयत्न करत आहेत.

14
00:01:37,860 --> 00:01:43,770
शांती कार्यकर्त्यांच्या मते, अशा शस्त्रांवर
बंदी घालण्याच्या बाजूने २६ देश आहेत, ज्यात

15
00:01:43,770 --> 00:01:47,546
ऑस्ट्रिया आणि सर्व विकासशील देश समाविष्ट आहेत.

16
00:01:47,546 --> 00:01:51,776
चीनने त्याच्या वापरावर बंदी घालण्याच्या बाजूने मत मांडले आहे.

17
00:01:51,776 --> 00:01:56,973
अमेरिका विकासावरील निर्बंधांना
पूर्णपणे विरोध करत असल्याचे सांगितले जाते.

18
00:01:56,973 --> 00:02:07,560
जर्मनीमध्येही काही कंपन्या या विकासात सहभागी आहेत,
ज्यामुळे आंतरराष्ट्रीय शस्त्रस्पर्धा आणखी तीव्र होत आहे.

19
00:02:07,560 --> 00:02:10,997
पण स्वायत्त शस्त्रे इतकी मागणी का आहेत?

20
00:02:10,997 --> 00:02:19,460
अमेरिकेच्या सैन्याच्या अधिकृत आकडेवारीनुसार, सध्या
शत्रूच्या कारवाईपेक्षा आत्महत्येमुळे अधिक अमेरिकी सैनिक मरतात.

21
00:02:19,460 --> 00:02:27,564
ते तथाकथित 'मानवतावादी' युद्धांशी स्वतःला जोडू शकत नाहीत, कारण
प्रत्यक्षात ती फक्त सत्ता धोरणांवर आधारित आक्रमक

22
00:02:27,564 --> 00:02:36,672
युद्धे आहेत, आणि नागरी लोकसंख्येविरुद्धही चालवलेल्या क्रूर
लढाईमुळे त्यांना आयुष्यभर नैतिक द्विधा सहन करावी लागते.

23
00:02:36,672 --> 00:02:42,272
युद्धवीर मोठ्या संख्येने आपली पदके परत करत
आहेत कारण त्यांना युद्धातील कृत्यांबद्दल

24
00:02:42,272 --> 00:02:46,020
लाज वाटते आणि ते खोल अपराधबोध व्यक्त करतात.

25
00:02:46,020 --> 00:02:55,055
जरी ड्रोन पायलट, जे डेस्कच्या मागे बसून जणू संगणक गेम
खेळत असताना मारतात आणि लढाईपासून दूर असल्यामुळे त्यांना कमी

26
00:02:55,055 --> 00:03:00,220
सहानुभूती असते, तरीही ते फक्त काही वर्षांतच 'थकून' जातात.

27
00:03:00,220 --> 00:03:07,566
दशके चाललेल्या मानसशास्त्रीय अभ्यासांनी हेही दाखवून दिले
आहे की लढाईत असलेले सैनिक बहुतेक वेळा शत्रू सैनिकांवर

28
00:03:07,566 --> 00:03:12,340
गोळीबारच करत नाहीत, तर जानबूजून त्यांच्या लक्ष्याला चुकवतात.

29
00:03:12,340 --> 00:03:18,752
यामुळे हे स्पष्ट होते की मानव स्वभावतः 'युद्ध यंत्र' नाहीत.

30
00:03:18,752 --> 00:03:25,440
जागतिक शांतता चळवळी आणि मोर्चे हे तथ्य अधोरेखित करतात.

31
00:03:25,440 --> 00:03:35,533
अधिकाराच्या भोका आणि त्यांच्या मागील जागतिक कठपुतळी स्वामींसाठी
स्वायत्त शस्त्र प्रणाली, म्हणजेच घातक रोबोट, आवश्यक आहेत, जे

32
00:03:35,533 --> 00:03:41,638
त्रुटीरहितपणे आणि निर्दयपणे कार्य करतात –
प्रश्न न विचारता, करूणा न दाखवता,

33
00:03:41,638 --> 00:03:47,440
अंतःकरणाशिवाय, आणि रागावलेल्या गर्दीपासून संरक्षणासाठीही.

34
00:03:47,440 --> 00:03:53,128
हे कारण आहे की अधिकाधिक लोक जागतिक परस्पर
अवलंबित्वाची जाणीव वाढवत आहेत आणि आता शोषित

35
00:03:53,128 --> 00:03:56,813
किंवा साधन म्हणून वापरले जाण्यास तयार नाहीत.

36
00:03:56,813 --> 00:04:05,522
मानवता दीर्घकालीन दृष्टीने हे स्वीकारणार नाही की
संपूर्ण चलनव्यवस्था, सर्व सरकार, देश आणि त्यांच्या

37
00:04:05,522 --> 00:04:10,660
संसाधनांवरील नियंत्रण काही कुटुंबांच्या हाती आहे.

38
00:04:10,660 --> 00:04:15,680
त्यामुळे सर्व प्रकारच्या आणि सर्व
राष्ट्रीयत्वांच्या शांतता कार्यकर्ते इशारा देत आहेत:

39
00:04:15,680 --> 00:04:20,928
स्वायत्त शस्त्र प्रणालींच्या विकासावर जगभरात बंदी घातली पाहिजे.

40
00:04:20,928 --> 00:04:31,179
कृत्रिम बुद्धिमत्ता क्षेत्रातील २,५०० पेक्षा जास्त
संशोधक आणि १७६ संस्थांनी स्वायत्त घातक शस्त्र प्रणालींवर

41
00:04:31,179 --> 00:04:37,216
संशोधन न करण्याची स्वैच्छिक बांधिलकी आधीच स्वीकारली आहे.

42
00:04:37,216 --> 00:04:45,651
स्वाक्षरी करून, सहभागी "स्वायत्त घातक
शस्त्रांच्या विकास, उत्पादन, व्यापार किंवा वापराला समर्थन

43
00:04:45,651 --> 00:04:50,960
किंवा योगदान देणार नाहीत" अशी बांधिलकी स्वीकारतात.

44
00:04:50,960 --> 00:04:53,700
तथापि, अनेक मोठी नावे गहाळ आहेत.

45
00:04:53,700 --> 00:05:01,750
गुगलनेही आणि गुगलची होल्डिंग कंपनी अल्फाबेटनेही या
स्वैच्छिक वचनबद्धतेवर स्वाक्षरी केलेली नाही; प्रसिद्ध रोबोट

46
00:05:01,750 --> 00:05:06,784
मॉडेल्सचे उत्पादक बॉस्टन डायनॅमिक्सही आतापर्यंत या यादीत नाही.

47
00:05:06,784 --> 00:05:10,464
संबंधित संरक्षण कंपन्या देखील अनुपस्थित आहेत.

48
00:05:10,464 --> 00:05:19,092
त्यामुळे कार्यकर्त्यांचे उद्दिष्ट स्वायत्त
शस्त्रांच्या धोक्यांकडे सर्वसामान्य जनतेचे लक्ष वेधून,

49
00:05:19,092 --> 00:05:24,200
स्वाक्षरीदारांच्या वर्तुळापलीकडेही परिणाम साधणे आहे.

50
00:05:24,200 --> 00:05:35,160
"Slaughterbots" नावाचा एक लघुपट दाखवतो की स्वायत्त
शस्त्रे आधीच किती विनाशकारीपणे प्रभावी असू शकतात.

51
00:05:35,160 --> 00:05:44,104
अमेरिकेतील Future of Life Institute (FLI), ज्याचा
उद्देश मानवजातीसाठी अस्तित्वात्मक धोके कमी करणे आहे,

52
00:05:44,104 --> 00:05:49,664
यांनी हा व्हिडिओ १२ नोव्हेंबर २०१७ रोजी प्रकाशित केला.

53
00:05:49,664 --> 00:05:53,906
काही आठवड्यांत त्यावर लाखो वेळा क्लिक झाले होते.

54
00:05:53,906 --> 00:06:00,802
हे उदाहरणार्थ, प्रणालीचे टीकाकार किंवा अवांछित
जातीय गटांना एका क्षणात कसे निर्मूलन केले जाऊ

55
00:06:00,802 --> 00:06:05,353
शकते, याचे काल्पनिक, थरारक पूर्वावलोकन प्रदान करते.

56
00:06:05,353 --> 00:06:08,896
निष्कर्ष: हे तंत्रज्ञान थांबवा!

57
00:06:08,896 --> 00:06:12,880
येथे व्हिडिओमधील काही उतारे आहेत:

58
00:06:14,580 --> 00:06:22,740
आमच्या ग्राहकांच्या पायलटांनी गेल्या वर्षी सुमारे ३,०००
अचूक हल्ले केले, आणि आम्हाला त्याचा अत्यंत अभिमान आहे.

59
00:06:22,740 --> 00:06:27,000
हे तुम्हाला वाईट लोकांना चांगल्या
लोकांपासून वेगळे करण्यास अनुमती देते.

60
00:06:27,000 --> 00:06:33,340
हे मोठी गोष्ट आहे. पण आमच्याकडे त्यापेक्षा खूप मोठी गोष्ट आहे.

61
00:06:37,393 --> 00:06:43,980
तुमच्या मुलांकडे कदाचित यापैकी एक असेल, बरोबर ना? अगदी तसं नाही.

62
00:06:45,920 --> 00:06:49,248
एक धाडसी पायलट? नाही.

63
00:06:49,248 --> 00:06:54,848
ही क्षमता पूर्णपणे AI – कृत्रिम
बुद्धिमत्तेबद्दल आहे. ती स्वतःच उडते.

64
00:06:54,848 --> 00:06:59,220
त्याचा प्रोसेसर मानवीपेक्षा शंभरपट वेगाने प्रतिक्रिया देऊ शकतो.

65
00:06:59,220 --> 00:07:04,760
स्टोकास्टिक हालचाल स्नायपर-विरोधी मोडमध्ये आहे.

66
00:07:08,506 --> 00:07:13,560
आजकालच्या इतर कोणत्याही मोबाइल
उपकरणाप्रमाणेच, त्यात कॅमेरे आणि सेन्सर्स असतात.

67
00:07:13,560 --> 00:07:19,552
आणि जसे तुमचे मोबाइल फोन आणि सोशल मीडिया अॅप्स
असतात, तसे यातही चेहरा ओळखण्याची सुविधा आहे.

68
00:07:19,552 --> 00:07:26,080
येथे तीन ग्रॅम विशेष स्फोटक आहे.

69
00:07:26,080 --> 00:07:40,880
आणि हे असे काम करते. तुम्ही ते पाहिले का?

70
00:07:40,880 --> 00:07:48,606
हा छोटासा शॉट खोपडीच्या वरच्या भागाला भेदून
त्यामागील सर्वकाही नष्ट करण्यासाठी पुरेसा आहे.

71
00:07:48,606 --> 00:07:52,599
असे अनेकदा म्हटले जाते की लोकांना
मारणारी शस्त्रे नसून, लोकच असतात.

72
00:07:52,599 --> 00:07:54,233
बरं, ते फक्त करत नाहीत.

73
00:07:54,233 --> 00:07:58,752
ते भावनिक होतात, आदेशांचे उल्लंघन करतात,
जानबूजून त्यांच्या लक्ष्यांना चुकवतात.

74
00:07:58,752 --> 00:08:03,295
तर पाहूया की येथे शस्त्रे निर्णय कशी घेतात.

75
00:08:03,295 --> 00:08:08,379
आता माझ्यावर विश्वास ठेवा – ते सर्व वाईट लोक होते.

76
00:08:11,712 --> 00:08:18,453
तो शस्त्रक्रियात्मक अचूकतेचा हवाई हल्ला
होता. हे उत्पादनांच्या संपूर्ण श्रेणीतील एक आहे.

77
00:08:18,453 --> 00:08:24,317
झुंड म्हणून प्रोग्राम केलेल्या या वस्तू इमारती, कार आणि
ट्रेनमध्ये घुसखोरी करू शकतात, लोकांना आणि गोळ्यांना चुकवू शकतात,

78
00:08:24,317 --> 00:08:27,120
आणि जवळजवळ कोणत्याही प्रतिबंधक उपायांना अयशस्वी करू शकतात.

79
00:08:27,120 --> 00:08:34,820
त्यांना थांबवता येणार नाही. बरं, मी म्हटलं: छान आहे.

80
00:08:34,820 --> 00:08:41,273
का? कारण आम्ही मोठ्या प्रमाणात विचार करतो. एक नजर टाका:

81
00:08:43,260 --> 00:08:47,733
२० दशलक्ष पौंडांच्या कराराने त्यांना हे मिळते.

82
00:08:47,733 --> 00:08:53,312
गावातील वाईट अर्ध्याला मारून टाकण्यासाठी पुरेसे.

83
00:08:53,312 --> 00:08:55,936
परमाणु ऊर्जा – ही जुनी बातमी आहे.

84
00:08:55,936 --> 00:09:00,679
तुमचा संपूर्ण शत्रू नष्ट करा – जवळजवळ कोणत्याही जोखमीशिवाय.

85
00:09:00,679 --> 00:09:05,880
फक्त त्याचं वर्णन करा, तुझ्या क्रशला सोडून दे आणि आराम करा.

86
00:09:05,880 --> 00:09:09,860
१२३४३२१ मूर्ख शस्त्रे तुम्ही ज्या
दिशेने दाखवाल तिथेच हल्ला करतात.

87
00:09:09,860 --> 00:09:13,240
बुद्धिमान शस्त्रे डेटा प्रक्रिया करतात.

88
00:09:13,240 --> 00:09:20,596
जर तुम्ही डेटाच्या मदतीने – अगदी हॅशटॅगच्या
साहाय्यानेही – तुमचा शत्रू शोधू शकत असाल, तर तुम्ही क्रूर

89
00:09:20,596 --> 00:09:26,393
विचारसरणीला तिच्या सुरुवातीच्या टप्प्यातच प्रहार करू शकता.

90
00:09:29,408 --> 00:09:32,266
हा लघुपट फक्त अटकळपेक्षा अधिक आहे.

91
00:09:32,266 --> 00:09:38,000
हे आपल्याकडे आधीपासूनच असलेल्या तंत्रज्ञानांचे एकत्रीकरण
आणि सूक्ष्मीकरण करून मिळालेल्या परिणामांचे दर्शन घडवते.

92
00:09:38,000 --> 00:09:40,980
मी स्टुअर्ट रसेल आहे, बर्कले येथील संगणकशास्त्राचा प्राध्यापक.

93
00:09:40,980 --> 00:09:44,666
मी ३५ वर्षांहून अधिक काळ कृत्रिम
बुद्धिमत्ता (AI) या क्षेत्रात काम करत आहे.

94
00:09:44,666 --> 00:09:47,980
मानवतेच्या हितासाठी त्यांची क्षमता प्रचंड आहे, संरक्षणातही.

95
00:09:47,980 --> 00:09:54,140
पण यंत्रांना लोकांना ठार मारण्याचा निर्णय घेऊ देणे
आपल्या सुरक्षा आणि स्वातंत्र्यासाठी विनाशकारी ठरेल.

96
00:09:54,140 --> 00:09:56,726
माझ्या हजारो सहकाऱ्यांना याबद्दल सहमत आहेत.

97
00:09:56,726 --> 00:10:01,967
तुम्हाला नुकताच दाखवलेली ही भविष्यकाळ
टाळण्याची संधी अजूनही आपल्याकडे आहे, परंतु

98
00:10:01,967 --> 00:10:04,980
कारवाईसाठीची संधीची खिडकी वेगाने बंद होत आहे!