WEBVTT 00:00.000 --> 00:07.220 Автономды қарулар – жаһандық қаржылық элитаның соңғы бекінісі құлауы тиіс! 00:07.220 --> 00:15.360 Автономды қарулар жасанды интеллекттің көмегімен адам араласуынсыз шешім қабылдап, өз бетінше әрекет етеді. 00:15.360 --> 00:22.320 Олар әлі даму үстінде болса да, халықаралық қауымдастықты әлі күнге дейін қызықтырып келеді. 00:22.320 --> 00:26.220 Бұл нақты не туралы және мәселе неде? 00:26.220 --> 00:33.344 Автономды қарулар, сондай-ақ «кісі өлтіретін роботтар» деп аталады, соғыстағы «үшінші революция» саналады. 00:33.344 --> 00:42.990 Өткенде барқытты және ядролық қарудың өнертабысы сияқты, автономды қару жүйелері соғыс сипатын түбегейлі өзгертіп жатыр. 00:42.990 --> 00:46.480 Автономды қарулар – өз бетінше жұмыс істейтін жүйелер. 00:46.480 --> 00:56.213 Олар жасанды интеллектті пайдалана отырып және адам бақылауысыз мақсаттарды анықтап, оларға шабуыл жасауға бағдарламаланған. 00:56.213 --> 01:05.913 Бұл ұшқышсыз дрон болуы мүмкін, сондай-ақ кемелер, танктер, зымыран атқыштар, роботтар және басқа да қарулар болуы мүмкін. 01:05.913 --> 01:12.242 Толық автономды қару жүйелері бейімделгіш жасанды интеллектпен әлі ресми түрде әлемдік 01:12.242 --> 01:16.000 армиялардың ажырамас бөлігіне айналған жоқ. 01:16.000 --> 01:23.412 2014 жылдан бері Біріккен Ұлттар Ұйымы Женевада келіссөздер өткізіп келеді, онда 75 мемлекет өлімге әкелетін 01:23.412 --> 01:31.424 автономды қару жүйелеріне тыйым салу туралы келіссөздер жүргізіп, өлтіруші роботтарды реттеуді мақсат етеді. 01:31.424 --> 01:37.860 Келісім мүмкін емес, себебі кейбір елдер өз мүдделерін көздейді. 01:37.860 --> 01:43.791 Бейбітшілік белсенділерінің айтуынша, Австрия мен барлық дамушы елдерді қоса алғанда, 01:43.791 --> 01:47.546 26 ел мұндай қаруларды тыйым салуды қолдайды. 01:47.546 --> 01:51.776 Қытай оның қолданылуына тыйым салуды қолдады. 01:51.776 --> 01:56.973 АҚШ, хабарланғандай, дамуға қойылатын шектеулерге мүлде қарсы. 01:56.973 --> 02:07.560 Сонымен қатар, Германияда осы дамумен айналысатын компаниялар бар, олар осылайша халықаралық қару жарысын одан әрі өршілдетеді. 02:07.560 --> 02:10.997 Бірақ автономды қарулар неге соншалықты сұранысқа ие? 02:10.997 --> 02:15.664 АҚШ әскерінің ресми статистикасына сәйкес, қазіргі уақытта АҚШ сарбаздарының көбі жау 02:15.664 --> 02:19.460 әрекеттерінен гөрі өз-өзіне қол жұмсаудан қаза табады. 02:19.460 --> 02:25.839 Олар өздерін «гуманитарлық» деп аталатын соғыстармен мүлде сәйкестендіре алмайды, себебі шын мәнінде бұл соғыстар – билік 02:25.839 --> 02:30.899 стратегияларына негізделген агрессиялық соғыстар ғана, және азаматтық тұрғындарға қарсы жасалған 02:30.899 --> 02:36.672 қатыгездіктерді қоса алғанда, соғыстың салдарынан өмір бойы моральдық дилеммаларға тап болады. 02:36.672 --> 02:46.020 Соғыс ардагерлері соғыс әрекеттеріне ұялып, терең өкініш білдіріп, медальдарын жаппай қайтарып жатыр. 02:46.020 --> 02:54.906 Тіпті компьютерлік ойын ойнап отырғандай үстелдерінен адам өлтіріп, шайқас алаңынан алыс болғандықтан мейірімсіздік 02:54.906 --> 03:00.220 танытатын дрондар ұшқыштары да бірнеше жылдан кейін «тозады». 03:00.220 --> 03:08.030 Психологиялық зерттеулердің онжылдықтары сонымен қатар көрсеткендей, шайқас кезінде сарбаздар көбінесе жау сарбаздарына 03:08.030 --> 03:12.340 мүлде нысанаға алмайды, ал әдейі қасына атып жібереді. 03:12.340 --> 03:18.752 Бұл адамзаттың түпкі табиғаты бойынша «соғыс машиналары» еместігін айқын көрсетеді. 03:18.752 --> 03:25.440 Әлемдік бейбітшілік қозғалыстары мен митингтері осыны айқын көрсетеді. 03:25.440 --> 03:35.448 Энергияға құмар соғысқұмарлар мен олардың артындағы жаһандық қуыршақ шеберлері үшін автономды қару жүйелері, яғни өлтіруші 03:35.448 --> 03:41.846 роботтар, мінсіз әрі қатаң түрде жұмыс істеуі тиіс – сұрақ қоймай, мейірімсіз, 03:41.846 --> 03:47.440 ар-ұждансыз, сондай-ақ ашулы көпшіліктен қорғану үшін. 03:47.440 --> 03:53.117 Бұл себебі барған сайын көбірек адамдар жаһандық өзара тәуелділікті түсіне бастады және енді 03:53.117 --> 03:56.813 пайдаланылып, манипуляцияға ұшырауға дайын емес. 03:56.813 --> 04:04.659 Адамзат ұзақ мерзімде бүкіл ақша-несие жүйесін, барлық үкіметтерді, елдерді және олардың 04:04.659 --> 04:10.660 ресурстарын бірнеше отбасының қолында болуын қабылдамайды. 04:10.660 --> 04:15.680 Сондықтан барлық түріндегі және барлық ұлт өкілдері бейбітшілік белсенділері дабыл қағып жатыр: 04:15.680 --> 04:20.928 Автономды қару жүйелерін әзірлеу бүкіл әлемде тыйым салынуы тиіс. 04:20.928 --> 04:31.714 Жасанды интеллект саласындағы 2 500-ден астам зерттеуші мен 176 ұйым автономды өлімге әкелетін қару жүйелері бойынша зерттеулер 04:31.714 --> 04:37.216 жүргізбеу туралы ерікті міндеттемені бұрыннан қол қойған. 04:37.216 --> 04:45.702 Қол қою арқылы қатысушылар автономды өлімге әкелетін қаруларды әзірлеуге, өндіруге, саудаға немесе қолдануға 04:45.702 --> 04:50.960 қолдау көрсетпеуге және оған үлес қоспауға міндеттенеді. 04:50.960 --> 04:53.700 Дегенмен, көптеген ірі есімдер жоқ. 04:53.700 --> 05:01.680 Google да, Google-дың холдингтік компаниясы Alphabet те ерікті міндеттемені қол қойған жоқ; әйгілі робот 05:01.680 --> 05:06.784 модельдерінің өндірушісі Boston Dynamics те әлі тізімде жоқ. 05:06.784 --> 05:10.464 Тиісті қорғаныс компаниялары да жоқ. 05:10.464 --> 05:18.781 Сондықтан белсенділердің мақсаты – қол қоюшылар шеңберінен әлдеқайда тыс әсер ету үшін автономды 05:18.781 --> 05:24.200 қарулардың қауіптеріне жалпы жұртшылықтың назарын аудару. 05:24.200 --> 05:35.160 «Slaughterbots» деп аталатын қысқа метражды фильм автономды қарулардың қаншалықты жойқын тиімді бола алатынын көрсетеді. 05:35.160 --> 05:44.131 АҚШ-та орналасқан «Өмірдің болашағы институты» (FLI), адамзатқа төндіретін экзистенциалдық қауіп-қатерлерді азайтуды 05:44.131 --> 05:49.664 мақсат ететін ұйым, 2017 жылғы 12 қарашада видеоны жариялады. 05:49.664 --> 05:53.906 Бірнеше апта ішінде оған миллиондаған рет басылды. 05:53.906 --> 06:00.935 Бұл, мысалы, жүйенің сыншылары немесе қалаусыз этникалық топтарды көз ілеспес сәтте жойып жіберудің қалай жүзеге 06:00.935 --> 06:05.353 асырылатынын көрсететін қиялдағы, үрейлі алдын ала көрініс. 06:05.353 --> 06:08.896 Қорытынды: Осы технологияны тоқтатыңыз! 06:08.896 --> 06:12.880 Міне, видеодан алынған бірнеше үзінді: 06:14.580 --> 06:22.740 клиенттеріміздің ұшқыштары өткен жылы шамамен 3000 дәл соққы жасады, және біз бұған аса мақтанамыз. 06:22.740 --> 06:27.000 Бұл сізге жамандарды жақсылардан ажыратуға мүмкіндік береді. 06:27.000 --> 06:33.340 Бұл үлкен мәселе. Бірақ бізде әлдеқайда үлкені бар. 06:37.393 --> 06:43.980 Сіздің балаларыңызда, бәлкім, осындай біреу бар шығар, иә? Толықтай емес. 06:45.920 --> 06:49.248 Батыл ұшқыш па? Жоқ. 06:49.248 --> 06:54.848 Бұл мүмкіндік толығымен жасанды интеллектке – AI – негізделген. Ол өздігінен ұшады. 06:54.848 --> 06:59.220 Оның процессоры адамнан жүз есе жылдам әрекет ете алады. 06:59.220 --> 07:04.760 Стохастикалық қозғалыс снайперге қарсы режимде. 07:08.506 --> 07:13.560 Қазіргі таңда кез келген басқа ұялы құрылғы сияқты, онда камералар мен сенсорлар бар. 07:13.560 --> 07:19.552 Және де сіздің ұялы телефондарыңыз бен әлеуметтік желілер қолданбаларыңыз сияқты, онда да бет-әлпетін тану функциясы бар. 07:19.552 --> 07:26.080 Мұнда үш грамм арнайы жарылғыш зат бар. 07:26.080 --> 07:40.880 Міне, осылай жұмыс істейді. Сен оны көрдің бе? 07:40.880 --> 07:48.606 Бұл кішкентай оқ бас сүйегінің үстін тесіп өтіп, артындағы бәрін жояды. 07:48.606 --> 07:52.599 Көбінесе қару адамдарды өлтірмейді, адамдар адамдарды өлтіреді делінеді. 07:52.599 --> 07:54.233 Жарайды, олар оны жай ғана істемейді. 07:54.233 --> 07:58.752 Олар эмоционалдық күйге түседі, бұйрықтарға бағынбайды, мақсатты әдейі дәл тигізбейді. 07:58.752 --> 08:03.295 Сонымен, қарулар мұнда шешімдерді қалай қабылдайтынын көрейік. 08:03.295 --> 08:08.379 Енді маған сеніңіз – олар бәрі де жаман жігіттер еді. 08:11.712 --> 08:18.453 Бұл хирургиялық дәлдіктегі әуе соққысы болды. Бұл өнімдердің кең ауқымындағы бір ғана өнім. 08:18.453 --> 08:24.178 Легіндey бағдарламаланған бұл заттар ғимараттарға, автокөліктерге және пойыздарға еніп, адамдар мен оқтардан 08:24.178 --> 08:27.120 айналып өтіп, дерлік кез келген қарсы шараны бұза алады. 08:27.120 --> 08:34.820 Оларды тоқтату мүмкін емес. Жарайды, мен айттым: Бұл керемет. 08:34.820 --> 08:41.273 Неге? Өйткені біз ауқымды ойлаймыз. Қарап көріңіз: 08:43.260 --> 08:47.733 20 миллион фунт стерлингтік келісім-шарт оларға осыны сатып алады. 08:47.733 --> 08:53.312 Қаланың жаман жартысын жоюға жеткілікті. 08:53.312 --> 08:55.936 Ядролық энергетика – бұл ескі жаңалық. 08:55.936 --> 09:00.679 Дұшпаныңды түгелдей жой – іс жүзінде ешқандай қауіпсіз. 09:00.679 --> 09:05.880 Тек оның мінезін сипаттап бер, сүйіспеншілігіңнен бас тартып, босаңсып демал. 09:05.880 --> 09:09.860 Ақымақ қарулар сен оларды қай жаққа бағыттасаң, сол жерге соққы береді. 09:09.860 --> 09:13.240 Ақылды қарулар деректерді өңдейді. 09:13.240 --> 09:20.105 Егер деректердің көмегімен – тіпті хэштег арқылы – жауды таба алсаңыз, зұлым 09:20.105 --> 09:26.393 идеологияны дәл басталған жерінде соққы бере аласыз. 09:29.408 --> 09:32.266 Бұл қысқа фильм тек болжамнан әлдеқайда артық. 09:32.266 --> 09:38.000 Бұл бізде бар технологияларды біріктіру мен миниатюризациялау нәтижелерін көрсетеді. 09:38.000 --> 09:40.980 Мен Стюарт Расселлмін, Берклидегі Компьютерлік ғылымдар профессоры. 09:40.980 --> 09:44.666 Мен 35 жылдан астам уақыттан бері жасанды интеллект (AI) саласында жұмыс істеп келемін. 09:44.666 --> 09:47.980 Олардың адамзат пайдасына, соның ішінде қорғаныс саласындағы әлеуеті зор. 09:47.980 --> 09:54.140 Бірақ машиналарға адамдарды өлтіруге шешім қабылдауға мүмкіндік беру біздің қауіпсіздігіміз бен бостандығымыз үшін апатты болады. 09:54.140 --> 09:56.726 Менің мыңдаған әріптестерім осыған келіседі. 09:56.726 --> 10:02.053 Сізге енді ғана көрсетілген осы болашақты болдырмауға әлі мүмкіндігіміз бар, бірақ іс-қимыл 10:02.053 --> 10:04.980 жасауға берілген мүмкіндік терезесі тез жабылуда!