WEBVTT 00:00.000 --> 00:07.220 Zam otonòm – dènye bastyon elit finansye mondyal la dwe tonbe! 00:07.220 --> 00:15.360 Zam otonòm pran desizyon epi aji endepandamman ak èd entèlijans atifisyèl, san entèvansyon imen. 00:15.360 --> 00:22.320 Malgre yo toujou an devlopman, yo deja kenbe kominote entènasyonal la nan tansyon. 00:22.320 --> 00:26.220 Ki sa egzakteman sa a ye e ki pwoblèm nan? 00:26.220 --> 00:33.344 Zam otonòm, yo rele tou robo asasen, konsidere kòm "twazyèm revolisyon nan lagè". 00:33.344 --> 00:42.990 Menm jan ak envansyon poud zam ak zam nikleyè nan tan lontan, sistèm zam otonòm yo ap chanje radikalman nati lagè a. 00:42.990 --> 00:46.480 Zam otonòm se sistèm ki fonksyone endepandamman. 00:46.480 --> 00:56.213 Yo pwograme pou idantifye ak atake sib yo lè l sèvi avèk entèlijans atifisyèl epi san okenn kontwòl imen. 00:56.213 --> 01:05.913 Sa yo ka dron san pilòt, men tou bato, tank, lansè fize, robo ak lòt zam. 01:05.913 --> 01:16.000 Sistèm zam totalman otonòm ki gen entèlijans atifisyèl adaptab poko ofisyèlman fè pati entegral lame mondyal yo. 01:16.000 --> 01:25.432 Depi 2014, Nasyonzini ap fè chita pale nan Jenèv, kote 75 nasyon ap negosye yon entèdiksyon sou 01:25.432 --> 01:31.424 sistèm zam otonòm letal pou reglemante robo asasen yo. 01:31.424 --> 01:37.860 Yon akò pa reyalis paske kèk peyi ap pouswiv pwòp enterè yo. 01:37.860 --> 01:47.546 Dapre aktivis pou lapè, 26 peyi an favè entèdi zam konsa, pami yo Otrich ak tout peyi an devlopman. 01:47.546 --> 01:51.776 Lachin te pran lapawòl pou l sipòte yon entèdiksyon sou itilizasyon li. 01:51.776 --> 01:56.973 Daprè sa yo rapòte, Etazini totalman opoze ak restriksyon sou devlopman. 01:56.973 --> 02:07.560 Genyen tou konpayi an Almay ki enplike nan devlopman sa a, sa ki ap alimante plis kous zam entènasyonal la. 02:07.560 --> 02:10.997 Men poukisa yo tèlman ap chèche zam otonòm? 02:10.997 --> 02:19.460 Dapre estatistik ofisyèl Lame Etazini, plis sòlda ameriken mouri kounye a pa swisid pase pa aksyon lènmi. 02:19.460 --> 02:27.887 Yo prèske pa ka idantifye tèt yo ak sa yo rele lagè "imanitè" yo, ki an reyalite pa plis pase lagè agresyon ki baze sou 02:27.887 --> 02:36.672 estrateji pouvwa, epi yo soufri dilèm moral pou tout lavi akoz lagè mechan sa yo, enkli kont popilasyon sivil la. 02:36.672 --> 02:46.020 Veteran lagè yo ap retounen meday yo an foul paske yo wont pou zak lagè yo e yo montre gwo remò. 02:46.020 --> 02:54.735 Menm pilòt dron yo, ki touye moun depi nan biwo yo tankou y ap jwe yon jwèt sou òdinatè epi ki montre mwens 02:54.735 --> 03:00.220 konpasyon akoz yo twò lwen batay la, vin bouke apre kèk ane. 03:00.220 --> 03:07.420 Plizyè dizèn ane etid sikolojik montre tou ke sòlda nan konba yo pifò pa tire sou sòlda 03:07.420 --> 03:12.340 lènmi yo ditou, men yo entansyonèlman rate sib yo. 03:12.340 --> 03:18.752 Sa fè li klè ke moun pa, pa nati yo menm, "machin lagè". 03:18.752 --> 03:25.440 Mouvman ak rasanbleman pou lapè atravè lemond mete aksan sou reyalite sa a. 03:25.440 --> 03:35.545 Pou moun ki swaf pouvwa ak chache lagè, ansanm ak mèt marionèt mondyal ki dèyè yo, sistèm zam otonòm, sètadi robo asasen, nesesè 03:35.545 --> 03:42.651 pou yo fonksyone san fay e san konpwomi – san poze kesyon, san konpasyon, san konsyans, pa 03:42.651 --> 03:47.440 pi piti kòm pwoteksyon kont foul moun an kòlè. 03:47.440 --> 03:56.813 Sa a se paske plis ak plis moun kòmanse konprann kontèks mondyal la e yo pa vle ankò pou yo eksplwate yo ak manipile yo. 03:56.813 --> 04:10.660 Lòm pa pral aksepte kontwòl sou tout sistèm monetè a, tout gouvènman, peyi ak resous yo nan men kèk fanmi pou yon tan long. 04:10.660 --> 04:15.680 Aktivis pou lapè tout kalite ak tout nasyonalite ap sonnen alam: 04:15.680 --> 04:20.928 Devlopman sistèm zam otonòm yo dwe entèdi atravè lemond. 04:20.928 --> 04:30.917 Plis pase 2,500 chèchè ak 176 òganizasyon nan domèn entèlijans atifisyèl deja siyen yon angajman 04:30.917 --> 04:37.216 volontè pou pa fè rechèch sou sistèm zam letal otonòm. 04:37.216 --> 04:45.272 Lè yo siyen, patisipan yo angaje yo pou yo ni pa sipòte, ni pa kontribye nan devlopman, 04:45.272 --> 04:50.960 pwodiksyon, komès oswa itilizasyon zam otonòm letal. 04:50.960 --> 04:53.700 Sepandan, anpil gwo non manke. 04:53.700 --> 05:02.084 Ni Google ni konpayi matènèl li a, Alphabet, pa siyen angajman volontè a; Boston Dynamics, manifakti 05:02.084 --> 05:06.784 modèl robo ki renome yo, poko sou lis la non plis. 05:06.784 --> 05:10.464 Konpayi defans ki enpòtan yo tou pa la. 05:10.464 --> 05:19.220 Bi aktivis yo se kidonk pou gen yon enpak ki depase anpil sèk siyatè yo, lè yo atire 05:19.220 --> 05:24.200 atansyon piblik la sou danje zam otonòm yo. 05:24.200 --> 05:35.160 Yon ti fim ki rele "Slaughterbots" montre jis ki jan zam otonòm yo deja ka efikas ak devastatè. 05:35.160 --> 05:44.179 Enstiti Future of Life (FLI), ki baze Ozetazini e ki gen pou objektif diminye risk ekzistansyèl 05:44.179 --> 05:49.664 pou limanite, te pibliye videyo a 12 novanm 2017. 05:49.664 --> 05:53.906 Nan kèk semèn, yo te klike sou li plizyè milyon fwa. 05:53.906 --> 06:01.102 Sa a bay yon apèsi fiksyonèl ak avètisman sou kijan, pa egzanp, kritik sistèm nan oswa gwoup 06:01.102 --> 06:05.353 etnik endezirab ta ka elimine nan yon bat je. 06:05.353 --> 06:08.896 Konklizyon: Sispann teknoloji sa a! 06:08.896 --> 06:12.880 Men kèk ekstrè ki soti nan videyo a: 06:14.580 --> 06:22.740 pilòt kliyan nou yo te fè prèske 3,000 frap presizyon ane pase a, e nou ekstrèmman fyè de sa. 06:22.740 --> 06:27.000 Li pèmèt ou separe mechan yo ak bon yo. 06:27.000 --> 06:33.340 Se yon gwo bagay. Men nou gen yon bagay ki pi gwo anpil. 06:37.393 --> 06:43.980 Pitit ou yo pwobableman gen youn nan sa yo, pa vre? Pa vrèman. 06:45.920 --> 06:49.248 Yon pilòt odasye? Non. 06:49.248 --> 06:54.848 Kapasite sa a se tout sou entèlijans atifisyèl (AI). Li vole poukont li. 06:54.848 --> 06:59.220 Pwosesè li a ka reyaji san fwa pi vit pase yon moun. 06:59.220 --> 07:04.760 Mouvman stokastik la nan mòd anti-snaypè. 07:08.506 --> 07:13.560 Menm jan ak nenpòt lòt aparèy mobil jodi a, li gen kamera ak detektè. 07:13.560 --> 07:19.552 E menm jan ak telefòn mobil ou yo ak aplikasyon rezo sosyal yo, li genyen tou rekonesans figi. 07:19.552 --> 07:26.080 Gen twa gram eksplozif espesyal isit la. 07:26.080 --> 07:40.880 Epi se konsa li mache. Èske ou te wè sa? 07:40.880 --> 07:48.606 Ti piki sa a ase pou pèse tèt zo a epi detwi tout sa ki dèyè li. 07:48.606 --> 07:52.599 Yo souvan di se pa zam ki touye moun, men se moun ki touye moun. 07:52.599 --> 07:54.233 Bon, yo jis pa fè l. 07:54.233 --> 07:58.752 Yo vin emosyonèl, yo dezobeyi lòd, yo fè espre rate sib yo. 07:58.752 --> 08:03.295 Kidonk, ann wè kijan zam yo pran desizyon isit la. 08:03.295 --> 08:08.379 Kounye a, kwè m – yo tout te move nèg. 08:11.712 --> 08:18.453 Sa te yon atak ayeryen ki te gen presizyon chirijikal. Se youn nan yon seri pwodwi. 08:18.453 --> 08:24.152 Pwograme kòm yon bann, bagay sa yo ka antre nan bilding, machin ak tren, evite moun ak 08:24.152 --> 08:27.120 bal, epi kontrekare prèske tout mezi kont yo. 08:27.120 --> 08:34.820 Yo pa ka kanpe. Bon, mwen te di: Sa a bèl. 08:34.820 --> 08:41.273 Poukisa? Paske nou panse an gwo. Gade: 08:43.260 --> 08:47.733 Yon kontra 20 milyon liv achte sa a pou yo. 08:47.733 --> 08:53.312 Asè pou touye mwatye vil la, mwatye mechan an. 08:53.312 --> 08:55.936 Enèji nikleyè – sa se yon nouvèl demode. 08:55.936 --> 09:00.679 Elimine tout lènmi ou – prèske san okenn risk. 09:00.679 --> 09:05.880 Jis karakterize li, lage kè w sou li epi detann ou. 09:05.880 --> 09:09.860 Zam estipid frape kèlkeswa kote ou vize yo. 09:09.860 --> 09:13.240 Zam entèlijan trete done. 09:13.240 --> 09:26.393 Si ou ka jwenn lènmi w la ak èd done – menm ak yon hashtag – ou ka frape yon ideyoloji mechan jis kote li kòmanse. 09:29.408 --> 09:32.266 Kout fim sa a plis pase jis espekilasyon. 09:32.266 --> 09:38.000 Li demontre rezilta entegrasyon ak miniaturizasyon teknoloji nou deja genyen. 09:38.000 --> 09:40.980 Mwen se Stuart Russell, Pwofesè Syans Enfòmatik nan Berkeley. 09:40.980 --> 09:44.666 Mwen ap travay sou entèlijans atifisyèl (AI) depi plis pase 35 ane. 09:44.666 --> 09:47.980 Potansyèl yo pou benefis limanite a se enòmen, enkli nan defans. 09:47.980 --> 09:54.140 Men, li pral devastatè pou sekirite ak libète nou si nou kite machin deside touye moun. 09:54.140 --> 09:56.726 Dè milye nan kòlèg mwen yo dakò sou sa. 09:56.726 --> 10:04.980 Nou toujou gen opòtinite pou anpeche lavni sa a yo sot montre w la, men fenèt opòtinite pou aji ap fèmen rapid!