WEBVTT 00:00.000 --> 00:07.220 Armes autònomes – l'últim bastió de l'elit financera mundial ha de caure! 00:07.220 --> 00:11.913 Les armes autònomes prenen decisions i actuen de manera independent amb l'ajuda de la 00:11.913 --> 00:15.360 intel·ligència artificial, sense intervenció humana. 00:15.360 --> 00:22.320 Tot i que encara estan en desenvolupament, ja mantenen la comunitat internacional en suspens. 00:22.320 --> 00:26.220 De què tracta exactament això i quin és el problema? 00:26.220 --> 00:33.344 Armes autònomes, també conegudes com a robots assassins, es consideren la "tercera revolució en la guerra". 00:33.344 --> 00:39.202 Igual que la invenció de la pólvora i de les armes nuclears en el passat, els sistemes d'armes autònomes 00:39.202 --> 00:42.990 estan canviant radicalment la naturalesa de la guerra. 00:42.990 --> 00:46.480 Les armes autònomes són sistemes que operen de manera independent. 00:46.480 --> 00:56.213 Estan programats per identificar i atacar objectius utilitzant intel·ligència artificial i sense control humà. 00:56.213 --> 01:05.913 Aquests poden ser drons no tripulats, però també vaixells, tancs, llançadors de coets, robots i altres armes. 01:05.913 --> 01:12.226 Els sistemes d'armes totalment autònoms amb intel·ligència artificial adaptativa encara no formen 01:12.226 --> 01:16.000 oficialment part integral dels exèrcits mundials. 01:16.000 --> 01:25.522 Des del 2014, les Nacions Unides han celebrat converses a Ginebra, on 75 països negocien una prohibició dels sistemes 01:25.522 --> 01:31.424 d'armes autònomes letals per tal de regular els robots assassins. 01:31.424 --> 01:37.860 Un acord és irrealista perquè alguns països persegueixen els seus propis interessos. 01:37.860 --> 01:43.293 Segons els activistes per la pau, 26 països estan a favor de prohibir aquestes armes, 01:43.293 --> 01:47.546 incloent-hi Àustria i tots els països en desenvolupament. 01:47.546 --> 01:51.776 La Xina s'ha pronunciat a favor de prohibir-ne l'ús. 01:51.776 --> 01:56.973 Segons s'informa, els EUA s'oposen completament a les restriccions al desenvolupament. 01:56.973 --> 02:03.398 També hi ha empreses a Alemanya que estan implicades en aquest desenvolupament, alimentant així 02:03.398 --> 02:07.560 encara més la cursa armamentística internacional. 02:07.560 --> 02:10.997 Però per què les armes autònomes són tan cobejades? 02:10.997 --> 02:15.568 Segons les estadístiques oficials de l'Exèrcit dels Estats Units, actualment més soldats 02:15.568 --> 02:19.460 nord-americans moren per suïcidi que per accions enemigues. 02:19.460 --> 02:26.498 Amb prou feines es poden identificar amb les anomenades guerres "humanitàries", que en realitat no són res més que guerres 02:26.498 --> 02:32.787 d'agressió lliurades pel poder estratègic, i pateixen remordiments de consciència per tota la vida a causa de 02:32.787 --> 02:36.672 la guerra cruel, inclosa la contra la població civil. 02:36.672 --> 02:42.384 Els veterans de guerra estan retornant les seves medalles en massa perquè se senten avergonyits dels 02:42.384 --> 02:46.020 actes de guerra i mostren un profund remordiment. 02:46.020 --> 02:52.611 Fins i tot els pilots de drons, que maten des dels seus escriptoris com si juguessin a un videojoc i 02:52.611 --> 03:00.220 mostren menys compassió a causa de la seva distància del combat, estan «esgotats» després d'uns quants anys. 03:00.220 --> 03:07.633 Dècades d'estudis psicològics també han demostrat que els soldats en combat gairebé mai no disparen als soldats 03:07.633 --> 03:12.340 enemics, sinó que deliberadament falten els seus objectius. 03:12.340 --> 03:18.752 Això deixa clar que els éssers humans no són, en la seva naturalesa fonamental, "màquines de guerra". 03:18.752 --> 03:25.440 Els moviments i manifestacions per la pau a escala mundial subratllen aquest fet. 03:25.440 --> 03:34.083 Per als bel·licistes amb set de poder i els titellaires globals que hi ha darrere seu, cal sistemes d'armes autònomes, és a dir, 03:34.083 --> 03:42.591 robots assassins, que funcionin de manera impecable i sense concessions: sense qüestionar, sense compassió, sense consciència, 03:42.591 --> 03:47.440 sobretot com a protecció contra multituds enfurismades. 03:47.440 --> 03:53.240 Això és perquè cada vegada més gent comença a entendre les interdependències globals i ja no 03:53.240 --> 03:56.813 està disposada a ser explotada ni manipulada. 03:56.813 --> 04:05.357 La humanitat no acceptarà que, a llarg termini, tot el sistema monetari, tots els governs, països i els 04:05.357 --> 04:10.660 seus recursos estiguin en mans d'unes poques famílies. 04:10.660 --> 04:15.680 Activistes per la pau de tota mena i de totes les nacionalitats estan per tant tocant la campana d'alarma: 04:15.680 --> 04:20.928 El desenvolupament de sistemes d'armes autònomes ha de ser prohibit a tot el món. 04:20.928 --> 04:29.292 Més de 2.500 investigadors i 176 organitzacions en el camp de la intel·ligència artificial ja han signat un 04:29.292 --> 04:37.216 compromís voluntari de no dur a terme investigacions sobre sistemes d'armes letals autònomes. 04:37.216 --> 04:45.520 En signar, els participants es comprometen a «no donar suport ni contribuir al desenvolupament, la 04:45.520 --> 04:50.960 producció, el comerç o l'ús d'armes letals autònomes». 04:50.960 --> 04:53.700 Tanmateix, falten molts noms importants. 04:53.700 --> 05:02.013 Ni Google ni la seva societat matriu, Alphabet, van signar el compromís voluntari; Boston Dynamics, fabricant 05:02.013 --> 05:06.784 de models de robots famosos, tampoc encara no hi figura. 05:06.784 --> 05:10.464 També falten empreses de defensa rellevants. 05:10.464 --> 05:19.359 L'objectiu dels activistes és, per tant, tenir un impacte molt més enllà del cercle de signataris, cridant l'atenció del 05:19.359 --> 05:24.200 públic en general sobre els perills de les armes autònomes. 05:24.200 --> 05:35.160 Un curtmetratge anomenat "Slaughterbots" mostra fins a quin punt les armes autònomes ja poden ser devastadament eficaces. 05:35.160 --> 05:44.258 L'Institut Future of Life (FLI), amb seu als EUA, que té com a objectiu minimitzar els riscos existencials per a la 05:44.258 --> 05:49.664 humanitat, va publicar el vídeo el 12 de novembre de 2017. 05:49.664 --> 05:53.906 En poques setmanes, s'hi havia fet clic milions de vegades. 05:53.906 --> 06:00.714 Això ofereix un avançament fictici i esgarrifós de com, per exemple, els crítics del sistema o els grups ètnics 06:00.714 --> 06:05.353 indesitjables podrien ser liquidats en un obrir i tancar d'ulls. 06:05.353 --> 06:08.896 Conclusió: Atureu aquesta tecnologia! 06:08.896 --> 06:12.880 Aquí teniu alguns fragments del vídeo: 06:14.580 --> 06:19.819 dels pilots dels nostres clients van dur a terme gairebé 3.000 atacs de precisió l'any 06:19.819 --> 06:22.740 passat, i n'estem extremadament orgullosos. 06:22.740 --> 06:27.000 Et permet separar els dolents dels bons. 06:27.000 --> 06:33.340 És una gran cosa. Però tenim alguna cosa molt més gran. 06:37.393 --> 06:43.980 Probablement els teus fills en tenen un d'aquests, oi? No del tot. 06:45.920 --> 06:49.248 Un pilot temerari? No. 06:49.248 --> 06:54.848 Aquesta capacitat tracta completament de la IA – intel·ligència artificial. Volta per si sola. 06:54.848 --> 06:59.220 El seu processador pot reaccionar cent vegades més ràpid que un ésser humà. 06:59.220 --> 07:04.760 El moviment estocàstic està en mode anti-franquet. 07:08.506 --> 07:13.560 Igual que qualsevol altre dispositiu mòbil avui dia, té càmeres i sensors. 07:13.560 --> 07:19.552 I, igual que els teus telèfons mòbils i les aplicacions de xarxes socials, també té reconeixement facial. 07:19.552 --> 07:26.080 Aquí hi ha tres grams d'explosiu especial. 07:26.080 --> 07:40.880 I així és com funciona. Ho has vist? 07:40.880 --> 07:48.606 Aquesta petita injecció és suficient per perforar la part superior del crani i destruir tot el que hi ha al darrere. 07:48.606 --> 07:52.599 Sovint es diu que no són les armes les que maten la gent, sinó la gent la que mata la gent. 07:52.599 --> 07:54.233 Bé, simplement no ho fan. 07:54.233 --> 07:58.752 Es tornen emocionals, desobeeixen les ordres i deliberadament falten als seus objectius. 07:58.752 --> 08:03.295 A veure com les armes prenen les decisions aquí. 08:03.295 --> 08:08.379 Ara confia en mi: tots eren nois dolents. 08:11.712 --> 08:18.453 Això va ser un atac aeri de precisió quirúrgica. És un dels productes d'una gamma sencera. 08:18.453 --> 08:24.116 Programades com un eixam, aquestes coses poden penetrar edificis, cotxes i trens, esquivar persones i 08:24.116 --> 08:27.120 bales, i frustrar pràcticament qualsevol contramesura. 08:27.120 --> 08:34.820 No es poden aturar. Bé, vaig dir: Això és fantàstic. 08:34.820 --> 08:41.273 Per què? Perquè pensem en gran. Fes-hi un cop d'ull: 08:43.260 --> 08:47.733 Un contracte de 20 milions de lliures els compra això. 08:47.733 --> 08:53.312 Suficient per matar la meitat de la ciutat, la meitat malvada. 08:53.312 --> 08:55.936 Energia nuclear – això ja és notícia antiga. 08:55.936 --> 09:00.679 Elimina tot el teu enemic – pràcticament sense cap risc. 09:00.679 --> 09:05.880 Simplement caracteritza'l, deixa anar el teu enamorament i relaxa't. 09:05.880 --> 09:09.860 Les armes estúpides colpegen allà on les apuntis. 09:09.860 --> 09:13.240 Les armes intel·ligents processen dades. 09:13.240 --> 09:20.893 Si pots localitzar el teu enemic amb l'ajuda de dades – fins i tot amb un hashtag – pots 09:20.893 --> 09:26.393 atacar una ideologia maligna just on comença. 09:29.408 --> 09:32.266 Aquest curtmetratge és més que només especulació. 09:32.266 --> 09:38.000 Demonstra els resultats de la integració i la miniaturització de tecnologies que ja tenim. 09:38.000 --> 09:40.980 Sóc Stuart Russell, professor d'Informàtica a Berkeley. 09:40.980 --> 09:44.666 Fa més de 35 anys que treballo en intel·ligència artificial (IA). 09:44.666 --> 09:47.980 El seu potencial per al benefici de la humanitat és enorme, incloent-hi la defensa. 09:47.980 --> 09:54.140 Però serà devastador per a la nostra seguretat i llibertat deixar que les màquines decideixin matar persones. 09:54.140 --> 09:56.726 Milers dels meus col·legues hi estan d'acord. 09:56.726 --> 10:02.188 Encara tenim l'oportunitat d'evitar aquest futur que t'acaben de mostrar, però la finestra 10:02.188 --> 10:04.980 d'oportunitat per actuar es tanca ràpidament!