WEBVTT 00:00.000 --> 00:07.220 Arma autonoma – ultima arx coetus pecuniarii mundani cadat! 00:07.220 --> 00:15.360 Arma autonoma, auxilio intelligentiae artificialis, sine interventione humana, decernunt et agunt. 00:15.360 --> 00:22.320 Quamquam adhuc evolvuntur, iam communitatem internationalem in ancipiti tenent. 00:22.320 --> 00:26.220 De quo prorsus agitur et quae est quaestio? 00:26.220 --> 00:33.344 Arma autonoma, etiam robotae caedariae appellata, "tertia revolutio in arte bellica" habentur. 00:33.344 --> 00:42.990 Sicut inventa pulveris pyrii et armorum nuclearium olim, systemata armorum autonoma naturam belli penitus mutant. 00:42.990 --> 00:46.480 Arma autonoma sunt systemata quae sua sponte operantur. 00:46.480 --> 00:56.213 Programmati sunt ut metas agnoscant et oppugnent, intellegentia artificiali utentes et sine moderatione humana. 00:56.213 --> 01:02.053 Haec possunt esse aeroplana automataria, sed etiam naves, autocineta armata, telae 01:02.053 --> 01:05.913 propulsoriae, machinae automatae et alia arma. 01:05.913 --> 01:16.000 Systemata armorum omnino autonoma cum intelligentia artificiali adaptabili nondum publice pars integralis exercituum mundi sunt. 01:16.000 --> 01:25.794 Ab anno MMXIV, Nationes Unitae colloquia Genēvae habent, ubi septuaginta quinque nationes de vetando systematibus armorum 01:25.794 --> 01:31.424 letalium autonomorum paciscuntur, ut robota caedaria regulent. 01:31.424 --> 01:37.860 Pactum est inanium, quia quaedam civitates sua commoda persequuntur. 01:37.860 --> 01:43.746 Secundum pacifistas, viginti sex civitates favent proscriptioni talium armorum, inter 01:43.746 --> 01:47.546 quas Austria et omnes civitates progredientes. 01:47.546 --> 01:51.776 Sina pro interdicto eius usu sententiam dixit. 01:51.776 --> 01:56.973 Civitates Foederatae dicuntur omnino adversari restrictionibus progressus. 01:56.973 --> 02:07.560 Sunt etiam in Germania societates quae huic progressui intersunt, ita bellum armorum internationale magis accendentes. 02:07.560 --> 02:10.997 Sed cur arma autonoma tam magnopere expetuntur? 02:10.997 --> 02:19.460 Secundum data publica Exercitus Americani, plures milites Americani hodie sua manu perimuntur quam ab hostibus. 02:19.460 --> 02:28.109 Vix se cum bellis sic dictis "humanitariis" consociare possunt, quae re vera nihil aliud sunt quam bella aggressionis in consiliis 02:28.109 --> 02:36.672 potentiae posita, et perpetua dilemmatia moralia patiuntur propter bellum crudele, etiam in populum civilem directum. 02:36.672 --> 02:46.020 Veterani bellorum medalia sua catervatim reddunt, quod factis bellicis pudentur et penitus paenitent. 02:46.020 --> 02:55.248 Etiam gubernatores aerium dronorum, qui ex mensis suis quasi ludum computatris ludentes interficunt et propter distantiam a proelio 02:55.248 --> 03:00.220 minus misericordiae praestant, post paucos annos defatigantur. 03:00.220 --> 03:07.609 Decennia studiorum psychologicorum etiam demonstraverunt milites in proelio plerumque omnino non in 03:07.609 --> 03:12.340 milites hostiles sclopetare, sed sponte telis errare. 03:12.340 --> 03:18.752 Hoc manifestum facit homines, in natura sua fundamentali, non esse "machinas bellicas". 03:18.752 --> 03:25.440 Motuēs et conventūs pacifici per orbem terrarum hoc factum confirmant. 03:25.440 --> 03:33.643 Iis igitur potentiae avidis bellorumque cupidis, et mundialibus marionetiariis qui post eos regnant, arma automataria, id est 03:33.643 --> 03:40.140 machinae caedatrices, necessaria sunt, quae sine ullo vitio et sine ulla clementia operentur – sine 03:40.140 --> 03:47.440 interrogatione, sine misericordia, sine conscientia, non minimum ad turbas iratas defendendas. 03:47.440 --> 03:52.855 Hoc est quia plures et plures homines mutuas inter se nationes necessitudines intellegere 03:52.855 --> 03:56.813 incipiunt neque iam pati volunt se spoliari et falli. 03:56.813 --> 04:05.436 Humanitas non accipiet potestatem totius systematis nummarii, cum omnes gubernationes, civitates, et 04:05.436 --> 04:10.660 opes earum in manibus paucarum familiarum diu sint. 04:10.660 --> 04:15.680 Propugnatores pacis omnis generis et gentis igitur clamat: 04:15.680 --> 04:20.928 Progressus systematum armorum autonomorum per totum orbem terrarum vetandus est. 04:20.928 --> 04:28.227 Plus quam duo milia quingenti investigatores et centum septuaginta sex societates in campo intelligentiae artificialis 04:28.227 --> 04:33.238 iam obsignaverunt obligationem voluntariam, qua se obligant ne investigationes de 04:33.238 --> 04:37.216 systematibus armorum letalium autonomorum suscipiant. 04:37.216 --> 04:45.531 Subscribendo, participes suscipiunt "non favere nec contribuere ad evolutionem, productionem, 04:45.531 --> 04:50.960 commercium, aut usum armorum letalium autonomorum". 04:50.960 --> 04:53.700 Tamen, multa nomina magna desunt. 04:53.700 --> 05:02.258 Neque Google neque societas tenens eius Alphabet obligationem voluntariam subscripserunt; nec Boston Dynamics, fabricator 05:02.258 --> 05:06.784 clarorum exemplorum robotorum, adhuc in indice numeratur. 05:06.784 --> 05:10.464 Societates armamentariae pertinentes quoque desunt. 05:10.464 --> 05:18.861 Propositum igitur activistarum est vim exercere multo ultra circulum subscriptorum, animum 05:18.861 --> 05:24.200 publicum ad pericula armorum autonomorum advertendo. 05:24.200 --> 05:35.160 Pellicula brevis nomine "Slaughterbots" monstrat quam perniciosa et efficax arma autonoma iam esse possint. 05:35.160 --> 05:44.179 Institutum Vitae Futurae (FLI), in Civitatibus Foederatis Americae situm, quod pericula exsistentiae generi humano 05:44.179 --> 05:49.664 minuere studet, pelliculam die XII Novembris MMXVII edidit. 05:49.664 --> 05:53.906 Paucis hebdomadibus, decies centies miliens pulsatum erat. 05:53.906 --> 06:00.872 Hoc praebet imaginem fictam et horribilem quomodo, exempli gratia, systematis reprehensores 06:00.872 --> 06:05.353 aut gentes invisae ictu oculi exstirpari possent. 06:05.353 --> 06:08.896 Conclusio: Hoc artificium sistite! 06:08.896 --> 06:12.880 Ecce nonnulla excerpta ex pellicula: 06:14.580 --> 06:22.740 Piloti nostri clientesque nostri praeterito anno paene tria milia ictuum accuratorum perfecerunt, et hoc maxime gloriamur. 06:22.740 --> 06:27.000 Permittit tibi scelestos a piis seiungere. 06:27.000 --> 06:33.340 Res magna est. Sed nos aliquid multo maius habemus. 06:37.393 --> 06:43.980 Liberi tui fortasse unum ex his habent, nonne? Non prorsus. 06:45.920 --> 06:49.248 Auctor audax? Minime. 06:49.248 --> 06:54.848 Haec facultas tota de IA – Intelligentia Artificiali – est. Se ipsum volat. 06:54.848 --> 06:59.220 Processorius eius centies celerius quam homo respondere potest. 06:59.220 --> 07:04.760 Motus stochasticus in modo antilegulari est. 07:08.506 --> 07:13.560 Sicut cetera instrumenta mobilia hodierna, cameras et sensores habet. 07:13.560 --> 07:19.552 Et sicut telephona tua mobilia et applicationes mediorum socialium, etiam agnitionem vultus habet. 07:19.552 --> 07:26.080 Hic sunt tria grammata materiae displosivae specialis. 07:26.080 --> 07:40.880 Et sic operatur. Vidistine? 07:40.880 --> 07:48.606 Haec parva iaculatio sufficit ad cacumen calvarii transfigendum et omnia post eam delenda. 07:48.606 --> 07:52.599 Saepe dicitur non arma homines necare, sed homines qui homines necant. 07:52.599 --> 07:54.233 Bene, simpliciter id non faciunt. 07:54.233 --> 07:58.752 Commoventur, imperiis non parent, scopos consulto fallunt. 07:58.752 --> 08:03.295 Videamus igitur quomodo arma hic decernant. 08:03.295 --> 08:08.379 Nunc mihi crede – omnes illi mali pueri erant. 08:11.712 --> 08:18.453 Illa percussio aeria praecisionis chirurgicae fuit. Est una ex tota serie productorum. 08:18.453 --> 08:24.133 Haec, ut esseda programmata, aedificia, autocineta, et traminum currus penetrare, homines et glandes 08:24.133 --> 08:27.120 vitare, atque omnes fere contramedia eludere possunt. 08:27.120 --> 08:34.820 Non possunt retineri. Bene, inquam: Optime. 08:34.820 --> 08:41.273 Cur? Quia magna cogitamus. Specta: 08:43.260 --> 08:47.733 Pactum viginti millionum librarum hoc eis emit. 08:47.733 --> 08:53.312 Satis ad necandam dimidiam urbem, partem malam. 08:53.312 --> 08:55.936 Vis nuclearis – res notissima. 08:55.936 --> 09:00.679 Exstirpa totum hostem – paene sine periculo. 09:00.679 --> 09:05.880 Modo eum describe, amorem tuum depone et relaxa. 09:05.880 --> 09:09.860 Arma stulta ictum inferunt ubicumque ea intendis. 09:09.860 --> 09:13.240 Arma intellegentia data tractant. 09:13.240 --> 09:26.393 Si hostem tuum datorum auxilio – etiam tessera insigni – invenire potes, ideologiam pravam percutere potes ipso in principio. 09:29.408 --> 09:32.266 Hoc pelliculum breve plus est quam mera speculatio. 09:32.266 --> 09:38.000 Ostendit exitus integrationis et miniaturisationis technologiarum quas iam possidemus. 09:38.000 --> 09:40.980 Sum Stuartus Russell, Professor Scientiae Computatralis Berkeleiensis. 09:40.980 --> 09:44.666 Plus quam triginta quinque annos in intelligentia artificiali (IA) laboro. 09:44.666 --> 09:47.980 Potentia eorum ad salutem generis humani maxima est, etiam in re militari. 09:47.980 --> 09:54.140 Sed securitati et libertati nostrae perniciosissimum erit machinis permittere ut homines necare decernant. 09:54.140 --> 09:56.726 Milia collegarum meorum de hoc consentiunt. 09:56.726 --> 10:04.980 Adhuc nobis est facultas hanc futuram, quae tibi modo monstrata est, prohibendi, sed tempus agendi celeriter clauditur!