WEBVTT 00:00.000 --> 00:07.220 Arfau annibynnol – rhaid i gastell olaf elît ariannol byd-eang gwympo! 00:07.220 --> 00:12.209 Mae arfau ymreolaethol yn gwneud penderfyniadau ac yn gweithredu'n annibynnol gyda chymorth 00:12.209 --> 00:15.360 deallusrwydd artiffisial, heb ymyrraeth ddynol. 00:15.360 --> 00:22.320 Er eu bod yn dal i gael eu datblygu, maen nhw eisoes yn cadw'r gymuned ryngwladol mewn tyndra. 00:22.320 --> 00:26.220 Beth yn union yw hyn yn ei gylch, a beth yw'r broblem? 00:26.220 --> 00:33.344 Ystyrir arfau annibynnol, a elwir hefyd yn robotiaid llofruddiog, fel y "drydedd chwyldro ym myd rhyfel". 00:33.344 --> 00:39.073 Yn union fel dyfeisiad powdwr gwn ac arfau niwclear yn y gorffennol, mae systemau arfau 00:39.073 --> 00:42.990 ymreolaethol yn newid natur rhyfela'n sylfaenol. 00:42.990 --> 00:46.480 Mae arfau annibynnol yn systemau sy'n gweithredu'n annibynnol. 00:46.480 --> 00:56.213 Maen nhw wedi'u rhaglennu i adnabod a ymosod ar dargedau gan ddefnyddio deallusrwydd artiffisial a heb reolaeth ddynol. 00:56.213 --> 01:05.913 Gall y rhain fod yn dronau di-griw, ond hefyd yn longau, tanciau, lanswyr rocedi, robotiaid ac arfau eraill. 01:05.913 --> 01:12.215 Nid yw systemau arfau cwbl ymreolaethol gyda deallusrwydd artiffisial addasol eto'n 01:12.215 --> 01:16.000 rhan annatod swyddogol o fyddinoedd y byd. 01:16.000 --> 01:23.520 Ers 2014, mae'r Cenhedloedd Unedig wedi bod yn cynnal trafodaethau yn Genefa, lle mae 75 o genhedloedd 01:23.520 --> 01:31.424 yn negodi gwaharddiad ar systemau arfau awtonomus marwol er mwyn rheoleiddio robotiaid llofruddiog. 01:31.424 --> 01:37.860 Mae cytundeb yn afrealistig oherwydd bod rhai gwledydd yn dilyn eu buddiannau eu hunain. 01:37.860 --> 01:43.599 Yn ôl gweithredwyr heddwch, mae 26 o wledydd o blaid gwahardd arfau o'r fath, gan 01:43.599 --> 01:47.546 gynnwys Awstria a'r holl wledydd sy'n datblygu. 01:47.546 --> 01:51.776 Mae Tsieina wedi siarad allan o blaid gwaharddiad ar ei ddefnydd. 01:51.776 --> 01:56.973 Yn ôl y sôn, mae'r UD yn gwrthwynebu'n llwyr gyfyngiadau ar ddatblygiad. 01:56.973 --> 02:07.560 Mae yna hefyd gwmnïau yn yr Almaen sy'n rhan o'r datblygiad hwn, gan danio'r ras arfau ryngwladol ymhellach. 02:07.560 --> 02:10.997 Ond pam mae galw mor fawr am arfau ymreolaethol? 02:10.997 --> 02:16.008 Yn ôl ystadegau swyddogol gan Fyddin yr Unol Daleithiau, mae mwy o filwyr Americanaidd yn marw ar hyn o 02:16.008 --> 02:19.460 bryd drwy hunanladdiad nag oherwydd gweithred y gelyn. 02:19.460 --> 02:26.827 Anodd yw iddynt uniaethu â'r rhyfeloedd 'dyngarol' honedig, sydd mewn gwirionedd yn ddim mwy na rhyfeloedd ymddygiadol yn 02:26.827 --> 02:32.855 seiliedig ar strategaethau pŵer, ac maent yn dioddef o ddilemâu moesol gydol oes oherwydd y rhyfela 02:32.855 --> 02:36.672 creulon, gan gynnwys yn erbyn y boblogaeth sifil. 02:36.672 --> 02:42.035 Mae cyn-filwyr rhyfel yn dychwelyd eu medalau ar garlam oherwydd eu bod yn gywilyddus o 02:42.035 --> 02:46.020 weithredoedd y rhyfel ac yn dangos edifeirwch dwfn. 02:46.020 --> 02:53.222 Hyd yn oed peilotiaid dronau, sy'n lladd o'u desgiau fel pe baent yn chwarae gêm gyfrifiadurol ac sy'n dangos 02:53.222 --> 03:00.220 llai o dosturi oherwydd eu pellter oddi wrth y frwydro, sy'n 'blinedig' ar ôl ychydig flynyddoedd. 03:00.220 --> 03:07.551 Mae degawdau o astudiaethau seicolegol hefyd wedi dangos nad yw milwyr mewn brwydr yn saethu at filwyr y 03:07.551 --> 03:12.340 gelyn o gwbl gan amlaf, ond yn bwriadu methu eu targedau. 03:12.340 --> 03:18.752 Mae hyn yn ei gwneud yn glir nad yw bodau dynol, yn eu natur sylfaenol, yn "peiriannau rhyfel". 03:18.752 --> 03:25.440 Mae mudiadau heddwch a ralïau byd-eang yn tanlinellu'r ffaith hon. 03:25.440 --> 03:34.879 Mae angen systemau arfau annibynnol, h.y. robotiaid llofruddiog, ar ryfelwyr awyddus am bŵer a'r meistri bypedau byd-eang y tu ôl 03:34.879 --> 03:42.269 iddynt, sydd yn gweithredu'n ddi-ffael ac yn ddi-ildio – heb gwestiynu, heb dosturi, heb gydwybod, yn 03:42.269 --> 03:47.440 enwedig fel amddiffyniad yn erbyn torfeydd cynddeiriog. 03:47.440 --> 03:53.024 Mae hyn oherwydd bod mwy a mwy o bobl yn cydnabod y cysylltiadau byd-eang ac nad ydynt 03:53.024 --> 03:56.813 bellach yn fodlon cael eu hecsbloetio a'u trin. 03:56.813 --> 04:04.558 Ni fydd dynoliaeth yn derbyn yn y tymor hir fod rheolaeth dros y system ariannol gyfan, pob 04:04.558 --> 04:10.660 llywodraeth, gwlad a'u hadnoddau yn nwylo ychydig o deuluoedd. 04:10.660 --> 04:15.680 Mae ymgyrchwyr heddwch o bob math a chenedligrwydd felly'n codi'r larwm: 04:15.680 --> 04:20.928 Rhaid gwahardd datblygiad systemau arfau ymreolaethol ledled y byd. 04:20.928 --> 04:28.742 Mae mwy na 2,500 o ymchwilwyr a 176 o sefydliadau ym maes deallusrwydd artiffisial eisoes wedi 04:28.742 --> 04:37.216 llofnodi ymrwymiad gwirfoddol i beidio â chynnal ymchwil i systemau arfau marwol ymreolaethol. 04:37.216 --> 04:44.892 Wrth lofnodi, mae cyfranogwyr yn ymrwymo "i beidio â chefnogi nac cyfrannu at ddatblygiad, 04:44.892 --> 04:50.960 cynhyrchiad, masnach na defnydd arfau angheuol ymreolaethol". 04:50.960 --> 04:53.700 Fodd bynnag, mae llawer o enwau mawr ar goll. 04:53.700 --> 05:01.541 Ni wnaeth Google na'i mam-gwmni Alphabet arwyddo'r ymrwymiad gwirfoddol; nid yw Boston Dynamics, 05:01.541 --> 05:06.784 gwneuthurwr modelau robot enwog, ar y rhestr eto ychwaith. 05:06.784 --> 05:10.464 Mae cwmnïau amddiffyn perthnasol ar goll hefyd. 05:10.464 --> 05:19.195 Nod yr ymgyrchwyr felly yw cael effaith ymhell y tu hwnt i gylch y llofnodwyr, drwy dynnu 05:19.195 --> 05:24.200 sylw'r cyhoedd at beryglon arfau ymreolaethol. 05:24.200 --> 05:35.160 Mae ffilm fer o'r enw "Slaughterbots" yn dangos pa mor ddinistriol o effeithiol y gall arfau ymreolaethol fod eisoes. 05:35.160 --> 05:43.957 Cyhoeddodd y Future of Life Institute (FLI), sydd wedi'i leoli yn yr Unol Daleithiau ac sy'n anelu at leihau 05:43.957 --> 05:49.664 risgiau dirfodol i ddynoliaeth, y fideo ar 12 Tachwedd 2017. 05:49.664 --> 05:53.906 O fewn ychydig wythnosau, roedd miliynau o bobl wedi clicio arno. 05:53.906 --> 06:01.007 Mae hyn yn rhoi rhagflas ffuglennol, iasoer o sut y gellid, er enghraifft, ddileu beirniaid y system 06:01.007 --> 06:05.353 neu grwpiau ethnig annymunol mewn amrantiad llygad. 06:05.353 --> 06:08.896 Casgliad: Stopiwch y dechnoleg hon! 06:08.896 --> 06:12.880 Dyma rai dyfyniadau o'r fideo: 06:14.580 --> 06:19.796 Perfformiodd o beilotiaid ein cwsmeriaid bron i 3,000 o ymosodiadau manwl gywir y 06:19.796 --> 06:22.740 llynedd, ac rydym yn hynod falch o hynny. 06:22.740 --> 06:27.000 Mae'n caniatáu i chi wahanu'r drwgdywyr oddi wrth y da. 06:27.000 --> 06:33.340 Mae'n fargen fawr. Ond mae gennym ni rywbeth llawer mwy. 06:37.393 --> 06:43.980 Mae'n debyg bod gan eich plant un o'r rhain, on'd oes? Ddim cweit yn union. 06:45.920 --> 06:49.248 Peilot beiddgar? Na. 06:49.248 --> 06:54.848 Mae'r gallu hwn yn ymwneud yn llwyr ag AI – deallusrwydd artiffisial. Mae'n hedfan ei hun. 06:54.848 --> 06:59.220 Gall ei brosesydd ymateb ganwaith yn gyflymach nag bod dynol. 06:59.220 --> 07:04.760 Mae'r symudiad stocastig ym modd gwrth-sniper. 07:08.506 --> 07:13.560 Yn union fel unrhyw ddyfais symudol arall y dyddiau hyn, mae ganddo gamerâu a synwyryddion. 07:13.560 --> 07:19.552 Ac yn union fel eich ffonau symudol a'ch apiau cyfryngau cymdeithasol, mae ganddo hefyd adnabod wynebau. 07:19.552 --> 07:26.080 Mae yna dri gram o ffrwydron arbennig yma. 07:26.080 --> 07:40.880 A dyma sut mae'n gweithio. Welsoch chi hynny? 07:40.880 --> 07:48.606 Mae'r ergyd fach hon yn ddigon i drywanu pen y craniwm a dinistrio popeth y tu ôl iddo. 07:48.606 --> 07:52.599 Dywedir yn aml nad arfau sy'n lladd pobl, ond pobl sy'n lladd pobl. 07:52.599 --> 07:54.233 Wel, dydyn nhw ddim yn ei wneud. 07:54.233 --> 07:58.752 Maen nhw'n mynd yn emosiynol, yn anufuddhau i orchmynion, ac yn colli eu targedau yn fwriadol. 07:58.752 --> 08:03.295 Felly, gadewch i ni weld sut mae'r arfau'n gwneud y penderfyniadau yma. 08:03.295 --> 08:08.379 Nawr credwch fi – roedden nhw i gyd yn hogia drwg. 08:11.712 --> 08:18.453 Roedd hwnnw'n ergyd awyr o fanwl gywirdeb llawfeddygol. Mae'n un o ystod eang o gynhyrchion. 08:18.453 --> 08:24.072 Wedi'u rhaglennu fel heid, gall y pethau hyn dreiddio i adeiladau, ceir a threnau, osgoi 08:24.072 --> 08:27.120 pobl a bwledi, a rhwystro bron unrhyw wrthfesur. 08:27.120 --> 08:34.820 Ni ellir eu hatal. Wel, meddwn i: Mae hynny'n wych. 08:34.820 --> 08:41.273 Pam? Oherwydd ein bod ni'n meddwl yn fawr. Cymerwch gip: 08:43.260 --> 08:47.733 Mae contract gwerth £20 miliwn yn prynu hwn iddynt. 08:47.733 --> 08:53.312 Digon i ladd hanner y ddinas, yr hanner drwg. 08:53.312 --> 08:55.936 Pŵer niwclear – hen newyddion yw hwnna. 08:55.936 --> 09:00.679 Dileu eich gelyn cyfan – heb fawr ddim risg. 09:00.679 --> 09:05.880 Dim ond ei ddisgrifio, gollwng dy hoffter a llacio. 09:05.880 --> 09:09.860 Mae arfau gwirion yn taro lle bynnag y'u pwyntiwch. 09:09.860 --> 09:13.240 Prosesu data gan arfau deallus. 09:13.240 --> 09:20.806 Os gallwch ddod o hyd i'ch gelyn gyda chymorth data – hyd yn oed gyda hashnod – gallwch 09:20.806 --> 09:26.393 daro ideoleg ddrwg yn union lle mae'n dechrau. 09:29.408 --> 09:32.266 Mae'r ffilm fer hon yn fwy na dim ond dyfalu. 09:32.266 --> 09:38.000 Mae'n dangos canlyniadau integreiddio a mân-greu technolegau sydd gennym eisoes. 09:38.000 --> 09:40.980 Stuart Russell ydw i, Athro Gwyddorau Cyfrifiadurol ym Mhrifysgol Berkeley. 09:40.980 --> 09:44.666 Rwyf wedi bod yn gweithio ar ddeallusrwydd artiffisial (AI) ers dros 35 mlynedd. 09:44.666 --> 09:47.980 Mae eu potensial er budd dynoliaeth yn enfawr, gan gynnwys ym maes amddiffyn. 09:47.980 --> 09:54.140 Ond bydd yn ddinistriol i'n diogelwch a'n rhyddid gadael i beiriannau benderfynu lladd pobl. 09:54.140 --> 09:56.726 Mae miloedd o'm cydweithwyr yn cytuno ar hyn. 09:56.726 --> 10:04.980 Mae cyfle o hyd gennym i atal y dyfodol hwn y maewch newydd ei weld, ond mae'r ffenestr o gyfle i weithredu'n cau'n gyflym!