WEBVTT 00:00.976 --> 00:09.000 Í samtali lýsti Sam Altman, yfirmaður gervigreindarfyrirtækisins OpenAI, áformum sínum um arftaka ChatGPT. 00:09.000 --> 00:15.679 Sá á að vera tilbúinn til notkunar á næstu mánuðum. Altman sagði eftirfarandi: 00:15.679 --> 00:25.442 „Ég held að við séum nálægt heimi þar sem hægt er að hafa arftaka ChatGPT sem fylgist með tölvuskjánum þínum allan tímann, fylgist 00:25.442 --> 00:31.976 með hverjum fundi sem þú tekur þátt í, tekur upp hvert símtal og hefur þannig fullkomið 00:31.976 --> 00:37.279 samhengi alls lífs þíns – af öllu sem þú sérð.“ 00:37.279 --> 00:42.840 Innan skamms mun gervigreindin því ekki aðeins bregðast við fyrirspurnum heldur grípa til aðgerða af eigin frumkvæði. 00:42.840 --> 00:51.161 Hún mun stinga upp á hugmyndum, greina hugsanleg vandamál og styðja við daglegt líf. Hvílíkur dásamlegur nýr heimur! 00:51.161 --> 00:57.785 Við hliðina á þessu virðast klassísku dystópíurnar eins og 1984 – „Big Brother is watching you“ – eins og hættulaust 00:57.785 --> 01:02.178 brúðuleikhús, því eftirlitsmenn Orwells sátu enn bak við vegg. 01:02.178 --> 01:08.526 Eftirlitsmenn Altmans sitja í eigin snjallsíma eða tölvu og bráðum í eigin heila. 01:08.526 --> 01:12.650 Þeir verða að stöðugum fylgdarmönnum, að því er virðist vinum. 01:12.650 --> 01:15.343 Beitan þægindanna er freistandi. 01:15.343 --> 01:23.476 Hver myndi ekki gjarnan útvista nokkrum leiðinlegum fundum eða láta fullkomna valdstofnun styðja sig í vinnunni? 01:23.476 --> 01:30.363 En um leið og fólk verður háð nýju gervigreindarstuðningnum, mun gervigreindin byrja að aga það. 01:30.363 --> 01:37.520 Hinn þunni þráður milli „stuðnings“ og „yfirráða“ verður þá ekki lengur skilgreindur af notendum heldur af reikniritum. 01:37.520 --> 01:41.204 Þannig verður sú fyrirhyggjulega hjálp að yfirráðandi inngripi. 01:41.204 --> 01:47.020 Hér eru nokkur dæmi um hvernig þetta lítur út í reynd: 01:47.020 --> 01:50.695 1. Ætlar maður að skrifa gagnrýna athugasemd um stefnu stjórnvalda? 01:50.695 --> 01:55.437 Gervigreindin, sem fylgist með hverri lyklislá, „leiðréttir“ textann fyrirfram. 01:55.437 --> 02:04.040 Hún stingur upp á meinlausari orðalagi eða birtir færsluna alls ekki, því hún er flokkuð sem „órétt“ eða „pólsk“. 02:04.040 --> 02:11.060 Þegar nú þegar lokar Google-gervigreindin meinlausum umsögnum vegna eigin skilgreininga. 02:11.060 --> 02:15.078 2. Leitar maður upplýsinga um umdeild málefni á netinu? 02:15.078 --> 02:22.414 Gervigreindin síar leitarniðurstöðurnar og sýnir aðeins þær heimildir sem hún telur „traustvekjandi“ – þ.e. kerfisbundnar. 02:22.414 --> 02:25.585 Þegar nú þegar er skuggabann í samfélagsmiðlum. 02:25.585 --> 02:34.269 Efnið er ekki læst, en það birtist ekki lengur í leit og er því ekki lengur aðgengilegt fylgjendum. 02:35.769 --> 02:42.683 3. Ekki er lengur þörf á að lesa og skrifa, því gervigreindin dregur saman krefjandi texta eða semur heilar greinar og ræður. 02:42.683 --> 02:49.870 Rithöfundurinn Tom-Oliver Regenauer skrifaði nýlega um þetta í stefnuskrá: 02:49.870 --> 02:56.020 „Sá sem útvistar lestri, hugsun og skrifum, lærir það ekki – og það mjög fljótt. 02:56.020 --> 03:01.599 Heilinn er sambærilegur við vöðva. Ef hann er ekki þjálfaður, rýrnar hann... 03:01.599 --> 03:10.169 Ef maður gerir sér grein fyrir hversu hörmulegar afleiðingar innleiðing snjallsímans frá 2007 hefur haft, þarf ekki 03:10.169 --> 03:19.616 mikla ímyndunarafl til að spá fyrir um hvaða áhrif gervigreind mun hafa á vitræna getu tegundar okkar á mun skemmri tíma. 03:19.616 --> 03:26.343 Gervigreind er – eins og snjallsíminn – fyrst og fremst hernaðartækni og hrörnunartæki. 03:26.343 --> 03:32.294 Verkfæri sem fæstir geta notað á ábyrgan og afkastamikinn hátt. 03:32.294 --> 03:38.954 Hin stefnulausu, viljalausu og hugsunarlausu „smombíurnar“ sem þegar móta borgarmyndina 03:38.954 --> 03:43.840 virðast þó ekki nægja sem viðvörunardæmi.“ 03:43.840 --> 03:48.837 4. Gervigreindin greinir á mjög stuttum tíma persónulega pólitíska afstöðu, les 03:48.837 --> 03:52.821 einkaskilaboðin og þekkir sambands- og tengslanetið. 03:52.821 --> 03:58.580 Hún notar þessa þekkingu ekki til að efla manninn í þroska sínum, heldur til að „fínstilla“ hann. 03:58.580 --> 04:02.526 Það þýðir í skýru máli: aðlögun að þeim normum sem krafist er. 04:02.526 --> 04:10.245 Nudging, þ.e. hófleg skoðanastýring, var þegar prófuð með góðum árangri á fjölda fólks á meðan á kórónuveiruárunum stóð. 04:10.245 --> 04:15.040 Hversu mikla vald viljum við, notendurnir, þá gefa ChatGPT og félögum? 04:15.040 --> 04:19.198 Tom-Oliver Regenauer setur fram skýra yfirlýsingu um þetta: 04:19.198 --> 04:27.392 „Ég neita að þjálfa kerfi sem njósnar stöðugt um mig og hefur þegar möguleika á að drepa mig. 04:27.392 --> 04:37.243 Því einmitt það gera Palantir, ChatGPT frá OpenAI, Claude frá Anthropic og Grok frá SpaceXAI þegar í dag á Gasa, í Úkraínu, 04:37.243 --> 04:47.495 Íran og öðrum stríðssvæðum, þar sem sjálfvirk vopnakerfi eru stýrð af einmitt þessum kerfum – eins og þær smádrónur sem samkvæmt 04:47.495 --> 04:52.424 EUROPOL munu bráðum fara á eftirlitsferðir í borgum okkar. 04:52.424 --> 05:00.370 Sá sem notar gervigreindarkerfi þjálfar „SkyNet“, miðlægan gagnagrunn sem mun stýra hinum raunverulega „Terminator“. 05:00.370 --> 05:06.784 Og sá stendur þökk sé Boston Dynamics, Unitree og Tesla bráðum fyrir dyrum okkar.“