1
00:00:00,000 --> 00:00:00,976


2
00:00:00,976 --> 00:00:09,000
Í samtali lýsti Sam Altman, yfirmaður gervigreindarfyrirtækisins
OpenAI, áformum sínum um arftaka ChatGPT.

3
00:00:09,000 --> 00:00:15,679
Sá á að vera tilbúinn til notkunar á
næstu mánuðum. Altman sagði eftirfarandi:

4
00:00:15,679 --> 00:00:25,442
„Ég held að við séum nálægt heimi þar sem hægt er að hafa arftaka
ChatGPT sem fylgist með tölvuskjánum þínum allan tímann, fylgist

5
00:00:25,442 --> 00:00:31,976
með hverjum fundi sem þú tekur þátt í, tekur
upp hvert símtal og hefur þannig fullkomið

6
00:00:31,976 --> 00:00:37,279
samhengi alls lífs þíns – af öllu sem þú sérð.“

7
00:00:37,279 --> 00:00:42,840
Innan skamms mun gervigreindin því ekki aðeins bregðast við
fyrirspurnum heldur grípa til aðgerða af eigin frumkvæði.

8
00:00:42,840 --> 00:00:51,161
Hún mun stinga upp á hugmyndum, greina hugsanleg vandamál
og styðja við daglegt líf. Hvílíkur dásamlegur nýr heimur!

9
00:00:51,161 --> 00:00:57,785
Við hliðina á þessu virðast klassísku dystópíurnar eins og
1984 – „Big Brother is watching you“ – eins og hættulaust

10
00:00:57,785 --> 00:01:02,178
brúðuleikhús, því eftirlitsmenn Orwells sátu enn bak við vegg.

11
00:01:02,178 --> 00:01:08,526
Eftirlitsmenn Altmans sitja í eigin
snjallsíma eða tölvu og bráðum í eigin heila.

12
00:01:08,526 --> 00:01:12,650
Þeir verða að stöðugum fylgdarmönnum, að því er virðist vinum.

13
00:01:12,650 --> 00:01:15,343
Beitan þægindanna er freistandi.

14
00:01:15,343 --> 00:01:23,476
Hver myndi ekki gjarnan útvista nokkrum leiðinlegum
fundum eða láta fullkomna valdstofnun styðja sig í vinnunni?

15
00:01:23,476 --> 00:01:30,363
En um leið og fólk verður háð nýju
gervigreindarstuðningnum, mun gervigreindin byrja að aga það.

16
00:01:30,363 --> 00:01:37,520
Hinn þunni þráður milli „stuðnings“ og „yfirráða“ verður þá
ekki lengur skilgreindur af notendum heldur af reikniritum.

17
00:01:37,520 --> 00:01:41,204
Þannig verður sú fyrirhyggjulega hjálp að yfirráðandi inngripi.

18
00:01:41,204 --> 00:01:47,020
Hér eru nokkur dæmi um hvernig þetta lítur út í reynd:

19
00:01:47,020 --> 00:01:50,695
1. Ætlar maður að skrifa gagnrýna
athugasemd um stefnu stjórnvalda?

20
00:01:50,695 --> 00:01:55,437
Gervigreindin, sem fylgist með hverri
lyklislá, „leiðréttir“ textann fyrirfram.

21
00:01:55,437 --> 00:02:04,040
Hún stingur upp á meinlausari orðalagi eða birtir
færsluna alls ekki, því hún er flokkuð sem „órétt“ eða „pólsk“.

22
00:02:04,040 --> 00:02:11,060
Þegar nú þegar lokar Google-gervigreindin
meinlausum umsögnum vegna eigin skilgreininga.

23
00:02:11,060 --> 00:02:15,078
2. Leitar maður upplýsinga um umdeild málefni á netinu?

24
00:02:15,078 --> 00:02:22,414
Gervigreindin síar leitarniðurstöðurnar og sýnir aðeins þær
heimildir sem hún telur „traustvekjandi“ – þ.e. kerfisbundnar.

25
00:02:22,414 --> 00:02:25,585
Þegar nú þegar er skuggabann í samfélagsmiðlum.

26
00:02:25,585 --> 00:02:34,269
Efnið er ekki læst, en það birtist ekki lengur í
leit og er því ekki lengur aðgengilegt fylgjendum.

27
00:02:35,769 --> 00:02:42,683
3. Ekki er lengur þörf á að lesa og skrifa, því gervigreindin
dregur saman krefjandi texta eða semur heilar greinar og ræður.

28
00:02:42,683 --> 00:02:49,870
Rithöfundurinn Tom-Oliver Regenauer
skrifaði nýlega um þetta í stefnuskrá:

29
00:02:49,870 --> 00:02:56,020
„Sá sem útvistar lestri, hugsun og
skrifum, lærir það ekki – og það mjög fljótt.

30
00:02:56,020 --> 00:03:01,599
Heilinn er sambærilegur við vöðva. Ef
hann er ekki þjálfaður, rýrnar hann...

31
00:03:01,599 --> 00:03:10,169
Ef maður gerir sér grein fyrir hversu hörmulegar afleiðingar
innleiðing snjallsímans frá 2007 hefur haft, þarf ekki

32
00:03:10,169 --> 00:03:19,616
mikla ímyndunarafl til að spá fyrir um hvaða áhrif gervigreind
mun hafa á vitræna getu tegundar okkar á mun skemmri tíma.

33
00:03:19,616 --> 00:03:26,343
Gervigreind er – eins og snjallsíminn –
fyrst og fremst hernaðartækni og hrörnunartæki.

34
00:03:26,343 --> 00:03:32,294
Verkfæri sem fæstir geta notað á ábyrgan og afkastamikinn hátt.

35
00:03:32,294 --> 00:03:38,954
Hin stefnulausu, viljalausu og
hugsunarlausu „smombíurnar“ sem þegar móta borgarmyndina

36
00:03:38,954 --> 00:03:43,840
virðast þó ekki nægja sem viðvörunardæmi.“

37
00:03:43,840 --> 00:03:48,837
4. Gervigreindin greinir á mjög stuttum tíma
persónulega pólitíska afstöðu, les

38
00:03:48,837 --> 00:03:52,821
einkaskilaboðin og þekkir sambands- og tengslanetið.

39
00:03:52,821 --> 00:03:58,580
Hún notar þessa þekkingu ekki til að efla manninn
í þroska sínum, heldur til að „fínstilla“ hann.

40
00:03:58,580 --> 00:04:02,526
Það þýðir í skýru máli: aðlögun að þeim normum sem krafist er.

41
00:04:02,526 --> 00:04:10,245
Nudging, þ.e. hófleg skoðanastýring, var þegar prófuð með
góðum árangri á fjölda fólks á meðan á kórónuveiruárunum stóð.

42
00:04:10,245 --> 00:04:15,040
Hversu mikla vald viljum við,
notendurnir, þá gefa ChatGPT og félögum?

43
00:04:15,040 --> 00:04:19,198
Tom-Oliver Regenauer setur fram skýra yfirlýsingu um þetta:

44
00:04:19,198 --> 00:04:27,392
„Ég neita að þjálfa kerfi sem njósnar stöðugt
um mig og hefur þegar möguleika á að drepa mig.

45
00:04:27,392 --> 00:04:37,243
Því einmitt það gera Palantir, ChatGPT frá OpenAI, Claude frá
Anthropic og Grok frá SpaceXAI þegar í dag á Gasa, í Úkraínu,

46
00:04:37,243 --> 00:04:47,495
Íran og öðrum stríðssvæðum, þar sem sjálfvirk vopnakerfi eru stýrð
af einmitt þessum kerfum – eins og þær smádrónur sem samkvæmt

47
00:04:47,495 --> 00:04:52,424
EUROPOL munu bráðum fara á eftirlitsferðir í borgum okkar.

48
00:04:52,424 --> 00:05:00,370
Sá sem notar gervigreindarkerfi þjálfar „SkyNet“, miðlægan
gagnagrunn sem mun stýra hinum raunverulega „Terminator“.

49
00:05:00,370 --> 00:05:06,784
Og sá stendur þökk sé Boston Dynamics,
Unitree og Tesla bráðum fyrir dyrum okkar.“