1
00:00:00,000 --> 00:00:00,976


2
00:00:00,976 --> 00:00:09,000
Dalam sebuah percakapan, Sam Altman, bos perusahaan AI
OpenAI, menggambarkan rencananya untuk penerus ChatGPT.

3
00:00:09,000 --> 00:00:15,679
Ini akan siap digunakan dalam beberapa
bulan mendatang. Altman mengatakan hal berikut:

4
00:00:15,679 --> 00:00:23,811
"Saya percaya kita sudah dekat dengan dunia di mana seseorang
dapat memiliki penerus ChatGPT yang mengamati layar komputer Anda

5
00:00:23,811 --> 00:00:31,494
sepanjang waktu, mengikuti setiap rapat yang Anda hadiri,
merekam setiap panggilan, dan dengan demikian memiliki konteks

6
00:00:31,494 --> 00:00:37,279
sempurna dari seluruh hidup Anda – dari semua yang Anda lihat."

7
00:00:37,279 --> 00:00:42,840
Sebentar lagi AI tidak hanya akan merespons
permintaan, tetapi bertindak secara proaktif.

8
00:00:42,840 --> 00:00:51,161
Ia akan mengusulkan ide, mengenali potensi masalah, dan
mendukung kehidupan sehari-hari. Dunia baru yang indah!

9
00:00:51,161 --> 00:00:57,884
Di samping itu, distopia klasik seperti 1984 – "Big Brother is
watching you" – tampak seperti pertunjukan boneka yang tidak

10
00:00:57,884 --> 00:01:02,178
berbahaya, karena pengamat Orwell masih duduk di balik dinding.

11
00:01:02,178 --> 00:01:08,526
Pengamat Altman duduk di ponsel pintar atau
PC sendiri dan tak lama lagi di otak sendiri.

12
00:01:08,526 --> 00:01:12,650
Mereka akan menjadi pendamping tetap, menjadi teman semu.

13
00:01:12,650 --> 00:01:15,343
Umpan kenyamanan itu menggoda.

14
00:01:15,343 --> 00:01:19,625
Siapa yang tidak ingin mendelegasikan
beberapa janji temu yang menjengkelkan atau

15
00:01:19,625 --> 00:01:23,476
dibantu oleh otoritas sempurna dalam pekerjaan?

16
00:01:23,476 --> 00:01:30,363
Namun begitu manusia bergantung pada
dukungan AI baru, AI akan mulai menegur mereka.

17
00:01:30,363 --> 00:01:37,520
Garis tipis antara "dukungan" dan "paternalisme" kemudian
tidak lagi ditentukan oleh pengguna, melainkan oleh algoritma.

18
00:01:37,520 --> 00:01:41,204
Dengan demikian, bantuan proaktif
menjadi intervensi yang paternalistik.

19
00:01:41,204 --> 00:01:47,020
Berikut beberapa contoh bagaimana
hal itu terlihat secara konkret:

20
00:01:47,020 --> 00:01:50,695
1. Seseorang ingin menulis komentar
kritis tentang kebijakan pemerintah?

21
00:01:50,695 --> 00:01:55,437
AI, yang memantau setiap ketukan tombol,
"memperbaiki" teks tersebut sebelumnya.

22
00:01:55,437 --> 00:02:00,944
Ia mengusulkan rumusan yang lebih tidak berbahaya
atau bahkan tidak menerbitkan unggahan itu sama sekali,

23
00:02:00,944 --> 00:02:04,040
karena dianggap "tidak benar" atau "memecah belah".

24
00:02:04,040 --> 00:02:11,060
Saat ini saja, AI Google sudah memblokir ulasan-ulasan
yang tidak berbahaya berdasarkan definisinya sendiri.

25
00:02:11,060 --> 00:02:15,078
2. Seseorang mencari informasi tentang topik-topik
yang diperdebatkan secara kontroversial di internet?

26
00:02:15,078 --> 00:02:22,414
AI menyaring hasil pencarian dan hanya menampilkan sumber-sumber
yang dianggapnya "tepercaya" – yakni yang sejalan dengan sistem.

27
00:02:22,414 --> 00:02:25,585
Saat ini saja sudah ada shadow banning di media sosial.

28
00:02:25,585 --> 00:02:30,048
Kontennya tidak diblokir, tetapi tidak lagi
ditampilkan dalam pencarian dan dengan

29
00:02:30,048 --> 00:02:34,269
demikian tidak lagi tersedia bagi para pelanggan.

30
00:02:35,769 --> 00:02:39,767
3. Membaca dan menulis tidak lagi
diperlukan, karena AI merangkum teks-teks yang

31
00:02:39,767 --> 00:02:42,683
menuntut atau menyusun seluruh artikel dan pidato.

32
00:02:42,683 --> 00:02:49,870
Penulis Tom-Oliver Regenauer baru-baru ini
menulis tentang hal ini dalam sebuah makalah posisi:

33
00:02:49,870 --> 00:02:56,020
"Siapa yang mengalihdayakan membaca, berpikir, dan
menulis, akan melupakannya – dan itu terjadi sangat cepat.

34
00:02:56,020 --> 00:03:01,599
Otak dapat dibandingkan dengan otot.
Jika tidak dilatih, ia akan menyusut...

35
00:03:01,599 --> 00:03:09,841
Jika kita menyadari betapa fatalnya dampak yang ditimbulkan oleh
pengenalan ponsel pintar sejak tahun 2007, tidak perlu banyak

36
00:03:09,841 --> 00:03:15,924
imajinasi untuk mengekstrapolasi dampak apa yang
akan dimiliki AI dalam waktu yang jauh lebih

37
00:03:15,924 --> 00:03:19,616
singkat terhadap kemampuan kognitif spesies kita.

38
00:03:19,616 --> 00:03:26,343
AI – seperti juga ponsel pintar – terutama
adalah teknologi militer dan instrumen degenerasi.

39
00:03:26,343 --> 00:03:32,294
Sebuah alat yang hanya sedikit orang yang dapat
menggunakannya secara bertanggung jawab dan produktif.

40
00:03:32,294 --> 00:03:38,596
"Smombie" yang tanpa orientasi, kemauan, dan
pikiran, yang sudah sekarang membentuk wajah kota,

41
00:03:38,596 --> 00:03:43,840
tampaknya sebagai contoh yang menakutkan belum cukup."

42
00:03:43,840 --> 00:03:49,095
4. AI mengenali dalam waktu yang sangat singkat
sikap politik pribadi, membaca pesan-pesan

43
00:03:49,095 --> 00:03:52,821
pribadi dan mengetahui jaringan hubungan dan kontak.

44
00:03:52,821 --> 00:03:58,580
Ia tidak menggunakan pengetahuan ini untuk mendukung manusia
dalam perkembangannya, melainkan untuk "mengoptimalkan" manusia.

45
00:03:58,580 --> 00:04:02,526
Itu berarti secara jelas:
penyesuaian terhadap norma yang dituntut.

46
00:04:02,526 --> 00:04:10,245
Nudging, yaitu kontrol opini yang halus, sudah diuji
secara massal dengan sukses selama tahun-tahun Corona.

47
00:04:10,245 --> 00:04:15,040
Jadi, berapa banyak kekuasaan yang ingin kita,
para pengguna, berikan kepada ChatGPT dan sejenisnya?

48
00:04:15,040 --> 00:04:19,198
Tom-Oliver Regenauer memberikan
pernyataan yang jelas tentang hal ini:

49
00:04:19,198 --> 00:04:27,392
"Saya menolak untuk melatih sistem yang terus-menerus memata-matai
saya dan sudah sekarang memiliki potensi untuk membunuh saya.

50
00:04:27,392 --> 00:04:37,234
Karena justru itulah yang sudah dilakukan Palantir, ChatGPT dari
OpenAI, Claude dari Anthropic, dan Grok dari SpaceXAI hari ini di

51
00:04:37,234 --> 00:04:44,502
Gaza, Ukraina, Iran, dan wilayah perang lainnya, di mana sistem
senjata otonom dikendalikan oleh

52
00:04:44,502 --> 00:04:52,424
sistem-sistem ini – seperti drone mini yang menurut
EUROPOL akan segera berpatroli di kota-kota kita.

53
00:04:52,424 --> 00:05:00,370
Siapa yang menggunakan sistem AI, melatih "SkyNet", sebuah basis
data pusat yang akan mengendalikan "Terminator" yang sebenarnya.

54
00:05:00,370 --> 00:05:06,784
Dan berkat Boston Dynamics, Unitree, dan
Tesla, ia akan segera berdiri di depan pintu kita."