WEBVTT 00:00.976 --> 00:09.000 Dalam sebuah percakapan, Sam Altman, bos perusahaan AI OpenAI, menggambarkan rencananya untuk penerus ChatGPT. 00:09.000 --> 00:15.679 Ini akan siap digunakan dalam beberapa bulan mendatang. Altman mengatakan hal berikut: 00:15.679 --> 00:23.811 "Saya percaya kita sudah dekat dengan dunia di mana seseorang dapat memiliki penerus ChatGPT yang mengamati layar komputer Anda 00:23.811 --> 00:31.494 sepanjang waktu, mengikuti setiap rapat yang Anda hadiri, merekam setiap panggilan, dan dengan demikian memiliki konteks 00:31.494 --> 00:37.279 sempurna dari seluruh hidup Anda – dari semua yang Anda lihat." 00:37.279 --> 00:42.840 Sebentar lagi AI tidak hanya akan merespons permintaan, tetapi bertindak secara proaktif. 00:42.840 --> 00:51.161 Ia akan mengusulkan ide, mengenali potensi masalah, dan mendukung kehidupan sehari-hari. Dunia baru yang indah! 00:51.161 --> 00:57.884 Di samping itu, distopia klasik seperti 1984 – "Big Brother is watching you" – tampak seperti pertunjukan boneka yang tidak 00:57.884 --> 01:02.178 berbahaya, karena pengamat Orwell masih duduk di balik dinding. 01:02.178 --> 01:08.526 Pengamat Altman duduk di ponsel pintar atau PC sendiri dan tak lama lagi di otak sendiri. 01:08.526 --> 01:12.650 Mereka akan menjadi pendamping tetap, menjadi teman semu. 01:12.650 --> 01:15.343 Umpan kenyamanan itu menggoda. 01:15.343 --> 01:19.625 Siapa yang tidak ingin mendelegasikan beberapa janji temu yang menjengkelkan atau 01:19.625 --> 01:23.476 dibantu oleh otoritas sempurna dalam pekerjaan? 01:23.476 --> 01:30.363 Namun begitu manusia bergantung pada dukungan AI baru, AI akan mulai menegur mereka. 01:30.363 --> 01:37.520 Garis tipis antara "dukungan" dan "paternalisme" kemudian tidak lagi ditentukan oleh pengguna, melainkan oleh algoritma. 01:37.520 --> 01:41.204 Dengan demikian, bantuan proaktif menjadi intervensi yang paternalistik. 01:41.204 --> 01:47.020 Berikut beberapa contoh bagaimana hal itu terlihat secara konkret: 01:47.020 --> 01:50.695 1. Seseorang ingin menulis komentar kritis tentang kebijakan pemerintah? 01:50.695 --> 01:55.437 AI, yang memantau setiap ketukan tombol, "memperbaiki" teks tersebut sebelumnya. 01:55.437 --> 02:00.944 Ia mengusulkan rumusan yang lebih tidak berbahaya atau bahkan tidak menerbitkan unggahan itu sama sekali, 02:00.944 --> 02:04.040 karena dianggap "tidak benar" atau "memecah belah". 02:04.040 --> 02:11.060 Saat ini saja, AI Google sudah memblokir ulasan-ulasan yang tidak berbahaya berdasarkan definisinya sendiri. 02:11.060 --> 02:15.078 2. Seseorang mencari informasi tentang topik-topik yang diperdebatkan secara kontroversial di internet? 02:15.078 --> 02:22.414 AI menyaring hasil pencarian dan hanya menampilkan sumber-sumber yang dianggapnya "tepercaya" – yakni yang sejalan dengan sistem. 02:22.414 --> 02:25.585 Saat ini saja sudah ada shadow banning di media sosial. 02:25.585 --> 02:30.048 Kontennya tidak diblokir, tetapi tidak lagi ditampilkan dalam pencarian dan dengan 02:30.048 --> 02:34.269 demikian tidak lagi tersedia bagi para pelanggan. 02:35.769 --> 02:39.767 3. Membaca dan menulis tidak lagi diperlukan, karena AI merangkum teks-teks yang 02:39.767 --> 02:42.683 menuntut atau menyusun seluruh artikel dan pidato. 02:42.683 --> 02:49.870 Penulis Tom-Oliver Regenauer baru-baru ini menulis tentang hal ini dalam sebuah makalah posisi: 02:49.870 --> 02:56.020 "Siapa yang mengalihdayakan membaca, berpikir, dan menulis, akan melupakannya – dan itu terjadi sangat cepat. 02:56.020 --> 03:01.599 Otak dapat dibandingkan dengan otot. Jika tidak dilatih, ia akan menyusut... 03:01.599 --> 03:09.841 Jika kita menyadari betapa fatalnya dampak yang ditimbulkan oleh pengenalan ponsel pintar sejak tahun 2007, tidak perlu banyak 03:09.841 --> 03:15.924 imajinasi untuk mengekstrapolasi dampak apa yang akan dimiliki AI dalam waktu yang jauh lebih 03:15.924 --> 03:19.616 singkat terhadap kemampuan kognitif spesies kita. 03:19.616 --> 03:26.343 AI – seperti juga ponsel pintar – terutama adalah teknologi militer dan instrumen degenerasi. 03:26.343 --> 03:32.294 Sebuah alat yang hanya sedikit orang yang dapat menggunakannya secara bertanggung jawab dan produktif. 03:32.294 --> 03:38.596 "Smombie" yang tanpa orientasi, kemauan, dan pikiran, yang sudah sekarang membentuk wajah kota, 03:38.596 --> 03:43.840 tampaknya sebagai contoh yang menakutkan belum cukup." 03:43.840 --> 03:49.095 4. AI mengenali dalam waktu yang sangat singkat sikap politik pribadi, membaca pesan-pesan 03:49.095 --> 03:52.821 pribadi dan mengetahui jaringan hubungan dan kontak. 03:52.821 --> 03:58.580 Ia tidak menggunakan pengetahuan ini untuk mendukung manusia dalam perkembangannya, melainkan untuk "mengoptimalkan" manusia. 03:58.580 --> 04:02.526 Itu berarti secara jelas: penyesuaian terhadap norma yang dituntut. 04:02.526 --> 04:10.245 Nudging, yaitu kontrol opini yang halus, sudah diuji secara massal dengan sukses selama tahun-tahun Corona. 04:10.245 --> 04:15.040 Jadi, berapa banyak kekuasaan yang ingin kita, para pengguna, berikan kepada ChatGPT dan sejenisnya? 04:15.040 --> 04:19.198 Tom-Oliver Regenauer memberikan pernyataan yang jelas tentang hal ini: 04:19.198 --> 04:27.392 "Saya menolak untuk melatih sistem yang terus-menerus memata-matai saya dan sudah sekarang memiliki potensi untuk membunuh saya. 04:27.392 --> 04:37.234 Karena justru itulah yang sudah dilakukan Palantir, ChatGPT dari OpenAI, Claude dari Anthropic, dan Grok dari SpaceXAI hari ini di 04:37.234 --> 04:44.502 Gaza, Ukraina, Iran, dan wilayah perang lainnya, di mana sistem senjata otonom dikendalikan oleh 04:44.502 --> 04:52.424 sistem-sistem ini – seperti drone mini yang menurut EUROPOL akan segera berpatroli di kota-kota kita. 04:52.424 --> 05:00.370 Siapa yang menggunakan sistem AI, melatih "SkyNet", sebuah basis data pusat yang akan mengendalikan "Terminator" yang sebenarnya. 05:00.370 --> 05:06.784 Dan berkat Boston Dynamics, Unitree, dan Tesla, ia akan segera berdiri di depan pintu kita."