WEBVTT 00:00.000 --> 00:07.220 Senjata autonomi – kubu terakhir elit kewangan global mesti jatuh! 00:07.220 --> 00:15.360 Senjata autonomi membuat keputusan dan bertindak secara bebas dengan bantuan kecerdasan buatan, tanpa campur tangan manusia. 00:15.360 --> 00:22.320 Walaupun mereka masih dalam pembangunan, mereka sudah membuat komuniti antarabangsa tertanya-tanya. 00:22.320 --> 00:26.220 Apa sebenarnya ini dan apakah masalahnya? 00:26.220 --> 00:33.344 Senjata autonomi, juga dikenali sebagai robot pembunuh, dianggap sebagai "revolusi ketiga dalam peperangan". 00:33.344 --> 00:38.813 Seperti penemuan serbuk mesiu dan senjata nuklear pada masa lalu, sistem senjata 00:38.813 --> 00:42.990 autonomi secara radikal mengubah sifat peperangan. 00:42.990 --> 00:46.480 Senjata autonomi ialah sistem yang beroperasi secara bebas. 00:46.480 --> 00:56.213 Mereka diprogram untuk mengenal pasti dan menyerang sasaran menggunakan kecerdasan buatan dan tanpa kawalan manusia. 00:56.213 --> 01:05.913 Ini mungkin dron tanpa pemandu, tetapi juga kapal, kereta kebal, pelancar roket, robot dan senjata lain. 01:05.913 --> 01:12.291 Sistem senjata sepenuhnya autonom dengan kecerdasan buatan adaptif belum secara rasmi menjadi sebahagian 01:12.291 --> 01:16.000 integral daripada tentera-tentera di seluruh dunia. 01:16.000 --> 01:23.953 Sejak 2014, Pertubuhan Bangsa-Bangsa Bersatu telah mengadakan perbincangan di Geneva, di mana 75 negara sedang 01:23.953 --> 01:31.424 merundingkan larangan terhadap sistem senjata autonomi maut bagi mengawal selia robot pembunuh. 01:31.424 --> 01:37.860 Perjanjian itu tidak realistik kerana sesetengah negara mengejar kepentingan mereka sendiri. 01:37.860 --> 01:47.546 Menurut aktivis keamanan, 26 negara menyokong pengharaman senjata sedemikian, termasuk Austria dan semua negara membangun. 01:47.546 --> 01:51.776 China telah menyatakan sokongan untuk mengharamkan penggunaannya. 01:51.776 --> 01:56.973 Dilaporkan Amerika Syarikat sepenuhnya menentang sekatan ke atas pembangunan. 01:56.973 --> 02:02.917 Terdapat juga syarikat di Jerman yang terlibat dalam pembangunan ini, sekali gus 02:02.917 --> 02:07.560 menyemarakkan lagi perlumbaan senjata antarabangsa. 02:07.560 --> 02:10.997 Tetapi mengapa senjata autonomi begitu dicari? 02:10.997 --> 02:19.460 Menurut statistik rasmi Tentera Darat AS, lebih ramai askar AS kini mati bunuh diri berbanding akibat serangan musuh. 02:19.460 --> 02:26.370 Mereka sukar untuk mengaitkan diri dengan apa yang disebut sebagai perang "kemanusiaan", yang sebenarnya tidak lebih 02:26.370 --> 02:32.446 daripada perang pencerobohan berasaskan strategi kuasa, dan mereka menderita dilema moral seumur hidup 02:32.446 --> 02:36.672 akibat peperangan kejam, termasuk terhadap penduduk awam. 02:36.672 --> 02:42.034 Veteran perang sedang mengembalikan pingat mereka secara berduyun-duyun kerana mereka malu dengan 02:42.034 --> 02:46.020 tindakan perang dan menunjukkan penyesalan yang mendalam. 02:46.020 --> 02:52.840 Malahan juruterbang dron, yang membunuh dari meja mereka seolah-olah bermain permainan komputer dan menunjukkan 02:52.840 --> 03:00.220 sedikit belas kasihan kerana jarak mereka daripada pertempuran, juga menjadi "keletihan" selepas beberapa tahun. 03:00.220 --> 03:07.659 Beberapa dekad kajian psikologi juga telah menunjukkan bahawa askar dalam pertempuran kebanyakannya langsung tidak 03:07.659 --> 03:12.340 menembak askar musuh, tetapi sengaja meleset sasaran mereka. 03:12.340 --> 03:18.752 Ini menjelaskan bahawa manusia, dalam hakikat asas mereka, bukanlah "mesin perang". 03:18.752 --> 03:25.440 Gerakan dan perhimpunan keamanan global menekankan hakikat ini. 03:25.440 --> 03:34.052 Bagi para pemburu perang yang tamak kuasa dan tuan boneka global di sebalik mereka, sistem senjata autonomi, iaitu robot pembunuh, 03:34.052 --> 03:42.266 diperlukan berfungsi dengan sempurna dan tanpa kompromi – tanpa mempersoalkan, tanpa belas kasihan, tanpa hati nurani, bukan 03:42.266 --> 03:47.440 sekadar sebagai perlindungan terhadap orang ramai yang marah. 03:47.440 --> 03:52.952 Ini kerana semakin ramai orang mula memahami saling kebergantungan global dan tidak 03:52.952 --> 03:56.813 lagi bersedia dieksploitasi serta dimanipulasi. 03:56.813 --> 04:05.602 Manusia tidak akan menerima dalam jangka panjang bahawa kawalan ke atas keseluruhan sistem kewangan, semua kerajaan, 04:05.602 --> 04:10.660 negara dan sumbernya berada di tangan beberapa keluarga. 04:10.660 --> 04:15.680 Aktivis keamanan dari semua jenis dan bangsa oleh itu membunyikan amaran: 04:15.680 --> 04:20.928 Pembangunan sistem senjata autonomi mesti diharamkan di seluruh dunia. 04:20.928 --> 04:29.105 Lebih daripada 2,500 penyelidik dan 176 organisasi dalam bidang kecerdasan buatan telah menandatangani 04:29.105 --> 04:37.216 komitmen sukarela untuk tidak menjalankan penyelidikan mengenai sistem senjata maut autonomi. 04:37.216 --> 04:45.134 Dengan menandatangani, para peserta berjanji "tidak akan menyokong atau menyumbang kepada pembangunan, 04:45.134 --> 04:50.960 pengeluaran, perdagangan atau penggunaan senjata maut autonomi". 04:50.960 --> 04:53.700 Bagaimanapun, banyak nama besar yang tiada. 04:53.700 --> 05:02.114 Baik Google mahupun syarikat induknya, Alphabet, tidak menandatangani komitmen sukarela itu; Boston Dynamics, 05:02.114 --> 05:06.784 pengeluar model robot terkenal, juga belum tersenarai. 05:06.784 --> 05:10.464 Kontraktor pertahanan yang relevan juga hilang. 05:10.464 --> 05:19.222 Matlamat para aktivis adalah untuk memberi impak yang jauh melangkaui kalangan penandatangan dengan menarik 05:19.222 --> 05:24.200 perhatian orang ramai terhadap bahaya senjata autonomi. 05:24.200 --> 05:31.002 Sebuah filem pendek berjudul "Slaughterbots" menunjukkan betapa berkesan dan memusnahkan 05:31.002 --> 05:35.160 senjata autonomi boleh menjadi sekarang ini. 05:35.160 --> 05:44.610 Institut Masa Depan Hidup yang berpangkalan di Amerika Syarikat (FLI), yang bertujuan meminimumkan risiko eksistensial terhadap 05:44.610 --> 05:49.664 kemanusiaan, menerbitkan video itu pada 12 November 2017. 05:49.664 --> 05:53.906 Dalam beberapa minggu, ia telah diklik berjuta-juta kali. 05:53.906 --> 06:01.123 Ini memberikan pratonton fiksyen yang menyeramkan tentang bagaimana, contohnya, pengkritik sistem atau kumpulan etnik 06:01.123 --> 06:05.353 yang tidak diingini boleh dilikvidasi dalam sekelip mata. 06:05.353 --> 06:08.896 Kesimpulan: Hentikan teknologi ini! 06:08.896 --> 06:12.880 Berikut adalah beberapa petikan daripada video: 06:14.580 --> 06:22.740 juruterbang pelanggan kami telah melaksanakan hampir 3,000 serangan tepat tahun lalu, dan kami amat berbangga dengan itu. 06:22.740 --> 06:27.000 Ia membolehkan anda memisahkan orang jahat daripada orang baik. 06:27.000 --> 06:33.340 Ini perkara besar. Tetapi kami ada sesuatu yang jauh lebih besar. 06:37.393 --> 06:43.980 Anak-anak anda mungkin mempunyai salah satu daripadanya, kan? Tidak sepenuhnya. 06:45.920 --> 06:49.248 Seorang juruterbang berani mati? Tidak. 06:49.248 --> 06:54.848 Keupayaan ini sepenuhnya mengenai AI – kecerdasan buatan. Ia terbang sendiri. 06:54.848 --> 06:59.220 Pemprosesnya boleh bertindak balas seratus kali lebih pantas daripada manusia. 06:59.220 --> 07:04.760 Pergerakan stokastik berada dalam mod anti-penembak tepat. 07:08.506 --> 07:13.560 Seperti mana-mana peranti mudah alih lain pada masa kini, ia mempunyai kamera dan penderia. 07:13.560 --> 07:19.552 Dan seperti telefon bimbit dan aplikasi media sosial anda, ia juga mempunyai pengecaman muka. 07:19.552 --> 07:26.080 Terdapat tiga gram bahan letupan khas di sini. 07:26.080 --> 07:40.880 Dan begitulah cara ia berfungsi. Adakah anda melihat itu? 07:40.880 --> 07:48.606 Suntikan kecil ini sudah cukup untuk menembusi bahagian atas tengkorak dan memusnahkan segala yang di belakangnya. 07:48.606 --> 07:52.599 Sering dikatakan bahawa bukan senjata yang membunuh orang, tetapi orang yang membunuh orang. 07:52.599 --> 07:54.233 Baiklah, mereka memang tidak melakukannya. 07:54.233 --> 07:58.752 Mereka menjadi emosional, tidak mematuhi arahan, sengaja meleset sasaran mereka. 07:58.752 --> 08:03.295 Jadi, mari kita lihat bagaimana senjata membuat keputusan di sini. 08:03.295 --> 08:08.379 Sekarang percayalah – mereka semua budak nakal. 08:11.712 --> 08:18.453 Itu adalah serangan udara dengan ketepatan bedah. Ia adalah salah satu daripada sekumpulan produk. 08:18.453 --> 08:24.232 Diprogramkan sebagai sekawanan, benda-benda ini boleh menembusi bangunan, kereta dan kereta api, mengelak orang 08:24.232 --> 08:27.120 dan peluru, dan menggagalkan hampir semua langkah balas. 08:27.120 --> 08:34.820 Mereka tidak dapat dihentikan. Baiklah, saya kata: Itu hebat. 08:34.820 --> 08:41.273 Mengapa? Kerana kami berfikir besar. Lihat: 08:43.260 --> 08:47.733 Kontrak bernilai £20 juta membolehkan mereka memperoleh ini. 08:47.733 --> 08:53.312 Cukup untuk membunuh separuh bandar itu, separuh yang jahat. 08:53.312 --> 08:55.936 Tenaga nuklear – itu berita lama. 08:55.936 --> 09:00.679 Habisi semua musuh anda – dengan hampir tiada risiko. 09:00.679 --> 09:05.880 Cuma gambarkan dia, lepaskan crush kamu dan bersantai. 09:05.880 --> 09:09.860 Senjata bodoh menyerang di mana sahaja anda menunjukkannya. 09:09.860 --> 09:13.240 Senjata pintar memproses data. 09:13.240 --> 09:21.035 Jika anda dapat mencari musuh anda dengan bantuan data – walaupun dengan tanda pagar – anda boleh 09:21.035 --> 09:26.393 menyerang ideologi kejam tepat di permulaannya. 09:29.408 --> 09:32.266 Filem pendek ini lebih daripada sekadar spekulasi. 09:32.266 --> 09:38.000 Ia menunjukkan hasil daripada pengintegrasian dan peminiaturisan teknologi yang sudah kita miliki. 09:38.000 --> 09:40.980 Saya Stuart Russell, Profesor Sains Komputer di Berkeley. 09:40.980 --> 09:44.666 Saya telah bekerja dalam bidang kecerdasan buatan (AI) selama lebih daripada 35 tahun. 09:44.666 --> 09:47.980 Potensi mereka untuk manfaat kemanusiaan adalah sangat besar, termasuk dalam pertahanan. 09:47.980 --> 09:54.140 Tetapi ia akan memusnahkan keselamatan dan kebebasan kita jika membiarkan mesin memutuskan untuk membunuh orang. 09:54.140 --> 09:56.726 Beribu-ribu rakan sekerja saya bersetuju tentang hal ini. 09:56.726 --> 10:01.878 Kita masih mempunyai peluang untuk mencegah masa depan yang baru sahaja ditunjukkan kepada anda, tetapi 10:01.878 --> 10:04.980 tingkap peluang untuk bertindak sedang ditutup dengan pantas!