1
00:00:00,000 --> 00:00:07,220
Senjata autonomi – kubu terakhir
elit kewangan global mesti jatuh!

2
00:00:07,220 --> 00:00:15,360
Senjata autonomi membuat keputusan dan bertindak secara bebas
dengan bantuan kecerdasan buatan, tanpa campur tangan manusia.

3
00:00:15,360 --> 00:00:22,320
Walaupun mereka masih dalam pembangunan, mereka
sudah membuat komuniti antarabangsa tertanya-tanya.

4
00:00:22,320 --> 00:00:26,220
Apa sebenarnya ini dan apakah masalahnya?

5
00:00:26,220 --> 00:00:33,344
Senjata autonomi, juga dikenali sebagai robot
pembunuh, dianggap sebagai "revolusi ketiga dalam peperangan".

6
00:00:33,344 --> 00:00:38,813
Seperti penemuan serbuk mesiu dan senjata
nuklear pada masa lalu, sistem senjata

7
00:00:38,813 --> 00:00:42,990
autonomi secara radikal mengubah sifat peperangan.

8
00:00:42,990 --> 00:00:46,480
Senjata autonomi ialah sistem yang beroperasi secara bebas.

9
00:00:46,480 --> 00:00:56,213
Mereka diprogram untuk mengenal pasti dan menyerang
sasaran menggunakan kecerdasan buatan dan tanpa kawalan manusia.

10
00:00:56,213 --> 00:01:05,913
Ini mungkin dron tanpa pemandu, tetapi juga kapal,
kereta kebal, pelancar roket, robot dan senjata lain.

11
00:01:05,913 --> 00:01:12,291
Sistem senjata sepenuhnya autonom dengan kecerdasan
buatan adaptif belum secara rasmi menjadi sebahagian

12
00:01:12,291 --> 00:01:16,000
integral daripada tentera-tentera di seluruh dunia.

13
00:01:16,000 --> 00:01:23,953
Sejak 2014, Pertubuhan Bangsa-Bangsa Bersatu telah mengadakan
perbincangan di Geneva, di mana 75 negara sedang

14
00:01:23,953 --> 00:01:31,424
merundingkan larangan terhadap sistem senjata
autonomi maut bagi mengawal selia robot pembunuh.

15
00:01:31,424 --> 00:01:37,860
Perjanjian itu tidak realistik kerana
sesetengah negara mengejar kepentingan mereka sendiri.

16
00:01:37,860 --> 00:01:47,546
Menurut aktivis keamanan, 26 negara menyokong pengharaman
senjata sedemikian, termasuk Austria dan semua negara membangun.

17
00:01:47,546 --> 00:01:51,776
China telah menyatakan sokongan untuk mengharamkan penggunaannya.

18
00:01:51,776 --> 00:01:56,973
Dilaporkan Amerika Syarikat sepenuhnya
menentang sekatan ke atas pembangunan.

19
00:01:56,973 --> 00:02:02,917
Terdapat juga syarikat di Jerman yang
terlibat dalam pembangunan ini, sekali gus

20
00:02:02,917 --> 00:02:07,560
menyemarakkan lagi perlumbaan senjata antarabangsa.

21
00:02:07,560 --> 00:02:10,997
Tetapi mengapa senjata autonomi begitu dicari?

22
00:02:10,997 --> 00:02:19,460
Menurut statistik rasmi Tentera Darat AS, lebih ramai askar
AS kini mati bunuh diri berbanding akibat serangan musuh.

23
00:02:19,460 --> 00:02:26,370
Mereka sukar untuk mengaitkan diri dengan apa yang disebut
sebagai perang "kemanusiaan", yang sebenarnya tidak lebih

24
00:02:26,370 --> 00:02:32,446
daripada perang pencerobohan berasaskan strategi
kuasa, dan mereka menderita dilema moral seumur hidup

25
00:02:32,446 --> 00:02:36,672
akibat peperangan kejam, termasuk terhadap penduduk awam.

26
00:02:36,672 --> 00:02:42,034
Veteran perang sedang mengembalikan pingat mereka
secara berduyun-duyun kerana mereka malu dengan

27
00:02:42,034 --> 00:02:46,020
tindakan perang dan menunjukkan penyesalan yang mendalam.

28
00:02:46,020 --> 00:02:52,840
Malahan juruterbang dron, yang membunuh dari meja mereka
seolah-olah bermain permainan komputer dan menunjukkan

29
00:02:52,840 --> 00:03:00,220
sedikit belas kasihan kerana jarak mereka daripada
pertempuran, juga menjadi "keletihan" selepas beberapa tahun.

30
00:03:00,220 --> 00:03:07,659
Beberapa dekad kajian psikologi juga telah menunjukkan
bahawa askar dalam pertempuran kebanyakannya langsung tidak

31
00:03:07,659 --> 00:03:12,340
menembak askar musuh, tetapi sengaja meleset sasaran mereka.

32
00:03:12,340 --> 00:03:18,752
Ini menjelaskan bahawa manusia, dalam
hakikat asas mereka, bukanlah "mesin perang".

33
00:03:18,752 --> 00:03:25,440
Gerakan dan perhimpunan keamanan global menekankan hakikat ini.

34
00:03:25,440 --> 00:03:34,052
Bagi para pemburu perang yang tamak kuasa dan tuan boneka global
di sebalik mereka, sistem senjata autonomi, iaitu robot pembunuh,

35
00:03:34,052 --> 00:03:42,266
diperlukan berfungsi dengan sempurna dan tanpa kompromi – tanpa
mempersoalkan, tanpa belas kasihan, tanpa hati nurani, bukan

36
00:03:42,266 --> 00:03:47,440
sekadar sebagai perlindungan terhadap orang ramai yang marah.

37
00:03:47,440 --> 00:03:52,952
Ini kerana semakin ramai orang mula memahami
saling kebergantungan global dan tidak

38
00:03:52,952 --> 00:03:56,813
lagi bersedia dieksploitasi serta dimanipulasi.

39
00:03:56,813 --> 00:04:05,602
Manusia tidak akan menerima dalam jangka panjang bahawa
kawalan ke atas keseluruhan sistem kewangan, semua kerajaan,

40
00:04:05,602 --> 00:04:10,660
negara dan sumbernya berada di tangan beberapa keluarga.

41
00:04:10,660 --> 00:04:15,680
Aktivis keamanan dari semua jenis dan
bangsa oleh itu membunyikan amaran:

42
00:04:15,680 --> 00:04:20,928
Pembangunan sistem senjata autonomi
mesti diharamkan di seluruh dunia.

43
00:04:20,928 --> 00:04:29,105
Lebih daripada 2,500 penyelidik dan 176 organisasi dalam bidang
kecerdasan buatan telah menandatangani

44
00:04:29,105 --> 00:04:37,216
komitmen sukarela untuk tidak menjalankan
penyelidikan mengenai sistem senjata maut autonomi.

45
00:04:37,216 --> 00:04:45,134
Dengan menandatangani, para peserta berjanji "tidak akan
menyokong atau menyumbang kepada pembangunan,

46
00:04:45,134 --> 00:04:50,960
pengeluaran, perdagangan atau penggunaan senjata maut autonomi".

47
00:04:50,960 --> 00:04:53,700
Bagaimanapun, banyak nama besar yang tiada.

48
00:04:53,700 --> 00:05:02,114
Baik Google mahupun syarikat induknya, Alphabet, tidak
menandatangani komitmen sukarela itu; Boston Dynamics,

49
00:05:02,114 --> 00:05:06,784
pengeluar model robot terkenal, juga belum tersenarai.

50
00:05:06,784 --> 00:05:10,464
Kontraktor pertahanan yang relevan juga hilang.

51
00:05:10,464 --> 00:05:19,222
Matlamat para aktivis adalah untuk memberi impak yang
jauh melangkaui kalangan penandatangan dengan menarik

52
00:05:19,222 --> 00:05:24,200
perhatian orang ramai terhadap bahaya senjata autonomi.

53
00:05:24,200 --> 00:05:31,002
Sebuah filem pendek berjudul "Slaughterbots"
menunjukkan betapa berkesan dan memusnahkan

54
00:05:31,002 --> 00:05:35,160
senjata autonomi boleh menjadi sekarang ini.

55
00:05:35,160 --> 00:05:44,610
Institut Masa Depan Hidup yang berpangkalan di Amerika Syarikat
(FLI), yang bertujuan meminimumkan risiko eksistensial terhadap

56
00:05:44,610 --> 00:05:49,664
kemanusiaan, menerbitkan video itu pada 12 November 2017.

57
00:05:49,664 --> 00:05:53,906
Dalam beberapa minggu, ia telah diklik berjuta-juta kali.

58
00:05:53,906 --> 00:06:01,123
Ini memberikan pratonton fiksyen yang menyeramkan tentang
bagaimana, contohnya, pengkritik sistem atau kumpulan etnik

59
00:06:01,123 --> 00:06:05,353
yang tidak diingini boleh dilikvidasi dalam sekelip mata.

60
00:06:05,353 --> 00:06:08,896
Kesimpulan: Hentikan teknologi ini!

61
00:06:08,896 --> 00:06:12,880
Berikut adalah beberapa petikan daripada video:

62
00:06:14,580 --> 00:06:22,740
juruterbang pelanggan kami telah melaksanakan hampir 3,000
serangan tepat tahun lalu, dan kami amat berbangga dengan itu.

63
00:06:22,740 --> 00:06:27,000
Ia membolehkan anda memisahkan orang jahat daripada orang baik.

64
00:06:27,000 --> 00:06:33,340
Ini perkara besar. Tetapi kami ada sesuatu yang jauh lebih besar.

65
00:06:37,393 --> 00:06:43,980
Anak-anak anda mungkin mempunyai salah
satu daripadanya, kan? Tidak sepenuhnya.

66
00:06:45,920 --> 00:06:49,248
Seorang juruterbang berani mati? Tidak.

67
00:06:49,248 --> 00:06:54,848
Keupayaan ini sepenuhnya mengenai AI –
kecerdasan buatan. Ia terbang sendiri.

68
00:06:54,848 --> 00:06:59,220
Pemprosesnya boleh bertindak balas
seratus kali lebih pantas daripada manusia.

69
00:06:59,220 --> 00:07:04,760
Pergerakan stokastik berada dalam mod anti-penembak tepat.

70
00:07:08,506 --> 00:07:13,560
Seperti mana-mana peranti mudah alih lain pada
masa kini, ia mempunyai kamera dan penderia.

71
00:07:13,560 --> 00:07:19,552
Dan seperti telefon bimbit dan aplikasi media
sosial anda, ia juga mempunyai pengecaman muka.

72
00:07:19,552 --> 00:07:26,080
Terdapat tiga gram bahan letupan khas di sini.

73
00:07:26,080 --> 00:07:40,880
Dan begitulah cara ia berfungsi. Adakah anda melihat itu?

74
00:07:40,880 --> 00:07:48,606
Suntikan kecil ini sudah cukup untuk menembusi bahagian
atas tengkorak dan memusnahkan segala yang di belakangnya.

75
00:07:48,606 --> 00:07:52,599
Sering dikatakan bahawa bukan senjata yang
membunuh orang, tetapi orang yang membunuh orang.

76
00:07:52,599 --> 00:07:54,233
Baiklah, mereka memang tidak melakukannya.

77
00:07:54,233 --> 00:07:58,752
Mereka menjadi emosional, tidak mematuhi
arahan, sengaja meleset sasaran mereka.

78
00:07:58,752 --> 00:08:03,295
Jadi, mari kita lihat bagaimana
senjata membuat keputusan di sini.

79
00:08:03,295 --> 00:08:08,379
Sekarang percayalah – mereka semua budak nakal.

80
00:08:11,712 --> 00:08:18,453
Itu adalah serangan udara dengan ketepatan bedah.
Ia adalah salah satu daripada sekumpulan produk.

81
00:08:18,453 --> 00:08:24,232
Diprogramkan sebagai sekawanan, benda-benda ini boleh
menembusi bangunan, kereta dan kereta api, mengelak orang

82
00:08:24,232 --> 00:08:27,120
dan peluru, dan menggagalkan hampir semua langkah balas.

83
00:08:27,120 --> 00:08:34,820
Mereka tidak dapat dihentikan. Baiklah, saya kata: Itu hebat.

84
00:08:34,820 --> 00:08:41,273
Mengapa? Kerana kami berfikir besar. Lihat:

85
00:08:43,260 --> 00:08:47,733
Kontrak bernilai £20 juta membolehkan mereka memperoleh ini.

86
00:08:47,733 --> 00:08:53,312
Cukup untuk membunuh separuh bandar itu, separuh yang jahat.

87
00:08:53,312 --> 00:08:55,936
Tenaga nuklear – itu berita lama.

88
00:08:55,936 --> 00:09:00,679
Habisi semua musuh anda – dengan hampir tiada risiko.

89
00:09:00,679 --> 00:09:05,880
Cuma gambarkan dia, lepaskan crush kamu dan bersantai.

90
00:09:05,880 --> 00:09:09,860
Senjata bodoh menyerang di mana sahaja anda menunjukkannya.

91
00:09:09,860 --> 00:09:13,240
Senjata pintar memproses data.

92
00:09:13,240 --> 00:09:21,035
Jika anda dapat mencari musuh anda dengan
bantuan data – walaupun dengan tanda pagar – anda boleh

93
00:09:21,035 --> 00:09:26,393
menyerang ideologi kejam tepat di permulaannya.

94
00:09:29,408 --> 00:09:32,266
Filem pendek ini lebih daripada sekadar spekulasi.

95
00:09:32,266 --> 00:09:38,000
Ia menunjukkan hasil daripada pengintegrasian dan
peminiaturisan teknologi yang sudah kita miliki.

96
00:09:38,000 --> 00:09:40,980
Saya Stuart Russell, Profesor Sains Komputer di Berkeley.

97
00:09:40,980 --> 00:09:44,666
Saya telah bekerja dalam bidang kecerdasan
buatan (AI) selama lebih daripada 35 tahun.

98
00:09:44,666 --> 00:09:47,980
Potensi mereka untuk manfaat kemanusiaan
adalah sangat besar, termasuk dalam pertahanan.

99
00:09:47,980 --> 00:09:54,140
Tetapi ia akan memusnahkan keselamatan dan kebebasan
kita jika membiarkan mesin memutuskan untuk membunuh orang.

100
00:09:54,140 --> 00:09:56,726
Beribu-ribu rakan sekerja saya bersetuju tentang hal ini.

101
00:09:56,726 --> 00:10:01,878
Kita masih mempunyai peluang untuk mencegah masa depan
yang baru sahaja ditunjukkan kepada anda, tetapi

102
00:10:01,878 --> 00:10:04,980
tingkap peluang untuk bertindak sedang ditutup dengan pantas!