Avtonom qurollar – global moliyaviy elitaning oxirgi qal'asi qulishi kerak!
Avtonom qurollar sun'iy intellekt yordamida inson aralashuvisiz mustaqil ravishda qaror qabul qiladi va harakat qiladi.
Garchi ular hali rivojlanish jarayonida bo'lsa-da, ular allaqachon xalqaro hamjamiyatni hayajonda ushlab turibdi.
Bu aynan nimaga oid va muammo nima?
Avtonom qurollar, shuningdek o'ldiruvchi robotlar deb ham ataladi, ular urushda "uchinchi inqilob" deb hisoblanadi.
O'tmishda barut va yadro qurollarining ixtiro qilinishi kabi, avtonom qurol tizimlari
ham urush tabiatini tubdan o'zgartirmoqda.
Avtonom qurollar mustaqil ravishda ishlaydigan tizimlardir.
Ular sun'iy intellekt yordamida va inson nazoratisiz maqsadlarni aniqlash va ularga hujum qilish uchun dasturlashtirilgan.
Bu inson boshqaruvsiz dronlar bo'lishi mumkin, lekin shuningdek kemalar, tanklar, raketa otgichlar,
robotlar va boshqa qurollar ham bo'lishi mumkin.
Moslashuvchan sun'iy intellektga ega to'liq avtonom qurol tizimlari hali dunyo armiyalarining
ajralmas qismi sifatida rasmiy ravishda qabul qilinmagan.
2014 yildan beri Birlashgan Millatlar Tashkiloti Jenevada muzokaralar o'tkazib kelmoqda, u yerda 75 ta davlat o'ldiruvchi
avtonom qurol tizimlarini taqiqlash bo'yicha muzokara olib borib, qotil robotlarni tartibga solishni maqsad qilmoqda.
Kelishuv realistik emas, chunki ba'zi davlatlar o'z manfaatlarini ko'zlamoqda.
Tinchlik faollari fikricha, Avstriya va barcha rivojlanayotgan davlatlar hamda yana 26 ta davlat
bunday qurollarni taqiqlashni qo'llab-quvvatlaydi.
Xitoy uning qo'llanilishini taqiqlashni qo'llab-quvvatlab chiqdi.
AQSh xabarlarga ko'ra rivojlanishga qo'yiladigan cheklovlarga mutlaqo qarshi.
Germaniyada ham bu rivojlanishda ishtirok etayotgan kompaniyalar mavjud bo'lib, bu esa
xalqaro qurollar poygasini yanada avj oldirmoqda.
Ammo avtonom qurollar nima uchun shunchalik ko'p izlanmoqda?
AQSh armiyasining rasmiy statistikasiga ko'ra, hozirda AQSh askarlari dushman harakatlariga qaraganda
ko'proq o'z joniga qasd qilish oqibatida vafot etmoqda.
Ular o'zlarini shunday deb ataladigan "gumanitar" urushlar bilan deyarli bog'lay olmaydilar, chunki aslida bu urushlar kuch
strategiyalariga asoslangan agressiya urushlaridan boshqa narsa emas, va fuqarolik aholiga qarshi ham olib borilgan shafqatsiz
urush tufayli umr bo'yi axloqiy dilemmlarga duchor bo'ladilar.
Urush faxriylari urush harakatlaridan uyalib, chuqur pushaymonlik bildirib, ommaviy ravishda medallarini qaytarishyapti.
Hatto ofis stolidan turib kompyuter o'yini kabi odam o'ldiradigan va jangdan uzoqligi sababli kamroq rahm-shafqat ko'rsatadigan
dron uchuvchilari ham bir necha yildan so'ng charchaydi.
Psixologik tadqiqotlarning o'n yilliklari shuni ham ko'rsatdiki, jangdagi askarlar asosan dushman askarlariga umuman
nishon olmaydi, balki ataylab ularning yoniga o'q uzishadi.
Bu insonlarning asosiy mohiyatida "urush mashinalari" emasligini aniq ko'rsatadi.
Global tinchlik harakatlari va mitinglar bu haqiqatni ta'kidlaydi.
Kuchga chanqoq urushboshlovchilar va ularning ortidagi global kukla boshqaruvchilar uchun avtonom qurol tizimlari, ya'ni qotil
robotlar, xatosi yo'q va murosasiz ishlashi zarur – so'ramasdan, rahmsiz, vijdonsiz, eng
asosiysi g'azablangan olomonlardan himoya uchun.
Buning sababi shundaki, tobora ko'proq odamlar global o'zaro bog'liqlikni tushunishni boshlashmoqda va endi ekspluatatsiya
qilinishga hamda manipulyatsiya qilinishga tayyor emaslar.
Insoniyat uzoq muddatda butun moliyaviy tizim, barcha hukumatlar, davlatlar va ularning resurslari
bir necha oila nazoratida bo'lishini qabul qilmaydi.
Shuning uchun turli xil va turli millat vakillaridan iborat tinchlik faollari ogohlantirmoqda:
Avtonom qurol tizimlarini rivojlantirish butun dunyo bo'ylab taqiqlanishi kerak.
Sun'iy intellekt sohasida 2 500 dan ortiq tadqiqotchi va 176 ta tashkilot avtonom o'ldiruvchi qurol tizimlari
bo'yicha tadqiqotlar olib bormaslik haqidagi ixtiyoriy majburiyatni allaqachon imzolagan.
Imzo qo'yish orqali ishtirokchilar avtonom o'ldiruvchi qurollarning ishlab chiqilishi, ishlab chiqarilishi,
savdosi yoki qo'llanilishini qo'llab-quvvatlamaslik va ularga hissa qo'shmaslik majburiyatini oladilar.
Biroq, ko'plab mashhur nomlar yo'q.
Google ham, Google'ning bosh kompaniyasi Alphabet ham ixtiyoriy majburiyatni imzolamadi; mashhur robot modellari
ishlab chiqaruvchi Boston Dynamics ham hali ro'yxatda yo'q.
Muvofiq mudofaa kompaniyalari ham yo'q.
Shu sababli faollarning maqsadi avtonom qurollarning xavflari haqida keng jamoatchilik e'tiborini jalb qilish orqali imzo
chekuvchilar doirasidan ancha kengroq ta'sir ko'rsatishdir.
"Slaughterbots" nomli qisqa film avtonom qurollarning qanchalik vayronkorona samarali
bo'lishi mumkinligini allaqachon ko'rsatadi.
AQShda joylashgan Future of Life Institute (FLI), insoniyatga bo'lgan ekzistensial xavflarni minimallashtirishni
maqsad qilgan, ushbu videoni 2017-yil 12-noyabrda e'lon qildi.
Bir necha hafta ichida unga millionlab marta bosildi.
Bu, masalan, tizim tanqidchilari yoki istalmagan etnik guruhlarni ko'z ochib yumguncha yo'q qilish mumkinligini
tasvirlovchi badiiylashtirilgan, sovuq ter to'kdiradigan oldindan ko'rinishni taqdim etadi.
Xulosa: Ushbu texnologiyani to'xtating!
Mana videodan ba'zi parchalar:
mijozlarimizning uchuvchilari o'tgan yili deyarli 3000 ta aniq zarba berdi va biz buning bilan nihoyatda faxrlanamiz.
Bu sizga yomonlarni yaxshilardan ajratishga imkon beradi.
Bu katta gap. Ammo bizda bundan ham kattaroq narsa bor.
Bolalaringizda ehtimol shulardan biri bor, to'g'rimi? To'liq emas.
Jasur uchuvchi? Yo'q.
Ushbu imkoniyat sun'iy intellekt – AI – haqida. U o'zi uchadi.
Uning protsessori inson bilan solishtirganda yuz marta tezroq javob berishi mumkin.
Stokastik harakat snayperga qarshi rejimda.
Bugungi kunda har qanday boshqa mobil qurilma kabi, unda kameralar va sensorlar mavjud.
Va xuddi mobil telefonlaringiz hamda ijtimoiy tarmoq ilovalaringiz kabi, unda ham yuzni tanish mavjud.
Bu yerda uch gramm maxsus portlovchi modda bor.
Va shunday ishlaydi. Buni ko'rdingmi?
Bu kichik in'ektsiya bosh suyagining tepasini teshib, ortidagi hamma narsani yo'q qilish uchun yetarli.
Ko'pincha aytiladi: odamlarni o'ldiradigan qurollar emas, balki odamlardir.
Xo'p, ular shunchaki buni qilmaydilar.
Ular hissiyotga beriladi, buyruqlarga itoat qilmaydi, nishonlarini ataylab o'tkazib yuboradi.
Keling, qurollar bu yerda qarorlarni qanday qabul qilishini ko'rib chiqaylik.
Endi menga ishoning – ularning barchasi yomon yigitlar edi.
Bu jarrohlik aniqligidagi havo zarbasi edi. Bu mahsulotlarning butun qatoridan biridir.
Loyihalashtirilgani uchun ular uylarga, avtomobillarga va poyezdlarga kirib o'tishi, odamlar va o'qlardan chekinishi hamda
deyarli har qanday qarshi choralarni bartaraf etishi mumkin.
Ularni to'xtatib bo'lmaydi. Xo'p, men dedim: Bu ajoyib.
Nega? Chunki biz katta o'ylaymiz. Qarang:
20 million funt sterlinglik shartnoma ularga buni ta'minlaydi.
Shahar aholisining yomon yarmini o'ldirishga yetarli.
Yadro energetikasi – bu eskirgan yangilik.
Butun dushmaningizni deyarli hech qanday xavf-xatarlarsiz yo'q qiling.
Faqat uni xarakterlang, oshiqligingizni qo'yib yuboring va dam oling.
Aqlsiz qurollar ularni qaysi tomonga qarasangiz, o'sha joyga zarba beradi.
Aqlli qurollar ma'lumotlarni qayta ishlaydi.
Agar ma'lumotlar yordamida – hatto xeshteg yordamida – dushmaningizni topa olsangiz, yovuz
mafkuraning ildiziga bevosita zarba bera olasiz.
Ushbu qisqa film faqat taxmindan ko'ra ko'proqdir.
Bu bizda allaqachon mavjud bo'lgan texnologiyalarni integratsiya qilish va kichiklashtirish natijalarini namoyish etadi.
Men Styuart Rassellman, Berklidagi Kompyuter fanlari professori.
Men sun'iy intellekt (AI) ustida 35 yildan ortiq vaqtdan beri ishlayapman.
Ularning insoniyat manfaatiga, jumladan mudofaa sohasida ham, salohiyati nihoyatda katta.
Ammo mashinalarga odamlarni o'ldirishga qaror qilish huquqini berish bizning
xavfsizligimiz va erkinligimiz uchun halokatli bo'ladi.
Minglab hamkasblarim bunga rozi.
Bizda sizga hozirgina ko'rsatilgan bu kelajakni oldini olish imkoniyati hanuz mavjud, lekin
harakat qilish uchun imkoniyat derazasi tez yopilmoqda!