Автономдуу куралдар – дүйнөлүк каржылык элитанын акыркы бекети кулатылышы керек!
Автономдуу куралдар жасалма интеллекттин жардамы менен адамдын кийлигишүүсүз чечим кабыл алып, өз алдынча аракет кылышат.
Алар дагы деле иштелип жатса да, эл аралык коомчулукту буга чейин эле чыдамсыздык менен күттүрүп жатышат.
Бул так эмне жөнүндө жана көйгөй эмнеде?
Автономдуу куралдар, же өлтүргүч роботтор деп да аталган, согуштун «үчүнчү революциясы» деп эсептелет.
Мурун порох менен ядролук куралдар ойлоп табылгандай эле, автономдуу курал системалары
согуштун табиятын түп-тамырынан өзгөртүп жатат.
Автономдуу куралдар – өз алдынча иштеген системалар.
Алар жасалма интеллектти колдонуп, адамдын көзөмөлүсүз максаттарды аныктап, аларга чабуул коюуга программаланган.
Булар учкучсуз дрондор гана эмес, ошондой эле кемелер, танктар, ракеталык ок чыгаргычтар,
роботтор жана башка куралдар болушу мүмкүн.
Толук автономдуу курал системалары адаптивдүү жасалма интеллект менен азырынча дүйнөлүк армиялардын
курамында расмий түрдө ажырагыс бөлүк болуп эсептелбейт.
2014-жылдан бери Бириккен Улуттар Уюму Женевада сүйлөшүүлөрдү өткөрүп келет, анда 75 өлкө өлтүргүч
автономдуу курал системаларын тыюу салуу боюнча сүйлөшүп, өлтүргүч роботторду жөнгө салууну көздөйт.
Келишим ишке ашпайт, анткени айрым өлкөлөр өз кызыкчылыктарын көздөп жатышат.
Тынчтык активисттеринин айтымында, Австрия жана бардык өнүгүп келе жаткан өлкөлөрдү кошкондо,
мындай куралдарды тыюуну колдогон 26 өлкө бар.
Кытай анын колдонулушуна тыюу салууну колдоп билдирүү жасады.
Маалыматтарга караганда, АКШ өнүгүүгө коюлган чектөөлөргө толугу менен каршы.
Германияда да бул өнүгүүгө катышкан компаниялар бар, алар эл аралык курал жарышын мындан ары да курчутуп жатышат.
Бирок автономдуу куралдар эмнеге ушунчалык көп изденип жатат?
АКШ армиясынын расмий статистикасына ылайык, учурда АКШ аскерлери душмандын аракеттеринен көрө өз жанын кыюудан көбүрөөк өлүүдө.
Алар өзүн «гуманитардык» деп аталган согуштар менен дээрлик байланыштыра алышпайт, анткени чындыгында алар бийлик
стратегияларына негизделген агрессиялык согуштардан башка эч нерсе эмес, жана жарандык калкка каршы
жүргүзүлгөн зулум согуш үчүн өмүр бою аң-сезим азабын тартышат.
Согуш ардагерлери согуштагы аракеттерине уялып, терең өкүнүчүн билдирип, массалык түрдө медалдарын кайтарып жатышат.
Компьютердик оюн ойногондой столдун артынан адам өлтүрүп, согуштан алыстыгынан улам боорукердик аз көрсөткөн
дрон учкучтары да бир нече жылдан кийин эле чарчап калышат.
Психологиялык изилдөөлөрдүн ондогон жылдары согушта аскерлер дээрлик эч качан душман аскерлерине ок
атпай, атайылап максаттан адаштырып коюшарын да көрсөткөн.
Бул адамзат табиятынан согуш машиналары эмес экенин ачык көрсөтөт.
Дүйнөлүк тынчтык кыймылдары жана митингдер бул чындыкты баса белгилешет.
Күчкө суусаган согушкерлер жана алардын артындагы глобалдык куурчак башкаруучулар үчүн автономдуу курал системалары, башкача
айтканда өлтүргүч роботтор, кемчиликсиз жана компромиссиз иштеши зарыл – суроосуз, мээримсиз,
ар-ождансыз, ачууланган элден коргонуу үчүн да.
Бул себеби адамдардын көбү глобалдык өз ара көз карандылыкты түшүнө баштап, эми пайдаланылып, манипуляцияга алынышпайт.
Адамзат узак мөөнөттө бүткүл акча-каражат системасын, бардык өкмөттөрдү, өлкөлөрдү жана алардын
ресурстарын бир нече үй-бүлөнүн колунда болуусун кабыл албайт.
Ошондуктан ар кандай жана ар улуттан тынчтык активисттери эскертип жатышат:
Автономдуу курал системаларын өнүктүрүү дүйнө жүзү боюнча тыюу салынышы керек.
Жасалма интеллект тармагында 2 500дөн ашык изилдөөчү жана 176 уюм автономдуу өлтүрүүчү куралдар системаларын изилдөөнү жүргүзбөө
боюнча ыктыярдуу милдеттенмени буга чейин эле кол коюшту.
Кол коюу менен катышуучулар автономдуу өлтүргүч куралдардын иштеп чыгылышына, өндүрүлүшүнө, соодасына же колдонулушуна
колдоо көрсөтпөөгө же салым кошпоого милдеттенишет.
Бирок көптөгөн белгилүү аттар жок.
Google да, Google'дун ээлик компаниясы Alphabet да бул ыктыярдуу милдеттенмени кол койгон жок; атактуу робот
моделдерин чыгарган Boston Dynamics дагы деле тизмеде жок.
Тийиштүү коргонуу компаниялары да жок.
Ошондуктан активисттердин максаты — кол коюучулардын тегерегинен алда канча алыска таасир тийгизип, автономдуу
куралдардын коркунучтарына жалпы коомчулуктун көңүлүн буруу.
«Slaughterbots» аттуу кыска метраждуу тасма автономдуу куралдардын азыр эле канчалык
кыйратуучулук менен натыйжалуу боло аларын көрсөтөт.
АКШда жайгашкан «Жашоонун келечеги институту» (FLI), адамзатка болгон экзистенциалдык тобокелдиктерди минималдаштырууну
көздөгөн, бул видеону 2017-жылдын 12-ноябрында жарыялады.
Бир нече жуманын ичинде ага миллиондогон жолу чыкылдатылган.
Бул, мисалы, системаны сынга алгандарды же каалабаган этникалык топторду көз ирмемде жок кылуунун кандайча
мүмкүн экенин көрсөтүүчү ойдон чыгарылган, үрөй учурган алдын ала көрүнүштү берет.
Жыйынтык: Бул технологияны токтотуңуз!
Бул жерде видеодон айрым үзүндүлөр:
кардарларыбыздын учкучтары өткөн жылы дээрлик 3000 так сокку урушту, жана биз муну менен абдан сыймыктанабыз.
Бул сага жамандарды жакшылардан ажыратууга мүмкүнчүлүк берет.
Бул чоң иш. Бирок бизде андан да чоңураак нерсе бар.
Балдарыңыздарда, балким, ушундай бирөө бардыр, туурабы? Толук эмес.
Кайраттуу учкучпу? Жок.
Бул мүмкүнчүлүк толугу менен жасалма интеллектке – AIге байланыштуу. Ал өзү учуп жүрөт.
Анын процессору адамга караганда жүз эсе ылдамыраак реакция бере алат.
Стохастикалык кыймыл снайперге каршы режимде.
Азыркы күндө башка бардык мобилдик түзмөктөр сыяктуу эле, анда камералар жана сенсорлор бар.
Жана сиздин мобилдик телефондоруңуз жана социалдык медиа тиркемелериңиз сыяктуу эле, анда да бет таануу бар.
Бул жерде үч грамм атайын жардыруучу зат бар.
Жана ал ушинтип иштейт. Сен муну көрдүңбү?
Бул кичинекей ок баш сөөгүнүн үстүн тешип, анын артындагы баарын жок кылууга жетиштүү.
Көп учурда айтышат: адамдарды өлтүргөн куралдар эмес, адамдар өзү өлтүрөт.
Жөн гана алар муну жасабайт.
Алар эмоционалданып, буйруктарды аткарбай, атайылап максаттарын тийгизбей коюшат.
Ошондуктан, келгиле, куралдар бул жерде чечимдерди кандай кабыл аларын көрөлү.
Эми мага ишенгиле – алардын баары жаман жигиттер эле.
Бул хирургиялык тактыктагы аба соккусу болду. Бул бүтүндөй бир катар өнүмдөрдүн бири.
Свирма катары программаланган бул нерселер имараттарды, унааларды жана поезддерди тешип өтө алышат, адамдардан жана
октон качып, дээрлик бардык каршы чараларды жокко чыгара алышат.
Аларды токтото албайсың. Жакшы, мен айттым: Бул абдан жакшы.
Эмне үчүн? Анткени биз чоң ойлойбуз. Карап көрүңүз:
20 миллион фунт стерлинглик келишим аларга муну сатып алат.
Шаардын жаман жарымын жок кылууга жетиштүү.
Ядролук энергия – бул эски кабар.
Душманыңды толугу менен жок кыл – дээрлик эч кандай тобокелчиликсиз.
Жөн гана аны мүнөздөп, сүйүүсүңдү коё бер да эс ал.
Акымақ куралдар сен көрсөткөн жерге сокку урат.
Интеллектуалдык куралдар маалыматтарды иштетет.
Эгерде маалыматтын жардамы менен – хэштег аркылуу болсо да – душманыңды таба алсаң, зомбулук
идеологиясын так башталышынан жок кыла аласың.
Бул кыска метраждуу тасма жөн гана божомолдон да көп нерсени камтыйт.
Бул бизде буга чейин бар технологияларды интеграциялоо жана миниатюризациялоо натыйжаларын көрсөтөт.
Мен Стюарт Расселлмин, Берклидеги Компьютер илими профессорумун.
Мен жасалма интеллект (AI) менен 35 жылдан ашык убакыттан бери иштеп келем.
Адамзаттын пайдасына, анын ичинде коргонуу жаатында алардын потенциалы өтө чоң.
Бирок машиналар адамдарды өлтүрүүнү чечүүсүнө жол берүү биздин коопсуздугубузга жана эркиндигибизге олуттуу зыян келтирет.
Менин миңдеген кесиптештерим бул боюнча макул.
Бизде сизге жакында көрсөтүлгөн бул келечекти алдын алууга дагы деле мүмкүнчүлүк бар, бирок аракет
кылууга мүмкүнчүлүк терезеси тез жабылып баратат!