Автономит зэвсэг – дэлхийн санхүүгийн элитийн сүүлчийн бэхлэл нураагдах ёстой!
Автономит зэвсэгүүд хиймэл оюун ухааны тусламжтайгаар хүн оролцохгүйгээр шийдвэр гаргаж, бие даан үйлдэл хийдэг.
Хэдийгээр тэд одоо ч хөгжүүлэлтийн шатанд байгаа ч аль хэдийн олон улсын нийгэмлэгийг сонирхолтой хүлээлттэй байлгаж байна.
Энэ яг юуны тухай юм бэ, асуудал нь юу вэ?
Автономит зэвсэг, мөн алагч робот гэж нэрлэгддэг, дайны "гурав дахь хувьсгал" гэж тооцогддог.
Өмнө нь бууны нунтаг болон цөмийн зэвсэг зохион бүтээгдсэн шиг автономит зэвсэгт системүүд дайн
байлдааны мөн чанарыг үндсээр нь өөрчилж байна.
Автономит зэвсэгүүд нь бие даан ажилладаг системүүд юм.
Тэд хиймэл оюун ухаан ашиглан хүний хяналтгүйгээр зорилтуудыг илрүүлж, довтлохоор програмчлагдсан.
Эдгээр нь нисгэгчгүй дронууд байж болох ч мөн хөлөг онгоц, танк, пуужин харвах төхөөрөмж, робот болон бусад зэвсгүүд байж болно.
Дасан зохицох хиймэл оюун ухаантай бүрэн автономит зэвсгийн системүүд одоогоор дэлхийн армиудын
салшгүй хэсэг болгон албан ёсоор нэвтэрээгүй байна.
2014 оноос хойш Нэгдсэн Үндэстний Байгууллага Женевийн хэлэлцээг зохион байгуулж байгаа бөгөөд тэнд 75 улс аюултай
автономит зэвсгийн системд хориг тогтоох талаар хэлэлцэж, алуурчин роботуудыг зохицуулахыг зорьж байна.
Зарим улс өөрийн ашиг сонирхлоо эрэлхийлж байгаа тул энэхүү тохиролцоо бодитоор хэрэгжих боломжгүй.
Энх тайвны идэвхтнүүдийн мэдээлснээр, Австри болон бүх хөгжиж буй орнуудыг оролцуулан
26 улс ийм зэвсгийг хориглохыг дэмжиж байна.
Хятад улс үүнийг ашиглахыг хориглохыг дэмжиж мэдэгдлээ.
АНУ нь хөгжүүлэлтэд тавигдах хязгаарлалтуудыг бүрэн эсэргүүцэж байгаа гэж мэдээлж байна.
Германд ч бас энэ хөгжлийн үйл явцад оролцож буй компаниуд байдаг бөгөөд ингэснээр олон
улсын зэвсгийн уралдааныг улам өдөөж байна.
Гэхдээ автономит зэвсгийг яагаад ийм их эрэлхийлдэг юм бэ?
АНУ-ын армийн албан ёсны статистик мэдээллээр одоогоор дайсны үйлдэлээс илүү олон АНУ-ын цэрэг амиа хорлож нас барж байна.
Тэд нэр нь "хүмүүнлэгийн" гэгддэг дайнтай өөрсдийгөө бараг ч холбож чадахгүй; бодит байдалд эдгээр нь эрх мэдлийн стратегид
тулгуурласан түрэмгийллийн дайн төдий бөгөөд энгийн иргэдийн эсрэг чиглэсэн хэрцгий байлдаанаас үүдэн
насан туршийн ёс суртахууны зөрчилдөөнтэй тулгардаг.
Дайны ахмадууд дайны үйлдлүүддээ ичгүүртэй байгаагаа илэрхийлж, гүнээ харамсаж байгаа тул олноороо медалуудаа буцааж өгч байна.
Компьютерийн тоглоом тоглож байгаа юм шиг ширээнээсээ хөндийрч тулалдаанаас алслагдсанаар өрөвдөх сэтгэл багатай
байдаг дроны нисгэгчид ч хэдхэн жилийн дараа «барагдаж» дуусдаг.
Сэтгэл зүйн олон арван жилийн судалгаагаар тулалдаанд оролцож буй цэргүүд ихэвчлэн дайсны цэргүүд рүү огт буудахгүй, харин
зориудаар зорилтот цэгээсээ алдаж буудаг болох нь тогтоогдсон.
Энэ нь хүмүүс төрөлхөөрөө 'дайны машин' биш гэдгийг тодорхой харуулж байна.
Дэлхийн энх тайвны хөдөлгөөнүүд болон жагсаалууд энэ баримтыг онцолж байна.
Илүү их эрх мэдэлд шунасан дайн өдөгчид болон тэдний ард буй дэлхийн хүүхэлдэйн эзэд автономит зэвсэгт систем, өөрөөр хэлбэл
алуурчин роботуудыг алдаа мадаггүй, ямар ч эргэлзээгүйгээр, өрөвч сэтгэлгүй, ёс суртахууны саадгүй, бас ууртай
олны эсрэг хамгаалалт болгон ашиглах шаардлагатай гэж үздэг.
Үүний шалтгаан нь улам бүр олон хүн дэлхийн харилцан хамаарлыг ойлгож эхэлж, мөлжигдэж,
залилуулж байхыг хүсэхээ больсон явдал юм.
Хүний төрөлхтөн урт хугацаанд бүх мөнгөний тогтолцоо, бүх засгийн газар, улс орнууд болон тэдгээрийн нөөцийг цөөн
хэдэн гэр бүлийн гарт төвлөрүүлэх хяналтыг хүлээн зөвшөөрөхгүй.
Иймээс бүх төрлийн, бүх үндэстний энх тайвны идэвхтнүүд дохио өгч байна:
Автономит зэвсэгт системүүдийн хөгжлийг дэлхий даяар хориглох ёстой.
Хиймэл оюун ухааны салбарт 2,500 гаруй судлаач, 176 байгууллага автономит аюултай зэвсгийн системд судалгаа
хийхгүй гэсэн сайн дурын амлалтад аль хэдийн гарын үсэг зурсан.
Гар бичгээр гарын үсэг зурснаар оролцогчид автономит амь үрэгч зэвсгийн хөгжүүлэлт, үйлдвэрлэл, худалдаа эсвэл хэрэглээг
дэмжихгүй, түүнд хувь нэмэр оруулахгүй байх үүрэг хүлээнэ.
Гэсэн хэдий ч олон алдартай нэрс байхгүй байна.
Google ч, Google-ийн эцэг компани Alphabet ч энэ сайн дураараа хүлээсэн үүрэгт гарын үсэг зурсангүй; алдартай робот загваруудыг
үйлдвэрлэгч Boston Dynamics ч одоогоор жагсаалтад ороогүй байна.
Холбогдох батлан хамгаалах компаниуд ч бас байхгүй байна.
Иймээс идэвхтнүүдийн зорилго нь гарын үсэг зорсон хүмүүсийн хүрээнээс хамаагүй өргөн цар хүрээнд нөлөөлж, автономит
зэвсгийн аюулын талаар олон нийтийн анхаарлыг татахад оршино.
"Slaughterbots" нэртэй богино хэмжээний кино нь автономит зэвсэг хэрхэн сүйрмээр үр дүнтэй байж чадахыг харуулж байна.
АНУ-д төвтэй Future of Life Institute (FLI), хүн төрөлхтний оршин тогтнолын эрсдэлийг багасгах зорилготой
байгууллага, 2017 оны 11-р сарын 12-нд уг видеог нийтэлсэн.
Хэдхэн долоо хоногийн дотор түүнд сая сая удаа дарсан байв.
Энэ нь жишээ нь системийн шүүмжлэгчид эсвэл хүсээгүй угсаатны бүлгүүдийг нүд ирмэхийн зуур хэрхэн устгаж
болдгийг уран зөгнөлт, аймшигтайгаар урьдчилан харуулж байна.
Дүгнэлт: Энэ технологийг зогсоо!
Видеоноос зарим ишлэлүүд энд байна:
Манай үйлчлүүлэгчдийн нисгэгчдийн нь өнгөрсөн жил бараг 3000 нарийвчлалтай цохилт
гүйцэтгэсэн бөгөөд бид үүнд маш их бахархаж байна.
Энэ нь танд муу хүмүүсийг сайн хүмүүсээс ялгах боломж олгодог.
Энэ бол том хэрэг. Гэхдээ бидэнд үүнээс ч илүү том зүйл бий.
Таны хүүхдүүдэд магадгүй ийм нэгэн байдаг биз? Гэхдээ яг тийм биш.
Зоригтой нисгэгч үү? Үгүй.
Энэхүү боломж нь хиймэл оюун ухаан буюу AI-тай холбоотой. Энэ нь өөрөө нисдэг.
Түүний процессор хүнээс зуун дахин хурдан хариу үйлдэл үзүүлж чадна.
Стохастик хөдөлгөөн снайперын эсрэг горимд байна.
Өнөө үед бусад ямар ч зөөврийн төхөөрөмжтэй адил энэ нь камер болон мэдрэгчтэй.
Мөн таны гар утас болон нийгмийн сүлжээний аппликейшнүүдийн адил энэ нь нүүр таних боломжтой.
Энд гурван грамм тусгай дэлбэрэгч бодис байна.
Ингээд энэ нь ингэж ажилладаг. Чи үүнийг харсан уу?
Энэ жижигхэн сум нь толгойн ясны дээд хэсгийг нэвтлэн, доторх бүхнийг устгахад хангалттай.
Ихэвчлэн зэвсэг биш, харин хүн л хүнийг алан хөнөөдөг гэж ярьдаг.
За, тэд ерөөсөө тэгдэггүй.
Тэд сэтгэл хөдлөлд автаж, тушаал биелүүлэхгүй, зориудаар зорилтот цэгээ алдаж байна.
За тэгэхээр энд зэвсгүүд хэрхэн шийдвэр гаргадаг болохыг харцгаая.
Одоо надад итгээрэй – тэд бүгд муу хөвгүүд байсан.
Энэ нь мэс заслын нарийвчлалтай агаараас цохилт байсан. Энэ нь бүтээгдэхүүний өргөн хүрээний нэг юм.
Сүргийн горимд програмчлагдсан эдгээр зүйлс барилга, машин болон галт тэрэгний ханыг нэвтэрч, хүмүүс болон сумнаас
тойрон зугтаж, бараг бүх төрлийн эсэргүүцлийг няцааж чаддаг.
Тэднийг зогсоож чадахгүй. За, би хэлсэн: Энэ бол гайхалтай.
Яагаад? Учир нь бид томоор боддог. Харж үзээрэй:
20 сая фунтын гэрээ нь тэдэнд үүнийг авчирна.
Хотын муу ёрын хагасыг устгахад хангалттай.
Цөмийн эрчим хүч – энэ бол хуучин мэдээ.
Бараг ямар ч эрсдэлгүйгээр дайсандаа бүрэн цохих.
Зүгээр л түүнийг тодорхойл, дурлалаа орхиод тайвшир.
Тэнэг зэвсэгүүд чи хаашаа чинь чивэл тэр газарт цохино.
Оюун ухаантай зэвсэгүүд өгөгдлийг боловсруулдаг.
Хэрвээ та өгөгдлийн тусламжтайгаар – тэр дундаа хэштэг ашиглан – дайсаа олж чадвал, та муу
санаат үзэл суртлыг яг эхлэх цэг дээр нь цохиж чадна.
Энэ богино кино нь зүгээр л таамаглал биш юм.
Энэ нь бидэнд аль хэдийн байгаа технологиудыг нэгтгэн жижигрүүлсний үр дүнг харуулж байна.
Би Стюарт Расселл, Берклигийн их сургуулийн компьютерийн шинжлэх ухааны профессор.
Би хиймэл оюун ухаан (AI)-ийн салбарт 35-аас дээш жил ажиллаж байна.
Тэдний хүний ашиг тусад, тэр дундаа батлан хамгаалалтад үзүүлэх боломж асар их юм.
Гэхдээ хүмүүсийг алах шийдвэрийг машинуудад даатгах нь манай аюулгүй байдал, эрх чөлөөнд сүйрэл авчирна.
Миний мянга мянган хамтрагчид энэ дээр санал нэгдэж байна.
Бидэнд саяхан танд харуулсан энэ ирээдүйг зогсоох боломж одоо ч бий, гэхдээ үйлдэл хийх боломжийн цонх хурдан хаагдаж байна!