1
00:00:00,000 --> 00:00:07,220
Автоном кораллар – глобаль финанс
элитасының соңгы бастионы егылырга тиеш!

2
00:00:07,220 --> 00:00:15,360
Автоном кораллар ясалма интеллект ярдәмендә кеше катнашмыйча
карарлар кабул итәләр һәм мөстәкыйль рәвештә гамәл кылалар.

3
00:00:15,360 --> 00:00:22,320
Алар әле үсеш стадиясендә булсалар да, инде
халыкара җәмәгатьчелекне киеренкелектә тоталар.

4
00:00:22,320 --> 00:00:26,220
Бу нәрсә турында соң һәм проблема нәрсәдә?

5
00:00:26,220 --> 00:00:33,344
Автоном кораллар, шулай ук үтерүче роботлар дип
тә атала, сугышта «өченче революция» дип санала.

6
00:00:33,344 --> 00:00:42,990
Үткәндә барүт һәм атом кораллары уйлап табылуы кебек үк,
автоном корал системалары сугыш табигатен тамырдан үзгәртә.

7
00:00:42,990 --> 00:00:46,480
Автоном кораллар – мөстәкыйль рәвештә эшләүче системалар.

8
00:00:46,480 --> 00:00:52,377
Алар ясалма интеллект кулланып һәм кеше
контроле булмыйча максатларны ачыклау һәм

9
00:00:52,377 --> 00:00:56,213
аларга һөҗүм итү өчен программалаштырылган.

10
00:00:56,213 --> 00:01:02,248
Бу пилотсыз дроннар гына түгел, ә шулай ук
корабльләр, танклар, ракета очыру җайланмалары,

11
00:01:02,248 --> 00:01:05,913
роботлар һәм башка кораллар да булырга мөмкин.

12
00:01:05,913 --> 00:01:16,000
Тулысынча автоном корал системалары адаптив ясалма интеллект белән
әле дөнья армияләренең рәсми рәвештә бер өлеше булып саналмый.

13
00:01:16,000 --> 00:01:26,181
2014 елдан бирле Берләшкән Милләтләр Оешмасы Женевада сөйләшүләр
үткәрә, анда 75 ил үтерүче роботларны көйләү максатыннан

14
00:01:26,181 --> 00:01:31,424
үтерүче автоном корал системаларын тыю турында сөйләшә.

15
00:01:31,424 --> 00:01:37,860
Килешү чынбарлыкка туры килми, чөнки кайбер
илләр үз мәнфәгатьләрен генә кайгырталар.

16
00:01:37,860 --> 00:01:47,546
Тынычлык активистлары әйтүенчә, мондый коралларны тыюны яклаучы
26 ил бар, шул исәптән Австрия һәм барлык үсеп килүче илләр.

17
00:01:47,546 --> 00:01:51,776
Кытай аның кулланылуын тыюны яклап чыкты.

18
00:01:51,776 --> 00:01:56,973
АКШ, хәбәр ителүенчә, үсешкә куелган чикләүләргә тулысынча каршы.

19
00:01:56,973 --> 00:02:07,560
Германиядә дә бу үсешкә катнашкан компанияләр
бар, һәм бу халыкара корал ярышын тагын да көчәйтә.

20
00:02:07,560 --> 00:02:10,997
Әмма автоном кораллар ни өчен шулкадәр ихтыяҗлы?

21
00:02:10,997 --> 00:02:15,953
АКШ армиясенең рәсми статистикасына караганда,
хәзерге вакытта АКШ солдатлары дошман гамәлләреннән

22
00:02:15,953 --> 00:02:19,460
түгел, ә үз-үзен үтерү нәтиҗәсендә күбрәк һәлак була.

23
00:02:19,460 --> 00:02:26,450
Алар үзләрен «гуманитар» дип аталган сугышлар белән авыр гына
бәйләп карый алалар, чөнки чынлыкта алар көч стратегияләренә

24
00:02:26,450 --> 00:02:32,408
нигезләнгән агрессия сугышларыннан башка берни түгел,
һәм аеруча цивиль халыкка каршы алып барылган явыз

25
00:02:32,408 --> 00:02:36,672
сугышлар аркасында гомер буена әхлакый дилеммалар кичерәләр.

26
00:02:36,672 --> 00:02:46,020
Сугыш ветераннары күпләп медальләрен кире кайтаралар, чөнки
алар сугыш гамәлләреннән оялалар һәм тирән үкенү хисе кичерәләр.

27
00:02:46,020 --> 00:02:55,158
Хәтта компьютер уены уйнаган кебек өстәл артында утырып үтерүләр
кылган һәм сугыштан ерак булулары аркасында мәрхәмәтсезрәк

28
00:02:55,158 --> 00:03:00,220
булган дрон пилотлары да берничә елдан соң «арыган» булалар.

29
00:03:00,220 --> 00:03:05,844
Психологик тикшеренүләрнең дистә еллар дәвамында үткәрелгән
нәтиҗәләре шулай ук күрсәткән: сугышта

30
00:03:05,844 --> 00:03:12,340
солдатлар күбесенчә дошман солдатларына бөтенләй ут
ачмыйлар, ә максатларын ниятләп читкә тидерәләр.

31
00:03:12,340 --> 00:03:18,752
Бу кешеләрнең табигый асылында «сугыш
машиналары» түгеллеген ачык күрсәтә.

32
00:03:18,752 --> 00:03:25,440
Дөньякүләм тынычлык хәрәкәтләре
һәм митинглар бу фактны ассызыклый.

33
00:03:25,440 --> 00:03:35,036
Көчкә сусаган сугыш кузгатучылар һәм аларның артында торган
дөньякүләм марионетка осталары өчен автоном корал системалары,

34
00:03:35,036 --> 00:03:42,350
ягъни үтерүче роботлар, камил һәм компромиссыз
рәвештә эшләргә тиеш – сорамыйча, мәрхәмәтсез,

35
00:03:42,350 --> 00:03:47,440
намуссыз, ачулы халык күпләреннән саклану өчен дә.

36
00:03:47,440 --> 00:03:56,813
Бу шунлыктан, күбрәк кешеләр глобаль үзара бәйлелекне аңлый башлый
һәм хәзер аларны файдаланып, манипуляцияләүгә ризалашмыйлар.

37
00:03:56,813 --> 00:04:04,906
Кешелек озак вакыт дәвамында бөтен акча
системасын, барлык хөкүмәтләрне, илләрне һәм аларның

38
00:04:04,906 --> 00:04:10,660
ресурсларын берничә гаилә кулында тотуны кабул итмәячәк.

39
00:04:10,660 --> 00:04:15,680
Шуңа күрә төрледән-төрле һәм төрле милләтләрдән
булган тынычлык активистлары кисәтү сигналын бирәләр:

40
00:04:15,680 --> 00:04:20,928
Автоном корал системаларын үстерү бөтен дөньяда тыелырга тиеш.

41
00:04:20,928 --> 00:04:31,372
2500-дән артык тикшеренүче һәм ясалма интеллект өлкәсендәге
176 оешма инде автоном үтерүче корал системалары буенча

42
00:04:31,372 --> 00:04:37,216
тикшеренүләр үткәрмәү турында ирекле йөкләмәгә кул куйды.

43
00:04:37,216 --> 00:04:45,362
Имза кую белән катнашучылар автоном үтерүче
коралларны үстерүгә, җитештерүгә, сәүдә итүгә яки

44
00:04:45,362 --> 00:04:50,960
куллануга ярдәм итмәскә һәм өлеш кертмәскә йөкләнәләр.

45
00:04:50,960 --> 00:04:53,700
Ләкин күп кенә зур исемнәр юк.

46
00:04:53,700 --> 00:05:01,552
Google да, Googleның холдинг компаниясе Alphabet да
бу ирекле йөкләмәне имзаламады; танылган робот

47
00:05:01,552 --> 00:05:06,784
модельләре җитештерүче Boston Dynamics та әле исемлектә юк.

48
00:05:06,784 --> 00:05:10,464
Тиешле оборона ширкәтләре дә юк.

49
00:05:10,464 --> 00:05:19,359
Шуңа күрә активистларның максаты — автоном коралларның
куркынычларына гомуми җәмәгатьчелекнең игътибарын җәлеп

50
00:05:19,359 --> 00:05:24,200
итеп, имзалаучылар даирәсеннән күпкә читкә тәэсир итү.

51
00:05:24,200 --> 00:05:35,160
«Slaughterbots» дип аталган кыска метражлы фильм
автоном коралларның инде нинди зур зыян китерә алуын күрсәтә.

52
00:05:35,160 --> 00:05:44,247
АКШта урнашкан «Яшәү киләчәге институты» (FLI),
кешелеккә экзистенциаль куркынычларны киметүне максат

53
00:05:44,247 --> 00:05:49,664
иткән, бу видеоны 2017 елның 12 ноябрендә бастырды.

54
00:05:49,664 --> 00:05:53,906
Берничә атна эчендә аңа миллионнарча тапкыр бастылар.

55
00:05:53,906 --> 00:06:00,769
Бу, мәсәлән, система тәнкыйтьчеләрен яки теләнмәгән
этник төркемнәрне күз ачып йомганчы юк итүнең ничек

56
00:06:00,769 --> 00:06:05,353
мөмкин булуын уйдырмалы, куркыныч алдан караш тәкъдим итә.

57
00:06:05,353 --> 00:06:08,896
Йомгак: Бу технологияне туктатыгыз!

58
00:06:08,896 --> 00:06:12,880
Менә видеодан кайбер өзекләр:

59
00:06:14,580 --> 00:06:22,740
безнең клиентларыбызның пилотлары узган ел якынча 3000
төгәл һөҗүм үткәрделәр, һәм без моңа бик горурланабыз.

60
00:06:22,740 --> 00:06:27,000
Бу сезгә начар кешеләрне яхшы кешеләрдән аерырга мөмкинлек бирә.

61
00:06:27,000 --> 00:06:33,340
Бу зур эш. Ләкин бездә тагын да зуррак әйбер бар.

62
00:06:37,393 --> 00:06:43,980
Бәлки сезнең балаларыгызда шундый
берсе бардыр, шулай бит? Тулысынча түгел.

63
00:06:45,920 --> 00:06:49,248
Курку белмәгән пилот? Юк.

64
00:06:49,248 --> 00:06:54,848
Бу мөмкинлек тулысынча ясалма
интеллект – AI – турында. Ул үзе очып йөри.

65
00:06:54,848 --> 00:06:59,220
Аның процессоры кешегә караганда
йөз тапкыр тизрәк реакция ясый ала.

66
00:06:59,220 --> 00:07:04,760
Стокастик хәрәкәт снайперга каршы режимында.

67
00:07:08,506 --> 00:07:13,560
Бүгенге көндә башка теләсә нинди мобиль
җайланма кебек үк, анда камералар һәм сенсорлар бар.

68
00:07:13,560 --> 00:07:19,552
Һәм ул да сезнең мобиль телефоннарыгыз һәм социаль
челтәр кушымталары кебек йөз тану функциясенә ия.

69
00:07:19,552 --> 00:07:26,080
Биредә өч грамм махсус шартлаткыч бар.

70
00:07:26,080 --> 00:07:40,880
Һәм менә ул шулай эшли. Син моны күрдеңме?

71
00:07:40,880 --> 00:07:48,606
Бу кечкенә укол баш сөягенең өске өлешен
тишеп, артындагы бөтен нәрсәне юк итәргә җитә.

72
00:07:48,606 --> 00:07:52,599
Күп очракта әйтәләр: кешеләрне
үтерүче кораллар түгел, ә кешеләр үзе.

73
00:07:52,599 --> 00:07:54,233
Ну, алар моны гади генә эшләмиләр.

74
00:07:54,233 --> 00:07:58,752
Алар хисләнеп китәләр, боерыкларга
буйсынмыйлар, максатларын ниятләп тимиләр.

75
00:07:58,752 --> 00:08:03,295
Әйдәгез, кораллар монда карарларны ничек кабул итүен карыйк.

76
00:08:03,295 --> 00:08:08,379
Хәзер ышан миңа – алар барысы да начар егетләр иде.

77
00:08:11,712 --> 00:08:18,453
Бу хирургик төгәллекле һава һөҗүме иде. Ул
продуктларның киң ассортиментының берсе генә.

78
00:08:18,453 --> 00:08:24,029
Күпләп программаланган бу әйберләр биналарны, машиналарны
һәм поездларны тишеп үтә, кешеләрдән һәм пулялардан

79
00:08:24,029 --> 00:08:27,120
читкә тайпыла, һәм теләсә нинди каршы чараны юкка чыгара ала.

80
00:08:27,120 --> 00:08:34,820
Аларны туктатып булмый. Ярар, мин әйттем: Бу бик әйбәт.

81
00:08:34,820 --> 00:08:41,273
Нигә? Чөнки без зур уйлыйбыз. Кара әле:

82
00:08:43,260 --> 00:08:47,733
20 миллион фунт стерлинглык контракт аларга моны сатып ала.

83
00:08:47,733 --> 00:08:53,312
Шәһәрнең яман яртысын үтерү өчен җитәрлек.

84
00:08:53,312 --> 00:08:55,936
Атом энергиясе – бу иске хәбәр.

85
00:08:55,936 --> 00:09:00,679
Дошманыңны бөтенләй юк ит – диярлек куркынычсыз.

86
00:09:00,679 --> 00:09:05,880
Гади генә аның холкын тасвирла,
мәхәббәт хисләреңнән арынып, ял ит.

87
00:09:05,880 --> 00:09:09,860
Акылсыз кораллар сез аларны кая юнәлтсәгез, шунда сугышалар.

88
00:09:09,860 --> 00:09:13,240
Интеллектуаль кораллар мәгълүматны эшкәртә.

89
00:09:13,240 --> 00:09:21,009
Әгәр мәгълүмат ярдәмендә – хәтта хэштег ярдәмендә
– дошманыңны таба алсаң, син явыз идеологияне нәкъ

90
00:09:21,009 --> 00:09:26,393
башлангыч ноктасында ук бәреп ташларга мөмкинсең.

91
00:09:29,408 --> 00:09:32,266
Бу кыска фильм фараз гына түгел.

92
00:09:32,266 --> 00:09:38,000
Бу бездә инде булган технологияләрне
берләштерү һәм кечерәйтү нәтиҗәләрен күрсәтә.

93
00:09:38,000 --> 00:09:40,980
Мин Стюарт Расселл, Берклида компьютер фәннәре профессоры.

94
00:09:40,980 --> 00:09:44,666
Мин 35 елдан артык ясалма интеллект (AI) өстендә эшлим.

95
00:09:44,666 --> 00:09:47,980
Аларның кешелек файдасына потенциалы,
шул исәптән оборона өлкәсендә дә, зур.

96
00:09:47,980 --> 00:09:54,140
Ләкин машиналарга кешеләрне үтерү карарын кабул итәргә
рөхсәт итү безнең иминлеккә һәм иреккә зур зыян китерәчәк.

97
00:09:54,140 --> 00:09:56,726
Меңләгән хезмәттәшләрем моңа килешә.

98
00:09:56,726 --> 00:10:01,869
Сезгә әле генә күрсәтелгән бу киләчәкне
булдырмау мөмкинлегебез әле дә бар, ләкин

99
00:10:01,869 --> 00:10:04,980
гамәлгә ашыру өчен мөмкинлек тәрәзәсе тиз ябыла!