Сун Дзъ и изкуството да се биеш с роботи

В момента обаче скоростна еволюция вече се случва и със самите дронове, които се трансформират от дистанционно управлявани устройства във все по-самостоятелни бойни платформи, където ролята на човешкия фактор става все по-малка. Основен двигател на тази промяна е софтуерната индустрия и в частност напредъка на технологиите в сферата на изкуствения интелект (AI). Тук обаче достигаме до фундаменталния проблем: кой взима решението за използването на сила и приемливо ли е машина да преценява дали някой трябва да живее или да умре.

Всичко това може да ви звучи като научна фантастика или сцена от някоя от сериите на "Терминатор", но всъщност вече е научна реалност. Просто помислете колко от големите автомобилни компании в момента разработват или вече имат свои коли с автопилот. А сега си представете, че подобна, но много по-скъпа и съвършена софтуерна технология е инсталирана в бронирана машина, танк, самолет, вертолет или кораб. "Във всяка част на бойното поле – на сушата, във въздуха или на и под водата – военните по целия свят в момента демонстрират прототипи на автономни оръжия", коментира проф. Тоби Уолш, изследовател в сферата на изкуствения интелект в Университета на Нови Южен Уелс, цитиран от BBC. И добавя: "Технологии като дълбинното машинно обучение (deep learning) движат тази революция. Технологичният сектор определено я води, но военните бързо го догонват."

Прототипите

Конкретните примери в тази посока вече не са никак малко. Щатската военна изследователска агенция DARPA например експериментира с иновативен софтуер за изкуствен интелект, инсталиран на разузнавателен дрон, който е способен да различава цивилни граждани и въоръжени бунтовници. Американският флот вече разполага с прототип на автономен кораб на име Sea Hunter, който може да оперира в открито море за дълъг период от време, без да има нито един човек на борда. Британската компания BAE Systems пък разработва стелт безпилотен самолет на име Taranis, способен да извършва междуконтинентални бойни мисии, който, за да бъде максимално невидим, в определени етапи от полета си ще действа при пълна автономност. Южнокорейската компания Samsung, по-известна със своите смартфони, от своя страна е конструирала за армията на Сеул стационарни автономни оръдия на име SGR-A1. Те са инсталирани по протежението на демилитаризираната зона със Северна Корея и са готови да отразяват евентуална инвазия, дори ако всички войници вече са избити.

Русия, разбира се, също не изостава от набиращата скорост роботизирана милитаризация. За нейният широко рекламиран нов танк T-14 "Армата" също се твърди, че ще съдържа елементи на автономност – такова например ще е управлението на купола и оръжейните системи, инсталирани на него. Легендарният производител на автомати "Калашников" също се включва в играта и твърди, че е разработил бойна платформа с картечница, камера и компютър, която може да прави преценка за подбора на целите без каквато и да било човешка намеса. А системата "Уран-9" представлява наземна автономна бойна машина, която носи на борда си картечница и 30-милиметрово оръдие и може да се командва дистанционно от разстояние до 10 км.

Както изглежда, всичко това е съвсем целенасочено усилие от страна на Москва. "Изкуственият интелект е бъдещето не само за Русия, но за цялото човечество. Той върви ръка за ръка с колосални възможности, но и със заплахи, които трудно могат да се предскажат. Който стане лидер в тази сфера, ще владее света", коментира руският президент Владимир Путин през септември по време на видеообръщение към ученици от над 16 хил. руски училища в рамките на 45-минутен дистанционен открит урок. "Ако станем лидер в тази сфера, ще споделим това ноу-хау с целия свят по същия начин, както споделяме ядрените си технологии днес", продължава обитателят на Кремъл.

Страховете

Така че проблемът с автономните оръжейни системи не е хипотетичен, а съвсем реален. Още преди две години, през лятото на 2015 г., над 1000 учени, изследователи в сферата на роботиката и технологични предприемачи, отправиха апел до Обединените нации (ООН). Според тях използването на изкуствения интелект за военни цели е много лоша идея и ще доведе до надпревара във въоръжаването. Те смятат, че създаването на т.нар. роботи убийци трябва да бъде строго регулирано в конвенцията на ООН за обикновените оръжия или направо забранено.

Сред инициаторите на петицията са основателя на Tesla и SpaceX Илън Мъск, легендарния физик Стивън Хокинг и съоснователя на Apple Стив Возняк. "Автономните оръжейни системи ще доведат до трета революция във воденето на война след откриването на барута и ядрените оръжия", предупреждават учените, подписали петицията. И добавят: "Ключовият въпрос за човечеството днес е дали да започне глобална надпревара във въоръжаването, движена от изкуствения интелект, или да я спре. Ако големите военни сили продължат натиска в тази посока, надпреварата е неизбежна и краят на траекторията, по която се движи, е очевиден: автономните оръжия ще станат калашника на бъдещето."

Две години по-късно апелът на технологичната общност предизвиква реакция, макар че крайният резултат може да не е точно очакваният. В средата на ноември ООН наистина свика в Женева заседание на работна група, посветена на смъртоносните автономни оръжейни системи (LAWS), в която участват представители на 86 страни. До момента обаче само 22 от държавите - членки на ООН, са заявили отчетливо желание за налагане на подобна забрана.

Според участници в срещата, въпреки че повечето страни са изявили желание за въвеждане на правно обвързващи процедури, гарантиращи някаква форма на човешки контрол над подобни роботизирани платформи, по време на разговорите е властвало усещане за взаимно недоверие. Дори не е било постигнато съгласие какво точно е "автономна оръжейна система", въпреки че представителите на Холандия са предложили вариант. Няколко влиятелни държави начело със САЩ и Русия директно са споделили, че е твърде рано да са договаря контрол над въоръжения, които още не съществуват.

Или както не особено дипломатично обобщава Амандийп Гил, посланик на Индия по въпросите на разоръжаването, който координира разговорите: "ООН ще организира дебати по въпросите на използването на автономните оръжия. Но онези, които се надяват да има забрана на машините, наричани фриволно от някои роботи убийци, ще бъдат разочаровани."