Він , що в реальних умовах така зброя може бути некерованим, і існує можливість злому, підміни і маніпуляцій з боку противника.

Автономне озброєння стало можливим завдяки здешевленню датчиків і появи технологій штучного інтелекту. Можлива поява роботів-вбивць вже спровокував рух протесту і дискусії в ООН про обмеження розробки та впровадження таких систем.

Чого бояться експерти

Підлогу Шеррі керує програмою по розробці прийомів ведення «війни майбутнього» у Центрі Нової Американської Безпеки. З 2008 по 2013 роки він працював у кабінеті міністра оборони США, де допоміг розробити стратегію застосування автономного зброї. У 2012 році він став одним з авторів директиви Міністерства оборони, яка встановлювала військову політику щодо використання подібних систем.

У своїй доповіді «Автономне зброю і операційний ризик» Шеррі попереджає про реальні ризики, пов'язані з повністю автономними бойовими системами, які можуть вбивати без втручання людини і зброї. Альтернативою їм є озброєння, яка «тримає людей в курсі» в процесі вибору і ураження цілі, тобто їм управляє оператор.

«Кожен коли-небудь розчаровувався в автоматизованій підтримці телефону довіри, будильник, який помилково встановлено на «вечір» замість «ранку» і так далі. Кожен стикався з проблемою «крихкості», яка присутня в автоматизованих системах», — пише Шеррі.

За словами експерта, автономних систем озброєння не вистачає «гнучкості». У процесі виконання такої системою завдання можуть виникнути помилки, які люди змогли б уникнути.

Автономне озброєння в армії

Повністю автономне зброя вже починає з'являтися в арсеналах різних країн. Наприклад, Південна Корея встановила автоматичну турель вздовж демілітаризованої зони з Північною Кореєю. В Ізраїлі стоїть на озброєнні безпілотний літальний апарат, який запрограмований атакувати радіолокаційні системи противника при їх виявленні. Військові США поки ще не використовують автономне зброю, але в цьому році Міністерство оборони залучив близько $1 млрд для виробництва напівавтономного зброї. Хоча її оператор буде спочатку обирати мету, але без контакту з людиною такі системи будуть автоматично ідентифікувати і атакувати ворожі війська.

«Під час свого першого випробування над Тихим океаном у восьми винищувачах F-22 повністю відмовила система комп'ютера, оскільки вони перетнули лінію зміни дати», — йдеться в доповіді. — Всі бортові комп'ютерні системи відмовили, і результат був майже катастрофічним — втрата літака. Хоча існування лінії зміни дат давно відома, результат взаємодії з програмним забезпеченням повністю не протестований».

Що пропонують взамін

В якості альтернативи повністю автономної зброї Шеррі у своїй доповіді рекомендує впроваджувати Centaur Warfighting. Це комбіноване озброєння, яке тісно інтегрує роботу людей і комп'ютерів. У шахах, наприклад, команди, які використовують і люди, і програми штучного інтелекту, домінують у змаганнях проти команд, які використовують тільки штучний інтелект.

Шеррі також визнає, що просто оператора, який «натискає на кнопки», мало.

«Наявність просто знає про дії машини людини недостатньо, — сказав він. — Люди не можуть бути просто частиною алгоритму роботи системи. Людина повинна активно брати участь у прийнятті рішень».