Восстания машин не будет: крупнейшие производители роботов отказались оснащать их оружием

Boston Dynamics и другие производители роботов отказались вооружать свои машины. Представители корпораций Agility Robotics, ANYbotics, Boston Dynamics, Clearpath Robotics, Open Robotics и Unitree Robotic написали открытое письмо о своём решении всем участникам робототехнического сообщества и призвали прислушаться к ним.

Учёные против милитаризации

— говорится в письме.



Общая позиция изобретателей такова: нельзя допустить чтобы плоды развития новых технологий использовались для причинения вреда людям.

Противники милитаризации машин считают, что использование роботов в военных целях пошатнёт доверие людей к новым технологиям и науке в целом.


— считают представители робототехнических фирм.

При этом также известная в военных кругах компания Ghost Robotics протест поддерживать не стала. Эти разработчики машин с ИИ активно задействованы американскими военными: Пентагон в настоящее время тестирует их продукты на полигонах.

Как и любая новая технология, предлагающая новые возможности, появление усовершенствованных мобильных роботов несет в себе опасность злоупотребления. Неблагонадежные люди могут использовать их для нарушения гражданских прав или запугивания других людей. Одной из областей, вызывающих особую озабоченность, является использование роботов с оружием.

Как роботы используются в военном деле

В октябре прошлого года вышеупомянутая компания Ghost Robotics опубликовала фотографии робота Q-UGV, который изначально создавался для разведывательных операций, а позже получил автоматизированный комплекс снайперской стрельбы (на снимке). В отличие от давно известных дистанционно управляемых стационарных турелей, оружие робота может работать без участия человека-оператора. Подобными устройствами интересовались армии США и Австралии.


Российские военные не заставили долго ждать с ответом. 19 октября 2021 года было объявлено об испытаниях боевого робота на гусеничном ходу «Маркер». Сейчас его планируют модернизировать для использования в ходе спецоперации на Украине. Масса и габариты платформы останутся теми же, что и у существующих уже образцов, но возможности будут значительно расширены. «Маркер-2» будет нацелен минимум под три задачи: охрана, ликвидация последствий чрезвычайных ситуаций (ЧС) и ведение вспомогательных работ в условиях боевых действий с учётом потребностей войск. Проблема лишь в поиске подходящих производственных мощностей для реализации проекта.

На прошлогодних испытаниях три «Маркера» вовсю демонстрировали командную работу искусственного интеллекта: грамотно занимали огневые позиции и распределяли между собой цели. Вооружение у них было куда мощнее, чем у американского конкурента: пулемёты, гранатомёты и даже ракеты. Если машина из США похожа на собаку, то наш «Маркер» походит на миниатюрный танк.


И с той, и с другой стороны военные заявляли, что будут использовать роботов только для охраны особо важных объектов, а не в боевых операциях. Однако весной прошлого года на стол Совбеза ООН лёг доклад, в котором сообщалось, что боевые роботы впервые были применены в открытом боестолкновении с людьми.

Применение автономных роботов в войне: риски и этические вопросы

По материалам доклада, в 2020 году турецкие дроны-камикадзе были использованы при поддержке западноливийских войск, направленных на подавление позиций солдат маршала Хафтара в Ливии. Дроны при этом действовали самостоятельно, без внешнего управления.

Подчеркну, что дистанционно управляемые человеком беспилотники, которые вы видите в военной хронике сегодняшних дней, не ровня автономной машине, которая в человеке нуждается лишь для того, чтобы он ей батарейки менял. Таким образом, до недавнего времени концепция «убивает человек, а не оружие» была справедлива. Даже самонаводящаяся бомба или ракета сама собой не управляет, ведь запускает её человек по приказу такого же человека, но с большим количеством звёзд на погонах. Что будет, если у роботизированного оружия появится свобода действий? Хорошо, если случится как в старом анекдоте: «Умные танки решили не воевать и поехали пить солярку».


Кто будет отвечать, если программа даст сбой и машины начнут уничтожать гражданских, медиков, миротворцев или собственных военных? Кто сможет дать точный ответ, был ли это сбой, хакерский взлом или злонамеренная имитация ошибки? Как, наконец, машине отличить врага от друга в условиях гибридной полупартизанской войны, когда те же ВСУ используют для перемещения гражданский транспорт?

Существование боевых роботов нарушит положения Женевских конвенций в части защиты прав гражданского населения в зоне военных конфликтов, в особенности принципов различения и соразмерности. Последний постулат состоит в том, что мирное население ни в коем случае не должно пострадать.

Другая трудность правового и этического регулирования использования автономных дронов состоит в том, что не существует чёткого определения «автономной боевой системы» на международном уровне. То есть в некоторых странах автономным может считаться как робот, способный выбирать один из нескольких вариантов действий, даже если он находится под внешним управлением, так и полностью автоматический дрон-убийца.

В августе 2018 года в Женеве прошло уже третье по счёту заседание группы правительственных экспертов ООН по боевым автономным системам. Однако его участникам так и не удалось достичь конкретных договорённостей в силу обозначенных выше противоречий. А разработка военных автономных систем продолжается и сейчас.

Ничто не мешает, например, правительству США дать заказ той же «Бостон Дайнемикс» на разработку разведывательного дрона и в тёмную создать дочернюю фирму, которая навесит на него вооружение. Военные контракты обычно пахнут баснословными деньгами, а капиталист всегда охотится за прибылью. Так что ответ на вопрос, стоит ли верить в «честное пионерское» заявление конструкторов, пока что открыт.