Автономный режим боевых роботов может представлять опасность для человечества

ForbesHi-Tech

Бесчеловечное решение: как развитие боевых роботов достигло опасной черты

Олег Шакиров

Фото Mehmet Kaman / Anadolu Agency via Getty Images

В марте 2020 года в Ливии беспилотник без команды от человека выследил силы противника и нанес по ним удар. Инцидент, возможно, с первым известным случаем атаки ударного беспилотника без получения явного приказа от человека показывает опасность распространения автономных систем вооружений, считает консультант ПИР-центра Олег Шакиров.

В ходе военных действий в Ливии разыгрался сюжет из научной фантастики. Беспилотные летательные аппараты автономно, без команды от человека, действуя по заданной программе, выследили силы противника (подразделения, примкнувшие к командующему Ливийской национальной армии Халифе Хафтару) и нанесли по ним удар.

Это произошло еще в марте 2020 года, однако лишь спустя год об инциденте кратко написала группа экспертов ООН по Ливии — более чем в 500-страничном докладе нападению дронов уделено два предложения. В середине мая инцидент был кратко упомянут в статье правозащитной организации Human Rights Watch, затем в Бюллетене ученых-атомщиков и издании New Scientist. Благодаря публикации NY Post история наконец вышла к широкой аудитории.

Автономный режим

Внимание к, казалось бы, давнему и не имевшему видимых последствий событию легко объяснимо. Уже несколько десятилетий военные применяют ударные и разведывательные беспилотники, а также роботы, способные выполнять задачи на суше или в воде. Однако такая техника удаленно управляется человеком — в армии США дроны официально называются не беспилотными, а дистанционно пилотируемыми.

Автономные вооружения, в отличие от управляемых, действуют самостоятельно, без участия оператора. В худшем случае отсутствие человеческого контроля может привести к непредвиденным жертвам — на этой опасности делают акцент активисты, выступающие за запрет боевых роботов. Что именно может пойти не так, предсказать сложно, но вероятные сбои может представить любой, кто сталкивался с ошибками в работе сервисов на основе искусственного интеллекта, таких как интернет-поисковики, чат-боты или приложения для распознавания текста и изображений.

Примером вооружений, которые могут функционировать автономно при переключении в соответствующий режим, эксперты называют автоматическую туррель SGR-A1, разработанную компанией Samsung Techwin и используемую для охраны демилитаризованной зоны на Корейском полуострове. Сам производитель этого не признавал, утверждая, что для поражения целей необходимо участие человека. Автономный режим есть в системе противоракетной обороны «Иджис», размещаемой на американских кораблях, а также на военных базах в Европе. В этих случаях подразумевается, что оператор сознательно примет решение переключить такую систему в автономный режим и обратно.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Sapiens Sapiens

Краткая история человечества

kiozk originals
«Не знаю, как быть дальше»: 22 вещи, которые можно сделать прямо сейчас «Не знаю, как быть дальше»: 22 вещи, которые можно сделать прямо сейчас

Простые советы, которые помогут двигаться дальше

Psychologies
«День, когда я перестала обижаться» «День, когда я перестала обижаться»

Наша читательница уверена: отказавшись от обид, она обрела свободу

Psychologies
Ученые исключили происхождение китайских домашних кошек от китайских горных кошек Ученые исключили происхождение китайских домашних кошек от китайских горных кошек

Китайские горные кошки страдают от гибридизации с домашними

N+1
Игра Бакмана Игра Бакмана

Писатель Фредрик Бакман о том, как тренировал футбольную команду своей дочери

Esquire
Изнасилование, разводы и выкидыши: драмы легендарной актрисы Мэрилин Монро Изнасилование, разводы и выкидыши: драмы легендарной актрисы Мэрилин Монро

Мэрилин Монро прожила короткую, но очень насыщенную жизнь

Cosmopolitan
Пэрис в велюре, Бритни с голым животом: как одевались звезды-тусовщицы в нулевые Пэрис в велюре, Бритни с голым животом: как одевались звезды-тусовщицы в нулевые

Вспоминаем, что носили звезды-тусовщицы в нулевые

Cosmopolitan
Самая здоровая диета: почему тебе стоит попробовать пескетарианство Самая здоровая диета: почему тебе стоит попробовать пескетарианство

Пескетарианство очень похоже на средиземноморскую диету

Cosmopolitan
10 физических упражнений, которые сделают тебя богом в постели 10 физических упражнений, которые сделают тебя богом в постели

Становая тяга, приседания и другие упражнения, которые улучшат интимную жизнь

Maxim
Личная жизнь звезд сериала «Света с того света»: Марии Машковой и других Личная жизнь звезд сериала «Света с того света»: Марии Машковой и других

Узнай о личной жизни актрисы и других звезд киноистории «Света с того света»

Cosmopolitan
Такими должны быть байки: история чоппера в красках Такими должны быть байки: история чоппера в красках

От смертельно опасных гонок на деревянных трассах до голливудских экранизаций

GQ
Картина маслом Картина маслом

Пентхаус с авторской живописью в Екатеринбурге

SALON-Interior
Возраст и убеждения: причины, по которым женщины не испытывают оргазм Возраст и убеждения: причины, по которым женщины не испытывают оргазм

Почему женщины испытывают оргазм реже, чем мужчины?

Cosmopolitan
«Семья живет, пока в ней есть дети» «Семья живет, пока в ней есть дети»

Дмитрий Маликов — о предстоящем концерте, поклонницах и популярности в соцсетях

OK!
Контрол-фрик: как попытки держать все под контролем делают нас несчастными Контрол-фрик: как попытки держать все под контролем делают нас несчастными

Стремление все контролировать иногда становятся источником проблем

Cosmopolitan
Сила есть: что показывает государство российскому обществу в 2021 году Сила есть: что показывает государство российскому обществу в 2021 году

Общество рефлекторно сжимается в ответ на кампанию закручивания гаек

Forbes
Заесть депрессию: как еда влияет на нашу психику Заесть депрессию: как еда влияет на нашу психику

Дисбаланс в питании — один из ключевых факторов развития психических нарушений

Reminder
«Ты должен пахать на людей, и тебе должно нравиться это»: принципы Ирины Хакамады «Ты должен пахать на людей, и тебе должно нравиться это»: принципы Ирины Хакамады

Ирина Хакамада делится советами для тех, кто хочет преуспеть в жизни

Forbes
Бегущий на лезвиях Бегущий на лезвиях

Дмитрий Мурлычкин стал первым в соревнованиях по Ice Cross

Men’s Health
Вернись, я все прощу! На что знаки зодиака готовы пойти ради любви Вернись, я все прощу! На что знаки зодиака готовы пойти ради любви

На что твой милый готов пойти ради любви

VOICE
Как не нужно продавать продукт на американском рынке Как не нужно продавать продукт на американском рынке

Главные ошибки компаний при попытках выйти на рынок США

Inc.
10 фильмов, которые доказывают: любовь может победить все 10 фильмов, которые доказывают: любовь может победить все

Отличный список романтичных фильмов для вечернего кинопросмотра

Cosmopolitan
7 странных законов со всего мира 7 странных законов со всего мира

Странные, но полезные законы в разных государствах мира

Maxim
Горячий песок Западной Сахары Горячий песок Западной Сахары

Чем грозит мирной Европе просыпающийся конфликт на северо-западе Африки

Эксперт
Гламурная Хлои Кардашьян: горячие фото звезды реалити-шоу и бизнесвумен Гламурная Хлои Кардашьян: горячие фото звезды реалити-шоу и бизнесвумен

Рассказ о жизни звезды реалити-шоу «Семейство Кардашьян»

Playboy
8 фитнес-блогеров, которые вдохновят на подвиги 8 фитнес-блогеров, которые вдохновят на подвиги

Если тебе не хватает мотивации, чтобы наконец-то начать заниматься спортом

Cosmopolitan
Злой умысел: зачем российским силовикам видео с признаниями задержанных Злой умысел: зачем российским силовикам видео с признаниями задержанных

Социолог о признании вины как новой правовой тенденции

Forbes
5 экспонатов выставки «Театр.Rus» в Новом Манеже 5 экспонатов выставки «Театр.Rus» в Новом Манеже

Уникальные экспонаты, способные рассказать историю русского театра

Культура.РФ
«Нытик и тряпка»: снимаем стигму вокруг мужчин в психотерапии после скандального интервью принца Гарри Опре Уинфри «Нытик и тряпка»: снимаем стигму вокруг мужчин в психотерапии после скандального интервью принца Гарри Опре Уинфри

11 причин, почему тебе стоит перестать думать, что «психология — лженаука»

Playboy
«После 45 лет не предлагать»: что мешает успешной карьере возрастного менеджера «После 45 лет не предлагать»: что мешает успешной карьере возрастного менеджера

Эксперт: чтобы стать успешным после 45 лет, стоит научиться учиться

Forbes
Открыть в приложении