BOOM
Боевые роботы – главная угроза человечеству в ближайшие годы. Опасность исходит от класса боевых роботов, которые обозначаются вполне официальным термином “роботы-убийцы”. Так называются оружейные системы, которые после активации выбирают цели и стреляют по ним без значимого контроля людей, то есть полностью автономные системы летального оружия.
Люди, таким образом, устраняются из цикла принятия решений. Их роль сводится к надзору за роботами. В перспективе это закономерно приведёт к тому, что никакой роли в выборе цели боевыми роботами у людей не будет вообще.
К примеру, крылатые ракеты и дистанционно управляемые летательные аппараты автономным оружием не считаются, потому что они наводятся на цель людьми. А вот квадроцикл с пулемётом, который ищет и убивает злых людей по определённым признакам – именно оно.
Боевые роботы: третья оружейная революция
Считается, что автономные боевые роботы совершили третью революцию в вооружениях. Первые две дали порох и атомная бомба.
Считается также, что летальных систем автономного оружия не существует. Хотя полностью автономные системы есть – к примеру, американский зенитный артиллерийский комплекс Phalanx не только находит радиолокаторами цель, но и автоматически реагирует на угрозы.
Технически сделать летальное автономное оружие – дело ближайшего времени. Речь не о десятилетиях, а об одном-двух годах. Все технологии уже есть, дело только в некоторой их миниатюризации и интеграции. Роботы-убийцы почти реальны, но разрешить машинам выбирать, кого из людей надо убить – значит, разрушить мир и безопасность на планете. Роботы-убийцы – такое оружие, против которого человек бессилен.
Боевые роботы не обязательно должны быть размером со Шварценеггера. У дрона размером с воробушка скорость реакции и передвижения в сотни раз лучше человеческой. Закреплённого на нём маленького направленного заряда взрывчатки вполне хватит, чтобы пробить человеку череп, и защититься от него невозможно. Всё это наглядно отражено в ролике выше.
Борьба за запрет автономных боевых роботов
В мире нарастает озабоченность автономными боевыми роботами. С 2013 года активистами международной кампании “Остановить роботов-убийц” стали 21 нобелевский лауреат, более 3000 видных специалистов по искусственному интеллекту и робототехнике, и такие крупнейшие деятели прогресса, как Стивен Хокинг, Илон Маск и Ноам Хомский.
Множество организаций и отдельных значительных людей борются за немедленное запрещение автономных летальных систем оружия. Прецеденты такого запрета есть – например, сегодня даже по одному подозрению в изготовлении химического и бактериологического оружия любого общественного деятеля наказывают больно и, как все помнят, иногда летально. Есть прецедент и для превентивного запрета оружия, технически ещё не ставшего серьёзной угрозой: в 1995 году было запрещено ослепляющее лазерное оружие, образцов которого в тот момент не было.
Но ситуация с боевыми роботами непростая. Это видно из списка стран, одобривших полный запрет роботов-убийц. На данный момент таких стран 19: Алжир, Аргентина, Боливия, Ватикан, Венесуэла, Гана, Гватемала, Египет, Зимбабве, Коста-Рика, Куба, Мексика, Никарагуа, Палестина, Пакистан, Панама, Перу, Чили и Эквадор. Очевидно, что автономных боевых роботов летального действия запретили государства, у которых их и так нет и в ближайшее время не будет. Остальные не торопятся сворачивать разработки такого мощного оружия, чтобы не остаться беззащитными перед лицом предполагаемой внешней угрозы.
Парадокс ситуации в том, что если люди делегируют роботам право контроля, то необратимо потеряют контроль над ситуацией сами. Если мы не примем решения запретить автономных боевых роботов, то рано или поздно роботы запретят нам принимать решения.
