Роботы и беспилотные системы давно находятся на службе у военных. Однако 8 июля робот-убийца был впервые использован полицией США.
Акция протеста в Далласе завершилась перестрелкой, смертельными ранениями полицейских и уничтожением одного из стрелков с помощью робота-курьера, доставившего к зданию, в котором находился преступник, взрывное устройство.
“Любой другой вариант поставил бы под угрозу жизни наших офицеров”, — пояснил начальник полиции Далласа.
Дрон-киллер
Убийство на расстоянии для военных не новость. В военном деле спрос всегда способствовал технологическому прогрессу. Так случилось и с разработкой оружия для убийства на расстоянии: ранний пример — использование англичанами длинных луков в битве при Креси в 1346 году, более поздний — запуск нацистских ракет “Фау-1” и “Фау-2”.
Совсем недавно США использовали беспилотники Predator и Reaper и вне традиционного поля боя. Согласно официальным данным, с 2009 года в результате 473 воздушных атак было убито около 2500 “комбатантов” и, возможно, более сотни гражданских лиц. Некоторые эксперты называют эти показатели заниженными.
Корреспондент BBC News Гордон Корера вспоминает, как в далёком 2008 году посетил авиабазу ВВС США Крич в невадской пустыне, где лётчики Королевских военно-воздушных сил Великобритании впервые открыто продемонстрировали дроны, новейшее на тот момент оружие.
По словам Кореры, один из британских пилотов заметно ощетинился, когда корреспондент спросил его, не кажется ли военному, что управление дроном очень похоже на видеоигру. Это, кстати, часто задаваемый вопрос.
Сторонники беспилотников утверждают, что дроны намного эффективнее пилотируемых самолётов, так как могут дольше находиться у цели и гарантировать выполнение поставленной задачи.
Ещё, конечно, они способствуют вполне объяснимому желанию снизить риски для жизни пилотов, точно так же, как это было в Далласе, когда сотрудники полиции получили возможность находиться на безопасном расстоянии от стрелка.
Однако критики утверждают, что отсутствие риска существенно меняет природу операции, так как снижает порог необходимой для выполнения задачи силы.
Ружьеботы
В военных целях роботы используются не только в небе, но и на земле. Одной из первых роботов-пограничников для охраны демилитаризованной зоны с Северной Кореей стала использовать её соседка, Южная Корея. Роботы оснащены не только датчиками тепла и движения, но и оружием.
Преимущество таких железных служивых в том, что они не устают и не засыпают, в отличие от людей-часовых. Обнаружив потенциальную угрозу, корейский робот информирует о ней командный центр. Важно, что решение открыть огонь всё же остается за человеком. Возвращаясь к роботу из Далласа, следует отметить, что он тоже выполнял приказ человека.
Настоящей проблемой, с которой мы столкнёмся в будущем, будет не столько дистанционное управление оружием, сколько его автоматизация, а эти два понятия очень часто путают.
Настоящие автономные роботизированные системы не будут нуждаться в человеке, который бы их включил и принял за них решение нажать на курок или выдернуть чеку.
Следующим шагом может стать обучение корейских роботов идентификации “своих” и “чужих” и принятию самостоятельного решения о том, стоит ли открывать огонь. Футурологи уже видят перед собой полчища самонаводящихся наноботов, запрограммированных согласно всем законам и уставам военного времени.
Но каким должен быть код, чтобы машины находили правильный выход из любой сложной ситуации? Как быть с этическими нормами, как выбирать, когда стрелять?
Похожие вопросы приходится решать и создателям автомобилей-беспилотников. Что делать машине, если нужно выбрать: врезаться в толпу детей-пешеходов или навредить своим пассажирам?
На самом деле страхам перед автоматизацией уже много лет. Одна из первых задач, для которых использовался компьютер в период холодной войны, — максимальная автоматизация немедленного ответа на советские ядерные атаки.
Рассвет кибербезопасности
Для того чтобы с помощью сетевых компьютеров засечь и распознать приближающиеся советские самолёты, американцы разработали Sage, полуавтоматическую систему управления силами и средствами ПВО.
Вскоре все ракеты были подключены к системе и могли сбивать самолёт противника. Но один из капитанов ВВС поставил под сомнение то, что компьютерам можно доверить контроль над запуском ракет и даже спросил, не слишком ли это опасно, ведь кто-то может проникнуть в компьютерную систему и перепрограммировать её, направив удар по городам США, а не ссср. Мысль о том, что работа удалённых и автоматизированных систем может быть сорвана, поспособствовала появлению того, что сегодня принято называть кибербезопасностью.
Риски, связанные с дистанционным управлением оружием, как и опасности, которые таит автоматизация роботов, никуда не исчезли.
Конечно, военные используют зашифрованные каналы для контроля своих роботов, но в системе — об этом вам скажет любой хакер — почти всегда есть ахиллесова пята, слабое место, которое противник может найти и использовать в своих целях.
Уже были случаи, когда хакеры брали под удалённый контроль автомобили и те переставали подчиняться действиям водителя. Один из кошмаров будущего — возможность захватить контроль над роботом и навести прицел на любую мишень.
То, что освоением робототехники занялись не только военные, но и правоохранительные органы, вызывает странные чувства. Использование ботов последними имеет совершенно иной контекст и сулит ещё большее дистанциирование полиции от общества с дальнейшим накоплением нерешённых проблем.
До сих пор непонятно, можно ли достичь баланса между рисками и преимуществами использования роботов, между удалённым управлением и автоматизацией.
События в Далласе показали, что будущее надвигается так быстро, что времени на неспешные дебаты у нас не остаётся.
