Присоединяйтесь к нашим группам

Когда роботы-убийцы самостоятельно принимают решения…

Когда роботы-убийцы самостоятельно принимают решения...
США обсуждают возможность возложения на роботов решения о жизни и смерти. Но могут ли автономные оружейные системы сделать войны действительно этически более гуманными?
12 04 2016
19:47

Беспилотные системы для дронов следующего поколения

Терминатор не знает ни страха, ни жалости, ни раскаяния. Он убивает быстро и эффективно. Терминатор это создание из области научной фантастики, но уже в наши дни военные  используются роботов-убийц, к примеру, чтобы разыскать и убить террористов. Ну, что ж, скоро наступит следующий шаг: "Мы стоим на пороге создания автономного оружия", −  заявил недавно на заседании Немецкого физического общества в Регенсбурге физик и исследователь безопасности Марсель Диков из Берлинского Фонда Науки и политики (Berliner Stiftung Wissenschaft und Politik).

Даже Пентагон открыто обсуждает возможность автоматизации военной техники. "Если робот находится в зоне боевых действий, знает подробности миссии и был достаточно тщательно протестирован, стоит ли  исключить человеческий контроль? Может ли машина самостоятельно принимать решение?", − цитировал недавно  Национальный журнал обороны (National Defense Magazine) сотрудника Пентагона.

Беспилотные летательные аппараты, которые сами рассчитывают навигацию и маршрут, такие как Predator (Хищник) или Reaper (Жнец) находятся на данный момент на вооружении  многих армий. Военно-морские силы используют автоматические беспилотные корабли, например, для мониторинга и охраны побережий. В прошлом году Пентагон провёл  на Аляске испытание, в котором рой беспилотных летательных микро аппаратов был выгружен из истребителя F-16.  Такие крошечные летающие спутники могут быть использованы для мониторинга враждебной местности или чтобы целенаправленными сигналами запутать вражескую армию.

По-настоящему автономного оружия без человека за пультом не существует. "Дроны, которые на данный момент находятся у нас в использовании, не являются автономными системами, они в значительной степени управляются дистанционно", − говорит Диков. Они летают, потому что  человек точно  определяет их маршрут. Хотя анализ всё больше основывается  на образах и данных, всё же именно люди, сидящие перед экранами,  принимают решение.

Искусственное насекомое, запрограммированное на убийство бородатых мужчин в тюрбанах

Диков утверждает, что это лишь вопрос времени, когда  машины  смогут стать автономными. Это вопрос нескольких лет. Компоненты для автономных видов оружия: датчики, системы распознавания образов, алгоритмы принятия решений, с помощью которых машина может автономно перемещаться по незнакомой местности,  уже давно появились на рынке. Как ни странно человек вряд ли может справиться с таким огромным количеством поступающих данных. Ироничным является то, что такими  разработками в основном занимаются гражданские фирмы и ученые. Машины становятся умнее. Один из возможных сценариев: искусственное насекомое, которое программируется для отслеживания бородатых мужчин в тюрбанах, должно убивать их ядовитым жалом. Гётц Нойнек, физик и профессор из Института исследований мира при Университете Гамбурга сравнивает ситуацию с ранними атомными исследованиями: "В 1938 году было обнаружено ядерное деление. Многие думали о том, чего можно было бы достичь при помощи этого изобретения. Но затем мы начали исследовать глубже и..." Поэтому, мы должны теперь обратиться к морали разработчиков и создателей такого оружия. 

Некоторых стратегов привлекает идея отправить на поле боя одних только машин. Они надеются, что таким образом можно будет избежать жертв среди солдат и гражданских лиц. И, наконец, даже люди не всегда ведут себя корректно с этической точки зрения. Есть много примеров в любой войне когда,  солдаты  убивают мирных жителей просто из мести. Но переломный момент в дискуссии наступает, если задать вопрос: кто понесет ответственность, если боевой робот совершит ошибку? А насколько умными должны быть  построены эти машины? А в случае сомнения они, например, смогут узнать, что под тюрбаном прячется не террорист-убийца, а женщина, которая только переоделась так, чтобы сбежать? "Кампания, чтобы остановить роботов-убийц" (Campaign to Stop Killer robots)  считает, что роботы-убийцы слишком  тупые. Эта кампания создана в основном за счет правозащитных организаций Human Rights Watch и Amnesty International. Они считают, что этическое поведение нельзя  запрограммировать, хотя, возможно, в США были такие попытки.

Собирается ли ООН  в ближайшем будущем урегулировать использование машин- убийц?

Тем не менее, большинство генералов также придерживаются мнения, что именно человек должен нажать кнопку. Машина, которая самостоятельно решает вопросы  жизни и смерти, для них немыслима, говорит Диков. Всё упирается в традиционное военное понятие о приказах и послушании, где человек должен нести ответственность за каждое своё действие.

"Всегда должно быть решающее контролирующее присутствие человека", − говорит Диков. Только: Как именно его определить? Диков разработал формулу. Она объединяет в себе 14 важнейших параметров, таких как обмен информаций между машиной и окружающей средой или вмешательство человека. Из этого следует то, насколько автономным должно быть оружие. "Согласно этой формуле можно гораздо проще и прозрачнее решить, будет ли система настолько автономна, что повысит риски политики безопасности", − рассуждает Диков. Согласно его формуле такой дрон, как Reaper (Жнец), имеет  допустимую степень автономности. Робот-насекомое с отравленным жалом, однако, уже будет нарушать нормы международного человеческого права.

В этот понедельник в Женеве собрались эксперты, чтобы подготовиться к следующим переговорам касательно "Конвенции о конкретных видах общепринятого оружия". Этот договор ООН запрещает, среди всего прочего, применение наземных мин и лазерного оружия. Действие  договора можно распространить также и на автономное оружие. Диков представит научному сообществу свою формулу. Он надеется, что международное сообщество подойдёт на шаг ближе к запрету автономных военных машин.

Жанна Рубнер


Источник: sueddeutsche.de





Contra Magazin
Китайский юань с октября этого года является частью валютных резервов МВФ. Даже, несмотря на это, валюта Китая уже давно начала играть все более важную роль в мире и уже имеет достаточный потенциал, чтобы заменить доллар в качестве основной мировой валюты.
13:40 | 06.12.2016
close Не показывать больше
Теперь читать новости на мобильном телефоне стало ещё удобнее
Скачай новое приложение obzor.press и всегда будь в курсе последних событий!