01:16
Как правило, "нечестными" и "недостойными воина" в разные времена признавались наиболее современные виды оружия, зачастую меняющие ход войны и дающие их обладателю значительное преимущество над более консервативным противником. Но сейчас мы стоим перед проблемой, в чем-то даже превосходящей споры об атомном оружии - должны ли средства убийства противника быть автономными?
Эта проблема впервые не касается поражающей способности вооружения. Неважно, что имеется в виду - ракета с атомной боеголовкой или стационарная турель малого калибра. Речь идёт именно о передаче машине самого права принять решение об атаке противника, по сути, о лишении жизни человека.
Нужно уточнить, что на сегодняшний день оружие и военная техника в достаточной степени "умны". Ракетные комплексы способны сами находить и сопровождать цели, беспилотные летательные аппараты могут обнаружить противника и приготовиться к атаке без участия человека. Но решение о поражении цели всегда принимает оператор.
На самом деле этот "предохранительный механизм" несет скорее функцию защиты от случайного срабатывания. Пока человеческий мозг куда лучше справляется с идентификацией целей и может с большей точностью, чем машина, сказать, не направлено ли оружие на союзников или гражданских. Но эта задача с каждым годом всё проще и проще для компьютеров, а время их реакции куда ниже. При одинаковом качестве распознавания объектов, этот факт вместе с неизбежной задержкой сигнала от аппарата до центра управления становится самым слабым звеном всей системы. Передача автономному аппарату прав на самостоятельное принятие решения сделает его реакцию намного быстрее, позволит действовать в условиях затруднённой связи... И впервые не люди будут решать, убивать ли других людей.
Основные аргументы противников понятны: недоверие к правильности выбора, совершаемого искусственным интеллектом, наличие возможных ошибок во всё ещё не идеальных программах и отсутствие у машин какого-то подобия эмоций. Первая проблема близка к решению, вторая частично компенсируется скоростью обработки, позволяющей перепроверку данных. Кроме того, не стоит забывать, что и люди порой совершают ошибки подобного рода, более того – живой солдат предпочтёт перестраховаться, не надеясь на свою реакцию и опасаясь за свою жизнь. Он может быть напуган, нервничать – боевые действия всегда были тяжёлым ударом по психике. Подчеркнём, что о выходе боевых машин из-под контроля и восстании их против человечества речи не идёт – с современным подходом к разработке это скорее сценарий фантастического произведения. И всё же споры не утихают. Доверять свою жизнь технике люди подсознательно опасаются даже в случае роботизированных автомобилей, чего уж говорить о гипотетических «терминаторах». О том, что уменьшение числа непосредственно воюющих людей должно свести к минимуму потери в целом, оставив схватки «жестянкам» предпочитают не вспоминать.
Тем не менее, вряд ли возможность быть быстрее и умнее не будет использована армиями будущего в полную силу. А значит, не за горами новая гонка вооружений, когда между собой схлестнутся уже не физики-ядерщики и не конструкторы ракет, а программисты и инженеры-робототехники.
Стоит затронуть и ещё один аспект, не упомянутый ранее. Роботизированные системы не имеют критической оценки приказов командования, а значит, владелец такой армии теоретически не сможет столкнуться с тем, что солдаты откажутся выполнять преступный или просто аморальный приказ. И об этом уже стоит задуматься.
Дмитрий Потапкин, специально для Обзор.press.
