Роботы-убийцы напугали ООН

ФОТО: © g90/ZUMAPRESS.com/globallookpress

Проблемы, поднятые создателями легендарного "Терминатора", стали поводом для серьезного обсуждения на международном уровне. В Женеве во вторник начался саммит ООН, в ходе которого решится судьба роботов-убийц. Парламентарии, сопоставив цели и средства, решат, имеет ли человечество право на использование высокотехнологичных разработок, которые при определенных условиях могут выйти из-под контроля и нанести вред своим создателям.

Если во времена создания культовых фильмов о роботах возможность восстания машин казалась фантазией, слабо связанной с действительностью, сегодня такая опасность абсолютно реальна. К примеру, Южная Корея использует в демилитаризованной зоне, разделяющей ее с КНДР, роботов видеонаблюдения. Они контролируются людьми, но обладают автоматической функцией обнаружения живых существ с помощью инфракрасных датчиков и могут расстрелять объект из бортового пулемета не дожидаясь, когда оператор нажмет какую-либо кнопку. Американская фирма Northrop Grumman, в свою очередь, к 2019 г. планирует вооружить ВМФ США аналогичным автоматическим дроном, который способен летать по запрограммированной территории. Похожее устройство разрабатывается и в Израиле.

Мнения специалистов по этому поводу кардинально противоположны, отмечает Washington Post. В понедельник, накануне саммита ООН, ряд выдающихся нобелевских лауреатов, в том числе экс-президент Польши Лех Валенса и южноафриканский епископ Десмонд Туту, подписали письмо, призывающее запретить роботов-убийц. "Бессовестно, что человеческие существа расширяются научные исследования и разработки летальных машин, которые могут убивать людей без вмешательства человека", - говорится в заявлении. Еще один лауреат Нобелевской премии мира - Джоди Уильямс - отметила, что запрет на подобную технику нужно ввести, чтобы избежать неконтролируемых убийств в ходе военных конфликтов.

Против использования дронов выступают и в международной правозащитной организации Human Rights Watch. "В работе полиции и на войне человеческие суждения является критически важным для любого решения по использованию смертельного оружия. Правительства должны сказать категорическое "нет" применению полностью автоматического оружия в любых целях и превентивно запрещать его уже сейчас, пока не стало слишком поздно", - пояснил представитель HRW Стив Гуз.

Однако ряд экспертов убеждены в том, что дроны не только необходимы, но и смогут вести военные действия намного более этично, чем живой человек. По их мнению, технические возможности позволяют разработать таких роботов-убийц, которые будут открывать огонь только при стечении ряда обстоятельств, что исключит возможность случайного или эмоциональаного убийства. Теоретически ученые планируют когда-нибудь научить машины отличать добро от зла и исключить трагедии подобные той, что произошла, к примеру, в Йемене в конце прошлого года. Тогда американский беспилотник, который должен был уничтожить группу боевиков "Аль-Каэды", расстрелял местную свадьбу. Жертвами атаки стали 17 человек.

В целом, сторонники и той, и другой позиции сходятся во мнении, что любой дрон, если он все же будет существовать, должен отвечать требованиям всемирно известных трех законов роботехники, которые еще в середине XX в. составил писатель-фантаст Айзек Азимов. "Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат первому закону. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит первому и второму законам", - писал он.

Правда, у противников использования роботов-убийц даже позиция классика мировой литературы вызывает подозрения. Позже Азимов дополнил список "нулевым законом": "Робот не может причинить вреда человеку, если только он не докажет, что в конечном счете это будет полезно для всего человечества". По мнению критиков, этот тезис воплотить в жизнь не получится: роботы по образу и подобию запрограммировавших и освободивших их людей в любой ситуации будут искать свою выгоду.