Компьютерра, 2009 № 14 (778) - [25]

Однако высокое начальство упрямо требует делать поводок для роботов все длиннее и длиннее, поскольку железный солдат реагирует на происходящее гораздо быстрее солдата живого. Если, к примеру, взвод попал под обстрел снайпера, то робот с инфракрасной видеосистемой может мгновенно зафиксировать точку выстрела и ответным огнем уничтожить вражеского стрелка еще до того, как тот успеет укрыться. Но если, в соответствии с нынешними правилами, человек-оператор будет давать санкцию на каждый выстрел, то снайпера противника будет уже не достать.

Постепенно начинает ощущаться и нехватка персонала. В настоящее время каждый крупный самолет-робот, летающий над Ираком, имеет пилота из плоти и крови, который сидит в кабинке на авиабазе в штате Невада и управляет дроном с помощью джойстика. Каждый робот Talon, соответственно, имеет своего «погонщика» с дистанционным управлением. Понятно, что это довольно дорогостоящее решение пробле-

НЕЗАВИСИМООТТОГО, НАСКОЛЬКОУМНЫМИИНАДЕЖНЫМИМОЖНОСДЕЛАТЬРОБОТОВ, ОНИВСЕРАВНОБУДУТ ДЕЛАТЬОШИБКИ

досмотров, «гражданские моряки приходили в замешательство, когда их начинало допрашивать говорящее по-арабски судно без людей на борту».

Существенно иной, подводный тип морских роботов носит название UUV (Unmanned Underwater Vehicle). Эти машины чаще всего используются для поиска и обезвреживания мин, являющихся причиной большинства боевых потерь на море за два последних десятилетия. Например, «Робо-лобстер», способный работать в неспокойных прибрежных водах. Другие аппараты больше похожи на мини-субмарины или переделанные торпеды, вроде дрона REMUS, применявшегося в Ираке для очистки водных путей от мин и прочей взрывающейся нечисти.

мы — а самым эффективным ее решением видится вариант, когда роботы полностью автономны и способны самостоятельно решать поставленные перед ними задачи. Кроме того, человек просто физически не сможет управляться с продвинутыми роботами — слишком быстрыми или слишком маленькими и многочисленными. Таким образом, неизбежно встает вопрос об автономных военных машинах.

Тут-то и кроется проблема, которая должна очень серьезно обеспокоить человечество. Независимо от того, насколько умными и надежными можно сделать роботов, они все равно будут делать ошибки. Сколь бы ни были ныне продвинуты системы искусственного интеллекта, их разработчики по-прежнему не очень-то успешны в попыт-

ках, скажем, обучить программу эффективно различать яблоки и помидоры. Что уж говорить о выявлении различий между мирными гражданами и бойцами противника?

И при этом, как пишет исследовавший данную проблему П. Сингер, «закон безмолвствует» — пока что никто из законодателей не задался всерьез вопросами о том, а можно ли в принципе выдавать автономным роботам лицензию на убийство? Или, формулируя иначе, что должно происходить в тех случаях, когда робот убивает «не того» человека. Ведь если в цепочке принятия решений участвуют люди, то может быть установлена и юридическая ответственность. Но когда машина все делает сама, ответственность исчезает — а вместе с ней исчезают и общепринятые нормы права.

Как считает Сингер, одним из возможных решений было бы разрешить роботам автономное использование только нелетальных видов оружия, благо арсенал та-

ких вооружений ныне весьма разнообразен — от устройств, выстреливающих липкую и быстро отвердевающую массу для обездвиживания противника (goo-gun), до микроволновых излучателей, вызывающих болевые ощущения.

Подобные предложения многим представляются вполне разумными. Не забудем, однако, что самолеты-роботы уже не первый год уничтожают цели в зонах, заведомо населенных, так что упомянутые предложения потребуют очень существенной корректировки фактически принятой практики. И нынешние лидеры в области хайтек-вооружений, в первую очередь США, пока совершенно не готовы связывать себе руки какими-то ограничениями.

ГЛЯДЯИНАЧЕ

Помимо названного, есть и другой взгляд на происходящее. За плечами земной цивилизации — весьма постыдная история. Сколь-

ко раз человечество бездумно выпускало джинна из бутылки — будь то авиабомбы, отравляющие газы или ядерное оружие, — еще до того, как были тщательно проанализированы ужасные последствия применения разрушительных технологий. Сегодня имеется вполне реальный шанс учесть прошлые ошибки, и, затевая разговор о боевых роботах и морали, было бы полезно вспомнить знаменитые Три Закона роботехники Айзека Азимова:

¦ Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

¦ Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

¦ Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.

Сегодня, как показывают исследования Сингера, специалисты-роботехники почти не вспоминают о «старомодных и наивных» идеях Азимова. А если вдруг и вспоминают, то лишь чтобы указать, что все его рассказы из цикла «Я, робот» по сути своей демонстрируют внутренние противоречия и ограничения основополагающих законов.