Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - [77]
Хотя мины и малы по размеру, они уничтожали и запугивали население спустя годы после завершения военных действий. Жертвы мин обычно теряли по крайней мере одну ногу, иногда две, страдали от сопутствующих ран, инфекций и травм. Мины привели к кризису общественного здравоохранения в некоторых странах, особенно от них пострадавших. В 1994 г. один из 236 камбоджийцев потерял по крайней мере одну конечность в результате детонации мины[507].
К середине 1990-х гг. укрепился международный консенсус о необходимости запретить наземные мины. Международное движение за запрещение противопехотных мин (ICBL) требовало от правительств разных стран осудить их. Моральный аргумент в пользу запрета был достаточно сложным. Противопехотная мина не настолько смертоносна, как многие другие вооружения. Но в отличие от других применений силы она может калечить или убивать нонкомбатантов спустя многие годы после завершения боевых действий. В 1997 г., когда ICBL (и ее лидер Джоди Уильямс) получила Нобелевскую премию мира, десятки стран подписали международный договор, взяв на себя обязательства не производить, не хранить и не применять подобные мины.
США колебались, и на сегодняшний день они так и не подписали соглашение о запрете противопехотных мин.[508] Во время переговоров представители США и Великобритании настаивали на том, что реальное решение проблемы противопехотных мин – сделать так, чтобы в будущем мины автоматически отключались по прошествии определенного времени или были оснащены удаленным управлением[509]. Устройство, которое могло бы «позвонить домой», можно было бы удаленно отключить после завершения военных действий[510]. Но, конечно, его также можно было бы включить снова.
Многие участники переговоров по противопехотным минам не разделяли стремление Америки искать исключительно технологические решения. Десятки стран в 1998 г. подписали Оттавское соглашение[511]. В период 1998–2010 гг. к нему присоединились еще несколько стран, включая такие крупные державы, как Китай[512]. Американские дипломаты при обсуждении этого вопроса обычно ссылаются на свои военные власти. Последние, однако, относятся к международным договорам о контроле над вооружением со скепсисом. Их отношение к подобным соглашениям, скорее всего, приведет к ускорению автоматизации войны.
Ответственность за военных роботов
В качестве альтернативы запрету роботов-убийц военное руководство США предпочитает регулирование. Озабоченность сбоями и другими непредумышленными последствиями автоматизированного вооружения дала толчок достаточно взвешенным разговорам о реформе в среде военной робототехники. Например, Питер У. Сингер из New America Foundation хотел бы, чтобы робот мог «автономно применять лишь нелетальное оружие»[513]. Так, автономный дрон мог бы патрулировать пустыню и обездвиживать или ловить сетью комбатанта, но «решение об убийстве» принимали бы люди. Если будет введено подобное правило, даже попытайся комбатант уничтожить дрона, тот все равно не станет его убивать.
Подобные правила подстегнули бы превращение войны в миротворческую операцию и в конечном счете в определенную форму полицейских мер. Время между поимкой и решением об убийстве допускает исполнение надлежащей правовой процедуры, необходимой для оценки вины и назначения наказания. Сингер подчеркивает и то, что, «если программист по ошибке взрывает целую деревню, он должен уголовно преследоваться»[514]. Строгий стандарт обязательств требует ответственности за «оружие математического уничтожения» (так специалист по данным Кэти О’Нил назвала ошибающиеся алгоритмы). Однако насколько вероятно то, что «ошибившегося» программиста действительно накажут? В 2015 г. американская армия разбомбила больницу, где работала международная НПО «Врачи без границ», удостоившаяся Нобелевской премии мира. В момент бомбежки персонал больницы пытался дозвониться до своих знакомых в американской армии, чтобы упросить их ее прекратить. За атаки дронов на больницы, школы, свадьбы и другие ложные цели прямо отвечали определенные люди. Поэтому едва ли реалистично ожидать, что гражданская или международная правовая система (или то, что от нее осталось) сможет призвать к ответу программистов, которые могут стать причиной похожего или даже еще более страшного кровопролития.
Если Аркин стремится внедрить в код роботов алгоритмическую этику, Сингер основывается на нашем многовековом опыте регулирования частных лиц. Но есть немало работ, в которых встречаются прогнозы или надежды на появление полностью автономных роботизированных или программных систем, отделенных от любого человека[515]. Для обеспечения ответственности за применение «военных алгоритмов» военные должны были бы гарантировать то, что роботов и алгоритмических – 62 агентов можно отследить вплоть до их создателей[516].
Технология допускает такую возможность. В гражданском контексте исследователи предлагали ввести «номерные знаки для дронов», чтобы можно было связать неосторожный или халатный полет с собственником или оператором дрона[517]. Компьютерные системы уже пытаются решить или сгладить проблему атрибуции в кибербезопасности (возникающую, когда кто-то анонимно атакует ту или иную систему), сопоставляя сигнатуры действия с известными нарушителями
