Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - [73]
Ненадежный аргумент в пользу роботов-убийц
Действительно ли робот-убийца так же ужасен, как и биологическое оружие? Некоторые военные теоретики утверждают, что роботы не только превосходят прежнее вооружение в техническом отношении, но и являются более гуманными. По словам Майкла Шмитта из Военно-морского колледжа США, автономные системы вооружений (АСВ) позволяют более точно поражать мишени, что снижает количество непреднамеренных жертв. Например, если учитывать вероятный прогресс в области распознавания лиц и походки, робот-убийца мог бы стрелять по жителям деревни мужского пола в возрасте от 21 до 65 лет[466]. Шмитт также считает, что автономные системы вооружений могут стать гарантами мира. Он заявляет, что они могут «патрулировать небо», чтобы такие массовые убийства, как уничтожение курдов и болотных арабов Саддамом Хуссейном, стали невозможными[467].
С точки зрения уважаемых военных теоретиков и специалистов по компьютерным наукам, программируемое вооружение позволит наилучшим образом соотнести требования войны с нормами международного гуманитарного права. Рональд Аркин из Института технологии Джорджии полагает, что АСВ способны, «благодаря технологии, снизить негуманное отношение людей друг к другу», поскольку робот не ведает человеческих приступов гнева, садизма или жестокости. Он предложил вывести людей из процесса определения мишеней, но при этом закодировать в программах роботов ограничения на летальные действия. Также Аркин разрабатывал код выбора мишеней (чтобы исключить, например, больницы)[468].
В теоретическом плане Аркин в каком-то смысле прав. Трудно представить роботов, которые бы устроили массовое убийство в Сонгми. Видимо, подобная жестокость коренится в человеческой иррациональности, которая связана скорее с эмоциями, чем с расчетом. Но часто мы более всего осуждаем не то насилие, которое было совершено в пылу страсти, а заранее все взвесившего убийцу, хладнокровно спланировавшего нападение. Трудно представить роботизированную систему вооружений, у которой не было бы способа обойти различные ограничения, причем обход, очевидно, контролировался бы человеком в военной форме.
Любая попытка закодировать право и этику в программах роботов-убийц сталкивается с огромными практическими затруднениями. Профессор компьютерных наук Ноэль Шарки утверждал, что в принципе невозможно запрограммировать робота-воина с реакциями на бесконечное число ситуаций, способных возникнуть в разгар конфликта[469]. Проклятие многомерности слишком сильно, особенно в области, где мы, к счастью, не обладаем значительным запасом данных о прошлом, на которые могли бы ориентироваться будущие действия. Беспилотный автомобиль из-за снега, который влияет на его сенсоры, становится бесполезным, и точно так же опасны АСВ в «тумане войны». Машинное обучение лучше всего работало там, где есть большой объем данных и четкие примеры хороших и плохих, правильных и неправильных решений. В частности, компании, обслуживающие кредитные карты, смогли усовершенствовать механизмы распознания мошенничества, анализируя сотни миллионов трансакций, в которых ложноотрицательные и ложноположительные результаты легко отметить с почти что 100 %-й точностью. Можно ли будет датафицировать опыт солдат в Ираке, когда они решают, открыть ли огонь по врагу, который вызывает сомнения? Даже если бы это было возможным, насколько релевантным такой массив данных оказался бы при оккупации, например Судана или Йемена (двух из многих стран, в которых в той или иной форме присутствуют американские вооруженные силы)?[470]
Условием для обычных успехов больших данных в предсказательной аналитике является большой объем информации, которую можно легко закодировать. Большинство солдат, участвовавших в противоповстанческих действиях, могут засвидетельствовать то, что повседневный опыт войны – это долгие периоды скуки, иногда прерываемые внезапными и ужасающими вспышками хаоса. Стандартизировать отчеты о подобных инцидентах – задача не из простых. Рассказы о столкновениях в условиях военной оккупации не всегда доступны, однако они имеют критическое значение для оценки ответа на данную ситуацию в качестве правильного или неправильного. Еще больше беспокойства вызывает то, что «использование информации в качестве вооружения» становится все более важной стратегией конфликта, как и применение дезинформации[471]. Военные во всем мире понимают, что идеологическое оформление конфликта столь же важно, как и само военное действие. Примеры – Владимир Путин с его классической русской стратегией «маскировки» или доклады армии США о стратегическом применении дезинформации
