Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - [78]
Удорожание силы
Разработка глобальных систем атрибуции, а также режима инспектирования, гарантирующего, что вооружения и компьютерные системы с ними совместимы, будет стоить дорого. В обычной экономике это было бы проблемой. Однако в перевернутой экономике технологий разрушения такие издержки могут быть выгодой: они препятствуют накоплению крупных резервов машин, способных нанести вред людям.
Существует много способов сделать применение силы дороже, начиная с юридических условий использования роботов-убийц или обязательного человеческого контроля и заканчивая налогообложением подобных технологий. Такие ограничения, как и препятствия наблюдению, военным футуристам не понравятся. Они предпочли бы полную свободу разработки и применения автономных сил. Однако неэффективность в этом случае – не просто бюрократические препоны, она отражает человеческие ценности[519]. Роботизированное военное или полицейское государство – очевидная угроза свободе. Когда дело доходит до насилия со стороны государства, издержки осмысленного человеческого контроля над применением силы также становятся выгодой[520]. «Кентаврическая стратегия», сочетающая человеческие экспертные знания и ИИ, повышает военную эффективность и в то же время этическую ответственность. И дело не только в том, что война, запускаемая нажатием одной кнопки, может начаться в силу ошибки (эта возможность еще больше пугает в мире фейковых новостей, безответственных платформ и развитых технологий подделки видео и аудио)[521]. Наблюдение и контроль должны быть дорогостоящими предприятиями, иначе гарнизонное государство сможет легко следить за еще большей частью нашей жизни и контролировать ее[522].
Глобальная политическая экономия также имеет значение. Инвестирования в вооружения – реакция на оценку угрозы. В 2018 г. США увеличили свои военные расходы до 649 млрд долл. Китай – следующий в этом списке, там потратили 250 млрд. Военные расходы Китая росли два последних десятилетия, и по крайней мере с 2013 г. они составляли постоянную долю (1,9 %) растущего ВВП страны[523]. Саудовская Аравия, Индия, Франция и Россия – следующие страны с крупными военными бюджетами, в них было потрачено от 60 до 70 млрд долл, на военное оборудование и услуги. Все эти цифры на самом деле занижены, поскольку обычно в них не включаются расходы на внутренний аппарат безопасности, безотлагательные ассигнования и долгосрочное обеспечение раненых солдат (или поддержку семей убитых).
В США оборонный бюджет обычно превосходил расходы семи следующих по списку стран вместе взятых. Массивное наращивание вооружений будущим историкам, скорее всего, покажется абсолютно ошибочной инвестиций национальных ресурсов[524]. Мрачная ирония в том, что главная военная «сверхдержава» в 2020 г. серьезно пострадала от коронавируса, и это притом, что на биобезопасность были потрачены миллиарды долларов, а другие страны смогли намного успешнее сократить число смертей и уровень заболеваемости. Доминик Моиси, политолог из Institut Montaigne, пояснил: «Америка готовилась не к той войне. Она готовилась к новым терактам 11 сентября, но вместо них пришел вирус»[525]. Американские лидеры, снедаемые призрачными тревогами, вложили триллионы долларов в вооружения, откладывая при этом профилактические меры, которые могли бы спасти больше жизней, чем страна потеряла во вьетнамской, иракской и афганской войнах вместе взятых.
По оценкам Джозефа Стиглица и Линды Билмс, к 2008 г. американцы вложили по крайней мере 3 трлн долл, в военные действия на Ближнем Востоке. В 2016 г. Билмс оценила ту же величину в размере 5 трлн долл. Многие комментаторы утверждали, что, несмотря на важные победы над «Талибаном» (и смерть таких террористов, как Усама бен Ладен), эти многомиллиардные инвестиции на самом деле повредили долгосрочным стратегическим интересам страны[526]. Американские военные стратегии инвестирования в программное обеспечение и оборудование также критиковались многими военными 78 аналитиками[527].
Примерно так же китайские аналитики описали то, как массивные инвестиции в Синьцзяне (в обычные системы безопасности и в то же время в системы распознавания лиц и классификации на основе ИИ) повредили более общим целям Коммунистической партии Китая (КПК) внутри страны и за границей. Китайское государство, демонстративно среагировав на ножевые атаки недовольных мусульман, поместило сотни тысяч жителей в лагеря перевоспитания. КПК также развивала высокотехнологичные способы наблюдения, оценки и рейтингования. Бурные протесты в Гонконге отчасти были обусловлены нежеланием подчиняться тому правящему классу, который местные жители считали неподотчетным и в то же время чрезвычайно мощным. Зейнеп Туфеки сообщала, что боязнь применения сценария Синьцзяна, с повсеместными камерами безопасности (даже внутри домов) и постоянными оценками лояльности режиму, усилила отчаяние гонконгских протестующих. Их борьба помогла изменить результаты выборов в Тайване в 2020 г. Хотя в 2010 г. в Тайване на опросах лидером оставался Гоминьдан, он постоянно терял популярность по мере развития событий в Гонконге. Выступающая за независимость президент Цай Инвэнь смогла переизбраться, продолжив культивировать общественные настроения, поддерживающие политическую обособленность и культурное отличие
