Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - [79]
Мнения вроде тех, что выражены в предыдущем абзаце, вряд ли получат широкое распространение в Китае, что обусловлено автоматизацией публичной сферы, о которой мы говорили в главе 4. Цензура, усиливаемая ИИ, в ближайшее время может укрепить режим. Она представляет собой превращение медиа в оружие, цель которого – настроить общество против внешнего влияния. Но в долгосрочной перспективе даже недемократические правительства должны опираться на определенные механизмы обратной связи, чтобы определять, что работает, а что нет, что ведет к легитимности, а что раздувает угли недовольства. Генри Фаррел утверждал:
В вероятной петле обратной связи предубеждение ведет к ошибкам, которые приводят к другим предубеждениям, методов исправления которых не найдется. Все это, конечно, подкрепляется обычной политикой авторитаризма и типичным нежеланием поправлять руководителей, даже если их курс ведет к катастрофе. Ложная идеология вождизма («Мы все должны изучать идеи товарища Си, чтобы открыть истину!») и алгоритм («Машинное обучение – это магия!») способны подкреплять друг друга, создавая порочный круг[529].
Здесь опять же возвращается тема «силы как слабости». Исключительная сила КПК позволяет ей прицельно мониторить и форматировать публичные высказывания. Но такая власть подавляет критические реакции, а жесткость становится хрупкостью и уязвимостью.
Это не значит, что главному конкуренту Китая, США, есть что предложить в плане современных моделей управления. Из-за своей собственной, все более автоматизированной публичной сферы США сползают к постдемократической политике. Фрагментированные медиа, оказавшиеся под напором деструктивных политических программ, не способны отражать атаку и сохранять базовые социальные нормы, отстаивая права на честные выборы. Нейролог Роберт А. Бертон в шутку предположил, что президента Дональда Трампа можно смоделировать в качестве «президента в черном ящике, лидера первого поколения искусственного интеллекта, руководствующегося исключительно отобранными им самим данными и значительно варьирующимися критериями успешности»[530]. Если, по мнению Фарелла, Си Цзиньпин просто слеп к реакции, то Бертон считает, что Трампа кидает из стороны в сторону, поскольку он механически перебирает циничные обращения, пытаясь определить, «что работает» и что позволит переложить вину за его многочисленные оплошности на кого-то еще. Каковы бы ни были заслуги глобального порядка под руководством США в прошлом, администрация Трампа пренебрегла им сегодня и значительно омрачила его будущее[531].
Само по себе накопление власти не означает мудрого правления[532]. Многополярность – не просто вероятный исход неудач в политике крупных держав, она необходима и для защиты глобального сообщества от чрезмерной власти гегемонов, которые стали слишком склонными к тирании и хаосу, чтобы применять власть ответственно. Есть тонкий баланс между постепенным снижением общей способности к уничтожению и гарантией того, что у военных союзов достаточно огневой мощи, чтобы предотвратить агрессию со стороны крупных стран и терроризм негосударственных агентов.
Возможно, некоторым государствам надо инвестировать в оборону (включая ведущие ИИ-технологии) больше. Однако чем больше государство тратит на вооружения в настоящий момент, тем больше его граждане должны задуматься о том, что они вносят вклад в построение «гарнизонного государства» и в гонку вооружений, которую мы критиковали ранее.
Традиционные эксперты по общественным финансам говорят о классическом компромиссе «пушки или масло». Требования тратить больше на социальную сферу ведут к сокращению ресурсов, необходимых для военизации. Однако такие гражданские расходы на самом деле могут спасти режимы от них самих, уменьшая величину ресурсов, доступных для наращивания гонки вооружений и фатальной демонстрации силы. Чем больше государства отвечают за гарантию высокого и постоянно растущего уровня здравоохранения, образования, жилья и других форм обеспечения жизни граждан, тем меньше у них остается средств для вложения в имперские проекты, которые стали возможны благодаря безудержному развитию военного ИИ. Даже когда относительно небольшая или бедная страна инвестирует в летальные автономные вооружения, чтобы защитить себя от агрессии со стороны крупных держав, что вполне можно понять, она рискует спровоцировать соседние страны с похожим положением вкладываться в защиту своих собственных относительных позиций. Лучший вариант – создать стратегические союзы, чтобы выровнять баланс сил.
Учитывая сложности, связанные с исполнением соглашений по контролю над вооружением, обязательства ограничить разработку и применение оружия, даже если они зафиксированы в формальных договорах, – лишь часть пакета мер, необходимых для предотвращения гонки вооружений на базе ИИ. Столь же важно устойчивое социальное внимание к таким неотложным и необходимым направлениям, как оборона.
Логика кооперации
С точки зрения многих исследователей (часто прямо или косвенно финансируемых военными или их подрядчиками), развитие автономных роботизированных вооружений неизбежно. Они указывают на логику скользкой дорожки: существует определенный спектр контроля человека над машиной, но нет очевидного принципа, заставляющего прекратить предоставлять все больше и больше автономии автоматизированным системам, как только первые шаги сделаны. Однако технология не обязана развиваться в этом направлении. Определенные формы кооперации столь же жизнеспособны, как и безжалостная конкуренция. Создание многих возможных видов вооружений было прекращено благодаря нормам – того же можно ожидать и в будущем.
