Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - [81]
Эти программисты-идеалисты, хотя в прессе им в целом аплодировали, столкнулись и с определенной критикой. Некоторые высмеяли то, что сочли запоздалым проявлением обеспокоенности. К 2013 г. откровения Сноудена показали, насколько полезными могут быть большие технологические данные для охраны правопорядка и интересов военных. Бывший гендиректор Google Эрик Шмидт многие годы председательствовал в Консультативном совете по оборонным инновациям. Google, некогда прославившийся лозунгом «Не будь злым!», стряхнул с себя и этот, довольно скромный, этическии стандарт[535].
Другие критики завили, что Google не помогает в должной мере своей родной стране. В мире идет гонка вооружений с применением ИИ, и если США не могут воспользоваться своими ведущими технологическими компаниями, вперед могут вырваться страны с ловкими плутократами. Сандро Гайкен, старший советник в НАТО, прокомментировал: «Эти наивные разработчики-хиппи из Кремниевой долины не понимают – ЦРУ стоило бы принудить их»[536]. Фирмы, отказывающиеся сотрудничать, рискуют тем, что Америка в гонке вооружений с применением ИИ отстанет от Китая и даже от России. Интеграция данных на китайском уровне, скорее всего, обеспечит ускорение развития мониторинга и таргетирования людей, что создаст возможности, которые будут широко применяться полицейскими силами, при борьбе с эпидемиями и на войне. Тесная интеграция частных компаний и государства способна привести к еще большему прогрессу[537]. С другой стороны, возможно, что западные 84 комментаторы преувеличивают эту угрозу[538].
Когда Google объявил о создании Project Dragonfly, поисковой машины с цензурой, удовлетворяющей требованиям китайского правительства, и идеалисты, и реалисты пришли в возмущение. Почему с китайским правительством можно сотрудничать, а с американским нет? С одной стороны, различие очевидно: поисковая машина с цензурой никого не убьет. С другой – неприятные вопросы остались. Что станет с исчезнувшими веб-сайтами? Будет ли Dragonfly сообщать об их авторах? В эпоху информационных войн пристальная слежка и контроль сетевой жизни – важнейший приоритет многих государств[539]. Такой авторитарный контроль может также создать серьезные проблемы для всего остального мира, как в случае SARS-CoV-2 (вируса, ответственного за COVID-19), который возник в Китае и который можно было бы сдержать оперативнее, если бы китайские чиновники не запретили высказываться врачам, пытавшимся предупредить о распространении этого нового опасного заболевания.
Отказ активистов из Google работать на военные технологии может показаться несколько запоздалым или непатриотичным. Однако этика участия является контекстуальной. США уже вложились в поразительное военное преимущество, которое есть у них перед другими странами. Хотя после 1990-х гг. их позиция слегка пошатнулась, они все еще способны ответить апокалиптическим по своей мощи ударом любой стране-агрессору. Такие проекты, как Maven, возможно, не развивают контрнаступательные силы, но они делают сохранение статус-кво – фактически оккупацию – гораздо более вероятным во многих странах, где присутствие США скорее вызывает негодование, чем укрепляет добрую волю.
Пути кооперации
Работа в сфере безопасности, в том числе и подготовка к войне, – это большой бизнес[540]. Развитие «капитализма террора» вывело на совершенно новый уровень глобальную торговлю оборудованием для наблюдения. США – ведущий экспортер, но другие страны тоже не отстают. Китайские фирмы продают высокотехнологичные видеокамеры британским силовым агентствам и правительству Зимбабве[541]. Специалисты по безопасности из самых разных стран мира приезжают за товарами на Выставку антитеррористического оборудования в китайском Синьцзяне[542]. Русское военное оборудование используется в Сирии, Иране и Мексике. Фирмы, официально считающиеся частными, накапливают данные, которые продаются, иногда взламываются, а также используются государственными центрами обработки информации, где интегрируются мириады источников с целью выявления аналитических паттернов жизни сотен тысяч людей. Вооружение всегда было большим бизнесом, а гонка вооружений на основе ИИ обещает прибыли высокотехнологическим фирмам с хорошими политическими связями.
Может показаться, что выступать против гонки вооружений – совершенно нереалистично. Крупные державы закачивают ресурсы в военные приложения ИИ. Слишком много граждан либо не интересуются этим, либо рукоплещут очевидным попыткам их обезопасить (каково бы ни было соотношение издержек и эффективности)[543]. Однако подобное спокойствие со временем может измениться, поскольку гражданское применение средств наблюдения на основе ИИ стремительно растет, и эта работа в области безопасности все больше отождествляется с теневыми аппаратами контроля, а не с демократической и ответственной местной властью.
Военный и полицейский ИИ применяется не только против иностранных врагов и даже не в основном против них. Он был перенастроен для выявления врагов внутри страны и борьбы с ними. Хотя за последние два десятилетия в США не было ни одного теракта, аналогичного 11 сентября, национальные службы безопасности (особенно на уровне штата и ниже) без лишнего шума обратили антитеррористические инструменты против преступников, налоговых мошенников и даже протестующих. Китай раскрутил угрозу «мусульманского терроризма», чтобы согнать значительную часть уйгуров в лагеря перевоспитания и запугать остальных постоянным прослушиванием телефонов и профилированием рисков. Никого не удивит, если выяснится, что какое-то китайское оборудование работает во внутреннем разведывательном аппарате США, тогда как крупные американские технологические фирмы привлекались к аналогичным проектам по контролю и наблюдению китайским правительством.
