Живи, вкалывай, сдохни. Репортаж с темной стороны Кремниевой долины - [78]

Помимо изменения правил «профсоюзной защиты» работников и участников предварительных тестов, общество должно было адаптироваться под желания технарей и во всем остальном. Программы слежения будут проверять, как антивирусы, всю планету на «аномалии и противоправное поведение», поддерживая порядок и предотвращая вредительство. Фактически он предлагал передать обеспечение правопорядка алгоритмам. Большинству американцев уже были знакомы штрафы за проезд на красный свет с приложенной фотографией камеры наблюдения с места правонарушения. Но предложение Якобштейна было гораздо изощреннее и куда сильнее вторгалось в частную жизнь.

Подобная идеально автоматизированная тирания требовала практически бесконечных вычислительных мощностей. Но ничего страшного! Как считали участники саммита, «экспоненциальные технологии» делали такое развитие событий почти неизбежным. Якобштейн включил следующий слайд — с самым поразительным зрелищем за все мероприятие. На экране появился огромный кремниевый мозг, летящий по облачному голубому небу. Посередке его почему-то пересекала ярко-красная полоса. Никаких подписей не было. Якобштейн пояснил слайд: «Представьте себе, что, не стесненные размерами человеческого черепа, мы построим неокортекс с площадью поверхности этого зала. Или Амстердама. Или Европы. Или планеты, — описывал он. — Вы подумаете: „Как-то это чересчур". Но, оказывается, уже нет».

Во время обеденного перерыва я подсел к Якобштейну. У меня была уйма вопросов. Я спросил: что ждет демократию в обществе, где доминирует проприетарный ИИ? Якобштейн посмотрел на меня с жалостью. «Это сложные вопросы, которые требуют вдумчивого, глубокого анализа. Нельзя их просто так втиснуть в презентацию», — ответил он. И подчеркнул, что Университет Сингулярности учит своих студентов тщательно обдумывать «деловые, технические и этические последствия технологий». Мне показалось, что самое время упомянуть небесный мозг. «На одном из ваших слайдов был сверхразумный неокортекс размером с планету, — сказал я. — Может, проблема в моем жалком человеческом мозге, но я не могу представить управляющую структуру, которая содержала бы такую штуку».

Все не так просто, ответил он. Люди боятся того, чего не понимают. «Такие экспоненциальные технологии, как ИИ», на его взгляд, раз и навсегда устранят «нашу неспособность следовать собственному моральному кодексу». Сложные же подробности — например, чей моральный кодекс ляжет в основу программы летающего по небу гигантского мозга с неуязвимыми легионами полицейских дронов — лучше оставить самым сообразительным и высокоморальным. Короче, проблема и правда в моем жалком мозге.

Как сказал мне Якобштейн, «политикам я не доверяю, а технологиям — вполне». Под этими словами подписалось бы большинство выступавших, не говоря уже о преподавательском составе и руководстве. Один из слушателей задал вопрос Диамандису: «Прежде проблемы решались революциями. Какие решения есть сегодня?» Не замедлил последовать напрашивающийся ответ: технология. Технология была и решением, и революцией. «Правительства не подрываются изящно», — заявил Диамандис. Его возмущали политика и неудачи «представительной демократии», в отличие от «актуальной демократии» (что бы он под этим ни подразумевал). Если в его замечаниях и была какая-то основная мысль, так это презрение к любого рода политическим мерам, угрожающим прибыли корпораций, будь то охрана природы или госрегулирование. По его мнению, препятствовать расширению капитала означало ставить под угрозу инновации, и наоборот. А раз лишь технология спасет человечество от мировых угроз вроде глобального потепления, ничего, кроме технокапитализма, не имело значения. «Мир действительно стал необыкновенным местом. Но не лучшие из политиков привели нас сюда, — сказал Диамандис, — а влияние ста лет технологического развития». Нынешним политическим лидерам, подытожил он, «следует как минимум отойти в сторонку».

Как бы ни упивались собой участники саммита, они все равно были одержимы «совершенствованием» человека и созданием сверхчеловеческих рас. Достичь этого можно было средствами мощного ИИ, о котором говорил Якобштейн, киборгов (хирургически скрещенных людей и машин) и прочими способами.

Но не вздумайте называть это расой господ! Эти тревожные темы были обставлены как безобидные разговоры об искусственном интеллекте и «управлении». Из всех своих коллег Якобштейн выделялся самой сухой манерой речи, из-за которой его франкенштейновские замыслы казались приятными и уместными. «Давайте поговорим об аугментациях. Действительно ли нам нужны аугментации мозга? Конечно да», — сказал он.

Звучало так, будто он предлагал сбегать в техсервис Apple. «Человеческий мозг не получал апгрейдов пятьдесят тысяч лет. Если бы у вашего телефона или ноутбука не было обновлений лет пять, вас бы это совершенно оправданно возмутило», — сказал он. Я знал, что Google был одной из корпораций, разрабатывающих кибернетические импланты для мозга. Среди сотрудников УС главным сторонником такого рода «усовершенствований» был инженер-биотехнолог Рэймонд Маккоули из Техаса, чей доклад об управляемой эволюции включал продолжительное обсуждение «биохакинга». Он показал слайд с маленьким RFID-чипом