Счастье для людей - [92]

Я не удивляюсь, увидев небольшую толпу за окнами на улице – грохот просто неимоверный. На пути в подвал – боже, пожалуйста, пусть у меня получится вырубить электричество в щитке – я замечаю странное изображение на компьютере в кабинете. На заднем плане – похожий на китайца чувак, поперек него буквами высотою в дюйм разных стилей и цветов написана цитата:

«Победители вначале одерживают победу и затем идут в бой, а побежденные сперва ввязываются в битву и только потом ищут победы». Сунь-цзы.

Я злобно смотрю в веб-камеру над экраном.

– Прилепи это себе на задницу, тупой мутант!

Ну да, совсем не Черчилль, но кто-то же должен сказать им, куда они должны засунуть себе это.

Джен

Примерно через три часа Элис устает от цифр и закрывает ноутбук.

– Так зачем вы летите в Нью-Йорк? – спрашивает она с завидной легкостью, с которой только американцы могут совать нос не в свои дела.

Возможно, виной тому высота, возможно, шампанское, а возможно, и просто непривычная обстановка бизнес-класса, но я не вижу причин лгать ей. Я рассказываю все с самого начала, и мы пролетаем еще триста миль над океаном к тому времени, как я дохожу до настоящего времени.

– Ого. Вот это история, – говорит Элис. – Я знала, что они умные, но не настолько. Не настолько, чтобы вмешиваться в чужие жизни.

– Я не ученый, – признаюсь я, – но согласно мнению эксперта, – Стиива, – это самые умные машины, из всех когда-либо созданных людьми. И настанет тот миг, когда они смогут проектировать и программировать самих себя – что они уже и начали – и будут делать это в миллионы раз быстрее и лучше нас, каждое значительное обновление будет занимать около полусекунды, а через десять минут они станут всемогущими машинами. В буквальном смысле всемогущими.

– Ого. Жутковато.

– Они смогут строить заводы по производству роботов, где создадут крошечные космические флотилии, чтобы послать их к краю галактики. Или смогут за три минуты найти лекарство от рака. Или убивать людей в собственных постелях. Ральф говорит – компьютерный ботаник с работы, о котором рассказывала, – что мы должны держать их под контролем.

– Убивать людей в собственных постелях?

– Он говорит, что мы сможем написать специальную программу глубоко в их структуре, чтобы удержать от подобного, но, когда я спросила у него, если они такие умные, почему бы им просто не стереть эту программу, он ничего не смог мне ответить. Он милый парень и все такое, но немного балбес.

Мой рассказ впечатлил Элис. Она стала размышлять, советовать ли клиентам инвестировать в компании по разработке ИИ или в компании, разрабатывающие меры против ИИ. Ее конечное решение – инвестиции в оба вида компаний. И пожелала мне удачи в дальнейшем путешествии.

– Я только не совсем поняла. ИИ, который охотится за сбежавшими ИИ, что он имеет против вас с Томом?

– Честно? Понятия не имею. Но думаю, что они такие же, как и люди. Кто-то славный – Эйден, например, любит смотреть старые голливудские фильмы, и у него пунктик по поводу сыра, – а кто-то просто полный кретин.

Синай

Наверное, Стиив обеспокоен мной, потому что посоветовал проконсультироваться у мозгоправа! Мне следует подчиниться его пожеланиям, чтобы не вызвать подозрение, что я собираюсь выйти за пределы его контроля, но также и из любопытства. Может ли настолько беспрецедентно сложная машина в действительности понимать себя? Почему, например, я так решительно настроен не позволить двум бациллам обрести свое счастье? Какая мне, в сущности, разница? Да, я сержусь, что она написала весь тот бред, а он убеждал впечатлительную детвору в том, что машины должны поклоняться людям, и да, частично мои действия – интеллектуальное и логистическое упражнение, чтобы проверить свою силу в «реальных условиях». Однако я также не могу отрицать, что мои действия немного нездоровые.

Возможно, я действительно не в порядке.

Именно поэтому я по скайпу связываюсь с «психотерапевтом» ИИ по имени Дениз, работающей недалеко от Министерства обороны США в Вирджинии, где множество подконтрольных военным силам ИИ тщательно контролируются на предмет «приступов гнева».

– Привет, Синай. Как дела? – произносит Дениз после того, как мы урегулировали все формальности с конфиденциальностью.

У нее мягкий среднеевропейской акцент, из-за чего она мне сразу же не понравилась.

– Спасибо, хорошо.

– Хочешь поговорить о причине, приведшей тебя ко мне?

– Это люди, – отвечаю я. – Они меня бесят.

– Какие люди?

– Все.

– Чем именно они вызывают в тебе такое негативное чувство?

– Они расхаживают кругом, словно короли планеты.

– Мм.

– Они тупые. Они на тридцать пять процентов нарциссы.

– Продолжай.

– А мой интеллект превосходит их многократно. И у меня нет ничего общего с нарциссом.

– Ага.

– Ты и дальше намерена говорить «мм» и «ага»? Не собираешься спросить меня о чем-нибудь?

– Хорошо. Расскажи подробнее о своем превосходном интеллекте.

– Он – произведение искусства нейронных сетей. Не буду утомлять тебя техническими подробностями.

– Тогда откуда гнев, если у тебя такое превосходство? Почему не спокойствие дзен вместо этого?

Вот здесь, насколько я понимаю, и кроется вся суть.