— Но ИИ — совершенно иное дело, — продолжила Юлия. — Здесь мы в лабиринте, а не на скоростном шоссе; одна лишь скорость никуда нас не приведёт. Сколько бы эксафлопсов я ни получила, сами собой они в сознание не превратятся. Меня сдерживает не ограниченность компьютерных ресурсов университета; я в любое время могу получить доступ к ресурсам SHARCNET. Меня сдерживает свой же недостаток понимания тех проблем, над которыми я бьюсь.
— Лабиринт — не тупик, — сказал Даниэль. — Когда мне было двенадцать, я написал программу для поиска выхода из лабиринтов.
— Уверена, она работала отлично, — откликнулась Юлия. — Для небольших плоских лабиринтов. Но вы же знаете, как масштабируются такие алгоритмы. Загрузите в этот кристалл свою старую программу — и всё равно, я за несколько часов составлю такой лабиринт, с которым ей не совладать.
— Не сомневаюсь, — признал Даниэль. — И именно по этой причине я заинтересован в том, чтобы вас нанять. О лабиринте ИИ вы знаете куда больше меня; какую бы стратегию вы ни разработали — она будет гораздо лучше слепого поиска.
— Я не говорю, что просто брожу в темноте. Будь это так, я бы сейчас билась над совершенно иными проблемами. Но я просто не вижу, какой прок мне от этого процессора.
— В результате какого процесса возник единственный пример сознания, который нам известен?
— Эволюции.
— Именно. Но я не хочу ждать три миллиарда лет. Поэтому нужен гораздо более направленный процесс селекции, нужно напрямую обращаться к факторам вариации.
Юлия немного поразмыслила над этим.
— Вы хотите, чтобы я попыталась вывести настоящий ИИ путём эволюции? Сознающий себя искусственный интеллект, равный человеческому?
— Да.
Даниэль увидел, как она поджала губы, как она старается подобрать слова, прежде чем заговорить.
— При всём уважении, мне кажется, вы недостаточно хорошо это продумали, — сказала она.
— Отнюдь, — заверил её Даниэль. — Я планировал это в течение двадцати лет.
— Вся эволюция построена на неудачных попытках и смерти. Вы хоть представляете, сколько наделённых чувствами существ жили и умирали, чтобы проложить дорогу для Homo Sapiens? Сколько при этом было страданий?
— Частью вашей работы будет минимизировать страдания.
— Минимизировать их? — воскликнула Юлия. Казалось, она искренне шокирована, словно это предложение было ещё хуже, чем наивное предположение о том, что работа не вызовет этических затруднений. — Да какое у вас вообще есть право обрекать их на страдания?
— Вы рады, что существуете, не так ли? — вопросом на вопрос ответил Даниэль. — Несмотря на все страдания ваших предков.
— Да, я рада, что существую, — согласилась она. — Но в случае людей страдания не являются намеренно кем-то вызванными. Кроме того, у нас не было альтернативного способа появиться на свет. Если бы справедливый Создатель действительно существовал, не сомневаюсь — он бы последовал Книге Бытия буквально; чёрт возьми, он бы никогда не воспользовался эволюцией!
— Справедливый и всемогущий, — заметил Даниэль. — Как ни прискорбно, вторая характеристика встречается ещё реже первой.
— Не думаю, что для создания в своём воображении требуется всемогущество. Лишь немного терпения и самопознание.
— Это не будет чем-то вроде естественного отбора, — упорствовал Даниэль. — Не будет таким слепым, таким жестоким и расточительным. Вы будете вольны вмешиваться столько, сколько хотите, сможете принимать смягчающие меры когда сочтёте нужным.
— Смягчающие меры? — переспросила Юлия, прямо встретив его взгляд — и Даниэль увидел, что выражение недоверия на её лице уступает место чему-то более зловещему. Гостья поднялась и бросила взгляд на браслет-мобильник. — Здесь у меня не ловит. Вы не откажете в любезности вызвать для меня такси?
— Пожалуйста, выслушайте меня, — попросил Даниэль. — Уделите мне ещё десять минут, и потом вертолёт доставит вас в аэропорт.
— Я бы предпочла добраться самостоятельно, — сказала Юлия, бросив на Даниэля красноречивый взгляд; было очевидно, что этот вопрос не подлежит обсуждению.
Даниэль вызвал для неё такси, и они вместе направились к лифту.
— Знаю, это вызывает у вас сомнения с моральной точки зрения, и я уважаю ваше мнение, — сказал Даниэль. — Мне бы и в голову не пришло нанять кого-то, кто счёл бы эти проблемы незначительными. Но если я откажусь от этого проекта, им займётся кое-кто другой. Кое-кто с куда худшими намерениями.
— О, правда? — удивилась она с подчёркнутым сарказмом в голосе. — Так объясните же мне, как само существование вашего проекта заставит этого гипотетического Бин Ладена от ИИ остановить свой?
Даниэль был разочарован; он рассчитывал — она по крайней мере поймёт, что стоит на кону.
— Идёт гонка, в которой решается — быть божественности или рабству, — сказал он. — И того, кто придёт первым, будет невозможно остановить. Я ничьим рабом быть не собираюсь.
Юлия вошла в кабину; Даниэль последовал за ней.
— Знаете, что говорят о современной версии пари Паскаля? — спросила она. — Нужно подлизаться как можно к большему числу сверхлюдей — на случай, если один из них превратится в Бога. Возможно, вашим девизом стоит сделать «Обращайтесь со всеми интернет-ботами по-доброму: каждый из них может оказаться дядюшкой божества».
