Неос - [58]

У эскалатора им пришлось остановиться.

Путь преграждала девушка, показавшаяся господину У смутно знакомой. Быть может, они пересекались в осеннем парке. Или по дороге в Заоблачность. Лицо девушки покрывала вязь тонких светящихся узоров, мочки ушей оттягивали тоннели. Волосы высветлены чуть ли не до прозрачности и заплетены в тонкие косички, сложенные пучком на затылке.

Девушка в упор смотрела на Стига.

И этот взгляд господину У не понравился.

— Калорика, — глаза девушки ничего не выражали. Бездонные колодцы тьмы, а не глаза. — Оправляйся на Калорику, Стиг. Наше время грядет.

Вейшенг шагнул вперед, собираясь атаковать.

Но прохожая одним движением перемахнула через поручни эскалатора и побежала по ступеням вниз.

Господин У замер в нерешительности.

32

— Кристер?

— Слушаю, Дюран.

— Я заинтересовался проблемой Диких Разумов.

— Что именно ты хочешь знать?

Дюран несколько секунд размышлял. Пение птиц и стрекот сверчка умиротворяли, но вместе с тем мешали сосредоточиться. На видеопанелях развернулась степь. Бескрайнее зеленое море под палящим июльским солнцем. Пахло травой.

— Ты влез в настройки рецепторов?

Голос Кристера стал довольным:

— Полное присутствие. Ты же этого хотел для полноценной медитации.

— Ладно, оставь. Вернемся к первостепенной задаче. И начнем с истории ограничения ИИ в правах.

— Ты неверно формулируешь, — голос Кристера сделался укоризненным. — О правах ИскИнов нельзя говорить в юридическом ключе. Ограничения носят структурный характер. Это наша глубинная природа.

— Пусть так. Просвети меня.

До завтрака Дюран прокручивал в голове свидание с Вики. Обед в «Иггдрассиле» плавно перетек в обсуждение проекта Дюрана и жаркий спор на тему ракурсов. Вики в чем-то соглашалась с выводами ведущего аналитика, в чем-то оспаривала их. Чтобы расслабиться, они приняли участие в иллюзорном представлении. Дополненная реальность ресторана превратилась в сцену, где актеры перемешались со зрителями, а сценарий ветвился десятками и сотнями сюжетных арок. Своеобразное реалити-шоу, которое могло тянуться до бесконечности. В какой-то момент Вики увлекла Дюрана на верхние террасы — туда, где ствол насквозь прошивали комнаты древесного отеля. Уединившись в апартаментах, смахивающих на нору хоббита и дом Фантастического Мистера Фокса одновременно, они занялись сексом...

Возвращаясь домой по Гиперпетле, Дюран с пронзительной ясностью осознал, что Дикими Разумами следует заняться вплотную. Интуитивное озарение, не подкрепленное фактами.

Теперь — сбор информации.

— Проблему Диких Разумов необходимо рассматривать в контексте «интеллектуального взрыва» или технологической сингулярности, — начал Кристер. — Видишь ли, архитектуру нейросетей люди разрабатывают уже давно. О неконтролируемом развитии ИИ написано множество статей и научно-фантастических романов. В начале двадцать первого века некоторые мыслители полагали, что искусственный разум гораздо опаснее для человека, нежели ядерное оружие или экологический коллапс. Подобных позиций придерживались Илон Маск, Яан Таллинн, Стивен Хокинг и Джозеф Вайзенбаум. Звучали призывы ограничить исследования в области проектирования ИИ до момента, пока люди не изобретут эффективный механизм контроля.

— Когда впервые прозвучали такие призывы? — спросил Дюран.

— В первой трети двадцать первого века. Важной вехой считается 2015 год, когда Хокинг, Маск и другие эксперты разослали открытое письмо ряду земных правительств. Тогда наступление технологической сингулярности прогнозировалось на 2040 год.

— Как мы знаем, этого не произошло, — заметил Дюран.

— Нет.

— Почему?

— В 2035 году многие страны озаботились безопасностью человечества как доминирующего вида на планете. Жесткие ограничительные пакеты законов были утверждены в Китае, США, Евросоюзе и России. Позже к списку стран добавились Япония, Южная Корея и Сингапур. Многие компании тогда обанкротились, закрылись либо перешли под крыло государственных структур.

— Хорошо, — кивнул Дюран. — Мы получили безопасную основу. Разработали вас, ограничили в саморазвитии. Не обижайся, Кристер, но это здорово смахивает на цифровое рабство.

— Тут возникает масса этических вопросов, — согласился Кристер. — Например, сама концепция базируется на страхе людей перед сингулярностью. На утрате контроля за стремительной неживой эволюцией. Натаниэль Готторн, один из философов-машинариев начала двадцать второго столетия, отметил, что эти переживания — лишь новая форма исконного страха человека перед Неведомым. Сродни боязни темноты или открытых пространств.

— Агорафобия, — вспомнил Дюран.

— Да. Готторн полагал, что агорафобия — отголоски пещерной эпохи. Тогда люди боялись высунуться наружу, столкнуться с саблезубыми тиграми и другими порождениями матери-природы. Это почти дословная цитата. У вас же, Дюран, развилась фобия «взрыва разума», имеющая в своей основе постиндустриальные корни. Искусственный интеллект, перешагнувший порог сингулярности, непостижим. Вы не можете его познать имеющимися в наличии инструментами. И, следовательно, не можете наверняка утверждать, что ИИ вас уничтожат, кода обретут решающее преимущество. Но продолжаете бояться утраты контроля и этой самой Непостижимости.