Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - [101]
В романе Иэна Макьюэна «Машины как я» умело отражены опасности таких горизонтов экспериментаторства. Действие романа происходит в воображаемой Британии, в которой одна корпорация в начале 1980-х гг. продает двадцать пять роботов, неотличимых от людей. Быстрое развитие технологии в этом воображаемом мире отчасти обусловлено тем, что власти альтернативной Британии не стали преследовать Алана Тьюринга во время гомофобской охоты на ведьм, из-за которой его жизнь в реальном мире завершилась преждевременно. Рассказчик Чарли покупает одного из двенадцати роботов-Адамов, когда получает наследство. Поскольку «в рекламе его преподносили как компаньона, партнера по интеллектуальным баталиям, друга и личного помощника, который может мыть посуду, заправлять постель и „думать“», он представляется отличной забавой для задумчивого, одинокого, скучающего Чарли, который приглашает соседку (и одновременно объект любовных воздыханий) Миранду помочь запрограммировать личность Адама[647]. Чарли надеется, что робот может стать для них как пары общим проектом.
План развалится, как только Миранда переспит с Адамом. Чарли и Миранда мирятся после насыщенного спора о том, можно ли считать эту интрижку чем-то более серьезным обычных забав с фаллоимитатором. В конце концов, после появления Адама Чарли обычно называл его «он или оно». Однако вскоре паре приходится иметь дело с преданностью Адама Миранде, о которой он сам говорит, а также с его энциклопедическими знаниями о прошлом, особенно о том, как Миранда составила сложный план, чтобы отомстить за изнасилование, жертвой которого стала одна из ее ближайших подруг. Похоже, Адам влюбляется в Миранду, но в то же время он должен сообщать властям любую информацию о серьезном правонарушении, которую он только может обнаружить. Найти решение он не в состоянии. Чарли отмечает, что, когда «два эти побуждения [Адама] стали несовместимы, он потерял самоконтроль и стал хихикать, как ребенок в церкви»[648]. Не будучи способным на истинно человеческий выбор ценностей, он регрессировал, позволив Чарли ощутить собственное превосходство над технологической версией Буриданова осла.
Этой победы хватает ненадолго. Адаму для работы нужно электричество, и он должен выключаться, когда собственник нажимает кнопку на его шее сзади. Похоже, что Адам все больше недоволен тем, что его выключают, и в ключевой момент этой истории он хватает Чарли за руку «чудовищной» хваткой и ломает ему запястье, чтобы оставаться включенным. Профессор английского языка Эрик Грэй в своей остроумной рецензии на роман отмечает: «Не признание в любви, а рукопашная со звериным оттенком, – вот что заставляет Чарли признать, что он имеет дело с родственной и, возможно, даже превосходящей его формой жизни»[649]. Вопрос о личности робота – это в конечном счете вопрос власти, а не признания некоего достаточного количества «человечности» в ИИ. Роман «Машины как я» позволяет нам прочувствовать, как эта власть может быть завоевана или потеряна.
После пространных извинений за сломанное запястье Адам обещает стать полезным Чарли, зарабатывая тысячи фунтов на финансовых сделках. Робот поглощает также горы информации по философии и искусству, выдавая комментарии, неотличимые от таковых специалистов. Свою любовь к Миранде Адам высказывает в тысячах хайку, придумывая даже литературную теорию, которая оправдывает его преданность этой форме:
Едва ли не все прочитанные мной образцы мировой литературы рассматривают всевозможные человеческие неудачи: в понимании, здравомыслии, мудрости, должных симпатиях… Но когда завершится союз мужчин и женщин с машинами, такая литература станет излишней благодаря тому, что мы станем слишком хорошо понимать друг друга… Наши повествования больше не станут затрагивать тему бесконечного непонимания. Наши литературы лишатся своей нездоровой пищи. Востребованной формой останется только лапидарное хайку – выверенное, ясное прославление вещей в их подлинном виде[650].
Такова литературная теория сингулярности, спешащая предвосхитить устранение любого зазора между людьми и машинами, мышлением и речью, внутренним миром и внешне наблюдаемым поведением[651]. Можно было бы представить, что ту же теорию мог бы изложить и ИИ в романе Ричарда Пауэрса «Галатея 2.2», программа, которая должна была сдать магистерский экзамен по английской литературе[652]. Будущее, воображаемое Адамом, как и чужой, трисолярианский мир в «Задаче трех тел» Лю Цысиня, сводит вопрос совершенствования человека к вопросу о прозрачности и предсказуемости[653]. Однако споры и размышления о правильной жизни – одна из составляющих сущности человека. Нечеловеческое сужение жанрового богатства, выполняемое Адамом, отражает более общий редукционизм, свойственный любой попытке приучить людей видеть в машинах ровню
