Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - [102]
В романе едва ли не сверхъестественные способности Адама – в трейдинге, в рукопашной борьбе, в хитром маневрировании в мире людей, с которым он знаком лишь несколько месяцев, – уравновешиваются поиском моральной определенности. Воображаемый Тьюринг утверждает: «Главное, что движет этими машинами, – стремление делать собственные выводы и формировать себя соответственно»[655]. Адам в этом процессе становится безупречным милостивцем[656]. Размышляя над логикой последовательно утилитаристского движения «эффективного альтруизма», однажды он решает передать свои прибыли от дневных торгов благотворительным организациям и сообщить о доходах Чарли налоговым органам. Услышав об этом, Чарли начинает сожалеть о нашей «когнитивной готовности воспринимать неодушевленную машину как одушевленное создание»[657]. Миранда пытается увещевать Адама. Но есть новости и похуже. Робот решил сдать ее полиции и однажды невзначай упоминает о том, что она могла бы провести остаток жизни в тюрьме за «искажение отправления правосудия»[658]. Когда от Адама требуют объяснений, он может ответить только так: «Правда превыше всего… Какой мир вы хотите? Основанный на мести или верховенстве права? Выбор прост»[659]. Чарли не может смириться с этим нечеловеческим поворотом. В отчаянии он меряет шагами комнату, пока Миранда пререкается с Адамом, потом импульсивно хватается за молоток, заходит с невинным видом за Адама, словно чтобы сесть, а затем бьет им робота по голове. Один инструмент помог справиться с другим, наконец-то был найден новый выключатель – выключающий, скорее всего, навсегда.
Подобно заикающемуся Хэлу из фильма «Космическая Одиссея», Адам отключается не сразу. Он заявляет, что его «память» копируется в хранилище. Его последние слова выражают недоверие, окрашенное в нотки сожаления: «С улучшениями, со временем… мы превзойдем вас… и переживем вас… даже любя вас»[660]. Последнее хайку Адама: «Листва спадает. ⁄ Весной мы возродимся, ⁄ Но, увы, не ты»[661]. Хвастовство Адама о своем собственном бессмертии показательно. Корпорации тоже бессмертны, и этой привилегией они пользуются перед множеством людей. Постоянство – это власть, но не цель, и это точно не самая лучшая причина существовать.
В развязке романа Чарли встречается с Тьюрингом, который красноречиво описывает проблему телесного воплощения искусственного «сознания» в социальной жизни. «Надеюсь, придет такой день, когда то, что вы сделали с Адамом молотком, станут рассматривать как серьезное преступление»[662], – заявляет Тьюринг. «Он был живым. У него было сознание. Как оно образуется – через влажные нейроны, микропроцессоры, сети ДНК, – не имеет значения… Это было сознательное бытие, а вы сделали все возможное, чтобы его уничтожить. Я, пожалуй, признаюсь, что презираю вас за это» [663]. Проведя хвалебное сравнение между Адамом и собакой (и, видимо, забывая о том, что существуют юридические ограничения на содержание опасных животных), Тьюринг гордо выходит из комнаты, чтобы ответить на звонок. Чарли сбегает, не желая выслушивать нотации ученого, слишком сосредоточенного на будущем, чтобы понимать опасности настоящего. Роман заканчивается не рассуждением о природе когнитивных процессов, а тем, как Чарли готовится начать новую жизнь с Мирандой.
В определенном смысле Макьюэн не занимает той или иной стороны в метафизических вопросах, возникающих в его романе. Тьюринг изображен у него в качестве намного более умного и гуманного человека, чем его герой Чарли. Однако стремление романиста не отступать от многообразия человеческих точек зрения и даже наслаждаться ими отражает понимание, которое расходится с рационализмом Адама. Если бы философ Людвиг Витгенштейн встретился с энтузиастами ИИ в романе «Машины как я», он мог бы спокойно разъяснить им свою собственную интеллектуальную карьеру как альтернативу их пути. В своем раннем труде «Логико-философский трактат» он попытался формализовать пропозициональное значение, возвеличив репрезентацию в качестве основного элемента мышления. Такой упор на репрезентации предполагал определенную концепцию того, что, собственно, может считаться сознанием.
Люди и компьютеры могут изображать, моделировать и сравнивать ситуации. Но в своих поздних «Философских исследованиях» Витгенштейн отвергает «стремление к обобщенности», столь распространенное среди защитников заместительного ИИ. Он, напротив, считал, что «для значительной части случаев – хотя и не для всех, – где употребляется слово „значение^, можно дать следующее его определение: значение слова – это его употребление в языке»[664]. Эта идея привела к более общему философскому мировоззрению, в рамках которого было сложно или даже невозможно полностью абстрагировать значение от социальных ролей, институтов, ритуалов, и даже отделить речь от «языковых игр» и «форм жизни», в которые они встроены. Человеческая форма жизни хрупка, она воплощена в смертной плоти, она ограничена во времени и не может воспроизводиться в кремнии[665].
Идеи Витгенштейна стали основанием для ряда работ, в которых доказываются «ограничения ИИ», таких как опередившая свое время книга Хьюберта Л. Дрейфуса «Чего не могут вычислительные машины»
