Вы не гаджет. Манифест - [14]

Если бы команда Deep Blue не была столь успешна в решении программной задачи, компьютер все равно бы победил позже — просто за счет огромной вычислительной мощности. Таким образом, интрига была не в том, выиграет ли когда-либо компьютер у лучшего игрока-человека, а в том, какую роль в этом будет играть элегантность программирования. Deep Blue победил быстрее, чем мог бы, заработав тем самым очко в пользу элегантности.

Реакция общества на проигрыш Каспарова поставила важный вопрос перед сообществом исследователей в области информатики. Стоит ли описывать компьютеры как разумные или человекоподобные в каком-либо смысле? Проясняет ли такое представление истинную роль компьютеров в нашей жизни или, наоборот, размывает ее?

Всякий раз, когда компьютер представляют разумным, люди игнорируют некоторые аспекты проблемы, чтобы исключить из рассмотрения все, к чему компьютер слеп. В случае турнира Deep Blue — Каспаров это случилось с шахматами.

У шахмат есть аспект, который несколько роднит их с покером, — наблюдение за оппонентом, проекция уверенности. Несмотря на то что написать программу для «игры» в покер сравнительно просто по сравнению с программой для игры в шахматы, покер остается игрой, где главную роль несут тонкости невербальной коммуникации между людьми — блеф, искусство скрывать эмоции и понимать психологию оппонента и знание того, как вести себя в соответствии с полученной информацией. В результате победы Deep Blue покерную часть шахмат затмил абстрактный, алгоритмический аспект, хотя, по иронии, Каспаров проиграл именно в покерном аспекте.

По-видимому, Каспаров позволил компьютеру запугать себя, даже после того, как он показал, что способен иногда и выигрывать. Он мог выиграть, если бы играл с человеком, обладающим такими же способностями выбора хода, что и Deep Blue (по крайней мере Deep Blue версии 1997 года). Вместо этого Каспаров увидел каменное лицо там, где на самом деле абсолютно ничего не было. Хотя состязание не задумывалось как тест Тюринга, оно стало им, и Каспаров был обманут.

Как я уже упоминал, идея искусственного интеллекта переместила психологическую проекцию хороших качеств с программного обеспечения на другой объект: компьютер + толпа. Поэтому в 1999 году собралась википодобная группа, включая чемпионов по шахматам, чтобы сыграть с Каспаровым в онлайн-игру под названием «Каспаров против всех». Каспаров победил, и многие полагают, что лишь благодаря разногласиям участников группы. Мы, технологи, непрестанно интересуемся ритуалами, в которых пытаемся представить себе, что люди устарели.

Приписывание разума машинам, скоплениям фрагментов или другим божествам умников скрывает больше, чем показывает. Когда людям говорят, что компьютер разумен, они склонны изменять себя, чтобы казалось, будто компьютер работает лучше, а не требовать изменения компьютера для улучшения его работы. Люди уже склонны уступать компьютерам, виня себя в том, что цифровым гаджетом или онлайн-сервисом неудобно пользоваться.

Рассмотрение компьютера в качестве разумной, автономной сущности приводит к перевертыванию процесса разработки с ног на голову. Мы не можем себе позволить настолько почитать свои собственные творения.

Круг сопереживания

Самое важное, что надо знать о любой технологии, — как она меняет людей. Чтобы ответить на этот вопрос, я много лет пользовался мысленным приемом, который называю «круг сопереживания». Может быть, он окажется полезным и для вас. (Философ из Принстона Питер Сингер, часто упоминаемый в связи с правами животных, пользуется похожей терминологией и идеей, что на первый взгляд кажется простым совпадением.)

Воображаемый круг сопереживания каждый для себя строит сам. Этот круг ограничивает расстояние вокруг человека и включает те сущности, которые заслуживают сопереживания. Мне нравится термин «сопереживание», потому что в нем есть духовные нотки. Термины вроде «симпатия» или «лояльность» могли бы быть более точными, но я хотел, чтобы мой термин был слегка мистическим. Он должен как бы намекать, что мы не способны полностью осознать то, что происходит между нами и другими, что мы всегда должны оставлять возможность представления отношений в цифровой базе данных.

Если кто-то попадает в ваш круг сопереживания, вы вряд ли захотите увидеть, как его или ее убьют. Но то, что вне круга, — законный объект нападения. Например, многие поместят всех остальных людей внутрь круга, но большинство будет радо смерти бактерий, например, когда мы чистим зубы. И уж совершенно точно никто не будет беспокоиться по поводу бездушного камня, отброшенного с тропы.

Подвох в том, что некоторые сущности находятся близко к границе круга. Главные противоречия часто вызывает вопрос, должно ли что-то находиться внутри круга или сразу за ним. Например, идея рабства основана на том, что раба помещают вне круга, таким образом как бы делая его неодушевленным. Расширение круга так, чтобы включить всех людей и покончить с рабством, — одно из главных эпических противостояний в человеческой истории, и оно еще не вполне завершено.

Множество других противоречий хорошо описываются этой моделью. Борьба вокруг абортов по существу есть поиск ответа на вопрос, должен плод или эмбрион быть помещен внутрь круга или нет. Спор о правах животных задает тот же вопрос относительно братьев наших меньших.