Эмоции: великолепная история человечества - [99]
В качестве теоретического упражнения представим, что нам удалось решить эту задачу. Мы провели эксперименты и создали машину, которая может испытывать аффекты, считывать контекст и оценивать явления — и все эти способности идеально синхронизированы для того, чтобы конструировать эмоции. Кроме того, нам удалось навязать нашему творению собственные культурные предубеждения. Перед нами эмоциональная, чувствующая машина. Осталась последняя проблема. То, что машина чувствует, еще не означает, что она испытывает эмоции так же, как и мы. Она может вести себя, будто это так, говорить, что это так, но как нам точно узнать, что это правда так?
Вернемся к примеру с самоуправляемым автомобилем, распознающим агрессию на дороге. Безусловно, он может понять, почему я хмурюсь и трясу кулаком. Он может изобразить, что сопереживает мне и понимает смысл моего жеста. Но в действительности это механистическое подобие чего-то, что испытывает эмпатию, причем мы так до конца и не понимаем, как совместная работа шестеренок внутри него создает «ощущение» эмоции. Сейчас все еще может оказаться, что способность чувствовать нельзя воспроизвести искусственно. Возможно, это и неважно. В конце концов, я не могу быть уверен, что тот, кто читает эту книгу, испытывает эмоции так же, как я. Я не могу залезть вам в голову. Барретт утверждает, что эмоции зависят не только от того, как человеческий разум воспринимает собственные аффекты, контекст и оценки, но и от того, как это восприятие работает «во взаимодействии с разумом других людей»[393]. Если мы — или даже какой-нибудь другой ИИ — считаем, что машина способна чувствовать, достаточно ли этого?
В связи с этим возникает другой вопрос: важно ли, чтобы человек или машина действительно чувствовали эмоции? Или достаточно, чтобы они просто вели себя так, как будто они эти эмоции испытывают? Учитывая уровень интеллекта животных, мы относимся к ним не так же, как к людям, но какую роль играют эмоции в том, как мы проводим грань между машиной и искусственным, но живым созданием? Различие между тем ИИ, который делает вид, что боится смерти, и тем, который действительно боится смерти, критически важно в случае, если когда-нибудь возникнет необходимость выключить компьютер. Можем ли мы вообще принять такое решение в условиях неопределенности?
Вернемся к вопросу, который я задал во введении: что такое эмоция? У меня готов ответ. На мой взгляд, эмоции — это способ использовать весь наш опыт, чтобы понять, что мы чувствуем в тех или иных обстоятельствах. Кто вы, где вы находитесь и что делаете, не менее важно, чем то, что вы чувствуете. В каждом языке есть свои слова для обозначения чувств. В каждой культуре — и даже каждой семье — свое понимание того, как следует себя вести, испытывая те или иные чувства. У нас может быть общая нейрохимия, порождающая схожие базовые аффекты — те, что призваны не дать нам погибнуть (например, они вызывают желание сбежать или дать отпор). Но то, как мы психологически конструируем смыслы на основе этих ощущений, сугубо индивидуально. У кого-то отвращение связано с Богом, у кого-то — с едой. Одна группа может считать оправданной ненависть к другой. Другая может испытывать сильное чувство стыда за точно такую же вспышку ненависти. В одной паре любовь может быть чистой воды влечением, в другой — целым комплексом одновременно испытываемых эмоций.
Сейчас эта сложнейшая организация кажется неподъемной для ИИ, но исследователи не сдаются. В итоге то, появятся чувствующие машины или нет, может зависеть не от мастерства ученых, а от того, что думают по поводу этических вопросов простые люди. У меня самого не так много соображений по этому поводу, но на месте тех, кто планирует строить карьеру в философии, я всерьез бы задумался о том, чтобы сделать главной сферой своих интересов этическую сторону разработки ИИ с уклоном в эмоции. Вот где много работы.
Эпилог. Последние чувства?
Когда мы вместе с вами начали изучать историю эмоций, я хотел продемонстрировать три вещи. Первая — что эмоции не универсальны, а меняются от культуры к культуре и от эпохи к эпохе. Надеюсь, теперь для вас это очевидно. Пусть у нас у всех один базовый набор внутренних переживаний, но более сложный опыт, образующий эмоции, каждая культура воспринимает по-своему. Большинство из нас не рассматривают «сантименты», подсказывающие нам, как реагировать, например, на предметы искусства, как отдельную категорию чувств. Это относится и к так называемым пате, или страстям, вызванным «возмущениями в душе». Даже такие, казалось бы, распространенные чувства, как желание, отвращение, любовь, страх, стыд и гнев, не так универсальны, как кажется. Едва заметные различия в том, как представители разных культур трактуют свои чувства, могут подготавливать почву для рождения новых религий и экономических сверхдержав.
Второй моей целью было показать, что эмоции сложнее, чем мы думаем. Совершенно очевидно, что эмоции — это не просто стимул, за которым следует ответ. Не просто выражение лица или звук, который мы издаем. Эмоции богаче и сложнее, они работают на многих уровнях и меняются в зависимости от обстоятельств. Желание, побудившее человечество открыть Новый Свет, отлично от желания достичь нирваны. Отвращение, спровоцировавшее охоту на ведьм, отлично от отвращения в понимании современных психологов. Несмотря на то что, возможно, существует некий общий опыт, сформировавшийся в результате эволюции, — некий базовый аффект, свойственный всем людям или даже всем млекопитающим, — я надеюсь, у вас не осталось сомнений в том, что все устроено гораздо сложнее.
