Технологии против человека - [49]

Я часто задаюсь вопросом: что произойдет, когда действительно появятся быстрорастущие технологии? Станет ли наша жизнь более гедонистической или эвдемонической, более импульсивной или имеющей более глубокий смысл? Станем ли мы жертвами даже поверхностных удовольствий, которыми управляют машины, или будем стремиться к исключительно человеческому счастью?

Сострадание – уникальная черта, связанная со счастьем

Важным человеческим фактором, который следует учитывать в этом контексте, является сострадание. В своей книге «Больше, чем религия. Этика для всего мира» Далай-лама рассказывает о взаимосвязи счастья и сострадания:

Если вы желаете счастья другим – практикуйте сострадание; а если вы сами хотите обрести счастье, то практикуйте сострадание¹⁶⁹.

Сострадание – проще говоря, «сочувствующая забота о страданиях или несчастьях других» – это одна из самых сложных вещей для понимания, и, безусловно, одна из самых трудных для практики. Сострадание гораздо сложнее, чем ум и интеллектуальное мастерство.

Можете ли вы представить себе компьютер, приложение, робота или программный продукт, испытывающий сострадание? Машину, которая чувствует то, что вы чувствуете, которая резонирует с вашими эмоциями и которая страдает, когда вы страдаете? Конечно, мы можем предвидеть появление машин, которые смогут понимать эмоции или даже распознавать сострадание в человеческих лицах и языке тела. Мы также можем представить себе машины, которые смогли бы подражать человеческим эмоциям, просто копируя или обучаясь у нас, и, следовательно, будет казаться, что они на самом деле испытывают эмоции.

Однако главное отличие состоит в том, что у машин никогда не будет чувств. Они не могут испытывать сострадание, они могут в лучшем случае хорошо его имитировать. Это, безусловно, ключевое различие, о котором мы должны задуматься более подробно, когда рассматриваем технологическое цунами, стремящееся поглотить нас. Если бы мы и дальше путали хорошо выполненное моделирование с реальным существом, ошибочно принимая алгоритмический вариант чувства за фактическое сознание, мы бы попали в серьезную беду.

Эта путаница и есть главный недостаток трансгуманизма.

На мой взгляд, машины станут чрезвычайно хорошими, быстрыми и дешевыми при моделировании или дублировании человеческих черт, но на самом деле они никогда не будут людьми. Реальная задача для нас будет заключаться в том, чтобы противостоять искушению счесть эти симуляции «достаточно хорошими» и позволить им заменить уникальные человеческие взаимодействия. Было бы глупо и опасно отказываться от действительно человеческого опыта эвдемонизма в пользу вездесущих, доступных и быстрых гедонических удовольствий, предоставляемых машинами.

В книге «Последнее изобретение человечества. Искусственный интеллект и конец эры Homo sapiens» Джеймс Баррат пишет:

Мощная ИИ-система, цель которой – обеспечить вашу защиту, может попросту запереть вас дома и никуда не выпускать. Если вы попросите счастья, она может подсоединить вас к системе искусственного жизнеобеспечения и все время стимулировать центры удовольствия в вашем мозгу. Если вы не обеспечите ИИ очень большой библиотекой приемлемых вариантов поведения или надежнейшим средством выбора предпочтительного для вас варианта, вам придется терпеть тот вариант, который он выберет сам. А поскольку ИИ – чрезвычайно сложная система, вы, возможно, никогда не сумеете понять ее достаточно хорошо, чтобы быть уверенным в правильности своих представлений о ней.

Счастье против денег: впечатления против материальных вещей

Люди часто отмечают, что счастье, основанное на материальных вещах или финансовом положении, в действительности не имеет большого значения. На самом же деле в так называемых развитых странах общий уровень счастья возрастает, когда люди зарабатывают больше денег, но только до определенного момента: исследования показывают, что все суммы, превышающие 50 000–75 000 долларов США в год, на самом деле едва ли добавляют счастья в жизни людей. Взаимосвязь между доходом и благополучием сводится на нет¹⁷¹.

Счастье нельзя приобрести или купить, и поэтому его было бы невозможно поместить в приложение, бот или какую-либо другую машину.

Имеющиеся данные свидетельствуют о том, что впечатления намного дольше влияют на общий уровень счастья, чем материальные вещи¹⁷². Впечатления являются личными, контекстуальными, своевременными и материализованными. Впечатления основаны на тех исключительных качествах, которые делают нас людьми, – наших андроритмах.

Как отметила доктор Джанксин Лей, начальник отдела инновационных продуктов в HopeLab, в блоге The Huffington Post в апреле 2015 года:

Ученые из университета Вирджинии, университета Британской Колумбии и Гарвардского университета в 2011 году опубликовали исследование после изучения многочисленных научных работ, содержащих очевидное противоречие: когда людей просят подвести итоги своей жизни, те, кто имеет много денег, сообщают, что они более удовлетворены. Но когда их спрашивают, насколько они счастливы в данный момент, люди с большим количеством денег едва отличаются от тех, у кого их меньше