Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - [104]

В фильме «Она» наряду с остроумным изображением возможного направления эволюции указывается также на то, насколько странными являются подобные реакции. К концу фильма Теодор выясняет, что Саманта разговаривает с сотнями людей, и всем им говорит, что она в них влюбилась. Что бы там ни думать о полиамории с тремя, десятью или десятками человек, сотни – это определенно не то число, которое подходит для того интимного отношения, которое симулирует ОС. То, о чем «говорит» Саманта, – это в конечном счете просто обман, подражание вербальному выражению влюбленности, а не она сама. И как только чары влечения рушатся, мы чувствуем, что даже Теодор может понять, почему сам термин «говорит» надо взять в кавычки, поскольку намного более точное описание выражений, производимых ботом, – это симуляция коммуникативных движений, которая должна стимулировать вовлеченность собеседника, особенно учитывая то, что такая симуляция определяется целями коммерческой корпорации. То же самое можно сказать, даже если бы ОС была персонализирована для одного Теодора. Этот изъян, от которого сегодня страдает программирование эмоций, становится еще более заметным, поскольку, как не раз было доказано, этические принципы и условия обслуживания технологических фирм 50 и стартапов далеки от совершенства[672].

Возможно, беспокоиться о подобной эмоциональной привязанности к роботам покажется странным, учитывая, насколько они сегодня редки и невероятны. Однако она заслуживает прямого анализа, поскольку специалисты по робототехнике не должны рассматривать симулирование эмоций в качестве еще одного очевидного ответвления ИИ как респектабельной области исследований. Даже если пока возможность ИИ, который потребует прав, ресурсов и уважения человека, кажется далекой, первые шаги к нему уже ухудшают качество многих наших современных контактов. Все больше чувствуется давление, заставляющее упрощать измерение эмоций или следить за тем, чтобы они могли считываться машиной и ею же выражаться.

Конечно, предполагается, что все это к нашей же пользе. Например, намного проще скоррелировать шесть кнопок эмоциональных реакций в Facebook с поведением пользователя, чем сотни или тысячи сложных форм неодобрения, любопытства, заинтригованности, покорности и т. п., которые пробегают по лицам пользователей, когда они пролистывают новостную ленту. Но даже если такая технология значительно улучшится, это не станет достаточной причиной для производства роботизированных систем с более тонкими или таргетированными техниками, позволяющими втереться в доверие или завоевать любовь, потребовать послушания или вызвать сожаление в ответ на гнев (если вспомнить лишь о нескольких возможных эмоциональных реакциях).

Первая проблема с подобными амбициозными инструментами – в их происхождении. Слишком часто они являются продуктами коммерческих исследований или крупных фирм, которым надо что-то продать. Основатели Google некогда предупреждали о том, что спонсируемая рекламой поисковая машина будет ставить интересы спонсоров выше интересов пользователей. Мы уже видели, что Google и сам нередко допускал ту же ошибку. В этом отношении огромное преимущество рожденного перед сделанным заключается в безусловной свободе преследовать собственные, а не чужие цели. Нет никакого особенного коммерческого основания для того, чтобы хотя бы попытаться наделить роботов подобными степенями свободы.

Но даже если мы могли бы преодолеть эту проблему и освободить ИИ от коммерческих императивов (что само по себе является слишком громким допущением, учитывая огромные вычислительные ресурсы, используемые сегодня в ИИ), мы не можем избежать глубоких метафизических вопросов, которые возникают при возведении ИИ в ранг партнеров человека, а не просто его инструментов[673].

Эта эволюция – или коэволюция, если использовать модель, обсуждаемую в работе Дюмушель и Дамиано «Жить с роботами», – представляется вполне разумной людям с механическим и монистическим мировоззрением[674]. Если человеческое тело – это просто биологическое машина, то есть оборудование, а наш разум используется в качестве программы, тогда разум и эмоция, на которые способны достаточно развитые машины, не являются в полном смысле искусственными. Скорее, они ровня нашему. И если клапан сердца можно заменить проводами и пластиковыми мембранами, точно так же, с такой точки зрения, стремящейся к сингулярности, можно постепенно дополнять, а потом и заменить мозг кремнием.

Однако между животными и машиной зияет онтологическая пропасть. Сравните домашнюю кошку с MarsCat (роботом, напоминающим своим поведением кошку). Перцептивный аппарат кошки и ее поведение эволюционировали в течение намного более длительного периода времени, чем любой робот-симулякр, и в урчании настоящей кошки (когда она довольна) чувствуется нечто подлинное и нутряное, как и в ее возбуждении, заметном, если она чем-то напугана. Последствия возможной травмы или какого-то иного ущерба оцениваются кошкой на инстинктивном и в то же феноменологически непосредственном уровне. Даже если внешние признаки подобных ментальных процессов могут быть полностью скопированы кошкой-роботом, в этом проекте все равно будет заметен изрядный момент поддельности