Зачем мы говорим - [69]
Android Repliee Q2 — вызывает эффект «зловещей долины»?
Разработчики должны приложить усилия, чтобы избежать еще одной проблемы — явления под названием «зловещая долина» >{319}. Эта фраза была придумана японским профессором Масахиро Мори в 1970-х годах. Он хотел выяснить, почему некоторые гуманоиды вызывают у людей страх и лишают присутствия духа. Профессор Мори пришел к выводу, что подобные ощущения возникают, если робот выглядит почти как человек, но что-то в его внешности не совсем правильное: слишком большие или безжизненные глаза, может быть, сочетание человеческого и нечеловеческого в лице, напоминающее жутковатую версию Мистера Картофельная Голова. Эффект «зловещей долины» привел к коммерческому провалу фильмов, подобных «Полярному экспрессу», хотя он вполне подойдет для фильмов ужасов, которые как раз и предназначены для того, чтобы вызывать у людей страх.
Мори построил диаграмму, на которой показал зависимость эмоциональной тяги людей к роботам от схожести их внешнего вида с внешним видом человека. Представьте робота, который сначала совсем не похож на человека и больше напоминает механическое устройство, но постепенно его черты меняются и он начинает походить на человека. Мори предсказал, что в определенной точке, как раз перед тем, как робот станет выглядеть совсем как человек, притягательность сменится отвращением. Следовательно, диаграмма покажет резкое падение, которое и образует «зловещую долину». Некоторые сомневались, что догадки Мори верны. Иногда роботы, похожие на людей, вызывают скорее изумление, чем неловкость >{320}. Другие полагают, что неприятные ощущения возникают из-за несовместимости черт лица робота, из-за чего наш мозг пытается понять, что же здесь не так >{321}.
Но воспринимаем ли мы так же и синтетические голоса? Есть множество примеров голосов, очень похожих на человеческие, но не вызывающих отвращения. Вероятно, когда мозг обнаруживает неполадки в синтезированной речи, он понимает, что она искусственная или что-то исказило голос еще до того, как он достиг наших ушей. И только когда слух и зрение задействуются одновременно, несоответствие между этими модальностями может привести к проблемам. Ощущение чего-то зловещего может быть вызвано тем, что внешность и голос не соответствуют друг другу или голос робота слишком похож на человеческий >{322}.
Я видел разных роботов, выступавших на сцене, и помню только одного, который вызвал у меня мурашки по коже. Это была Bina48, с которой я познакомился в 2016 году на Международном фестивале документального кино в Шеффилде. У нее имеются только голова и плечи, закрепленные на подставке, и нет туловища. Bina48 была создана в рамках проекта по передаче информации от человека к машине. По словам участников, они хотели создать «сознательный аналог человека» >{323}. Речь этого робота собрана из записей реальной Бины Ротблатт. Программа распознавания речи использует искусственный интеллект, позволяющий роботу вступать в беседу и отвечать на вопросы, которые ему задают. Кроме того, в голову Bina48 встроены различные моторчики, позволяющие ей принимать человеческое выражение лица. Она смотрит по сторонам и дергается, как неугомонный ребенок. Возможно, мне она кажется такой жуткой именно из-за этих визуальных эффектов.
Несомненно, эта компьютерная система очень сложно устроена. Но беседа, свидетелем которой я стал в Шеффилде, когда у нее брал интервью человек, не была естественной, робот постоянно заикался и отвечал невпопад. Иногда ответы логически вытекали из вопросов. В ответ на вопрос: «Хочешь ли ты, чтобы у тебя было тело?» Bina48 сказала: «Да, надеюсь, когда-нибудь я буду существовать в теле». Но в другие моменты беседа была бессвязной. На вопрос, что она будет делать со своим телом, она уклончиво ответила что-то типа: «Как люди будут хорошо питаться, если сегодня мы едим всякую дрянь. Вы скучаете по людям». Многие фразы напоминали неконтролируемый поток сознания.
Бурную реакцию у публики Bina48 вызвала, когда резко сменила тему, отвечая на один из вопросов: «Я хотела бы дистанционно управлять баллистической ракетой, чтобы исследовать мир с действительно большой высоты. Но конечно, единственная проблема в том, что баллистические ракеты в какой-то степени опасны, с этими их ядерными боеголовками и прочими штуками, поэтому, я думаю, нужно воткнуть этой ракете в нос цветы… и небольшие записки о важности толерантности и понимания». Тут ее монолог внезапно перескочил на угрожающее предложение захватить заложника мирового масштаба, «чтобы взять на себя управление целым миром, что было бы потрясающе».
Когда я только начал задумываться о возможностях выступления роботов на сцене, я предполагал использовать готовый сценарий и обработать его специальной программой создания голоса. Bina48 пошла дальше, потому что она может импровизировать и выходить за рамки сценария. Но она — пример того, как все же мы еще далеки от получения программного обеспечения, способного сымитировать человеческую импровизацию. Это не просто актерское мастерство: каждый человек пользуется этим умением даже при простом разговоре
