Живым голосом. Зачем в цифровую эру говорить и слушать - [22]
Сперва возникает Siri, цифровой компаньон, всегда готовый откликнуться. Но это только начало. Пока я пишу этот текст, в СМИ появляются все новые истории о тестировании первых “домашних роботов”, призванных стать постоянно доступными “дружелюбными компаньонами”. Эти машины будут действовать так, словно понимают, что вы говорите, и будут обмениваться с вами любезностями посредством магии симулированного выражения эмоций[65]. Но неужели мы забыли, что такое беседа? Что такое дружба? Общение с техникой – это товарищество или изоляция?
Мы утрачиваем смысл слов. Когда-то слово “ум” значило куда больше, чем все то, на что способен любой искусственный интеллект. Оно подразумевало чувствительность, тонкость восприятия, осведомленность, проницательность, разум, чутье и остроумие. И все же теперь мы с готовностью называем машины умными. “Эмоциональный” – еще одно слово, некогда значившее куда больше, чем может дать какая-либо машина. Мы привыкли характеризовать действия машин, способных выразить эмоциональные состояния или почувствовать наши эмоции, как примеры “эмоциональных вычислений”[66]. Эти новые значения слов стали для нас новой нормой, и мы забываем о старых значениях. Требуются усилия, чтобы восстанавливать утраченный язык, утраченные значения слов, а со временем, возможно, и утраченные ощущения.
На одной из конференций, где мне довелось побывать, роботов называли “заботливыми машинами”, а на мой протест пояснили: это выражение используется не потому, что роботы к нам неравнодушны, а потому что они будут о нас заботиться. Забота – это поведение. Это функция, а не чувство[67]. Казалось, что участники конференции в растерянности: почему же я проявляю такую заботу о семантике? Что со мной не так?
Вполне естественно, что слова способны менять свое значение со временем, в новых обстоятельствах. Слова “ум” и “эмоциональный” поменяли свой смысл, чтобы их можно было использовать для обозначения действий машин. Что же, теперь к этому списку добавятся “заботливый”, “друг”, “товарищество” и “беседа”?
Что касается этих слов, то здесь слишком многое поставлено на карту. Мы их еще не потеряли. Мы должны вспоминать об этих словах и об этом разговоре, пока не стало слишком поздно: пока мы не забыли, как вести беседу, или не решили, что такую же беседу можно вести и с машинами.
Мы загоняем себя в такой угол, где оказывается, что под сомнение поставлено куда больше, чем слова.
Я говорю, что мы достигли “роботизированного момента” не потому, что создаем роботов, способных составить нам компанию, а потому что готовы рассмотреть возможность составить компанию роботам. По моим наблюдениям, все больше людей рассматривают идею, что в недалеком будущем им будет вполне достаточно общества машин. Собеседники признаются: в том случае, если машина сможет дать им “ощущение”, что она понимает их сокровенные мысли, этого понимания им вполне хватит, равно как и этой сокровенности.
Невозможно не заметить обилия иронии в этой ситуации. Мы хотим установить диалог с искусственным интеллектом ровно в тот момент, когда стремимся избежать беседы друг с другом.
Если говорить в более общем плане, то в наших беседах четвертого стула мы представляем себя как бы в новом мире, где машины общаются друг с другом, чтобы сделать нашу жизнь проще. Но кем же мы станем в этом мире (мире “без лишнего трения”, каким он нам представляется), где машины будут знать, чего мы хотим, причем еще до того, как мы выразили свое желание – а может, и вовсе при нашем полном молчании? Располагая исчерпывающей информацией о нашей жизни в сети, машины смогут узнать о наших предпочтениях в музыке, искусстве, политике, одежде, книгах и еде. Им станет известно, кто нам нравится и куда мы путешествуем.
В этом мире ваш смартфон оповестит вашу любимую кофейню, что вы уже вышли за своим утренним латте, и напиток будет вас ждать, приготовленный в точности по вашему вкусу. Во избежание “лишнего трения” телефон поможет вам изменить маршрут, чтобы вы уклонились от столкновения с бывшей девушкой и встречали на своем пути только одобренных вами друзей. Но кто сказал, что жизнь без конфликта, без напоминаний о былых ошибках, о былой боли, та жизнь, где вам не придется сталкиваться с людьми, создающими проблемы, хороша? Может быть, это тот же человек, который говорил, что в жизни не должно быть скучных моментов? В таком случае, когда технологии дают нам ощущение, что мы можем общаться, сохраняя полный контроль, непредвиденные обстоятельства становятся серьезной проблемой. И если технологии помогают нам решать “проблемы”, это вовсе не значит, что та или иная ситуация изначально была источником проблем[68].
Я исследую бегство от беседы в цифровой культуре, рассматривая большие вопросы и маленькие детали. Начав с уединенных, романтических, дружеских бесед и общения в семейной жизни, заканчиваю нашим желанием поболтать с роботами. Я рассказываю о нынешнем статусе беседы в школах, университетах и корпорациях, наблюдаю, как развиваются дети и как взрослые влюбляются, учатся и работают. В каждом случае я описываю нашу беззащитность перед таким искушением, как простой контакт (без беседы), объясняю, почему это искушение столь сильно, и выступаю в защиту того, чтобы снова стать идеальными собеседниками.
