Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - [55]

Шрифт
Интервал

Лучший телефонный робот

Проблема подделки вскоре может перейти из цифрового мира в реальный. Когда в 2018 г. был представлен Google Assistant, он поразил аудиторию, особенно когда гендиректор Сандар Пичаи продемонстрировал Duplex, искусственный интеллект, задача которого – назначать встречи. «Мы хотим наладить связи между пользователями и фирмами», – объяснил Пичаи. «60 % небольших фирм не имеют системы онлайн-букинга», а многие клиенты не любят звонить[343]. Пока он выступал, на экране отображалась команда: «Назначь мне встречу с парикмахером во вторник утром между io и 12 часами». В ответ на эту команду Duplex тут же сделал звонок в салон и пообщался с человеком, который на него ответил. «Привет, я звоню, чтобы договориться о женской стрижке для моего клиента», – сказал Duplex. В этот момент было неясно, что представляет собой голос Duplex – синтетический голос или голос реального человека. Пичаи воспроизвел записи Duplex, когда тот резервировал места в ресторане. Речь бота оказалась удивительно правдоподобной. Когда он что-то промычал в ответ на комментарий работника салона, толпа только ахнула от удовольствия. В более сложном разговоре Duplex переработал совет работника ресторана, который сказал, что в некоторые вечера резервировать места не обязательно. Это был уже не просто автоматический обзвон. Похоже, что Google овладел многими базовыми навыками коммуникации, опираясь на огромную базу данных телефонных разговоров.

Может показаться, что зарезервировать столик в ресторане – не такое уж большое достижение. Руководители проекта Duplex поспешили напомнить изумленной аудитории, что способности ИИ к разговору весьма ограниченны[344]. Тем не менее нетрудно понять, какой путь Duplex прокладывает для дальнейших исследований ИИ. Рассмотрим, к примеру, миллионы сообщений в базах данных таких групп, как Crisis Text Line, которые отправляют SMS клиентам, сталкивающимся с разными проблемами, начиная с несчастных случаев и заканчивая обычной депрессией[345]. Обучать людей отвечать таким клиентам дорого. Нельзя ли предположить, что однажды система, основанная на ИИ, будет сопоставлять жалобы, тревоги и слова отчаяния с выражениями, которые в прошлом были способны успокоить таких людей? Будет ли технология Duplex использоваться на горячих линиях для самоубийц? Да и вообще, не предрекает ли она исчезновения представителей отдела обслуживания клиентов, если любой воображаемый сценарий может запросто обслуживаться ботами, анализирующими постоянно растущую базу данных с жалобами и ответами на них?

На сегодняшний момент ответ на этот вопрос представляется скорее отрицательным. Вскоре Google затопила волна сетевого негодования. Заставлять ничего не подозревающих работников верить, что они имеют дело с человеком, – это, конечно, техническое достижение, но не моральное. Запись, сколько угодно ловкая и персонализированная, претендует на наше внимание и время, но совсем не так, как живой человек по телефону. После появления ряда гневных статей в прессе, Google неохотно признал то, что Duplex должен, когда звонит по телефону, представлять себя в качестве ИИ[346]. Компания также создала возможность для фирм отказаться от получения подобных звонков, приведя тем самым свою услугу в соответствие с обширными требованиями американской Федеральной комиссии по коммуникациям, распространяющимися на роботов – телефонных операторов. Ирония в том, что Duplex сам может потеряться в шквале спам-звонков, поскольку сотрудники ресторана стали игнорировать звонки без привязанного к ним опознаваемого имени.

Негативная реакция на Duplex оказалась столь же примечательной, что и сам продукт. В прошлом на ИИ и роботов в основном жаловались из-за их негибкости. Механические устройства вызывали раздражение, поскольку они были весьма далеки от спонтанности, креативности и уязвимости человека. В последнее время исследователи человекокомпьютерного интерфейса сформулировали теоретическую проблему робота, который «почти человек, но не совсем»[347]. Многие люди, занятые программированием эмоций, то есть попытками симулировать человеческие эмоции средствами роботов, полагают, что при наличии достаточных данных и достаточно продвинутых аудиосимуляций голосов, а также более живых лиц роботы в конечном счете смогут выбраться из «зловещей долины». Вместе с тем реакция на Duplex указывает на другую возможность. «Эксперименты Google, видимо, должны были вводить в заблуждение», – сказал оксфордский исследователь Томас Кинг, когда у него брала интервью известная в сфере технологий журналистка Наташа Ломас[348]. Травис Корте отметил, что «надо, чтобы ИИ звучал не так, как люди, – по той же причине, по которой мы добавляем пахучее вещество в природный газ, который сам по себе запаха не имеет»[349]. Комментарий Корте показывает в новом свете старое замечание, что «большие данные – это новая нефть»: вы должны знать, что имеете дело с большими данными, иначе они взорвутся вам прямо в лицо. Одно дело – разговаривать с человеком (пусть разговор и короткий), но совсем другое – становиться предметом манипуляции притворяющегося человеком ИИ, контролируемого одной из крупнейших мировых компаний.


Рекомендуем почитать
Закон малинового варенья и еще 103 секрета консалтинга

Джеральд Вайнберг, исходя из своего более чем 50-летнего опыта работы консультантом, делится своими выводами, как запустить и успешно вести свой собственный консалтинговый бизнес. Благодаря использованию юмористичных Правил, Законов и Принципов — таких как Закон малинового варенья, Принцип картофельных чипсов, Правило Руди о брюкве — автор показывает, как, оставаясь самим собой, находить клиентов, завоевывать доверие и устанавливать правильную цену на свои услуги, о которой потом не придется жалеть. Если вы консультант, когда-либо пользовались услугами консультанта или хотите быть одним из них, эта книга будет вам полезна.


Скользящий по лезвию фондового рынка

Джон учитель в средней школе городишка Блусток мечтает сбежать из этого нудного мира на динамичную и ослепительную арену международных финансов. Вместе с Джоном мы начинаем новую карьеру в дилерской фирме «Нью маркет секьюритиз» и наблюдаем, как из наивного стажера он превращается в закаленного трейдера и борется за выживание в беспощадном главном дилинговом зале. Его история наглядный пример опасностей, иллюзий, мечтаний и кошмаров, переживаемых клиентами и дилерами в стремительном мире фондового рынка.Книга «Скользящий по лезвию фондового рынка» в пугающе правдоподобных деталях описывает бизнес, связанный с ценными бумагами.


Понедельник - день тяжелый. Книга-утешение для всех работающих

Перед вами вторая книга Й.Сгрийверса – автора нашумевшего бестселлера «Как быть крысой». Это эссе о тебе и обо мне. Утро понедельника – мы чувствуем, как нас сковывает напряжение. Почему к горлу подступает комок от одной мысли о работе? Это синдром понедельника. Он сигнализирует о том, что в наши дни многие испытывают дискомфорт, связанный с работой. Автор в своей уникальной и яркой манере создает галерею портретов коллег и боссов, среди которых завистливые стервы, мачо, пьяницы, халявщики, реформаторы. Он рассказывает нам о том, как они проникают в наши мозги и вызывают этот синдром понедельника; показывает, как мы попадаем в зависимость от их эмоций, неуемного стремления к деньгам, желания залезть внутрь каждого, а также упорства, с которым они защищают свое кресло или свой отдел от всех и вся.Книга представляет собой средство защиты от тех моментов, когда неприятные стороны жизни наваливаются на вас или приближаются к вам.


Менеджер Мафии. Руководство для корпоративного Макиавелли

Новые главы, новые аксиомы, дополненный словарь, текст, который стал еще более отточенным, изящным, практичным и приземлённым.Яркий фарс, наглядно демонстрирующий, как преуспеть в бизнесе, применяя опыт и понятия итальянской мафии к корпоративному управлению.


Бархатная революция в рекламе

Сегодня на потребителя обрушивается мощный поток рекламной информации. Выбрать между «хорошим» и «лучшим» почти невозможно. Наверное, поэтому все рекламисты мира в один голос отмечают спад эффективности традиционных рекламных подходов.Один из ведущих специалистов по рекламному бизнесу Сержио Зимен предлагает свой революционный взгляд на то, как компании должны строить свою рекламную политику в XXI веке.


Преступные эмбарго (Защита прав на интеллектуальную собственность препятствует распространению наукоемких продуктов, технологий и культурных ценностей)

В книге рассказывается история главного героя, который сталкивается с различными проблемами и препятствиями на протяжении всего своего путешествия. По пути он встречает множество второстепенных персонажей, которые играют важные роли в истории. Благодаря опыту главного героя книга исследует такие темы, как любовь, потеря, надежда и стойкость. По мере того, как главный герой преодолевает свои трудности, он усваивает ценные уроки жизни и растет как личность.