Архитекторы интеллекта. Вся правда об искусственном интеллекте от его создателей - [76]
М. Ф.: Идея представить математически структуру диалога была прорывом в области естественного языка. Каким образом вы к ней пришли?
Б. Г.: Изначально перед нами стояла задача построить систему, умеющую вести естественный беглый диалог с человеком. Алана Кея тоже интересовало создание систем, которые будут адаптироваться к людям, а не наоборот.
В то время в лингвистике велись работы над синтаксисом и формальной семантикой, а в computer science – над алгоритмами синтаксического анализа. Уже была известна огромная роль контекста, но не было инструментов, математического описания и вычислительных конструкций для учета контекста в речевых системах.
Нам нужно было получить образцы реальных диалогов, которые ведут люди, совместно решающие некую задачу. Для этого двух человек, играющих роли эксперта и ученика, посадили в разные комнаты, чтобы исключить невербальную передачу информации, и попросили эксперта объяснить ученику, как выполнить некие действия. Проанализировав полученные диалоги, мы смогли понять их структуру и то, как она зависит от структуры задачи.
Позднее совместно с Кенди Сиднер мы написали статью Attention, Intentions, and the Structure of Discourse («Внимание, намерения и структура дискурса»), в которой рассказали, что диалоги имеют структуру, которая обусловлена самим языком, причинами вступления в диалог и целями каждого участника. Эта интенциональная структура представляет собой обобщение структуры задачи. Всеми этими аспектами управляет модель состояния внимания.
М. Ф.: Если сравнивать разработки «тогда» и «сейчас», что сильнее всего изменилось?
Б. Г.: Мы перешли от практически глухих речевых систем к системам, которые потрясающе обрабатывают речь. Улучшился анализ предложений и вычленение значений из них.
Но диалоговые системы, по сути, не работают. Они отлично справляются со всем, что попадает в рамки заданных сценариев, но реальные люди редко так разговаривают. Иногда ошибки, которые совершает система, создают серьезную этическую проблему.
Аналогичным образом обстоят дела со встроенными в смартфоны персональными помощниками. Например, если спросить, где находится ближайший травмпункт, вы получите его адрес, а вот в ответ на вопрос, куда обратиться с вывихнутой лодыжкой, система, скорее всего, просто откроет веб-страницу с информацией о способах лечения растяжений.
С этими проблемами сталкиваются и диалоговые системы, способные обучаться на данных. Летом 2017 г., когда Ассоциация по компьютерной лингвистике вручала мне награду, я обратилась к тем, кто работает над системами естественного языка на базе глубокого обучения, и сказала, что микроблоги Twitter не годятся в качестве примеров диалогов – нужны реальные данные.
М. Ф.: Но ведь способность отойти от сценария и справиться с непредсказуемой ситуацией это и есть настоящий интеллект. Именно здесь проходит граница между автоматом или роботом и человеком.
Б. Г.: Вы совершенно правы. Вспомните философскую идею коммуникативной импликатуры, разработанную в 1960-х гг. Полом Грайсом, Джоном Остином и Джоном Серлем. Например, говоря компьютеру: «Принтер неисправен», человек хочет, чтобы система предприняла какие-то действия для устранения неисправности, а не просто ответила: «Спасибо, факт зафиксирован». Но такое возможно только в случае, когда система может вычленить смысл из того, что было сказано.
Современные системы игнорируют интенциональную структуру диалога. Другие признаки интеллекта в системах на базе глубокого обучения в большинстве случаев тоже отсутствуют: они не могут использовать контрафактное мышление или рассуждать с точки зрения здравого смысла. Все эти вещи нужны для участия в свободном диалоге, когда на слова и действия обеих сторон не наложено никаких ограничений.
М. Ф.: Помню, как меня поразила победа суперкомпьютера Watson от IBM в телевикторине «Своя игра». Это действительно крупный прорыв или же существуют какие-то более передовые разработки?
Б. Г.: Я считаю Siri и Watson феноменальными достижениями техники. Они поменяли наш способ взаимодействия с компьютерами. Но до человеческих способностей им все еще далеко.
Когда в 2011 г. я впервые поговорила с Siri, мне понадобилось всего три вопроса, чтобы понять, что передо мной не человек. А когда допускает ошибки Watson, сразу становится ясно, где именно язык обрабатывается не так, как это делают люди.
Но мы действительно феноменально продвинулись. Я в восторге от того, что ИИ появился и начал менять наш мир, потому что не думала его застать, ведь преграды на пути к нему казались слишком сложными.
М. Ф.: Вы действительно не верили, что ИИ появится при вашей жизни?
Б. Г.: Тогда, в 1970-х гг.? Нет, не верила.
М. Ф.: Watson удивил меня умением понимать каламбуры, шутки и сложные языковые конструкции.
Б. Г.: Если заглянуть внутрь этих систем, сразу станут заметными их ограничения. Для сферы ИИ, да и, честно говоря, для всего мира было бы полезнее, если бы мы не стремились заменить людей или создать сильный ИИ, а попытались понять, для чего лучше подходят способности компьютера и как мы можем взаимодополнять друг друга.
Эта книга о квантах – людях, управляющих рынками с помощью сложнейших математических моделей. Такой захватывающей истории о фондовом рынке вы еще никогда не читали.У вас в руках – шедевр журналистики, не просто поиск причины экономического кризиса, но и захватывающая история амбиций и гордыни, и предупреждение о будущем Уолл-стрит и всей мировой экономики.На русском языке публикуется впервые.
Смогут ли роботы обеспечить людям материальное изобилие, избыток свободного времени, качественную медицину и образование или же они превратят нашу планету в мир неравенства и массовой безработицы? Правда ли, что усердие и талант перестанут быть залогом жизненных достижений?Успешный разработчик программ и IT-предприниматель Мартин Форд не претендует на то, что знает ответы на все вопросы, но аргументированно и веско показывает, почему современные технологии способны оказаться намного более разрушительными для рынка труда, чем инновации прошлого.
1990 год. Из газеты: необходимо «…представить на всенародное обсуждение не отдельные элементы и детали, а весь проект нового общества в целом, своего рода конечную модель преобразований. Должна же быть одна, объединяющая всех идея, осознанная всеми цель, общенациональная программа». – Эти темы обсуждает автор в своем философском трактате «Куда идти Цивилизации».
Что же такое жизнь? Кто же такой «Дед с сигарой»? Сколько же граней имеет то или иное? Зачем нужен человек, и какие же ошибки ему нужно совершить, чтобы познать всё наземное? Сколько человеку нужно думать и задумываться, чтобы превратиться в стихию и материю? И самое главное: Зачем всё это нужно?
Украинский национализм имеет достаточно продолжительную историю, начавшуюся задолго до распада СССР и, тем более, задолго до Евромайдана. Однако именно после националистического переворота в Киеве, когда крайне правые украинские националисты пришли к власти и развязали войну против собственного народа, фашистская сущность этих сил проявилась во всей полноте. Нашим современникам, уже подзабывшим историю украинских пособников гитлеровской Германии, сжигавших Хатынь и заваливших трупами женщин и детей многочисленные «бабьи яры», напомнили о ней добровольческие батальоны украинских фашистов.
Память о преступлениях, в которых виноваты не внешние силы, а твое собственное государство, вовсе не случайно принято именовать «трудным прошлым». Признавать собственную ответственность, не перекладывая ее на внешних или внутренних врагов, время и обстоятельства, — невероятно трудно и психологически, и политически, и юридически. Только на первый взгляд кажется, что примеров такого добровольного переосмысления много, а Россия — единственная в своем роде страна, которая никак не может справиться со своим прошлым.
В центре эстонского курортного города Пярну на гранитном постаменте установлен бронзовый барельеф с изображением солдата в форме эстонского легиона СС с автоматом, ствол которого направлен на восток. На постаменте надпись: «Всем эстонским воинам, павшим во 2-й Освободительной войне за Родину и свободную Европу в 1940–1945 годах». Это памятник эстонцам, воевавшим во Второй мировой войне на стороне нацистской Германии.
Правда всегда была, есть и будет первой жертвой любой войны. С момента начала военного конфликта на Донбассе западные масс-медиа начали выстраивать вокруг образа ополченцев самопровозглашенных республик галерею ложных обвинений. Жертвой информационной атаки закономерно стала и Россия. Для того, чтобы тени легли под нужным углом, потребовалось не просто притушить свет истины. Были необходимы удобный повод и жертвы, чья гибель вызвала бы резкий всплеск антироссийской истерии на Западе. Таким поводом стала гибель малайзийского Боинга в небе над Украиной.