Архитекторы интеллекта. Вся правда об искусственном интеллекте от его создателей - [93]

Можно ли обучить нейронную сеть на данных, присваивающих каждому английскому рассказу его значение? Возможно, да. Но такие данные у нас отсутствуют, и мы не знаем, как изучать их с точки зрения сложности функции. Я не знаю, как при современном состоянии нейронных сетей должна выглядеть методология получения такой информации. Кое-какие идеи у меня, конечно, имеются. И для этого я использую и нейронные сети, и другие методы машинного обучения как часть комплексной архитектуры.

М. Ф.: В документальном фильме «Доверяете ли вы этому компьютеру?» вы сказали, что через три-пять лет появится компьютерная система, которая найдет общий язык с человеком. Каким образом?

Д. Ф.: Это, конечно, нереалистичный срок, но, мне кажется, такие технологии вполне могут появиться в течение следующего десятилетия. Я думаю, что быстрый прогресс начнется в таких аспектах, как восприятие и контроль. Это сильно повлияет на общество, рынок труда, национальную безопасность и производительность. Третий аспект – понимание – при этом даже не будет затронут, но это позволит привлекать людей к решению задач, связанных с языком и мышлением.

Называя срок от трех до пяти лет, я имел в виду, что рабочие идеи у нас уже есть, просто нужны инвестиции в определенные разработки. Если бы я не знал способа достичь сильного ИИ, оценка срока была бы совсем другой. Пока деньги по большей части вкладываются в машинное обучение из-за быстрой окупаемости. Я же пытаюсь привлекать инвестиции в технологию, которая позволит развить понимание. В отличие от других, я не считаю, что для достижения сильного ИИ нужно ждать какого-то огромного прорыва. Думаю, мы уже знаем, как действовать, просто нужно доказать эффективность этого пути.

М. Ф.: То есть компания Elemental Cognition занимается вопросами сильного ИИ?

Д. Ф.: Мы работаем над созданием естественного интеллекта, способного автономно обучаться, читать и понимать, и таким способом мы хотим получить ИИ, умеющий свободно общаться с людьми.

М. Ф.: Мне известна всего одна компания, которая также занимается этой проблемой – DeepMind. Поразительно, насколько разные подходы вы применяете. В DeepMind ориентируются на глубокое обучение с подкреплением в играх и симуляциях, а от вас я слышу, что путь к интеллекту лежит через язык.

Д. Ф.: Я бы немного переформулировал нашу цель. Мы хотим создать интеллект, основанный на логике, языке и разуме, совместимый с человеческим. Другими словами, мы работаем над системой, умеющей обрабатывать язык, как это делают люди. Помимо нейронных сетей мы применяем длинный диалог, формальные рассуждения и формальные логические представления. Для вещей, которые невозможно эффективно изучать с помощью нейронных сетей, мы находим другие способы работы.

М. Ф.: Если я правильно помню, еще вы работаете над обучением без учителя, которое, как мне кажется, повлияет на реальный прогресс в сфере ИИ.

Д. Ф.: Мы применяем оба варианта обучения. Например, используем обучение без учителя на больших текстах, а обучение с учителем – на аннотированных информационных материалах.

М. Ф.: Ждет ли нас в ближайшем будущем экономический спад с массовой потерей рабочих мест?

Д. Ф.: Не знаю, ждут ли нас такие же драматические события, как после промышленной революции, но мне кажется, что ИИ несет с собой не менее резкие перемены. Многие столкнутся с необходимостью переквалификации. Переход будет болезненным, но, в конце концов, он может привести к появлению еще большего числа рабочих мест. Потому что работы меньше не станет, изменится только ее характер.

М. Ф.: А как быть с проблемой несоответствия навыков?

Д. Ф.: Разумеется, новые рабочие места будут недоступны людям без специальной подготовки. Но я уверен, что появится и много других рабочих мест, например, в сфере здравоохранения, таких, в которых важен аспект общения с людьми.

Мы считаем, что в будущем нас ждет тесное и свободное партнерство людей и машинного интеллекта. Людям не нужно будет долго учиться, чтобы получить доступ к знаниям и эффективно их применять. Компьютеры же в рамках этого сотрудничества смогут лучше нас понять. Мы хотим, чтобы компьютеры стали совместимы с людьми, так почему бы не заплатить тем, кто поможет достичь этой цели? Экономика взаимодействия людей с машинами очень интересная тема, но нас ждет длинный переходный период.

М. Ф.: Как вы относитесь к опасностям, которые, если верить Илону Маску и Нику Бострому, несет в себе суперинтеллект?

Д. Ф.: Я думаю, что каждый раз, когда мы даем машинам какие-то рычаги влияния, появляется множество причин для беспокойства. Любая ошибка компьютера, контролирующего электрические сети, системы вооружения или беспилотные автомобили, может спровоцировать серьезную катастрофу. Ситуация становится еще более серьезной в случае проблем с компьютерной безопасностью. Об этом все время следует помнить. Тем более что с помощью компьютеров мы контролируем все больше и больше важных сфер, таких как транспорт, питание и национальная безопасность. Это пока еще не ИИ, но все подобные системы следует проектировать очень тщательно и продумывая возможные точки отказа.