Вселенная. Емкие ответы на непостижимые вопросы - [58]

Таким образом, по мнению большинства экспертов, до конца этого века у нас будет устройство не глупее среднего человеческого существа. Это первая неопределенность. Сегодня мы на пологом подъеме, но в какой-то момент в ближайшем будущем кривая может уйти вертикально вверх. Вопрос, не на переломе ли мы уже сейчас? Или пологий подъем будет продолжаться? Вторая большая неопределенность – это путь. Как мы попадем туда? Будет ли это сверху вниз и намеренно или снизу вверх? Сверху вниз означает, что мы поймем, как работает мозг, создадим программную модель этого мозга и запустим ее на каком-либо устройстве.

Современные технологии машинного обучения уже на самом деле довольно близки к этому, потому что один из способов работы мозга – это запоминание, мы видим одни и те же вещи много раз и со временем в нейронах прокладываются тропинки, придающие им смысл, они запоминаются. Так и работает машинное обучение, вы показываете машине множество примеров, и она усваивает, как выглядит кошка, или собака, или яблоко, или ваше лицо, между прочим. Это путь сверху вниз.

Однако все может произойти иначе, снизу вверх – множества разных вычислений могут быть соединены в то, что Марвин Минкси называл «общество разума». Однако если оно и может появиться, очень трудно предсказать, когда именно. Особенно тревожный сценарий предсказывает, что это может произойти даже случайно.

Последняя неопределенность – будет ли ИИ полезным? Принесет ли он плоды? К примеру, в недавнем фантастическом фильме «Она», где ИИ был помощником человеческого существа, прекрасным, благодаря чудесному голосу Скарлетт Йохансон. Конечно, ИИ наскучило человечество, и он оставил нас позади, но это был милостивый ИИ. Но фактически мы видим, что ограниченный ИИ, о котором я говорил выше, очень полезен для повышения производительности. Наша компания использует ИИ для повышения производительности людей. И, если вы задумаетесь о растущей занятости в секторе услуг, где производительность не растет, это инструмент повышения производительности и роста нашей экономики.

Итак, вот эти три большие неопределенности. Проясняет ли это ситуацию? Каковы возможные пути? Каковы сроки? Это подводит нас к нескольким особенно непростым вопросам. Например, действительно ли сознание имеет значение? Должна ли машина на самом деле знать, что она разумна? Философ Джон Сирл утверждал, что в этом отношении есть по крайней мере два вида разумности. Одна – сильный ИИ, то есть самоосознающий и имеющий то, что мы подразумеваем под сознанием. Другая – слабый ИИ, который функционирует так, как если бы у него было сознание. Он неотличим от осознающего существа, хотя на самом деле сознания у него нет.

Я не думаю, что это имеет значение с практической точки зрения. Философски – может быть, но с точки зрения нашего взаимодействия с ИИ разницы, пожалуй, нет. Еще один важный вопрос – похож ли вообще мозг на компьютер – вычисляет ли он вообще? Мы использовали компьютерную метафору для описания мозга и метафору мозга для описания компьютера. И фактически, сегодня ИИ – это программное обеспечение, работающее на «железе», нет ничего необычного в том, чтобы думать о нем с этой точки зрения.

Но и наш разум живет в теле – у него есть руки, есть глаза, есть ноги и прочее. У него есть опыт, есть эмоции, есть ощущения и так далее. Может ли быть бестелесный разум? Есть ли в этом на самом деле смысл? Может быть, нам нужна радикально иная модель мозга? Например, мы не могли бы прийти к современной физике твердого тела без квантовой теории, туда не попадешь через Ньютонову физику. Так что возникает вопрос – можем ли мы получить этот настоящий искусственный интеллект с сегодняшними моделями, сегодняшней математикой, сегодняшними концепциями того, как работают мозг и компьютер?

Это также приводит нас к важным вопросам о таких вещах, как этика роботов. Мы все знаем о трех законах робототехники Азимова – роботы не могут причинять вред человеческим существам, они должны подчиняться человеческим существам и должны беречь себя, если это не противоречит первым двум законам. Мы уже размышляли над этим в течение многих лет, но мне крайне интересно, в самом ли деле машина похожа на человеческий мозг. Пока что это для меня один из действительно больших вопросов.

Еще один важный элемент – это воздействие на занятость. Если посмотреть на недавнюю динамику занятости, скажем, в Соединенных Штатах, можно увидеть, что есть две большие категории работ: есть неповторяющиеся когнитивные задачи, например, написать статью, выполнить научные исследования, провести терапию, обслуживать за столом в качестве официанта, быть сантехником – это нерутинная физическая работа, а есть множество рутинных задач, и число нерутинных рабочих мест возросло с 30 до 60 миллионов, а рутинные практически не изменились. Это говорит о том, что автоматизация затрагивает рабочие места с рутинным трудом, и так и будет продолжаться. Тогда вопрос сводится к тому, перехватят ли роботы и нерутинные работы, вроде тех, на которых заняты все мы. Вот этого, я думаю, опасаются все.

Если соединить все эти неопределенности, пути, ключевые вопросы и сроки, мы получим несколько сценариев. Один можно назвать «сценарием колосса» – поистине разрушительного гигантского компьютера, который создан по алгоритму «сверху вниз», супер-ИИ, который пытается захватить мир. (Я думаю, что это крайне маловероятный сценарий для любого ближайшего будущего, да и вообще какого-нибудь будущего. Его реализация очень трудна и займет очень много времени. Кроме того, мне кажется, что пути реализации этого сценария малореалистичны). С другой стороны, второй сценарий, малый ИИ, как я описывал выше, уже здесь. Он создан по алгоритму «сверху вниз», узкофункционален, очень полезен и делает мир намного производительнее.