Совместимость. Как контролировать искусственный интеллект - [38]

С другой стороны, машина могла бы провести множество экспериментов, необходимых для построения модели, параллельно интегрировать их результаты в согласованную (хотя и очень сложную) модель и сравнить ее предсказания с комплексом экспериментальных данных, доступных биологическим экспериментам. Более того, для этого необязательно квантово-механическое моделирование всего организма вплоть до уровня реакций отдельных молекул — что, отмечает Келли, потребовало бы больше времени, чем эксперименты в реальном мире. Как я могу с определенной уверенностью спрогнозировать, где буду находиться по вторникам в апреле, так и свойства биологических систем можно точно предсказывать на абстрактных моделях, в том числе потому что биология оперирует надежными системами управления на основе комплексных схем обратной связи, и мелкие колебания исходных условий обычно не приводят к крупным отклонениям результатов. Таким образом, хотя маловероятно, чтобы машины сделали научные открытия прямо сейчас, можно ожидать, что с помощью машин наука станет развиваться намного быстрее. Собственно, это уже происходит.

Последнее ограничение машин — они не люди. Это приводит к их объективной слабости при моделировании и предсказании поведения одного специфического класса объектов — людей. Наши мозги очень похожи, соответственно, мы можем ими одинаково пользоваться для того, чтобы моделировать — или, если угодно, переживать — умственную и эмоциональную жизнь других людей. Нам это ничего не стоит. (Если задуматься, машины в отношениях друг с другом имеют еще большее преимущество: они могут буквально выполнять коды друг друга!) Например, мне не нужно быть специалистом по нервным сенсорным системам, чтобы знать, что вы чувствуете, попав молотком по своему пальцу. Машины же должны практически[136] с нуля учиться понимать людей. Они имеют доступ лишь к нашему внешнему поведению, ко всей литературе по нейронауке и психологии и на этой основе должны выработать понимание того, как мы функционируем. По идее, им это по силам, но разумно предположить, что это займет у них больше времени, чем освоение всех остальных возможностей.

В чем польза людям от ИИ?

Благодаря интеллекту мы имеем цивилизацию. Получив доступ к более сильному интеллекту, мы могли бы построить более великую — и, возможно, лучшую — цивилизацию. Можно размышлять о решении крупнейших проблем, стоящих перед человечеством, например бесконечном удлинении жизни или открытии способа путешествия со сверхсветовой скоростью, но эти символы научной фантастики пока не являются движущей силой прогресса в разработке ИИ. (Благодаря сверхинтеллектуальному ИИ мы, вероятно, смогли бы изобрести всевозможные почти волшебные технологии, но сейчас их трудно конкретизировать.) Лучше рассмотрим намного более прозаическую цель: повышение уровня жизни каждого землянина устойчивым образом до такого уровня, который считался бы весьма достойным в развитой стране. В силу выбора (отчасти произвольного) характеристики «достойный» для обозначения 88 % самых благополучных жителей Соединенных Штатов указанная цель предполагает почти десятикратный рост глобального валового национального продукта (ВНП), с $76 трлн до $750 трлн в год[137].

Чтобы подсчитать ценность подобного достижения, экономисты используют чистую приведенную стоимость дохода, учитывающую дисконт будущего дохода относительно настоящего. Дополнительный доход в $674 трлн в год имеет чистую приведенную стоимость около $ 13 500 трлн[138] при предполагаемой величине дисконта в 5 %. Итак, в самом грубом приближении это ориентировочный показатель того, что стоил бы ИИ человеческого уровня, если бы смог обеспечить достойный уровень жизни каждому. При подобных цифрах неудивительно, что компании и страны вкладывают десятки миллиардов долларов в год в исследование и разработку ИИ[139]. Тем не менее инвестиции ничтожны в сравнении с выгодой.

Конечно, все это лишь умозрительные цифры, пока у кого-нибудь не появится идея, как ИИ человеческого уровня мог бы достичь цели повышения уровня жизни. Он сможет это сделать, только увеличив среднедушевое производство товаров и услуг. Иначе говоря, не приходится ожидать, что средний человек мог бы потребить больше, чем производится средним человеком. Пример автономных такси, приведенный ранее в этой главе, иллюстрирует мультипликативный эффект внедрения ИИ: при наличии автоматической службы десять (скажем) человек могли бы управлять армадой из тысячи транспортных средств, так что один человек производил бы в сто раз больше услуг по транспортировке, чем прежде. То же самое можно сказать о производстве автомобилей и добыче материалов, из которых эти автомобили изготавливаются. Кстати, добыча железной руды в некоторых шахтах северной Австралии, где температура регулярно превышает 45 °C, уже сейчас почти полностью автоматизирована[140].

Современные применения ИИ являются специализированными: автономные автомашины и шахты требуют громадных инвестиций в исследования, проектирование конструкций, разработку программного обеспечения и тестирования с целью получения необходимых алгоритмов и проверки того, что они работают именно так, как должны. Такая картина наблюдается во всех сферах инженерного дела. Точно так же дело обстояло и в сфере путешествий: если вы хотели съездить из Европы в Австралию и обратно в XVII в., это был бы сложный проект, очень дорогостоящий, требующий нескольких лет планирования и сопряженный с высоким риском для жизни. Теперь мы привыкли к идее путешествий как к одной из услуг: если вам необходимо быть в Мельбурне в начале следующей недели, нужно всего лишь несколько раз нажать на экран смартфона и заплатить относительно небольшую сумму.