Совместимость. Как контролировать искусственный интеллект - [44]
Это не значит, что автономные системы вооружений станут концом мира в духе фильмов о Терминаторе. Они необязательно должны быть особенно интеллектуальными — самоуправляемый автомобиль, пожалуй, должен быть умнее, — и их миссии будут не из разряда «поработить мир». Экзистенциальный риск, который несет ИИ, проистекает, прежде всего, не из простоватых роботов-убийц. С другой стороны, сверхинтеллектуальные машины в конфликте с человечеством, безусловно, могли бы вооружиться подобным образом, превратив относительно тупых роботов-убийц в физическое продолжение всемирной системы управления.
Уничтожение привычной нам работы
Тысячи статей в СМИ и авторских колонок, немало книг было посвящено роботам, отнимающим работу у людей. По всему миру возникают исследовательские центры, пытающиеся представить возможное развитие событий[158]. Названия книг Мартина Форда «Роботы наступают. Развитие технологий и будущее без работы»[159] и Калума Чейса «Экономическая сингулярность: искусственный интеллект и смерть капитализма»[160] неплохо характеризуют эти опасения. Хотя я, что скоро станет очевидно, никоим образом не являюсь экспертом в вопросе, относящемся к компетенции экономистов, мне он кажется слишком важным, чтобы всецело им доверять[161].
Внимание к вопросу технологической безработицы привлекла знаменитая статья Джона Мейнарда Кейнса «Экономические возможности для наших внуков». Она была написана в 1930 г., когда Великая депрессия привела к массовой безработице в Британии, но сама тема имеет значительно более долгую историю. Аристотель в первой книге «Политики» достаточно четко формулирует ее суть:
Если бы каждое орудие могло выполнять свойственную ему работу само, по данному ему приказанию или даже его предвосхищая… если бы ткацкие челноки сами ткали, а плектры сами играли на кифаре, тогда и зодчие не нуждались бы в работниках, и господам не нужны были бы рабы[162].
Каждый согласится с наблюдением Аристотеля, что, если работодатель находит механический метод выполнения работы, которую прежде делал человек, это приводит к немедленному сокращению трудовой занятости. Вопрос в том, будет ли оно впоследствии нивелировано так называемыми компенсационными эффектами, в целом способствующими росту занятости. Оптимисты отвечают утвердительно и в сегодняшних дебатах указывают на новые виды работы, возникшие со времен предшествующих промышленных революций. Пессимисты отвечают отрицательно и утверждают, что машины будут делать и «новую работу». Если машина заменяет физический труд человека, человек может продавать свои умственные способности. Если же машина заменяет и умственный труд, что еще он может продать?
В романе «Жизнь 3.0» Макс Тегмарк изображает предмет этого спора как беседу двух лошадей, обсуждающих в 1900 г. внедрение двигателя внутреннего сгорания. Один собеседник предсказывает «новые виды работы для лошадей… Так всегда случалось прежде, когда, например, изобрели колесо и плуг». Для большинства лошадей, увы, «новый вид работы» заключается в том, чтобы пойти в корм для домашних животных.
Спор ведется тысячелетиями, поскольку эффекты наблюдаются в обоих направлениях. Реальный результат зависит от того, какие из них пересиливают. Рассмотрим, например, что происходит с малярами по мере совершенствования технологии. Для простоты будем считать, что толщина малярной кисти обозначает степень автоматизации:
• Если кисть имеет толщину в один волос (десятая доля миллиметра), требуются тысячи человеко-лет, чтобы покрасить дом, и, в сущности, нет ни одного трудоустроенного маляра.
• При кистях миллиметровой толщины горстка художников создает штучные изысканные росписи в королевском дворце. При толщине в один сантиметр моду на росписи перенимает знать.
• При десяти сантиметрах мы вступаем в область практического применения технологии: большинство домовладельцев заказывают покраску домов внутри и снаружи, хотя, пожалуй, не слишком часто, и тысячи маляров находят работу.
• Когда мы доходим до валиков и пульверизаторов, эквивалента кисти до метра толщиной, цена существенно падает, спрос удовлетворен и количество маляров несколько снижается.
• Если один человек управляет командой из сотни роботов-маляров, по производительности эквивалентных кисти стометровой толщины, то множество домов можно целиком выкрасить за час и лишь очень немногие маляры продолжают работать.
Итак, прямой эффект технологии действует в обе стороны. Сначала, повышая производительность, технология может увеличить занятость благодаря снижению стоимости труда, таким образом увеличивая спрос. Впоследствии дальнейшее продвижение технологии приводит к тому, что требуется все меньше и меньше людей. Эти изменения показаны на рис. 8[163].
Многие технологии демонстрируют аналогичные кривые. Если в определенном секторе экономики мы находимся слева от пика, то совершенствование технологии повышает занятость в этом секторе. Современными примерами являются такие виды работы, как устранение граффити, охрана окружающей среды, инспектирование транспортных контейнеров и строительство домов в менее развитых странах, — все это становится экономически более целесообразным, если нам помогают роботы. Если мы уже справа от пика, дальнейшая автоматизация сокращает занятость. Скажем, нетрудно предсказать, что количество лифтеров продолжит уменьшаться. В долгосрочной перспективе можно ожидать, что большинство отраслей будут оттеснены в крайнюю правую часть кривой. В одной недавней статье по результатам эконометрического исследования экономистов Дэвида Аутора и Анны Саломонс утверждается, что «за последние 40 лет количество рабочих мест сократилось буквально в каждом секторе, внедрившем технологии для повышения производительности»
