Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - [109]
Рассказы о будущем движут экономикой и обществом, они не являются всего лишь вторичной попыткой понять то, что уже случилось. Эта идея, восходящая к Кейнсу, недавно было заново проработана в книге нобелевского лауреата Роберта Шиллера «Нарративная экономика»[707]. Не существует физики рынков; экономика с начала и до конца – гуманитарная наука, и она останется непредсказуемой, пока у людей есть свобода воли. Как отметил Деннис Сноуэр, председатель Института мировой экономики в Киле, «стандартные статистические анализы больше не могут считаться валидными. Они предполагают, что нам известны вероятности, с которыми будут случаться события. На самом деле мы почти всегда такого знания лишены»[708]. Нарративы (в их доступных версиях) критически важны для представления будущего[709]. Речь идет не обязательно о компрометации истины или обоснованности. Профессор права и социальный теоретик Джек Балкин утверждал: «Структуры нарративной памяти особенно полезны для памяти о вещах, которые опасны или, наоборот, выгодны, для сложных эмпирических суждений о будущем, для определения того, какой порядок действий принесет пользу, для воспоминания о том, как делать вещи в определенной последовательности, а также для заучивания социальных условностей и следования им»[710]. Глубокое осмысление того, как именно люди выносят «сложные эмпирические суждения», – это основание предсказательного социального исследования, нацеленного не только на выявление паттернов прошлого, но также и на определение облика будущего.
Когда стандартная экономика, отстаивающая принципы laissez-faire, теряет свои облачения объективизма, появляется больше пространства для возникновения и развития новых способов коммерческой жизни[711]. Пришла пора рассказать новые истории о природе и целях курса на автоматизацию.
Автоматизированные структуры не должны существовать просто для того, чтобы довести нас или наши данные из пункта А в пункт Б по наименьшей цене; они должны быть еще и источником справедливо оплачиваемого и безопасного труда. Наши инвестиции в робототехнику не должны быть попросту способом накопления денег на пенсию; они должны работать, чтобы был мир, в котором мы захотим выйти на пенсию. Слишком легко тратить ресурсы на конкуренцию, поэтому третий новый закон робототехники требует контролировать многие секторы общественной жизни, чтобы в них не складывалась динамика гонки вооружении[712].
Прогресс в области вычислений и машинного обучения создал социотехнические системы, которые кажутся почти что магическими или для человека необъяснимыми. Даже лучшие инженеры в Google или Facebook не смогли бы выполнить обратный инжиниринг определенных алгоритмов поиска или новостных лент. В силу ускорения обработки и ввода данных цифровой мир может показаться таким же неуправляемым и неспокойным, как погода. Как отметила инженер и философ Мирей Хильдебрандт, для нас цифровая среда все чаще будет столь же влиятельной и важной, как и естественный мир[713]. Техноцен дополняет антропоцен, напоминая нам о том, какое значение могут приобрести непреднамеренные последствия. Новые законы робототехники, даже если они не станут частью формального законодательства, способны помочь нам вообразить будущее, в котором ИИ уважает человеческое достоинство и идентичность, помогая их сохранить.
Эстетический ответ и моральное суждение
Один из наиболее глубоких художественных примеров подобного воображаемого будущего – творчество художника Эрнесто Кайвано. Воплощенное в сотнях рисунков, картин и произведений смешанной техники, оно представляет собой не что иное, как грандиозное предсказание расхождения человека и машины, которое позволяет сохранять и уважать лучшие качества того и другого.
Хотя цифровая сфера оказывала самое разное влияние на мир изящных искусств и эстетики, немногие художники ответили на него такими же амбициозными и пронзительными работами, как у Эрнесто Кайвано. В поразительной серии рисунков под названием «После лесов» Кайвано рассказал историю несчастных влюбленных – Версуса и Полигон, чей роман, разлука и последующая эволюция служат аллегорией фундаментальных противоречии и резонансов природы и технологии[714]. Джоао Рибае, бывший куратор List Visual Art Center в MIT назвал этот нарратив «смесью фольклора, волшебной сказки и научной спекуляции», которая «служит поиску смысла, потерянного в нашем изобилии информации»[715].
Стилистика работ разная – от драматической до строгой и формальной, и этим они напоминают разные слои реальности (начиная с действия и заканчивая репрезентацией на основе определенных данных), которые находятся между природой, культурой и технологией. Они плавно движутся от пылкого романтизма к экзальтированному исследованию иных универсумов и строгому изучению того, что значит использование кодов для репрезентации восприятий. В вычислительную эпоху, когда ведущие мыслители представляют Вселенную в качестве компьютера, а известнейшие экономисты предсказывают то, что паттерны труда большинства людей вскоре будут путем машинного обучения переведены в программы, Кайвано мудро и терпеливо строит серию эстетических ответов, чтобы восполнить ими моральные суждения и политические битвы, причиной которых стало господство вычислений.
