Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - [85]
Многие направления социальных и гуманитарных наук могут внести свой вклад в этот процесс, поскольку сама природа экспертных знаний со временем переопределяется, приобретая иной облик. Новые области (такие как честность, подотчетность и прозрачность машинного обучения) развиваются в реальном времени, поскольку университеты пытаются удовлетворить запросы студентов и общества. Когда специалисты по компьютерным наукам и исследователи операций изучают более качественные способы достижения наших целей, постоянно и неизбежно возникает сопротивление со стороны тех, кто способен сформулировать человеческие ценности, включенные в традиционные подходы. Когда властители мнений в области ИИ говорят, что людям надо стать в эмоциональном плане более «адаптивными», чтобы машины могли их понимать, проницательные комментаторы могут заметить, что подобная дисциплина искажает и принижает опыт[560]. Уместные эмоциональные реакции не сводятся к ощущению: в них знание сочетается с чувством, что позволяет раскрыть тревожные или ценные стороны ситуации. Как мы уже отметили ранее, когда обсуждали уход за детьми и пожилыми людьми, в подобных реакциях воплощается нечто жизненно важное и человечное. Самым важным станет создание институтов, в которых мы сможем внимательно исследовать подобные вопросы, но не слепо следовать им, словно бы они были навязаны нам чьим-то диктатом[561]. Подходящим форумом для подобных исследований могут стать лучшие университеты, обучающие студентов чувствам и наукам, самопознанию и исследованию мира.
От субсидий к субсидиарности
Будет ли справедливо, если государство станет платить (прямо или косвенно), помогая гражданам понять, как лучше развивать или ограничивать технологию? Не может ли предоставить такие знания рынок? Хотя подобная критика субсидий в политических кругах встречается довольно часто, есть два уровня, на которых она не работает. Во-первых, инвестиции в образование, исследования и разработки, как и истинный прогресс медицинского обеспечения, принесли огромную долгосрочную прибыль, стимулируя экономический рост. Во-вторых, даже если не считать инструментальной пользы, такие инвестиции ценны сами по себе.
Индивидуальные рыночные трансакции не всегда ведут к общему социальному благу, и нельзя даже сказать, что оно является их результатом чаще всего. Несомненным свидетельством этого стал сегодняшний кризис глобального потепления. Действительно, как доказывают последствия избыточного веса и курения, такие трансакции часто составляют проблему даже для тех, кто в них участвует[562]. Еще хуже рынок может обеспечивать инвестиции, необходимые для долгосрочных социальных благ, таких как образование. С другой стороны, у типичной фирмы нет мотивов совершенствовать навыки работника, учитывая то, что он может легко переметнуться к конкуренту. Высшее или специальное образование – не та вещь, на которую типичный работник может (или должен) делать ставку, если у него нет тех или иных субсидий, особенно в эпоху быстрых технологических и социальных перемен.
Нам надо всерьез задуматься о том, как поддержать и расширить образовательный сектор, действительно способный готовить людей к тому, чтобы пользоваться новыми возможностями труда (и досуга), предлагаемыми цифровой революцией. И если в начале XIX в. среднее образование стало бесплатным и общедоступным, точно так же минимумом для всех граждан должно стать право на четырехлетнее высшее образование. Некоторые могут посетовать на то, что субсидии попросту повышают стоимость обучения. В той мере, в какой его стоимость неоправданна, можно ввести контроль цен. Однако применять его следует с осторожностью, поскольку экономический рост поддерживается образованием как прямо, так и косвенно[563].
Экономисты, занимающиеся образованием, обычно упускают из вида политические аспекты широкого распространения знаний и других способов, необходимых для управления и применения технологии, как и для ее развития. Чтобы демократия не сводилась к периодическим походам к будке для голосования, нам нужно, чтобы как можно больше людей были причастны к формированию того, что Эндрю Финберг называет «техносистемой», представляющей собой «вторую природу» инструментов, медиа и интерфейсов, которые определяют сами наши жизни. Это не столько экономический принцип, сколько вариант определенного идеала правления. Такой принцип, известный как «субсидиарность», требует, чтобы ответственность передавалась на самый нижний уровень, который только может справиться с данной проблемой. Распространенная форма субсидиарности – федерализм. Например, в ЕС и США ответственность за определенные вопросы (такие как содержание исторического образования) передается на нижний уровень.
Сохранение человеческого контроля над системами ИИ представляет собой еще одну форму субсидиарности, скорее функциональную, чем территориальную. Представим, например, ответственность за учебный класс. При централизованном подходе одно общенациональное ведомство сосредоточило бы в себе власть над точным составом преподаваемого материала, над дисциплиной, отдыхом и даже переменами. ИИ мог бы наделить такой орган полномочиями с помощью камер и программного обеспечения для мониторинга класса, запрограммировав на общенациональном уровне управление поведением, тогда как локальный контроль требует передачи такой власти инспекторам, директорам и, конечно, учителям. Сохранение человеческого контроля над системами ИИ потребует подобного делегирования ответственности в масштабах всей экономики. Как было заявлено в одной инициативе Института инженеров электротехники и электроники, даже если роботы «дешевле, предсказуемее и их проще контролировать, чем работников-людей, основная их сеть должна оставаться на каждом уровне принятия решений, чтобы можно было гарантировать сохранение человеческой автономии, коммуникации и инновации»
