Технологии Четвертой промышленной революции - [14]

В итоге технологии связаны со всем, что мы знаем, с тем, как мы принимаем решения и как мы думаем о себе и других. Они связаны с нашей самоидентификацией, с нашим мировоззрением и вероятным будущим. Значение технологий, будь то ядерные разработки, космическая гонка, смартфоны, социальные сети, машины, медицина или инфраструктура, делает их политическими. Даже концепция «развитой» страны опирается на уровень применения технологий и на их экономическое и социальное значение.

Многие ученые и технологи уже признали политические аспекты технологий. Например, Институт инженеров по электротехнике и электронике (Institute of Electrical and Electronics Engineers, IEEE) в своей Глобальной инициативе по этическим соображениям относительно искусственного интеллекта и автономных систем (Global Initiative for Ethical Considerations in Artificial Intelligence and Autonomous Systems) называет ИИ «социотехнической системой»{24}. Необходимость глубоких размышлений о ценности ИИ привела к появлению ряда общественных инициатив, координируемых академическими, правительственными и промышленными экспертами. Наффилдский совет по биоэтике определяет биотехнологии как «сочетание знаний, практик, продуктов и приложений»{25}. В объяснении этого определения указывается, что биотехнологии, как и люди, – это больше, чем сумма физических частей:

Несмотря на большое разнообразие биотехнологий, условия, приводящие к появлению только определенных сочетаний в конкретном социально-историческом контексте, рождают общий ряд проблем. К этим условиям относятся и естественные ограничения, и добровольный выбор (даже если он не всегда осознанный или очевидный). При этом выбор зависит от сложных суждений, включающих ценности, убеждения и ожидания, связанные с технологиями и их применением. То, как совершается этот выбор, как оцениваются, включаются или исключаются разные ценности, убеждения и ожидания, имеет важные этические и политические аспекты, как и сама природа этих соображений.

Любая технология несет в себе отражение ценностей, целей и убеждений ее создателей. И чем мощнее технология, тем важнее понимать то, что в нее заложено.

Чаще всего экономические мотивы диктуют, какие технологии целесообразно развивать, как их реализовывать и применять. Эти мотивы можно распознать по социальным последствиям. Например, недавно обсуждалось, этично ли (и сколько это будет стоить) фильтровать цифровой контент для борьбы с фальшивыми новостями. Это обсуждение непосредственно связано с экономическими императивами технологических компаний, с архитектурой их платформ, с их приемами отслеживания, сегментации и доставки контента группам потребителей. В среде цифровых социальных медиа, как и в традиционной индустрии газет, телевидения и радио, экономическое давление и методы управления продуктами определяют, что и как становится известно миллиардам людей. Открытая природа Интернета позволяет быстро масштабировать технологии социальных медиа, но при этом чрезвычайно усложняет мониторинг сетей в поисках контента, который считается «асоциальным».

Признавая, что технологии олицетворяют определенные социальные установки, интересы и цели, мы получим больше возможностей, чтобы инициировать изменения. Одновременно мы будем обязаны брать на себя ответственность, потому что не сможем ни винить в нежелательных последствиях только технологии, ни игнорировать их влияние на наши решения. Признать это – значит взять на себя три обязанности:

1. Определить ценности, связанные с конкретными технологиями.

2. Понять, как технологии влияют на наш выбор, на принятие решений.

3. Определить наилучшие способы влияния на развитие технологий для всех заинтересованных сторон.

В политических переговорах между представителями общества, технологий и бизнеса именно мы должны определять, какое внимание будет уделено общественным ценностям.

Приоритет общественных ценностей

Поскольку технологии тесно интегрированы в общество, на нас лежит ответственность за определение направления их развития и обязанность объявить приоритет общественных ценностей. Хотя технологии часто воплощают те ценности, которые заложены в их структуру и предназначение, непросто решить, какими должны быть эти ценности. Джон Хэвенс (John Havens) из IEEE сформулировал эту проблему так: «Как машины узна́ют, каковы наши ценности, если мы сами этого не знаем?.. …Мы не сможем улучшить благосостояние человечества, если не уделим время определению наших общих ценностей, чтобы создавать технологии, которые наверняка будут отвечать этим идеалам»{26}.

Разные люди и общества ценят разные вещи, поэтому всегда будут разногласия в социальных и культурных точках зрения на технологии. Тот факт, что разные культуры и типы ценностей ведут к различиям в приоритетах, не должен мешать ценностно-ориентированному подходу к технологиям. Наоборот, чем больше мы об этом думаем, тем лучше поймем, какие приоритеты критически важны для обществ, как технологии повлияют на ценности и как будут их поддерживать. Вполне возможно найти ряд ценностей, общих для большинства культур. В документе «Новое социальное соглашение» (A New Social Covenant) Совет Всемирного экономического форума по глобальной повестке дня по вопросам ценностей в 2012–2014 годах определил «широкий консенсус между представителями различных культур, религий и философий относительно некоторых общечеловеческих стремлений», которые представляют «мощный объединяющий идеал» для «преданных друг другу личностей, уважающих будущие поколения»