Четвертая промышленная революция - [39]

До настоящего времени технологии в первую очередь позволяли нам делать все с меньшими усилиями, быстрее и эффективнее. Они также давали нам возможности личного развития. Но мы начинаем видеть, что потенциальные возможности их использования, как и потенциальные риски, еще более масштабны. В силу всех тех причин, которые уже были названы, мы стоим на пороге радикального системного изменения, к которому людям придется непрерывно приспосабливаться. В результате мы можем стать свидетелями нарастающей поляризации в мире, которая разделит тех, кто принимает происходящие изменения, и тех, кто им сопротивляется.

Это приводит к неравенству, которое выходит за рамки неравенства социального, описанного выше. Это онтологическое неравенство разделит тех, кто приспособился, и тех, кто сопротивляется переменам, превратив их, по сути, в победителей и неудачников. Победители могут даже получить выгоду от некоторых проявлений радикального улучшения человека, возникших в результате деятельности определенных секторов четвертой промышленной революции (например, генной инженерии), тогда как неудачники таких возможностей будут лишены. Существует риск, что в результате этого возникнут классовые конфликты и другие столкновения интересов, не похожие ни на что из виденного раньше. Эти потенциальное разделение и напряженность, которую оно порождает, будут усугубляться границей, пролегающей между поколением, которое выросло в цифровом мире и знало только его, и поколением, которое родилось раньше и должно приспосабливаться к новым условиям. Это также порождает много проблем этического характера. Будучи инженером, я с большим энтузиазмом встречаю новые технологии и в числе первых начинаю их использовать. Тем не менее мне, так же как и многим психологам и социологам, интересно, как неумолимо интеграция технологий в нашу жизнь будет воздействовать на наше представление об идентичности и приведет ли она к снижению некоторых из наиболее существенных способностей человека, таких как самоанализ, эмпатия и сострадание.

Идентичность, мораль и этика

Ошеломляющие инновации, возникшие в ходе четвертой промышленной революции (от биотехнологий и до искусственного интеллекта), по-новому определяют то содержание, которое вкладывается в понятие «быть личностью». Они расширяют существовавшие до сих пор границы продолжительности жизни, здоровья, познавательных способностей и других возможностей человека способами, которые ранее были прерогативой научной фантастики. Поскольку знания в этих областях развиваются, поскольку совершаются новые открытия, для нас крайне важно внимательно и ответственно отнестись к продолжающемуся обсуждению связанных с этим моральных и этических вопросов. Как люди и как социальные животные, мы должны задуматься, каждый в отдельности и все вместе, как нам реагировать на такие явления, как увеличение продолжительности жизни, создание «дизайнерских младенцев», извлечение информации из человеческой памяти, а также на многое другое.

В то же время мы должны понимать и то, что эти невероятные открытия можно направить на службу интересам конкретных групп, не всегда совпадающим с нуждами общества в целом. Стивен Хокинг, физик-теоретик и автор книг, а также его коллеги-ученые Стюарт Рассел, Макс Тегмарк и Фрэнк Вильчек, написали в своей статье в газете The Independent, посвященной последствиям внедрения искусственного интеллекта: «Если краткосрочное воздействие искусственного интеллекта зависит от того, кто его контролирует, то долгосрочное – от того, будет ли вообще возможен такой контроль… Все мы должны задать себе вопрос о том, что мы можем сделать сейчас, чтобы повысить шансы на извлечение выгоды и при этом избежать рисков»[61].

Одним из интересных проектов в этой области является OpenAI – некоммерческая компания по исследованиям искусственного интеллекта, которая была создана, как об этом объявили, в декабре 2015 года, с целью «развития цифрового интеллекта в тех направлениях, которые с наибольшей вероятностью будут служить во благо человечеству в целом, без ограничений, которые накладывала бы необходимость генерировать прибыль»[62]. Эта инициатива под председательством Сэма Альтмана, президента компании Y Combinator, и Элона Маска, генерального директора Tesla Motors, смогла привлечь целый миллиард долларов бессрочного финансирования. Она подчеркивает ключевую мысль, уже высказанную ранее, а именно: одно из самых значительных воздействий, оказываемых четвертой промышленной революцией, состоит в потенциальном расширении прав и возможностей человека, которое дает объединение новых технологий. Здесь, как сказал Сэм Альтман, «лучший способ развития для искусственного интеллекта будет тот, который направлен на обогащение возможностей человека и его совершенствование, при этом такие возможности должны предоставляться всем безвозмездно»[63].

Специалисты и ученые отлично осознают и активно обсуждают воздействие на человека определенных технологий, таких как Интернет или смартфоны. Другие последствия рассмотреть и понять гораздо сложнее. Так обстоит дело с искусственным интеллектом или с биологическим синтезом. В ближайшем будущем могут появиться младенцы, созданные по замыслу разработчиков, а также может быть внесен целый ряд других поправок в характеристики человека – от искоренения генетических заболеваний до усиления познавательных способностей. В результате этого перед нами встанут некоторые из самых масштабных нравственных и духовных вопросов, с которыми мы, люди, должны разобраться (см.