Технологии против человека - [11]

Шрифт
Интервал

Мораль и другие нравственные особенности свойственны только человеку

Сложность заключается в том, что в то время как технологии не знают этики, норм и веры, жизнь человека и общества целиком определяется ими. Машины когда-нибудь научатся считывать и понимать наши моральные соображения и этические проблемы, но смогут ли они проявлять сочувствие или эмпатию, обладать, как и мы, идентичностью? Ведь мы, грубо говоря, живем, ориентируясь на ценности, убеждения и менталитет, а не на алгоритмы и данные. Даже если машины это поймут и научатся воспроизводить, им все равно будет сложно перейти на наш способ существования.

Как я уже говорил, мы находимся в отправной точке экспоненциальной кривой, следующий шаг от которой будет резким переходом от четырех к восьми и затем к шестнадцати. Поэтому мы сталкиваемся с противоречием между тем, что технологии могут делать (ответ очевиден: практически все), и тем, что они должны сделать, чтобы послужить всеобщему счастью человечества. Ведь действительно непонятно, что же есть счастье само по себе, если не противопоставлять его таким очевидным проявлениям несчастья, как ограничение свободы, неравенство, бедность и болезнь (см. главу 9).

Очевидно, что технологии не знают и не хотят знать о счастье, самореализации, эмоциях, ценностях и убеждениях, несмотря на то что у них все лучше получается симулировать человеческие взаимоотношения. Они понимают только логику, рациональные действия, завершенность, эффективность, да и нет, ведь чтобы «обнаружить / идентифицировать счастье», нужно сначала стать счастливым, а это, в моем понимании, подразумевает телесность.

Технологии полностью отрицают все то, что дорого людям. Я считаю, что они не могут и не должны двигаться вверх по пирамиде Маслоу от основных потребностей до любви, самооценки и самореализации>24. Безусловно, с помощью нейронных сетей и глубокого обучения компьютеры уже смогли научиться таким сложным вещам, как игра в го[22] – и даже способны выигрывать>25. Теоретически они смогут научиться вести себя как люди. Тем не менее симуляция – не то же самое, что дублирование, опосредованная реальность – не сама реальность.

Технологии не знают этики – так и должно быть! В наш экспоненциальный век уже даже к мозгу и телу относятся как к механизированным объектам, как к модному wetware (программному обеспечению во плоти и крови). И мы можем только содрогнуться от страха, представив, как в компьютеры внедряют этику и убеждения, или как они сами их развивают. По мнению автора, нам не стоит вступать на этот путь. Сама идея о том, чтобы позволить машинам иметь бытие может рассматриваться как преступление против человечества.

Рожден и взращен внутри машины?

В качестве довольно жуткого примера рассмотрим противоречивую и широко обсуждаемую идею эктогенезиса – вынашивания ребенка в искусственной матке вне тела>26, которое станет возможным уже в ближайшие 15–20 лет.

Это представляет собой отличную иллюстрацию того, как технологическое «yes we can»[23] (да, мы сможем) способно отодвинуть на задний план самое основное из человеческих проявлений. Этот футуристический тип воспроизводства населения, конечно, будет менее обременительным и затратным для женщин, но, на мой взгляд, это пагубно и бесчеловечно по отношению к ребенку. Не знаю, как вы, но я с трудом понимаю, на чем основываются люди, которые продвигают такие идеи.

Хорошо ли это для человечества? Короткий опросник

Перед лицом экспоненциальных изменений и тех сложных решений, которые нам придется принимать, я предлагаю составить список вопросов, с помощью которых мы сможем судить о новых прорывах в области науки и технологий, к примеру:

• Нарушает ли эта идея права человека?

• Стремится ли эта идея заменить человеческие отношения механическими взаимодействиями?

• Ставит ли эта идея эффективность выше человечности, стремится ли она автоматизировать то, что не должно быть автоматизировано, например основные способы взаимодействия между людьми?

• Ставит ли эта идея традиционный, основанный на прибыли и росте ВВП способ мышления превыше базовой человеческой морали?

• Сводит ли эта идея человеческое стремление к счастью к простому потреблению?

• Осуществляет ли эта идея автоматизацию основных видов человеческой деятельности, которые не должны быть автоматизированы, как, например, автоматизированный священнослужитель или психоаналитик, работающий на основе ИИ?

Один из моих любимых писателей-фантастов, Уильям Гибсон[24], однажды заметил: «Технологии морально нейтральны, пока мы их не применяем»>27. Его острое и часто цитируемое изречение очень точно описывает то, что мы сейчас переживаем, когда само определение человека все более изменяется под влиянием экспоненциальных технологических достижений.

Принцип 90/10 в точке бифуркации

Пока мы еще находимся у поворота экспоненциальной кривой, у нас есть уникальный шанс повлиять на наше будущее. Будет ли оно на 90 % благоприятным и только на 10 % состоять из проблем и рисков из-за всех этих новых технологий? Или ему суждено выбиться из-под контроля, и соотношение перевернется и станет 10/90, как в мире антиутопии?


Рекомендуем почитать
Быть пиратом

Не верьте, что пиратское общество состояло сплошь из негодяев, получавших удовольствие от грабежей, пыток и убийств. В Золотой век пиратства взошли звезды, которые горели бесстрашной непокорностью и четкой приверженностью идеям справедливости и равенства. Эксперт в области социального предпринимательства, независимый консультант по стратегическому менеджменту Facebook, Google, BBC, Johnson & Johnson, Unilever, PlayStation, Red Bull, Dyson и других крупных мировых брендов, Сэм Коннифф Альенде раскрывает подлинную историю пиратства, описывая приемы и методы Генри Эвери, Бартоломью Робертса, Энн Бонни, Мэри Рид, Генри Моргана, Сэма Беллами, Эдварда Тича по прозвищу Черная Борода и других флибустьеров.Похожие методы взяли на вооружение современные пираты – от Илона Маска, Стива Джобса и создателей технологии блокчейна до Бэнкси и исполнителей рэпа и хип-хопа.


Старинные образы южных славян

В этой книге говорится об Исконной Вере и Стари у Южных Славян. Исследование, которое мы провели, не основывается на песнях, преданиях и обрядах, сохранившихся до сих пор, ни даже на письменных летописях. Главная особенность научного подхода, примененного в этой книге, это его опора на образные представления, которые у Южных Славян, совместно со многими другими народами, возникли со временем.


Обман. Философско-психологический анализ

Это первая и, к сожалению, пока единственная книга в нашей философской литературе, специально посвященная обману – столь повсеместному явлению, пронизывающему все поры нашей личной и общественной жизни. Фундаментальная ценность правды понятна каждому. Но представьте себе, что произошло бы в жизни людей, в политике, экономике и т.п., если бы вдруг все люди перестали обманывать, говорили только правду? Автор ставил своей целью: рассмотреть и по возможности упорядочить чрезвычайно многообразные проявления обмана, осмыслить такие феномены как добродетельный обман, полу-правда, самообман, опираясь на философские, психологические, исторические материалы и произведения художественной литературы.


Искусственный интеллект

Книга представляет собой один из первых в отечественной научной литературе опытов междисциплинарного подхода к проблематике искусственного интеллекта. В ней рассматриваются философские, методологические, общетеоретические и социокультурные аспекты данной проблематики, обсуждаются актуальные задачи моделирования искусственного интеллекта в связи с рядом логических и математических вопросов и под углом соотношения искусственного интеллекта с естественным и современных разработок проблемы "сознание и мозг".


Происхождение и эволюция человека

Никогда не уйдет в прошлое интерес к познанию происхождения и последующей эволюции уникального человеческого вида. От древесной обезьяны до человека разумного — дистанция огромного размера. В настоящем издании она заполняется известными и новейшими материалами по истории антропологических знаний о движущих силах и закономерностях развития семейства гоминид, адаптивном полиморфизме вида гомо сапиенса, его расовой структуре, перспективах развития.


Капиталистическое отчуждение труда и кризис современной цивилизации

В монографии исследуются эволюция капиталистического отчуждения труда в течение последних ста лет, возникновение новых форм отчуждения, влияние растущего отчуждения на развитие образования, науки, культуры, личности. Исследование основывается на материалах философских, социологических и исторических работ.


Эра криптовалюты

После случившегося бума на рынке валют в 2018 году слова «криптовалюта», «биткоин», «блокчейн» стали все чаще мелькать в СМИ, новостях и в обычных разговорах людей и бизнесменов. Книга, которую вы держите в руках, простым и понятным языком расскажет: – что же такое криптовалюта и зачем она нужна; – почему биткоин именуют «электронной наличностью»; – как различать такие виды деятельности, как майнинг, форжинг или ICO. Также благодаря книге Алекса Полански вы не только поймете суть современных криптовалютных операций, но и сможете применить эти знания в жизни, начав зарабатывать большие деньги, – технология блокчейн имеет просто огромный потенциал и самые разнообразные сферы применения.