Технологии против человека - [7]

Шрифт
Интервал

1. Экспоненциальный. Технологии развиваются экспоненциально. Несмотря на то что микрочипы, будучи подчинены основным законам физики, не могут бесконечно уменьшаться в размерах, технологический прогресс во многом еще совершается в соответствии с законом Мура>12. Кривая производительности микропроцессоров демонстрирует экспоненциальный рост, а не линейный или постепенный, как люди привыкли считать. Это представляет определенные сложности для понимания: технологии развиваются экспоненциально, а люди (я надеюсь!) остаются заложниками линейности.

2. Комбинаторный. Разные проявления технологического прогресса комбинируются и интегрируются. Такие инновационные технологии, как машинный интеллект, глубокое обучение, интернет вещей и редактирование генома, начинают пересекаться и дополнять друг друга. Они больше не применяются только в узкоспециализированных сферах – напротив, уже во многих секторах можно наблюдать долгоиграющие последствия их применения. Технологии CRISPR-Cas9[13], применяющиеся при редактировании генома, могут, к примеру, стать ключом к нахождению лекарства от рака и значительно увеличить продолжительность жизни>13. Такие технологии смогут перевернуть всю систему здравоохранения, социального страхования и вообще капитализма, каким мы его знаем сейчас.

3. Рекурсивный. Такие технологии, как ИИ, когнитивные вычисления и глубокое обучение, смогут в дальнейшем привести к рекурсивным (т. е. самоусилительным) усовершенствованиям (т. е. усовершенствованиям систем самих себя). Уже можно, к примеру, наблюдать первых роботов, которые могут сами себя обновлять и перепрограммировать и контролировать состояние энергосети, от которой зависит их функционирование. Все это может привести к так называемому взрыву интеллекта. Профессор Оксфордского университета Ник Бостром утверждает, что подобный прогресс может привести к возникновению суперинтеллекта – систем ИИ, которые смогут обучаться быстрее людей и интеллектуально превзойти нас во всех смыслах>14. Если мы можем создать ИИ с уровнем IQ 50, что же остановит нас от разработки ИИ с IQ 50 000 и что произойдет, если мы это сделаем?

К счастью, суперинтеллект еще не является предметом для беспокойства в нашем ближайшем будущем. Однако у нас и без него проблем хватает: отслеживание нашей жизни в интернете, скрытые камеры повсеместно, ослабление конфиденциальности, потеря анонимности, хищение электронных личных данных, цифровая безопасность. Поэтому я и считаю, что основа для будущего (оптимистичного или антиутопического) закладывается здесь и сейчас.

Мы находимся на критически важном этапе и должны целостно оценивать ситуацию и проявлять большую дальновидность в наших действиях, осуществляя строгий надзор за технологиями, которые могут в дальнейшем получить над нами бо́льшую власть, чем мы могли себе представить.

Мы больше не можем позволить себе существовать по принципу «поживем – увидим», если и дальше хотим сохранять контроль над своей жизнью и ее развитием. Вопрос, заслуживающий нашего внимания, заключается в том, чтобы оставаться и в будущем людьми, пока мы будем заниматься развитием технологий, изменяющим человечество навсегда.

Мы не должны позволять свободным рынкам, предпринимателям и военным организациям принимать решения за нас. Будущее человечества не должно строиться в соответствии с устаревшими порядками индустриального общества восьмидесятых годов, в котором за высшее благо почитались прибыль и рост любой ценой. Несмотря на то что технологии являются источниками огромных доходов и генерируют значительную прибыль, ни Кремниевая долина, ни наиболее технологизированные страны не должны становиться «центром управления человечества».

К счастью, в настоящее время еще соблюдается принцип 90/10: 90 % возможностей, которые открывают нам новые технологии, могут пойти на пользу человечеству, в то время как лишь 10 % уже оцениваются как негативные и вызывают беспокойство. Если нам удастся и дальше сохранить этот баланс или даже поднять соотношение до 98/2, то наши усилия будут не напрасны. В то же время эти проблемные 10 % могут быстро возрасти до 50 % (например, по неосторожности) или выше, если мы не придем к согласию по поводу того, как именно будем использовать технологии на благо человечества. Как видим, сейчас точно не самое лучшее время, чтобы пускать ситуацию на самотек и отстраненно наблюдать за ее развитием.

Искусственный интеллект и редактирование генома как два главных двигателя прогресса

ИИ – первая движущая сила в области экспоненциальных технологий; ее можно определить как разработку машин (программ или роботов), обладающих интеллектом и способных к самостоятельному обучению, т. е. это машины, способные думать как люди. Ожидается, что способности ИИ будут развиваться в два раза быстрее, чем остальные технологии, превосходя даже закон Мура и рост вычислительных мощностей>15.

На сегодняшний день самая высокая опасность, связанная с искусственным интеллектом, заключается в том, что люди слишком рано начинают верить, что они его понимают.

– Элиезер Юдковский[14],>16

Спутником ИИ на пути кардинальных изменений является геномная инженерия (


Рекомендуем почитать
Быть пиратом

Не верьте, что пиратское общество состояло сплошь из негодяев, получавших удовольствие от грабежей, пыток и убийств. В Золотой век пиратства взошли звезды, которые горели бесстрашной непокорностью и четкой приверженностью идеям справедливости и равенства. Эксперт в области социального предпринимательства, независимый консультант по стратегическому менеджменту Facebook, Google, BBC, Johnson & Johnson, Unilever, PlayStation, Red Bull, Dyson и других крупных мировых брендов, Сэм Коннифф Альенде раскрывает подлинную историю пиратства, описывая приемы и методы Генри Эвери, Бартоломью Робертса, Энн Бонни, Мэри Рид, Генри Моргана, Сэма Беллами, Эдварда Тича по прозвищу Черная Борода и других флибустьеров.Похожие методы взяли на вооружение современные пираты – от Илона Маска, Стива Джобса и создателей технологии блокчейна до Бэнкси и исполнителей рэпа и хип-хопа.


Старинные образы южных славян

В этой книге говорится об Исконной Вере и Стари у Южных Славян. Исследование, которое мы провели, не основывается на песнях, преданиях и обрядах, сохранившихся до сих пор, ни даже на письменных летописях. Главная особенность научного подхода, примененного в этой книге, это его опора на образные представления, которые у Южных Славян, совместно со многими другими народами, возникли со временем.


Обман. Философско-психологический анализ

Это первая и, к сожалению, пока единственная книга в нашей философской литературе, специально посвященная обману – столь повсеместному явлению, пронизывающему все поры нашей личной и общественной жизни. Фундаментальная ценность правды понятна каждому. Но представьте себе, что произошло бы в жизни людей, в политике, экономике и т.п., если бы вдруг все люди перестали обманывать, говорили только правду? Автор ставил своей целью: рассмотреть и по возможности упорядочить чрезвычайно многообразные проявления обмана, осмыслить такие феномены как добродетельный обман, полу-правда, самообман, опираясь на философские, психологические, исторические материалы и произведения художественной литературы.


Искусственный интеллект

Книга представляет собой один из первых в отечественной научной литературе опытов междисциплинарного подхода к проблематике искусственного интеллекта. В ней рассматриваются философские, методологические, общетеоретические и социокультурные аспекты данной проблематики, обсуждаются актуальные задачи моделирования искусственного интеллекта в связи с рядом логических и математических вопросов и под углом соотношения искусственного интеллекта с естественным и современных разработок проблемы "сознание и мозг".


Происхождение и эволюция человека

Никогда не уйдет в прошлое интерес к познанию происхождения и последующей эволюции уникального человеческого вида. От древесной обезьяны до человека разумного — дистанция огромного размера. В настоящем издании она заполняется известными и новейшими материалами по истории антропологических знаний о движущих силах и закономерностях развития семейства гоминид, адаптивном полиморфизме вида гомо сапиенса, его расовой структуре, перспективах развития.


Капиталистическое отчуждение труда и кризис современной цивилизации

В монографии исследуются эволюция капиталистического отчуждения труда в течение последних ста лет, возникновение новых форм отчуждения, влияние растущего отчуждения на развитие образования, науки, культуры, личности. Исследование основывается на материалах философских, социологических и исторических работ.


Эра криптовалюты

После случившегося бума на рынке валют в 2018 году слова «криптовалюта», «биткоин», «блокчейн» стали все чаще мелькать в СМИ, новостях и в обычных разговорах людей и бизнесменов. Книга, которую вы держите в руках, простым и понятным языком расскажет: – что же такое криптовалюта и зачем она нужна; – почему биткоин именуют «электронной наличностью»; – как различать такие виды деятельности, как майнинг, форжинг или ICO. Также благодаря книге Алекса Полански вы не только поймете суть современных криптовалютных операций, но и сможете применить эти знания в жизни, начав зарабатывать большие деньги, – технология блокчейн имеет просто огромный потенциал и самые разнообразные сферы применения.