Вторая эра машин. Работа, прогресс и процветание в эпоху новейших технологий - [94]

Шрифт
Интервал

Любая система с таким уровнем сложности и взаимозависимости составных частей всегда имеет два связанных между собой слабых места. Во-первых, в ней высока опасность того, что изначально незначительные ошибки в результате непредсказуемой последовательности событий превратятся в нечто гораздо более масштабное и разрушительное. Именно такой каскад событий (социолог Чарльз Пэрроу назвал его «системной» или «обычной аварией») привел в 1979 году к расплавлению активной зоны реактора АЭС «Три-Майл-Айленд», к масштабному блэкауту (отключению электричества), затронувшему в августе 2003 года 45 миллионов человек на северо-востоке США, и к многим другим инцидентам.[423]

Кроме того, комплексные и плотные системы часто представляют интерес для шпионов, преступников и тех, кто стремится создать хаос. Один из самых свежих примеров – компьютерный червь Stuxnet, который, возможно, был создан в лабораториях, принадлежащих правительству США. В 2010 году Stuxnet парализовал как минимум одно ядерное предприятие в Иране, перенастроив контрольные системы оборудования марки Siemens, которым была оснащена фабрика. Червь смог проникнуть в систему через целевые сайты, а затем беспрепятственно размножился, переходя с одного персонального компьютера на другой; как только представилась возможность, он перешел на оборудование Siemens и продолжал свою разрушительную работу уже на нем.[424]

До сравнительно недавнего времени наш биологический вид не обладал возможностями для полного самоуничтожения. Теперь они у нас появились. Более того, по мере того как технологии становятся одновременно и всё более мощными, и всё более дешевыми (а, следовательно, общедоступными), такие возможности могут оказаться и у отдельных людей. Не все эти люди будут психически здоровы, не все они будут действовать из добрых побуждений. Как уже отмечали Билл Джой и другие исследователи, генная инженерия и искусственный интеллект способны создавать самовоспроизводящиеся сущности.[425] Это значит, что некий умелец в своей спрятанной под землей лаборатории вполне может овладеть одной из таких технологий, чтобы выпустить на волю разрушительные силы, способные повлиять на всю планету. Те же самые научные прорывы в области секвенирования генома, которые используются для лечения заболеваний, могут использоваться и для создания боевой разновидности вируса оспы.[426] Компьютерные программы также могут самовоспроизводиться, превращаясь в цифровые вирусы, – и та же самая глобальная Сеть, посредством которой распространяются хорошие идеи и инновации, станет инструментом разрушения. Физический объем ущерба, который теоретически способен нанести всего один человек или небольшая группа, становится все больше и больше. Будет ли наш прогресс в деле противодействия деструктивной стороне технологий по меньшей мере столь же быстрым, как и само развитие технологий? Этот вопрос в будущем обретет большую важность.

Джордж Оруэлл, Уильям Гибсон и другие авторы описывали в своих антиутопиях утрату свободы и использование технологий для укрепления деспотизма и полного контроля информационных потоков. Эрик Шмидт и Джаред Коэн описывают некоторые из этих технологий, а также способы противодействия им в своей книге «Новый цифровой мир» (The New Digital Age). Те же самые инструменты, которые позволяют нам все более детально изучать мир, дают и правительству, и его врагам возможность следить за тем, что мы делаем и с кем общаемся. Существует вполне естественный конфликт между расширением наших способностей к познанию и нашим нежеланием, чтобы другие могли узнать о нас что-то, чего мы не хотели бы о себе рассказывать. Когда информация была по большей части аналоговой и локальной, сами законы физики автоматически обеспечивали зону частной жизни. В цифровом мире конфиденциальность требует очень определенных институтов, стимулов, законов, технологий и норм, которые регулировали бы, какие информационные потоки должны быть разрешены, а какие – запрещены, какие следует поощрять, а какие – затруднять.

Технологии могут порождать мириады побочных эффектов, начиная от игромании и цифровой прокрастинации до «балканизации интернета» – распада всемирной Сети на отдельные враждующие между собой части, – от социальной самоизоляции до деградации окружающей среды.[427] Даже самые человеколюбивые изобретения – например, какая-нибудь технология, позволяющая значительно продлить человеческую жизнь, – могут повлечь огромные социальные потрясения.[428]

Далеко ли до сингулярности?

Самый величественный – и самый умозрительный – образ возможного будущего технологий также пришел из мира научной фантастики: это машина, в полной мере наделенная сознанием. Есть два основных сценария – утопический и антиутопический – гипотетического будущего, в котором компьютеры и роботы обладают «настоящим» мышлением. Антиутопический сценарий обыгрывается в фильмах типа «Терминатора» или «Матрицы», а также в бесчисленном множестве других произведений научной фантастики. Этот вариант технологического прогресса не только «хорошо смотрится» и развлекает зрителей, но и кажется все более и более правдоподобным по мере того, как технологии осваивают и демонстрируют качества, которые еще недавно считались исключительно человеческими. Способность работать в команде – одно из таких качеств, и почему бы не представить себе, как в один прекрасный день будущие версии компьютера


Еще от автора Эндрю Макафи
Машина, платформа, толпа. Наше цифровое будущее

В этой книге описывается, как в цифровую эпоху изменился баланс сил – баланс разума и машины, продуктов и платформ, ядра и толпы. По мере развития технологий расширяются и возможности человека. Понимание того, какие принципы и тренды стоят за современной цифровой революцией поможет каждому из нас проложить собственный путь в будущее. Эта книга для тех, кто интересуется технологиями, трендами, будущим. На русском языке публикуется впервые.


Рекомендуем почитать
Наполеон Бонапарт: между историей и легендой

Наполеон притягивает и отталкивает, завораживает и вызывает неприятие, но никого не оставляет равнодушным. В 2019 году исполнилось 250 лет со дня рождения Наполеона Бонапарта, и его имя, уже при жизни превратившееся в легенду, стало не просто мифом, но национальным, точнее, интернациональным брендом, фирменным знаком. В свое время знаменитый писатель и поэт Виктор Гюго, отец которого был наполеоновским генералом, писал, что французы продолжают то показывать, то прятать Наполеона, не в силах прийти к окончательному мнению, и эти слова не потеряли своей актуальности и сегодня.


Император Алексей Ι Комнин и его стратегия

Монография доктора исторических наук Андрея Юрьевича Митрофанова рассматривает военно-политическую обстановку, сложившуюся вокруг византийской империи накануне захвата власти Алексеем Комнином в 1081 году, и исследует основные военные кампании этого императора, тактику и вооружение его армии. выводы относительно характера военно-политической стратегии Алексея Комнина автор делает, опираясь на известный памятник византийской исторической литературы – «Алексиаду» Анны Комниной, а также «Анналы» Иоанна Зонары, «Стратегикон» Катакалона Кекавмена, латинские и сельджукские исторические сочинения. В работе приводятся новые доказательства монгольского происхождения династии великих Сельджукидов и новые аргументы в пользу радикального изменения тактики варяжской гвардии в эпоху Алексея Комнина, рассматриваются процессы вестернизации византийской армии накануне Первого Крестового похода.


Продолжим наши игры+Кандибобер

Виктор Пронин пишет о героях, которые решают острые нравственные проблемы. В конфликтных ситуациях им приходится делать выбор между добром и злом, отстаивать свои убеждения или изменять им — тогда человек неизбежно теряет многое.


Краткая история насекомых. Шестиногие хозяева планеты

«Любая история, в том числе история развития жизни на Земле, – это замысловатое переплетение причин и следствий. Убери что-то одно, и все остальное изменится до неузнаваемости» – с этих слов и знаменитого примера с бабочкой из рассказа Рэя Брэдбери палеоэнтомолог Александр Храмов начинает свой удивительный рассказ о шестиногих хозяевах планеты. Мы отмахиваемся от мух и комаров, сражаемся с тараканами, обходим стороной муравейники, что уж говорить о вшах! Только не будь вшей, человек остался бы волосатым, как шимпанзе.


Историческое образование, наука и историки сибирской периферии в годы сталинизма

Настоящая монография посвящена изучению системы исторического образования и исторической науки в рамках сибирского научно-образовательного комплекса второй половины 1920-х – первой половины 1950-х гг. Период сталинизма в истории нашей страны характеризуется определенной дихотомией. С одной стороны, это время диктатуры коммунистической партии во всех сферах жизни советского общества, политических репрессий и идеологических кампаний. С другой стороны, именно в эти годы были заложены базовые институциональные основы развития исторического образования, исторической науки, принципов взаимоотношения исторического сообщества с государством, которые определили это развитие на десятилетия вперед, в том числе сохранившись во многих чертах и до сегодняшнего времени.


Технологии против Человека. Как мы будем жить, любить и думать в следующие 50 лет?

Эксперты пророчат, что следующие 50 лет будут определяться взаимоотношениями людей и технологий. Грядущие изобретения, несомненно, изменят нашу жизнь, вопрос состоит в том, до какой степени? Чего мы ждем от новых технологий и что хотим получить с их помощью? Как они изменят сферу медиа, экономику, здравоохранение, образование и нашу повседневную жизнь в целом? Ричард Уотсон призывает задуматься о современном обществе и представить, какой мир мы хотим создать в будущем. Он доступно и интересно исследует возможное влияние технологий на все сферы нашей жизни.