Hello World. Как быть человеком в эпоху машин - [8]

Шрифт
Интервал

Ведь только люди способны ощутить на себе весь груз ответственности за свои действия. Имей программа прямую связь с Кремлем, она ни на миг не задумалась бы о последствиях своего решения. А что же Петров? “Я понимал отлично, что меня никто не поправит”>[43].

Одна беда: на человека тоже не всегда можно положиться. Иногда люди берут власть в свои руки и правильно делают — как это сделал Станислав Петров. Но зачастую внутреннее чувство лучше подавить.

Вот вам еще один пример на тему безопасности — слава богу, в этой сфере люди редко меняют решения компьютеров, не имея оснований, и все же именно это произошло в самом большом английском парке аттракционов Alton Towers, перед той памятной страшной аварией на горках Smiler>[44].

В июле 2015 года двум инженерам поручили исправить неполадку в механизме аттракциона. Они устранили неисправность и для проверки запустили по трассе пустую вагонетку — но не обратили внимания на то, что она не вернулась назад. Почему-то она снова скатилась вниз на подъеме и застряла на полпути.

Тем временем операторы, обслуживающие посетителей, вывели дополнительную вагонетку, чтобы сократить растущую очередь, но об этом инженеры тоже не знали. Получив из операторской разрешение на пуск, сотрудники разрешили довольным пассажирам занять места, закрыли рамы безопасности и отправили первый состав по рельсам, ничего не зная о застрявшей прямо на пути вагонетке, которую ранее запустили инженеры.

По счастью, проектировщики аттракциона предусмотрели такие ситуации, и системы безопасности сработали в штатном режиме. Чтобы не произошло неминуемого столкновения, поезд остановился на вершине первого подъема, а в операционную был подан сигнал тревоги. Однако инженеры, уверенные в том, что они все починили, подумали, что автоматическая система тревоги включилась по ошибке.

Не так-то просто было переупрямить программу — чтобы вновь запустить состав, два человека должны были одновременно нажать кнопки. Они произвели необходимые действия, и полностью загруженная вагонетка покатилась вниз, прямо к другой, стоявшей на ее пути. Столкновение было кошмарным. Несколько человек получили тяжелейшие травмы, а двум совсем юным девушкам пришлось ампутировать ноги.

И трагическое происшествие в парке Alton Towers, и поступок Станислава Петрова, когда речь шла о жизни и смерти, показывают нам всю глубину проблемы выбора. За кем — или за чем — должно оставаться последнее слово в споре о власти между человеком и машиной?>[45]Борьба за власть

Этот спор начался не сегодня и не вчера. В 1954 году профессор клинической психологии Миннесотского университета Пол Мил опубликовал работу под названием “Клинический и статистический прогнозы” и, решительно заняв крайнюю позицию, взбудоражил целое поколение людей.

В этой книге Мил провел систематическое сравнение деятельности людей и машин на примерах прогнозирования всего на свете, от успеваемости учеников до психического состояния пациентов, и пришел к выводу, что математические модели, независимо от уровня их сложности, почти наверняка дадут более точный ответ, чем люди.

С тех пор, в течение полувека, открытия Мила подтвердились множеством других исследований. Если от вас требуется рассчитать неважно что — медицинский прогноз или возможные объемы продаж, количество попыток самоубийств или степень удовлетворенности карьерным ростом — или дать оценку чему угодно, от годности к военной службе до перспектив выполнения учебного плана, смело ставьте на алгоритм>[46]>[47]. Машина тоже немного промахнется, но если позволить человеку отвергать ее решения, ошибки будут еще более грубыми.>[48]

Наверное, в этом нет ничего удивительного. Мы не созданы для вычислений. Мы не предполагаем, что в супермаркете отряд кассиров примется разглядывать наши покупки, пытаясь определить их стоимость. Мы позволяем простейшей программе сосчитать все за нас. И в большинстве случаев мы только выиграем, если предоставим это машине. Как шутят летчики, лучший экипаж состоит из троих членов — пилота, компьютера и собаки. Компьютер управляет самолетом, пилот кормит собаку, а собака кусает пилота, если тот попробует прикоснуться к компьютеру.

Но отношения с машинами у нас немного странные. Мы доверчивы как дети, если ничего не понимаем, и в то же время у нас есть отвратительная привычка вмешиваться в работу машины и даже полностью игнорировать ее и полагаться на собственные неверные суждения, если нам известно, что она может ошибиться. Специалисты называют это неприятием алгоритмов. К ошибкам машин люди относятся менее снисходительно, чем к своим, даже если их собственные ошибки гораздо страшнее.

Это явление не раз воспроизводилось в разных экспериментах>[49], да вы и сами заметите у себя такое же свойство. Когда приложение в телефоне утверждает, что дорога займет больше времени, чем мне кажется, я уверена, что знаю лучше — хотя, скорее всего, рискую опоздать. Все мы хоть раз да обозвали своего голосового помощника идиотом, почему-то забывая в этот момент, что устройство, которое мы держим в руке, создано благодаря фантастическому развитию современных технологий. И поначалу, маясь в пробках под руководством пока еще нового для меня навигационного приложения


Еще от автора Ханна Фрай
Математика любви. Закономерности, доказательства и поиск идеального решения

Казалось бы, что общего у любви и математики? Автор книги, профессор математики Лондонского университета Ханна Фрай, убедительно доказывает: математические формулы вполне способны рассказать нам что-то новое о любви и отношениях. Пусть наши чувства хаотичны и с трудом поддаются анализу, но ведь математика давно научилась работать с хаосом – идет ли речь о поведении элементарных частиц или демографических проблемах. Как бы причудливы и изменчивы ни были законы любви, математика в состоянии не только описать их, но и предложить ряд практических идей – от теории флирта и оптимального алгоритма поведения на вечеринке до прогнозирования числа гостей на свадьбе и даже их рассадки за столом.


Рекомендуем почитать
Санкт-Петербург и русский двор, 1703–1761

Основание и социокультурное развитие Санкт-Петербурга отразило кардинальные черты истории России XVIII века. Петербург рассматривается автором как сознательная попытка создать полигон для социальных и культурных преобразований России. Новая резиденция двора функционировала как сцена, на которой нововведения опробовались на практике и демонстрировались. Книга представляет собой описание разных сторон имперской придворной культуры и ежедневной жизни в городе, который был призван стать не только столицей империи, но и «окном в Европу».


Кумар долбящий и созависимость. Трезвение и литература

Литературу делят на хорошую и плохую, злободневную и нежизнеспособную. Марина Кудимова зашла с неожиданной, кому-то знакомой лишь по святоотеческим творениям стороны — опьянения и трезвения. Речь, разумеется, идет не об употреблении алкоголя, хотя и об этом тоже. Дионисийское начало как основу творчества с античных времен исследовали философы: Ф. Ницше, Вяч, Иванов, Н. Бердяев, Е. Трубецкой и др. О духовной трезвости написано гораздо меньше. Но, по слову преподобного Исихия Иерусалимского: «Трезвение есть твердое водружение помысла ума и стояние его у двери сердца».


Судьба Нового человека.Репрезентация и реконструкция маскулинности  в советской визуальной культуре, 1945–1965

В первые послевоенные годы на страницах многотиражных советскихизданий (от «Огонька» до альманахов изобразительного искусства)отчетливо проступил новый образ маскулинности, основанный наидеалах солдата и отца (фигуры, почти не встречавшейся в визуальнойкультуре СССР 1930‐х). Решающим фактором в формировании такогообраза стал катастрофический опыт Второй мировой войны. Гибель,физические и психологические травмы миллионов мужчин, их нехваткав послевоенное время хоть и затушевывались в соцреалистическойкультуре, были слишком велики и наглядны, чтобы их могла полностьюигнорировать официальная пропаганда.


Музей. Архитектурная история

Культуролог и музеолог Ксения Сурикова исследует феномен музея сквозь призму архитектуры и предлагает рассмотреть его в широком контексте культурных трансформаций, влиявших на роли и функции музея в обществе. Последовательно рассматривая особенности бытования музея в различные исторические периоды, автор показывает, как в зависимости от стратегий отношения к прошлому менялось восприятие музейного предмета и музейной функции, а следовательно, и выстраивалась или разрушалась типология музейного здания. Книга адресована архитекторам, художникам, культурологам, музеологам, а также представителям городских администраций и различных гражданских сообществ. В формате PDF A4 сохранён издательский дизайн.


Феномен тахарруш как коллективное сексуальное насилие

В статье анализируется феномен коллективного сексуального насилия, ярко проявившийся за последние несколько лет в Германии в связи наплывом беженцев и мигрантов. В поисках объяснения этого феномена как экспорта гендеризованных форм насилия автор исследует его истоки в форме вторичного анализа данных мониторинга, отслеживая эскалацию и разрывы в практике применения сексуализированного насилия, сопряженного с политической борьбой во время двух египетских революций. Интерсекциональность гендера, этничности, социальных проблем и кризиса власти, рассмотренные в ряде исследований в режиме мониторинга, свидетельствуют о привнесении политических значений в сексуализированное насилие или об инструментализации сексуального насилия политическими силами в борьбе за власть.


Бесы. Приключения русской литературы и людей, которые ее читают

«Лишний человек», «луч света в темном царстве», «среда заела», «декабристы разбудили Герцена»… Унылые литературные штампы. Многие из нас оставили знакомство с русской классикой в школьных годах – натянутое, неприятное и прохладное знакомство. Взрослые возвращаются к произведениям школьной программы лишь через много лет. И удивляются, и радуются, и влюбляются в то, что когда-то казалось невыносимой, неимоверной ерундой.Перед вами – история человека, который намного счастливее нас. Американка Элиф Батуман не ходила в русскую школу – она сама взялась за нашу классику и постепенно поняла, что обрела смысл жизни.