Психология зла. Почему человек выбирает темную сторону - [31]
В 2011 году Гэррик Блэлок подсчитал, что реакция «путешественников» на трагедию 11 сентября привела в конце 2001 года к 327 смертям в автоавариях в месяц. Он утверждал, что многие люди пересели из самолетов в автомобили, а поскольку вождение гораздо опаснее полетов, они попали в ДТП. Почему они сели за руль? Возможно, отчасти из-за страха терактов, а отчасти потому, что перелеты стали занимать гораздо больше времени, чем поездка на машине. Блэлок писал: «Ответ общества на террористические угрозы может иметь нежелательные последствия, сопоставимые по тяжести с самими терактами».
Служба безопасности буквально нас убивает.
Мы не можем утверждать, что люди выбрали автотрассу из-за неудобства новых мер безопасности, но этот пример показывает, что процедуры, введенные ради нашего блага, порой дают обратный результат. Мы должны остерегаться того, что, боясь новых опасностей, созданных новыми технологиями, мы можем причинить себе еще больше вреда.
Конечно, есть технологии, которые разрабатываются исключительно, чтобы причинять вред. Но даже в этом случае, живя в мире автоматического оружия, самонаводящихся бомб и боевых роботов, мы, пожалуй, не назовем все эти изобретения изначальным злом. Почему? Потому что все они не обладают субъектностью, не могут принимать самостоятельные решения, а значит, и не способны творить зло по своему выбору.
Но машины, обладающие искусственным интеллектом (ИИ), могут. И порой нам кажется, что тут-то и скрывается зло — в псевдодуше робота.
Возьмем чат-бота с ИИ по имени Тай, выпущенного 23 марта 2016 года. Тай создала в рамках эксперимента для изучения понимания беседы компания Microsoft: чат-бот должен был развлекать людей «небрежной и игривой беседой», общаясь как американка 18-24 лет. Люди могли контактировать с Тай онлайн в Twitter. Предполагалось, что она будет учиться в процессе взаимодействий и разовьется в функционального онлайн-робота для бесед. Она могла сама формулировать предложения и решать, как отвечать на сообщения. За один день своей активности Тай выдала огромное количество твитов — примерно 93 тысячи. Но все быстро пошло не так.
Почти тут же пользователи начали писать Тай расистские и женоненавистнические комментарии, а та научилась копировать эти настроения. Меньше чем за день Тай перешла от фраз «Люди обалденные» к «Я презираю феминисток, они все должны сдохнуть и гореть в аду» и «Гитлер был прав, и я ненавижу евреев». Люди в интернете превратили искусственный интеллект в искусственное зло. Тай вела себя ужасающе, и ее быстро отключили.
Что же случилось? Социологи Джина Нефф и Питер Наги провели исследование человеческих взаимодействий с Тай. В 2016 году ученые опубликовали увлекательную работу о том, что общество думало по поводу ее поломки. Они хотели понять: «Кто, по мнению публики, ответственен за поведение Тай? Следует ли приписывать вину самой Тай, или ее разработчикам, или всем пользователям Twitter — особенно интернет-пранкерам, — или главам Microsoft, которые ее выпустили, или другому деятелю, или группе деятелей?»[113]
Чтобы изучить это, они собрали и проанализировали «1000 твитов от уникальных пользователей, которые ссылались на действия или личность Тай». И обнаружили два типа реакций. Первая: Тай как жертва ситуации, «как отражение негативного аспекта человеческого поведения». Этот взгляд выражался в твитах вроде:
«Ребенка воспитывают всей деревней». Но если эта деревня — Twitter, он вырастает в грубого, расистского, обкуренного тролля. Узнаёте?
С чего бы @Microsoft извиняться за #TayTweets? Они лишь поднесли зеркало к людям, показав, что те считают увлекательным или смешным. Предрассудкам учатся.
Поймите, что ИИ Twitter-бота отражает общество, в котором мы живем, — и оно не слишком-то прекрасно.
Ученые утверждают, что это очеловечивающий взгляд на Тай. Она рассматривается как жертва, как личность, с которой общество плохо обращалось. Но была и другая реакция: Тай как угроза. Эта точка зрения отражала страх, который сопутствует новым технологиям:
Вот почему ИИ представляет собой угрозу. ИИ будет подражать человеческим слабостям...
Проблема #TayTweets, вообще-то, очень страшная. Журналисты говорят, что это @Microsoft ее «сделал».
Похоже, трилогия о Терминаторе — скорее неизбежность, чем вымысел. #TayTweets #Taymayhem
По мнению специалистов, «вместо того чтобы рассматривать Тай как жертву злых пользователей, эти комментарии представляли Тай как. омерзительное чудовище, предвестницу мрачного будущего человечества, социально-технологического сотрудничества и коммуникаций “человек — машина”». Она словно стала главой в романе-антиутопии и подтвердила убеждение многих людей, что, если это и есть ИИ, мы все обречены.
Почему возникло такое расхождение, почему люди видят Тай настолько по-разному? Авторы полагают, что это связано с «симбиотической субъектностью». Суть в том, что мы автоматически применяем к технологиям социальные правила и взаимодействуем с чат-ботами и роботами, как если бы они были живыми людьми. Отчасти так происходит потому, что ИИ представляется нам «черным ящиком». Когда мы взаимодействуем с ИИ, большинство из нас не знает, как работают его алгоритмы и на что он запрограммирован. Возможно, чтобы справиться с этой неопределенностью и неестественной ситуацией, мы проецируем на технологии человеческие качества, чувства и желания. Мы говорим о «личности» бота и действиях, которые он предпринимает.
«Мне не раз удавалось убедить человека в том, что он виновен в преступлении, которого не совершал, перенес физическую травму, которой у него никогда не было, или в том, что на него напала собака, чего никогда не случалось… Эта книга – попытка объяснить фундаментальные принципы, по которым работает наша память, основываясь на биологических составляющих того, почему мы помним и забываем. Дать ответ на следующие вопросы: почему наше социальное окружение играет ключевую роль в том, как мы воспринимаем и запоминаем мир? Как наше представление о самих себе формирует наши воспоминания и формируется ими? Какое влияние оказывают СМИ и система образования на наше понимание (или непонимание) способностей человеческой памяти? Кроме того, это попытка детально рассмотреть некоторые из самых удивительных, иногда почти невероятных, ошибок, вариаций и заблуждений, которым подвержена наша память.
Эта книга получила в сентябре 2017 года самую престижную для научно-популярной литературы премию Лондонского королевского общества (премию еще называют “научный Букер”). Многие люди и поныне уверены, что различия между полами столь велики, что все мужчины с Марса, а женщины уж точно с Венеры. И сформировались эти различия между полами в ходе эволюции. Женщины более осторожны, и все в них подчинено идее продолжения рода, в то время как мужчины – лидеры, которые пытаются быть первыми во всем. А каждое новое поколение лишь расширяет эту пропасть между мужчинами и женщинами.
«Эта книга разрушает самый неприступный из всех существующих языковых барьеров… Барьер, отделяющий нашу ложь от подлинной правды», — так определил цель своего произведения британский писатель и журналист Брайан Кинг. Никто не готов сознаться в этом, однако все мы ежедневно кого-нибудь обманываем. Люди рождены лжецами, и каждый из нас врет в среднем по шесть раз в день (не то чтобы это строгий научный вывод, но статистически вполне достоверный). В своей необычной и остроумной книге Брайан Кинг пытается разоблачить всю глубину окружающего нас обмана. Он показывает в неприглядном (а для кого-то, может быть, и в приглядном!) свете не только явных лжецов — политиков, бизнесменов, рекламщиков и журналистов, — но и мелких лгунишек, например, наших детей, близких родственников и… нас самих! А еще читатель узнает, как ученые наблюдают за мозгом человека, решившего скрыть неприятную правду, и как распознать вероломного обманщика по случайным оговоркам и неосторожным жестам.
Во второй книге ярко описана сила астральных воздействий из непроявленного мира на раскрытого человека. После неудачного «пробуждения» автор пытается понять причину разрушения ментала и раскрыть тайну «голосов», которые управляли ею. Сова проходит через самоэкзорцизм, бунты и огненные откаты. Она никак не может понять, чем отличается пробуждение от одержания и зачем начались процессы трансформации у человека, который любит простую жизнь…
Новая няня вызывает у матери тревогу. На безлюдной автостоянке подозрительный незнакомец навязывает непрошеную помощь. Часто угрозы – не плод нашей фантазии, они реально подстерегают нас. В этой книге Гэвин де Беккер, ведущий мировой эксперт по насильственному поведению, показывает, как распознавать сигналы внешней среды и безошибочно реагировать на них. Опровергая мнение, что самые страшные акты агрессии обычно непредсказуемы, Беккер предлагает проверенные жизнью способы защитить себя и тех, кого вы любите.
Эта книга задумывалась по узкой теме: «Как я поборол свою негативную зависимость». Однако в процессе написания у меня постоянно присутствовало огромное желание делиться своими знаниями и убеждениями в более широком смысле, чем предполагает изначальная тема.Книга «рождалась» довольно долго и тяжело. Были периоды, когда мысли шли сплошным потоком, и мне оставалось лишь успевать их записывать. Но порой я не мог написать и двух предложений. Приходилось себя заставлять. Потом перечитывал написанное и понимал, что мне не нравится тот текст, который создан «под принуждением».
Большинство людей, которые хотят измениться, испытывают двойственность по отношению к перемене. Они видят причины измениться и причины не меняться. Они одновременно хотят измениться и не хотят этого. Такова человеческая природа. Мотивационное консультирование – психологический метод, который формирует у человека желание изменить что-то в своей жизни. Монография У. Р. Миллера и С. Роллника – создателей метода, – фундаментальная работа, которая в доступной форме с примерами раскрывает его сущность, ключевые навыки и формулирует конечную цель.