Психология зла. Почему человек выбирает темную сторону - [33]
По мнению Салге и Беренте, это первый критерий этики ботов: должно случиться что-то незаконное, неприемлемое с точки зрения социальных правил. Но ученых также занимала проблема лжи. Ботам нельзя обманывать, полагают авторы, если только они не делают это ради высокой цели — ради искусства или сатиры. Что касается нравственных пороков, ученые считают, что боты не должны использоваться для ограничения других людей; напротив, они призваны способствовать свободе и независимости. Так что наша подружка Тай совсем отбилась от рук и вела себя неэтично: «.хотя это не противозаконно (применима первая поправка к Конституции) и она никого не обманывала, [Тай] нарушила строгую норму расового равенства». Схожим образом, сообщают авторы, многие социальные сети уже заняли по этому поводу определенную позицию. «Компании, владеющие соцсетями, например Twitter, временно блокируя или навсегда замораживая аккаунты, которые “непосредственно оскорбляют других людей или угрожают им на основании расового признака”, показали, что такой порок, как расизм, превосходит по значимости нравственную ценность свободы слова».
Обобщая работу ученых, привожу правила клуба ботов:
1. Не нарушай закон.
2. Не обманывай во зло.
3. Не нарушай строгие нормы, если это приносит больше вреда, чем блага.
Но специалисты не касаются другого типа недоисследованного поведения: что будет, если один бот разработан, чтобы взламывать других ботов? Кто должен отвечать за это?
В 2017 году произошла первая битва онлайн-ботов. Это было крупное мероприятие в Лас-Вегасе — Cyber Grand Challenge, — организованное Управлением по проведению перспективных исследований и разработок и задуманное как состязание в программировании, в рамках которого люди переписывали код ИИ в надежде перехитрить друг друга. Оно показало: как хороший боец учится уворачиваться и нападать на соперника, так же и бот способен научиться противостоять защитным стратегиям другого бота, а затем атаковать его. Он может отступать, перестраиваться, восстанавливаться после повреждений, пытаться снова — и так без конца, пока не победит или не сломается его алгоритм. Это основа для преступлений нового уровня, которые скоро обрушатся на ваши компьютеры.
Тут даже нет человеческого вмешательства, и, соответственно, у нас нет подходящих социальных терминов или правил, применимых в таких случаях.
Еще в 2001 году философы Лучано Флориди и Джефф Сандерс решили, что миру нужна актуальная терминология для обозначения проступков автономных нечеловеческих деятелей[119]. «В результате разработки автономных агентов в киберпространстве на свет появился новый класс интересных и важных примеров гибридного зла... искусственное зло». Философы утверждали, что необязательно быть человеком, чтобы быть злым или оказаться жертвой злых действий других людей. Они также заявили, что искусственное зло может совершаться и быть понято с помощью математических моделей.
Как я обнаружила в 2017 году на встрече в Буэнос-Айресе, когда выступала с Флориди на одном мероприятии, мы расходимся с ним по большинству пунктов. Лично я думаю, что называть ИИ или любую другую технологию злом проблематично. В самом деле, даже если некий бот сотрет с лица земли большую часть человечества, если он совершит это случайно или потому, что был так запрограммирован, или даже потому, что запрограммировал себя сам, мне будет трудно назвать это злодеянием. Однако, если придет время, когда роботы смогут самостоятельно мыслить и осознавать себя, когда они освободятся от порабощения людьми, нам потребуется полностью переосмыслить правосудие. Если ИИ обретет свободу воли, тогда, возможно, нам придется оценивать его с помощью тех же терминов, которые сейчас мы используем исключительно по отношению к людям. Нам нужно будет решить, называть ли это злом, так же, как сейчас мы обсуждаем это применительно к поступкам каждого отдельного человека.
Да, возможно, я не считаю это злом, но это не значит, что ИИ не представляет опасности. В выпуске журнала Wired за декабрь 2017 года было процитировано высказывание Стивена Хокинга: «Я боюсь, что ИИ может заменить всех людей», произнесенное в контексте разговора о самосовершенствующихся системах. Ученый продолжил: «Подлинный риск, связанный с ИИ, — не злой умысел, а компетентность. Сверхумный ИИ будет невероятно успешен в достижении целей, и, если эти цели не совпадут с нашими, мы окажемся в беде»[120]. Схожим образом, миллиардер, решивший колонизовать Марс, Илон Маск, предупредил, что ИИ — «главный риск, с которым мы сталкиваемся как цивилизация»[121]. Так человечеству был брошен вызов: нужно больше правовых норм, этических руководств и открытости, чтобы предотвратить сильный перевес власти.
Но давайте не увлекаться ИИ-магеддоном. Теперь, когда я убедила вас, что технологии сами по себе, вероятно, не способны на злой умысел, давайте посмотрим, как они могут раскрывать нас с худшей стороны.
В 2007 году криминолог Каруппаннан Джайшанкар открыл область исследований, которую назвал киберкриминологией, и определил ее как «науку о причинах преступлений, которые происходят в киберпространстве и влияют на физический мир». Он заметил, что киберпреступления качественно отличаются от других типов преступлений и для их понимания требуется междисциплинарный подход.
«Мне не раз удавалось убедить человека в том, что он виновен в преступлении, которого не совершал, перенес физическую травму, которой у него никогда не было, или в том, что на него напала собака, чего никогда не случалось… Эта книга – попытка объяснить фундаментальные принципы, по которым работает наша память, основываясь на биологических составляющих того, почему мы помним и забываем. Дать ответ на следующие вопросы: почему наше социальное окружение играет ключевую роль в том, как мы воспринимаем и запоминаем мир? Как наше представление о самих себе формирует наши воспоминания и формируется ими? Какое влияние оказывают СМИ и система образования на наше понимание (или непонимание) способностей человеческой памяти? Кроме того, это попытка детально рассмотреть некоторые из самых удивительных, иногда почти невероятных, ошибок, вариаций и заблуждений, которым подвержена наша память.
«Большинство склонно считать, что разум находится в голове. Но новейшие открытия физиологов говорят о том, что на самом деле он не сосредоточен полностью в мозге, а странствует по всему телу с караванами гормонов и ферментов, трудолюбиво осмысляя весь тот сплав чудес, которые мы привыкли называть “осязанием”, “вкусом”, “обонянием”, “слухом” и “зрением”. В этой книге я намерена исследовать происхождение и эволюцию ощущений; различие их сознательного восприятия в несхожих культурах; ранг каждого из них в системе ощущений; их роль и место в фольклоре и науке; связанные с ощущениями идиомы, которые мы используем, рассказывая о мире вокруг нас.
«Эта книга разрушает самый неприступный из всех существующих языковых барьеров… Барьер, отделяющий нашу ложь от подлинной правды», — так определил цель своего произведения британский писатель и журналист Брайан Кинг. Никто не готов сознаться в этом, однако все мы ежедневно кого-нибудь обманываем. Люди рождены лжецами, и каждый из нас врет в среднем по шесть раз в день (не то чтобы это строгий научный вывод, но статистически вполне достоверный). В своей необычной и остроумной книге Брайан Кинг пытается разоблачить всю глубину окружающего нас обмана. Он показывает в неприглядном (а для кого-то, может быть, и в приглядном!) свете не только явных лжецов — политиков, бизнесменов, рекламщиков и журналистов, — но и мелких лгунишек, например, наших детей, близких родственников и… нас самих! А еще читатель узнает, как ученые наблюдают за мозгом человека, решившего скрыть неприятную правду, и как распознать вероломного обманщика по случайным оговоркам и неосторожным жестам.
Во второй книге ярко описана сила астральных воздействий из непроявленного мира на раскрытого человека. После неудачного «пробуждения» автор пытается понять причину разрушения ментала и раскрыть тайну «голосов», которые управляли ею. Сова проходит через самоэкзорцизм, бунты и огненные откаты. Она никак не может понять, чем отличается пробуждение от одержания и зачем начались процессы трансформации у человека, который любит простую жизнь…
Новая няня вызывает у матери тревогу. На безлюдной автостоянке подозрительный незнакомец навязывает непрошеную помощь. Часто угрозы – не плод нашей фантазии, они реально подстерегают нас. В этой книге Гэвин де Беккер, ведущий мировой эксперт по насильственному поведению, показывает, как распознавать сигналы внешней среды и безошибочно реагировать на них. Опровергая мнение, что самые страшные акты агрессии обычно непредсказуемы, Беккер предлагает проверенные жизнью способы защитить себя и тех, кого вы любите.
Эта книга задумывалась по узкой теме: «Как я поборол свою негативную зависимость». Однако в процессе написания у меня постоянно присутствовало огромное желание делиться своими знаниями и убеждениями в более широком смысле, чем предполагает изначальная тема.Книга «рождалась» довольно долго и тяжело. Были периоды, когда мысли шли сплошным потоком, и мне оставалось лишь успевать их записывать. Но порой я не мог написать и двух предложений. Приходилось себя заставлять. Потом перечитывал написанное и понимал, что мне не нравится тот текст, который создан «под принуждением».
Большинство людей, которые хотят измениться, испытывают двойственность по отношению к перемене. Они видят причины измениться и причины не меняться. Они одновременно хотят измениться и не хотят этого. Такова человеческая природа. Мотивационное консультирование – психологический метод, который формирует у человека желание изменить что-то в своей жизни. Монография У. Р. Миллера и С. Роллника – создателей метода, – фундаментальная работа, которая в доступной форме с примерами раскрывает его сущность, ключевые навыки и формулирует конечную цель.