Максимальный репост. Как соцсети заставляют нас верить фейковым новостям - [47]
А потом случился финансовый кризис 2008 года, одной из причин которого называли как раз работу «квантов» – прежде всего, модели, которые слишком оптимистично оценивали риск, что кто-нибудь не расплатится с долгами. В следующем году жюри конкурса World Press Photo объявило «фотографией года» черно-белый снимок фотожурналиста Энтони Сво: полицейский с пистолетом осматривает дом, откуда только что выставили семью, не справившуюся со своими ипотечными платежами.
Обнаружив, что ее работа с числами привела к появлению новых бездомных, О’Нил уволилась из хедж-фонда и села писать книгу «Оружие математического поражения» – про то, как алгоритмы из лучших соображений портят людям жизнь. Книга вышла в 2016-м и сразу попала в длинный список Национальной книжной премии США{101}.
Кто будет сомневаться в пользе алгоритма, который помогает предотвращать преступления? У полиции есть многолетняя статистика убийств, грабежей и наркоторговли – а нейросеть на основе этой статистики решает, когда и в какие районы города стоит перебросить больше полицейских патрулей. Анализ данных доказывает, что прогнозы программы сбываются: в проблемных районах, на которые указал искусственный интеллект, в итоге действительно ловят больше нарушителей.
Что здесь не так? К примеру, часто такие алгоритмы ведут себя как расисты. Ясно, что расу потенциальных преступников в США никто не станет использовать как явный фактор математической модели, но алгоритмы настойчиво ведут полицейских в «черные» кварталы. Кэти О’Нил предлагает представить себе патруль, который выехал на дежурство и третий час кружит по району. Если ему попадется подросток с пивом, спрятанным в бумажном пакете, – его, скорее всего, задержат (хотя никакая патрульная машина не выехала бы специально по вызову «мы подозреваем, что тут подросток на улице пьет пиво»). В сводке о правонарушениях появится новая запись, и алгоритм будет иметь больше оснований считать район криминогенным. В таких районах будет больше арестов за преступления без жертв (такие как распитие пива на улице или марихуана в кармане). Для самих же правонарушителей, у которых в личном деле появляются записи об аресте, перспективы найти работу и зажить спокойной благополучной жизнью падают, а шансы стать преступниками в условиях сузившегося выбора, наоборот, возрастают. Потому что для окружающих они теперь подростки, у которых проблемы с полицией. У их белых сверстников, которые точно так же пьют пиво, спрятанное в бумажные пакеты, или курят марихуану в благополучном, по мнению алгоритма, районе, риск быть задержанными намного ниже. Физики называют такой эффект «петлей положительной обратной связи», а социологии – «самосбывающимися прогнозами».
Математическим моделям доверяют оценивать людей, не только когда речь идет о преступлениях. Их используют банки для оценки вашей платежеспособности, университеты при отборе абитуриентов и американское министерство образования при анализе работы учителей.
И если алгоритмы приемной комиссии Гарварда отбракуют 5 % соискателей, которые на самом деле заслуживают там учиться, нет простого механизма обратной связи, который мгновенно продемонстрирует этому университету, каких гениев он упустил.
Во всех этих случаях способов понять, что модель систематически промахивается, рассуждает О’Нил, нет – и пока система, работающая на основе машинных прогнозов, в целом справляется, нет поводов менять алгоритмы. Особенно пока (и если) компания, которая использует алгоритмы, воспринимает термин «искусственный интеллект» всерьез. Это тот случай, когда выбор слов определяет отношение к технологии. «Алгоритмы» и «машинное обучение» – просто способы превращать одни цифры в другие, таких способов может быть много, и алгоритмы естественно улучшать. А вот «искусственный интеллект» обозначает какую-то загадочную разумную силу, про которую естественно думать, что она заведомо разбирается в предмете лучше нас. Чем дальше заказчики математических моделей от математики – тем естественней ждать, что они будут относиться к каким-нибудь решающим деревьям именно так, с благоговением, а ставить под сомнение их рекомендации не будут.
Без алгоритмов машинного обучения все эти проблемы исчезнут. Но только потому, что не станет ни сайтов знакомств, ни соцсетей, ни рекомендательных сервисов, которые, не исключено, показали вам эту книгу.
1. По анкетным данным пассажира «Титаника» – пол, возраст, класс каюты, сколько стоил билет, сколько членов семьи было с ним на борту – можно с 80 %-ной точностью предсказать, выжил он или погиб при кораблекрушении.
2. Машинное обучение – это способ свести задачу про «Титаник» или вопрос, показывать ли вам запись друга в ленте Facebook, к универсальной математической процедуре. На входе – характеристики пассажира или записи в цифрах, на выходе – односложный ответ: «выживет – не выживет», «показывать – не показывать».
3. Нейросети – самый модный, но не единственный и даже не самый популярный на практике пример таких алгоритмов. У каждого семейства таких алгоритмов свои недостатки, которые мешают им правильно реагировать, например, на иронию или скрытые цитаты – и Facebook без повода блокирует вас на неделю.
Интернет влияет на базовые параметры нашего восприятия реальности. Сеть переполнила мозг современного человека сильнее, чем вся прежняя культура — мозг первобытного бушмена. Что именно изменилось у нас в голове с появлением браузера?Написал Борислав Козловский, корреспондент отдела науки журнала «Русский репортер».Консультировали Татьяна Черниговская, нейробиолог, профессор СПбГУ; Илья Колмановский, редактор блога «Наука» сайта snob.ru.
В предлагаемой работе Юнг дает психологическое описание инстинктивной деятельности, увязывает инстинкты с концепцией бессознательного, а также настойчиво подчеркивает некорректность рациональных мотиваций инстинктивных поступков.
Автор „Поверженного разума“ — известный испанский писатель, философ и психолог Хосе Антонио Марина, лауреат многих престижных наград, в том числе Национальной премии за лучшую научно-популярную книгу. Все его работы посвящены человеку — его силе и слабостям, возможностям и месту в социуме. Исследование человеческого разума для Марины — ключ к пониманию целого круга проблем, с которыми сталкивается личность в современном мире. Какие ошибки чаще всего совершает наш разум? Почему мы порой ведем себя откровенно глупо? Если существует научная теория разума, то и глупость заслуживает не менее глубокого изучения.
Откуда берутся Антиневесты? Почему так трудно привлечь мужчину и выйти замуж? Почему девушки, мечтая о Завидном женихе, довольствуются обычным балбесом? Почему мужчины одних женщин любят, а о других вытирают ноги? Как перестать гадать бросит – не бросит и взять под контроль отношения с мужчиной в свои хрупкие руки и расчетливый ум? Как манипулировать женихом, чтобы он стал мужем? Как повысить планку требований к мужчинам? Как обрести целеустремленность, стать обаятельной и удачно выйти замуж? Как стать хозяйкой своей жизни? Обо всем этом ты узнаешь, прочитав и воспользовавшись рекомендациями данной книги.
Рассказать о работе врача-психотерапевта можно по-всякому. Но имеет практический смысл рассказ без вранья. Как это, если оба слова, по Михаилу Задорнову, имеют общий корень?В этой «шутке» лишь доля шутки. На мой взгляд, рассказать честно — это, прежде всего, последовательно, по этапам совершенствования психотерапевтической помощи, чтобы читатель, погружаясь в многослойную почву терапии, мог оценить значимость составляющих опоры здания здоровья и болезни.Рассказать так, чтобы выводы, даже и положительные, не оказались лишь средством заурядной рекламы или пропаганды, а негативные не походили на оговор или самооговор.
О чем эта книга:О смысле жизни.Во что верить и где её (веру) искать.О людях феноменальной силы, ума, воли.Вся, правда, о ясновидцах, экстрасенсах...О том, как нами манипулируют и обманывают.Как жить, не болея и оставаться работоспособным до старости.Что такое секс и любовь.О ложных и истинных жизненных целях.О экологически чистом сельском хозяйстве.Что такое «Национальная идея»?Об образовании и воспитании.Об экологии и экономике и о многом другом здесь написано простым и понятным языком. Книга рассчитана на широкий круг читателей.
Подростковый возраст — самый трудный, считают многие родители. Однако подростковый возраст проходит, а трудности в общении с детьми только нарастают. Почему? У молодых людей наступает период самореализации, когда родители часто оказываются "не в теме", и повзрослевшим детям кажется невозможным объяснить «замшелым предкам» свои проблемы. Старшие удивляются нахальству и агрессивности младших, а младшие обвиняют старших в "твердолобости". Конфликт — налицо! Как не превратить этот конфликт в затяжную войну между поколениями и правильно выстроить отношения с повзрослевшими детьми, вы узнаете из этой книги.