Максимальный репост. Как соцсети заставляют нас верить фейковым новостям - [47]
А потом случился финансовый кризис 2008 года, одной из причин которого называли как раз работу «квантов» – прежде всего, модели, которые слишком оптимистично оценивали риск, что кто-нибудь не расплатится с долгами. В следующем году жюри конкурса World Press Photo объявило «фотографией года» черно-белый снимок фотожурналиста Энтони Сво: полицейский с пистолетом осматривает дом, откуда только что выставили семью, не справившуюся со своими ипотечными платежами.
Обнаружив, что ее работа с числами привела к появлению новых бездомных, О’Нил уволилась из хедж-фонда и села писать книгу «Оружие математического поражения» – про то, как алгоритмы из лучших соображений портят людям жизнь. Книга вышла в 2016-м и сразу попала в длинный список Национальной книжной премии США{101}.
Кто будет сомневаться в пользе алгоритма, который помогает предотвращать преступления? У полиции есть многолетняя статистика убийств, грабежей и наркоторговли – а нейросеть на основе этой статистики решает, когда и в какие районы города стоит перебросить больше полицейских патрулей. Анализ данных доказывает, что прогнозы программы сбываются: в проблемных районах, на которые указал искусственный интеллект, в итоге действительно ловят больше нарушителей.
Что здесь не так? К примеру, часто такие алгоритмы ведут себя как расисты. Ясно, что расу потенциальных преступников в США никто не станет использовать как явный фактор математической модели, но алгоритмы настойчиво ведут полицейских в «черные» кварталы. Кэти О’Нил предлагает представить себе патруль, который выехал на дежурство и третий час кружит по району. Если ему попадется подросток с пивом, спрятанным в бумажном пакете, – его, скорее всего, задержат (хотя никакая патрульная машина не выехала бы специально по вызову «мы подозреваем, что тут подросток на улице пьет пиво»). В сводке о правонарушениях появится новая запись, и алгоритм будет иметь больше оснований считать район криминогенным. В таких районах будет больше арестов за преступления без жертв (такие как распитие пива на улице или марихуана в кармане). Для самих же правонарушителей, у которых в личном деле появляются записи об аресте, перспективы найти работу и зажить спокойной благополучной жизнью падают, а шансы стать преступниками в условиях сузившегося выбора, наоборот, возрастают. Потому что для окружающих они теперь подростки, у которых проблемы с полицией. У их белых сверстников, которые точно так же пьют пиво, спрятанное в бумажные пакеты, или курят марихуану в благополучном, по мнению алгоритма, районе, риск быть задержанными намного ниже. Физики называют такой эффект «петлей положительной обратной связи», а социологии – «самосбывающимися прогнозами».
Математическим моделям доверяют оценивать людей, не только когда речь идет о преступлениях. Их используют банки для оценки вашей платежеспособности, университеты при отборе абитуриентов и американское министерство образования при анализе работы учителей.
И если алгоритмы приемной комиссии Гарварда отбракуют 5 % соискателей, которые на самом деле заслуживают там учиться, нет простого механизма обратной связи, который мгновенно продемонстрирует этому университету, каких гениев он упустил.
Во всех этих случаях способов понять, что модель систематически промахивается, рассуждает О’Нил, нет – и пока система, работающая на основе машинных прогнозов, в целом справляется, нет поводов менять алгоритмы. Особенно пока (и если) компания, которая использует алгоритмы, воспринимает термин «искусственный интеллект» всерьез. Это тот случай, когда выбор слов определяет отношение к технологии. «Алгоритмы» и «машинное обучение» – просто способы превращать одни цифры в другие, таких способов может быть много, и алгоритмы естественно улучшать. А вот «искусственный интеллект» обозначает какую-то загадочную разумную силу, про которую естественно думать, что она заведомо разбирается в предмете лучше нас. Чем дальше заказчики математических моделей от математики – тем естественней ждать, что они будут относиться к каким-нибудь решающим деревьям именно так, с благоговением, а ставить под сомнение их рекомендации не будут.
Без алгоритмов машинного обучения все эти проблемы исчезнут. Но только потому, что не станет ни сайтов знакомств, ни соцсетей, ни рекомендательных сервисов, которые, не исключено, показали вам эту книгу.
1. По анкетным данным пассажира «Титаника» – пол, возраст, класс каюты, сколько стоил билет, сколько членов семьи было с ним на борту – можно с 80 %-ной точностью предсказать, выжил он или погиб при кораблекрушении.
2. Машинное обучение – это способ свести задачу про «Титаник» или вопрос, показывать ли вам запись друга в ленте Facebook, к универсальной математической процедуре. На входе – характеристики пассажира или записи в цифрах, на выходе – односложный ответ: «выживет – не выживет», «показывать – не показывать».
3. Нейросети – самый модный, но не единственный и даже не самый популярный на практике пример таких алгоритмов. У каждого семейства таких алгоритмов свои недостатки, которые мешают им правильно реагировать, например, на иронию или скрытые цитаты – и Facebook без повода блокирует вас на неделю.
Интернет влияет на базовые параметры нашего восприятия реальности. Сеть переполнила мозг современного человека сильнее, чем вся прежняя культура — мозг первобытного бушмена. Что именно изменилось у нас в голове с появлением браузера?Написал Борислав Козловский, корреспондент отдела науки журнала «Русский репортер».Консультировали Татьяна Черниговская, нейробиолог, профессор СПбГУ; Илья Колмановский, редактор блога «Наука» сайта snob.ru.
Книга является первым в России историческим очерком трансперсонального проекта в российской культуре. Авторы книги, доктор психологических наук, профессор Владимир Козлов и кандидат философских наук Владимир Майков, проанализировали эволюцию трансперсональной идеи в контексте истории психологии, философии, антропологии и духовных традиций.Во втором томе исследуется русская трансперсональная традиция и выявляются общие характерные особенности трансперсональной парадигмы в России и трансперсонального мировоззрения нашего народа и великих российских мыслителей.
Осознаваемое сновидение есть сновидение, в котором спящий во время сна осознает, что видит сон. В таком сновидении спящий, достигая полной ясности сознания, с абсолютной уверенностью понимает, что все зримое и ощущаемое — сон, и эта необычная убежденность дает такой уровень свободы и личной силы, который недостижим в обычном сне. Эта книга уже является классическим произведением в области изучения сновидений и, наверное, еще долго будет оставаться одним из главных руководств для тех, кто следует по пути самопознания.
Жизнь – это наша марафонская дистанция. Если терять силы на стрессах и неприятностях, то едва ли мы доживем до достойного финиша. Успешный человек отличается от неуспешного не тем, что не падает, а тем, что умеет подниматься. Мудрый от обывателя отличается не тем, что не реагирует на стрессы и неприятности, а тем, что эта реакция скорее философская, чем злобная или страдальческая. Страхи, трудные люди, обиды, неуверенность, потери были и будут всегда. Вопрос только в том, управляют они нами или мы учимся управлять ими.Эта книга о том, как приобрести эти бесценные навыки.
В книге рассказывается история главного героя, который сталкивается с различными проблемами и препятствиями на протяжении всего своего путешествия. По пути он встречает множество второстепенных персонажей, которые играют важные роли в истории. Благодаря опыту главного героя книга исследует такие темы, как любовь, потеря, надежда и стойкость. По мере того, как главный герой преодолевает свои трудности, он усваивает ценные уроки жизни и растет как личность.
Название этой книги говорит само за себя — «Как стать успешной стервой, которой все завидуют». Замечали ли вы, что «серую мышку» никто никогда стервой не назовет? А если женщина, наоборот, активно борется за «место под солнцем» и за свой «кусочек счастья» — пожалуйста, готов ярлык: стерва. Может быть, это слово имеет позитивный смысл?Автор полагает, что это безусловно так. Ведь основные черты характера стервы — самостоятельность, прагматичность, высокая адаптивность и беспощадность к себе. Стерва принимает важные решения сама, не перекладывая ответственность на чужие плечи.
Тебе не позволяли хотеть самому? Ты все время жил чужой волей, и поэтому ты сейчас уже не хочешь ничего? Ты разучился хотеть? Боишься выбирать и тебе уже проще жить, как все, и тихо все это ненавидеть?.. Но есть другое предложение: начинать жить снова, потому что сегодня – это не жизнь, а жить все равно хочется, и жизнь стоит того, чтобы ее прожить полной грудью, со всей скоростью! Начинается такая жизнь непросто. Она начинается с детства, а детство – с игры в «Хочу» и «Не хочу». И протестов против того, что «Надо».Эта книга о том, как научиться видеть завтра и сделать свою жизнь радостной!