Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - [49]
Если нет людей-редакторов или менеджеров, которые бы брали на себя прямую ответственность за алгоритмические решения, сетевые платформы способны представить худшие социальные элементы в лучшем, убедительном и авторитетном свете. Так, поисковые результаты Google спровоцировали расиста Дилана Руфа, который убил девять человек в так называемой исторической черной церкви в Южной Каролине в 2015 г. Руф сказал, что, когда он погуглил «преступления черных против белых», то нашел посты организаций – сторонниц теории расового превосходства, в которых рассказывалось о «белом геноциде». «После этого я стал другим человеком», – сказал он[303]. Теория заговора ttPizzagate подтолкнула по крайней мере одного стрелка «изучить» безосновательные утверждения о сексуальных домогательствах в одной вашингтонской пиццерии, где он размахивал винтовкой AR-15. В горячечной топи автоматических поисковых результатов легко растет и распространяется поддержка отрицателей изменения климата, женоненавистников, этнонационалистов и террористов[304].
Автозаполнение в Google – автоматическое предугадывание запроса пользователя по одному или двум словам – также порой вызывало недовольство и споры[305]. Часто оно повторяет или подкрепляет расистские стереотипы[306]. В поиске изображений в Google некоторые фотографии черных людей были помечены как фотографии горилл, что было оскорбительным и в то же время абсурдным. За год Google «решил» эту проблему, отключив классификатор «горилла» для всех фотографий; соответственно, ни одно изображение не было им помечено, даже настоящие гориллы. Это решение на скорую руку не может на самом деле решить базовых проблем расистских или сексистских данных, которые используются сегодня для тренировки систем машинного обучения, или сократить уязвимость этих систем перед подобными атаками[307].
Многие представители элит, столкнувшись с подобными расистскими или сексистскими стереотипами, известными по поиску изображений в Google, могли бы посчитать их всего лишь трагическим отражением установок невежественных пользователей Google. Ведь, в конце концов, пользователи сами поставляют данные. Но такой перенос ответственности не убеждает. Как указывает Сафия Умоя Нобле в своей книге «Алгоритмы подавления», где она опирается на свой опыт академического ученого и бизнесвумен, когда цена высока, цифровые гиганты готовы вмешаться и поменять результаты (например, в коммерческих контекстах продажи рекламы). И они должны нести такую же ответственность в том случае, когда создается угроза общественным интересам.
Нобле также отстаивала идею замедления новых медиа. Из-за моментальной загрузки и распространения контента «платформа не в состоянии просмотреть каждый пост и определить, должен он быть опубликован или нет», – отмечает Нобле[308]. Киберлибертарианцы доказывают, что это означает лишь то, что человеческий контроль попросту устарел. Но Нобле с ними не согласна. Это системы, служащие людям, и их можно перестроить так, чтобы они служили целям человека. Новости на определенные темы должны сначала проверяться, и задержка позволяет такую проверку произвести. Это не значит, что каждый из миллионов постов нуждается в рецензии; скорее, как только история прошла проверку, ею можно делиться мгновенно. Подобное замедление вирусного распространения информации могло бы также создать возможность для более продуманных решений об ограничении (или в некоторых случаях усилении) «алгоритмической амплификации». Она порой приводит к созданию петель обратной связи, которые никак не связаны с качеством и полезностью распространяемой в них информации.
Некоторые апологеты технологии считают, что такие предложения ужасны, поскольку их можно приравнять к цензуре. Однако не существует никакой магической свободы слова, которая была бы уже заложена в систему по умолчанию. Платформы принимали решения о том, позволить ли пользователям отправлять прямые сообщения кому угодно (или только тем, кто с ними в друзьях или кто подписан на них), а также о том, насколько длинными могут быть загружаемые видео и как быстро истории могут распространяться или предлагаться другим пользователям. В настоящий момент почти все эти решения определяются мотивом выгоды: вопрос в том, какое устройство коммуникации более всего максимизирует рекламные прибыли и вовлечение пользователей. Такие подсчеты совершаются мгновенно, и часто они ограничивают (причем иногда довольно существенно) тиражирование того или иного поста. Все, что предлагает Нобле, – это учитывать больше ценностей, включая те, на обсуждение и применение которых требуется больше времени. «Медленные медиа» Нобле, подобные в этом смысле принципу наличия «человека в системе» автономных систем вооружения, представляются вполне разумным подходом[309]. Он не просто обходит незапланированные последствия. Он заставляет «просто» платформы взять на себя обязанности медиа, роль которых они сегодня в действительности играют.
Также есть конкретные примеры амбициозных кураторских проектов, которые нацелены на более высокое качество подачи новостей (пусть даже с меньшей скоростью и охватом) или ключевых предметов, интересных читателям. Например, критик технологий Евгений Морозов руководит командой аналитиков, которые публикуют The Syllabus – тщательно подобранную подборку материалов из определенных медиа, охватывающих десятки различных областей (от здоровья до культуры и от политики до бизнеса). Следуя принципу дополнительности, выражаемому первым новым законом робототехники, The Syllabus обещают «новый эклектический метод, при применении которого люди и алгоритмы должны работать сообща, отыскивая лучшую и наиболее значимую информацию»
