Искусственный интеллект - [79]

Проблема необходимости поддержания софта служит отличным напоминанием о том, что цифровой мир более не нов. Подобно первопроходцам первого бума доткомов, он вошел в стадию среднего возраста. И если полагать, что цифровой мир начинался с Минского и Тьюринга, то можно сказать, что он значительно постарел: пришло время быть более реалистичными и честными по отношению к тому, что происходит в области технологий и реальной необходимости их поддерживать. Я настроена оптимистично и уверена, что мы сможем найти путь использования технологий, чтобы одновременно поддерживать и демократию, и человеческое достоинство.

Ошибки сделаны. Это вполне могло бы быть рефреном к тому, как медиаиндустрия адаптировалась к цифровой революции. Также могло быть рефреном того, как индустрия технологий справлялась с той же цифровой революцией. Секрет понимания прошлого заключается в том, чтобы не сделать те же ошибки в будущем.

Во-первых, мы можем перестать относиться к технологиям как к чему-то новому, сверкающему и инновационному и вместо этого принять их как повседневную часть жизни. Первый компьютер ENIAC был создан в 1946 г. У нас было больше полувека для того, чтобы понять, как интегрировать технологии в общество. Полвека – это много времени. Однако, несмотря на все прошедшие годы, когда я посещаю какие-либо встречи, я знаю, что первые 10 минут всегда будут отданы на то, чтобы разобраться, как работает проектор и как вывести на экран презентацию PowerPoint. На сегодняшний день нам удалось научиться применять цифровые технологии и повышать экономическое неравенство, подрывать экономическую стабильность свободной прессы, провоцировать кризис фейковых новостей, откатиться назад в развитии систем голосования и защиты честного труда, следить за гражданами, распространять лженауку, оскорблять и преследовать (в основном женщин и цветных) онлайн, строить летающих роботов, способных в лучшем случае раздражать людей и в худшем – сбрасывать бомбы, повысить количество случаев хищения персональных данных, обеспечить почву для хакинга, выливающегося во взломы и кражи данных миллионов кредитных карт, продавать невероятные объемы персональных данных и выбрать Дональда Трампа президентом. Это вовсе не прекрасный мир, обещанный ранними техноевангелистами. Это тот же мир, с теми же людскими проблемами, которые всегда были. Однако теперь они спрятаны внутри кода и данных, из-за чего их сложнее увидеть и легче игнорировать.

Нам совершенно необходимо изменить наш подход. Нужно перестать подвергать технологии фетишизации, провести аудит алгоритмов, отслеживать акты проявления неравенства, сокращать наличие стереотипов как в вычислительных системах, так и в самой индустрии технологий. Если код есть закон, то, вспоминая Лоуренса Лессинга, необходимо удостовериться, что те, кто его пишет, сами ему же следуют. Пока что их попытки самоуправления оставляют желать лучшего. Мы не можем учиться на прошлых поступках, но нам нужно обратить на них внимание.

В нескольких современных проектах из области науки и журналистики говорится о том, что грядет новый, более сбалансированный подход к пониманию ИИ. Один из них – подход исследовательского центра Института современного искусственного интеллекта (AI Now Institute) при Университете Нью-Йорка, основанный в 2017 г. Кейт Кроуфорд из отдела исследований Microsoft и Мередит Уиттакер из Google. Созданный представителями Кремниевой долины, проект был запущен Управлением по политике в области науки и технологий при Белом доме президента Барака Обамы и Национальным экономическим советом. Первый отчет центра был сфокусирован на социальных и экономических проблемах ближайшего будущего, связанных с ИИ. Ученые выделили четыре области: здравоохранение, рынок труда, неравенство и этика. Второй отчет призывал «все публичные институции, в частности, ответственные за криминологическую экспертизу, системы здравоохранения, социального обеспечения и образования немедленно перестать использовать системы ИИ и алгоритмы типа “черный ящик” и перейти на системы, обеспечивающие прозрачность работы механизмов, например, посредством легализации, аудита и общественной экспертизы»[164]. Исследовательский центр данных и общества, возглавляемый Даной Бойд, придерживается цели понять и обратить внимание общественности на роль человек в ИИ[165]. Так, например, эксперимент с анализом «хороших селфи» из главы 9 мог бы выиграть от более детальной интерпретации социального контекста тех, кто селфи создает (и тех, кто придумал эксперимент). Другая интересная область, достойная внимания, – люди, фильтрующие нежелательный контент в социальных сетях. Когда контент с порнографией или сценами насилия обнаруживается онлайн, человек его проверяет, действительно ли это видео с обезглавливанием, неприличная фотография или другие примеры худших человеческих проявлений. Ведь психологические последствия ежедневного созерцания чего-то подобного могут быть травматичны[166]. Нам нужно изучить эту практику и вместе, как единая культура, принимать решения о том, что она означает и как с ней быть.