Архитекторы интеллекта. Вся правда об искусственном интеллекте от его создателей - [64]
Д. М.: Соучредитель компании Apple Стив Возняк предложил так называемый кофейный тест. Претенденту на звание сильного ИИ нужно войти в случайный дом, найти кофе-машину, приготовить кофе и разлить его по чашкам. Тест выглядит тривиально, но для его прохождения нужно принимать сложные универсальные решения множества проблем общего характера. Мне кажется, что это оптимальная форма теста Тьюринга.
Но я хотел бы вернуться к вопросу об ограничениях, так как осталась за кадром проблема, связанная с предвзятостью. ИИ-сообщество имеет полярные мнения по этому вопросу. Одна из точек зрения заключается в том, что машины будут обладать меньшей степенью предвзятости, чем люди. Когда судья принимает решение об освобождении под залог, применение алгоритма может нивелировать человеческие предрассудки и даже избежать влияния суточных ритмов. Вспомните работу Марианны Бертран и Сендхила Малленатана, в которой рассматривались ответы на идентичные рабочие резюме, присланные представителями различных расовых групп.
М. Ф.: Многие надеются, что ИИ не унаследует человеческую предвзятость.
Д. М.: Предвзятость может появиться в данных как на стадии их сбора, так и за счет избыточной или недостаточной выборки. Эта проблема наглядно проявляется в кредитовании и уголовных делах, и велика вероятность, что в любой набор данных уже встроены масштабные предубеждения, причем непреднамеренно. Об этом много писали в своих работах Джулия Ангвин и ее коллеги из организации ProPublica и стипендиат фонда Макартуров Сендхил Малленатан. В итоге был сделан интересный вывод, что алгоритмы не способны удовлетворять различным определениям справедливости одновременно. Возникла важная проблема: определить, что такое справедливость.
Машины могут как помочь в преодолении предвзятости, так и усугубить ситуацию. К счастью, в этой области мы потихоньку продвигаемся вперед. Меня радует работа Сильвии Кьяппы из компании DeepMind, построенная на условной справедливости и причинно-следственных моделях.
М. Ф.: Но разве данные могут быть свободными от человеческих предубеждений, если они собираются в процессе обычной интернет-деятельности пользователей?
Д. М.: Я приведу пример, демонстрирующий, как возникает эта проблема. Известно, что отдельные районы патрулируются полицией более интенсивно, чем остальные. Это позволяет собрать о них больше данных.
Различия в выборке данных между строго охраняемыми и практически не патрулируемыми районами влияют на прогноз криминальной обстановки. Сбор данных может быть вполне объективным, но прогноз окажется далеким от реальности из-за чрезмерной выборки в одном районе и недостаточной выборки в другом.
Или рассмотрим такую процедуру, как выдача кредита. Есть люди, которые активно используют кредитные карты и совершают электронные платежи, и, соответственно, доступно множество данных об их транзакциях. Избыточная выборка в данном случае идет человеку на пользу, так как о нем можно сделать более точный прогноз. При этом о человеке, который предпочитает платить наличными, данных мало, алгоритм дает менее точный прогноз, что может негативно повлиять на окончательное решение о выдаче кредита.
Присутствует эта проблема и в системах распознавания лиц, что продемонстрировали в своих работах Тимнит Гебру, Джой Буоламвини и др.
М. Ф.: А что вы думаете о других опасностях, связанных с ИИ? Об угрозе, исходящей от суперинтеллекта?
Д. М.: Есть много поводов для беспокойства. Несколько лет назад группа, в которую входили, в частности, Илон Маск и Стюарт Рассел, встретилась в Пуэрто-Рико, чтобы обсудить прогресс в области ИИ, а также связанные с этой сферой проблемы. По итогам Стюарт Рассел опубликовал статью, где перечислялись области, которые недостаточно исследуются. Сейчас этот список считается исчерпывающим и включает вопросы безопасности.
Например, вопрос, как остановить вышедшую из-под контроля машину или даже алгоритм? Может понадобиться так называемая большая красная кнопка. Но исследователи из DeepMind в серии простых двумерных видеоигр gridworlds продемонстрировали, что многие алгоритмы теоретически могут научиться отключать свои выключатели.
При этом мы можем не знать, что именно повлияло на неверное решение или ошибочный прогноз, выданный ИИ. Существует интерпретатор сложных нелинейных моделей LIME, который пытается определить, на какие наборы данных опирается обученная модель при составлении прогноза. Другой многообещающий метод – применение обобщенных аддитивных моделей (generalized additive models, GAM). В них складываются модели отдельных признаков, по которым можно отследить, как влияет на прогноз добавление каждого признака.
Далее – проблема обнаружения. Для ИИ-систем нет мониторинга и разведки, и нельзя узнать, что где-то происходит использование ИИ-системы в террористических целях.
К счастью, постепенно появляются организации, небезразлично относящиеся к этим проблемам. Например, консорциумом Partnership on AI рассматриваются как вопросы предвзятости и безопасности, так и различные виды экзистенциальных угроз. Сэм Альтман, Джек Кларк и другие члены OpenAI хотят добиться выгоды от ИИ для всего человечества.
Эта книга о квантах – людях, управляющих рынками с помощью сложнейших математических моделей. Такой захватывающей истории о фондовом рынке вы еще никогда не читали.У вас в руках – шедевр журналистики, не просто поиск причины экономического кризиса, но и захватывающая история амбиций и гордыни, и предупреждение о будущем Уолл-стрит и всей мировой экономики.На русском языке публикуется впервые.
Смогут ли роботы обеспечить людям материальное изобилие, избыток свободного времени, качественную медицину и образование или же они превратят нашу планету в мир неравенства и массовой безработицы? Правда ли, что усердие и талант перестанут быть залогом жизненных достижений?Успешный разработчик программ и IT-предприниматель Мартин Форд не претендует на то, что знает ответы на все вопросы, но аргументированно и веско показывает, почему современные технологии способны оказаться намного более разрушительными для рынка труда, чем инновации прошлого.
Микроистория ставит задачей истолковать поведение человека в обстоятельствах, диктуемых властью. Ее цель — увидеть в нем актора, способного повлиять на ход событий и осознающего свою причастность к ним. Тем самым это направление исторической науки противостоит интеллектуальной традиции, в которой индивид понимается как часть некоей «народной массы», как пассивный объект, а не субъект исторического процесса. Альманах «Казус», основанный в 1996 году блистательным историком-медиевистом Юрием Львовичем Бессмертным и вызвавший огромный интерес в научном сообществе, был первой и долгое время оставался единственной площадкой для развития микроистории в России.
Вопреки сложившимся представлениям, гласность и свободная полемика в отечественной истории последних двух столетий встречаются чаще, чем публичная немота, репрессии или пропаганда. Более того, гласность и публичность не раз становились триггерами серьезных реформ сверху. В то же время оптимистические ожидания от расширения сферы открытой общественной дискуссии чаще всего не оправдывались. Справедлив ли в таком случае вывод, что ставка на гласность в России обречена на поражение? Задача авторов книги – с опорой на теорию публичной сферы и публичности (Хабермас, Арендт, Фрейзер, Хархордин, Юрчак и др.) показать, как часто и по-разному в течение 200 лет в России сочетались гласность, глухота к политической речи и репрессии.
Книга, которую вы держите в руках, – о женщинах, которых эксплуатировали, подавляли, недооценивали – обо всех женщинах. Эта книга – о реальности, когда ты – женщина, и тебе приходится жить в мире, созданном для мужчин. О борьбе женщин за свои права, возможности и за реальность, где у женщин столько же прав, сколько у мужчин. Книга «Феминизм: наглядно. Большая книга о женской революции» раскрывает феминистскую идеологию и историю, проблемы, с которыми сталкиваются женщины, и закрывает все вопросы, сомнения и противоречия, связанные с феминизмом.
На протяжении всего XX века в России происходили яркие и трагичные события. В их ряду великие стройки коммунизма, которые преобразили облик нашей страны, сделали ее одним из мировых лидеров в военном и технологическом отношении. Одним из таких амбициозных проектов стало строительство Трансарктической железной дороги. Задуманная при Александре III и воплощенная Иосифом Сталиным, эта магистраль должна была стать ключом к трем океанам — Атлантическому, Ледовитому и Тихому. Ее еще называли «сталинской», а иногда — «дорогой смерти».
Сегодняшняя новостная повестка в России часто содержит в себе судебно-правовые темы. Но и без этого многим прекрасно известна особая роль суда присяжных: об этом напоминает и литературная классика («Воскресение» Толстого), и кинематограф («12 разгневанных мужчин», «JFK», «Тело как улика»). В своём тексте Боб Блэк показывает, что присяжные имеют возможность выступить против писанного закона – надо только знать как.
Что же такое жизнь? Кто же такой «Дед с сигарой»? Сколько же граней имеет то или иное? Зачем нужен человек, и какие же ошибки ему нужно совершить, чтобы познать всё наземное? Сколько человеку нужно думать и задумываться, чтобы превратиться в стихию и материю? И самое главное: Зачем всё это нужно?