Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - [30]

Шрифт
Интервал

3. За пределами машинного обучения

В 2018 г. в китайских социальных сетях получил распространение хештег #ThankGodIGraduatedAlready (#славабогуЯужеОкончил Школу) вместе с одной пугающей картинкой. На ней были изображены ученики старшего класса с зелеными и красными прямоугольниками, наложенными на лица; в каждом таком прямоугольнике – идентификационный номер и дескриптор, например, «рассеян», «отвечает на вопросы» или «спит». Камера ежедневно и ежесекундно записывала происходящее в классе, создав сотни тысяч фотографий лица каждого из учеников. ИИ сравнивал лица с промаркированными изображениями, исследуя каждое на признаки состояния учащегося. Какие-то сотрудники составили обучающий набор данных с метками, такими как «увлечен» или «отвлечен», «внимателен» или «бездельничает». Когда тысячи учеников оказались под наблюдением, у них не было ни одного момента, когда бы камера их не записывала. В отчетах было подсчитано, сколько времени каждый ученик ежедневно сосредоточен на учебе[182].

Эта система ClassCare, которая должна следить за учениками и мотивировать их, была разработана крупной технологической фирмой Hanwang. Другая фирма, Hikvision, вывела на рынок ИИ, который должен записывать состояние учащихся – довольны они или грустят, злы или удивлены. Также был геймифицирован процесс набора учебных кредитов – на специальных мониторах выводились имена лидеров каждого класса, с которыми ученики могли себя сравнивать. Общешкольное табло поощряло классы бороться друг с другом за лучшее поведение. Любой класс с низким баллом точно знал бы, кто отстает и кто тащит всю группу вниз. Репортер Хуэ Юджие проанализировал эту программу «умного образования» в 2019 г. и отметил, что почти все ученики в сети ее осуждали. Они были просто «раздавлены» и проклинали ИИ вместе с его пристальным оком[183].

Некоторые девочки в школе, за которыми следила система компании Hanwang, жаловались на то, что система распознавания лиц не могла их правильно определить. Если они меняли прическу или макияж, их иногда путали с другими девочками. Школа не раз отправляла их на фотосессии. Другие ученики просто отвергали такие камеры. Один сказал: «Я их все хочу разбить». Даже в стране, привыкшей к массовому надзору, постоянная запись повседневной деятельности вызвала возмущение. Когда Фонд Гейтса помог финансировать когнатную биометрику в США (браслет, измеряющий гальваническую реакцию кожи, которая, считается, показывает увлеченность учащегося процессом обучения), общественная критика заставила фонд отступить. Но неясно, окажет ли широкая критика в Китае то же воздействие. Директор компании Hanwang сказал Хуэ, что основой для разработки системы ClassCare послужил Государственный план развития нового поколения искусственного интеллекта[184].

В то же время в одном из университетов США было смоделировано иное будущее технообразования (edtech). Пройдя курс по искусственному интеллекту в университете Georgia Tech, студенты выяснили, что один из ассистентов преподавателей, им известный лишь по сетевому нику Jill Watson (JW), на самом был деле ботом[185]. Обычно JW задавал студентам вопросы в середине недели и отвечал на их вопросы заранее заготовленными ответами. Предположим, студент просит переписать задание. JW отвечает: «К сожалению, редактировать уже отправленные задания невозможно». JW по почте отвечал быстро, но не слишком быстро, иначе его скорость навела бы студентов на подозрения. На запрос помощи JW обычно отвечал «да» или «хорошо бы» на сетевом форуме. На другие обычные вопросы, о сроках и домашней работе, давались полезные (хотя и несколько легкомысленные) ответы.

Студенты, интервью с которыми было опубликовано в газете, похоже, довольны тем, как применялся JW. Им понравились его корректность и скорость. «Я личных черт в его постах не видел. Но, собственно, их и не ждешь от ассистента преподавателя», – сказал студент, который просил JW помочь ему с домашней работой. Ашок Гоэл, преподаватель компьютерных наук, разработчик JW, заявил, что со временем бот смог ответить на 40 % из примерно 10 тыс. вопросов, которые студенты отправляют за типичный семестр.

Можно ли считать, что это начало конца самой позиции ассистентов преподавателей компьютерных наук или даже самих преподавателей? Гоэл считает, что дело обстоит прямо противоположным образом. Когда на простые вопросы отвечает бот, у ассистентов есть возможность отвечать на более сложные. Фокусируя технологию на рутинных вопросах, Гоэл и его команда ориентируются на гуманистическое ближайшее будущее, в котором программы будут в основном помогать уже имеющимся преподавателям[186].

С другой стороны, каковы бы ни были намерения специалистов по компьютерным наукам, сильные политические и экономические мотивы заставляют такие инновации, как JW, развиваться в другом направлении, в сторону замены учителей и постоянного мониторинга студентов. Джорджия стала одним из многих штатов, в которых после экономического спада сократили финансирование государственного образования. Кризис, вызванный пандемией COVID-19, заставил университеты еще больше сократить расходы и увеличить долю преподавания онлайн. Сильные игроки в образовательной политике, начиная с глобальных фондов и заканчивая верхними эшелонами бюрократии в Вашингтоне или Брюсселе, также ставят перед собой задачу сокращения расходов. Вместо того чтобы поднять налоги для расширения уже существующих университетов, в Калифорнии в 2016 г. была внедрена плохо продуманная система сетевых курсов, которые должны были компенсировать нехватку курсов в колледжах


Рекомендуем почитать
Закон малинового варенья и еще 103 секрета консалтинга

Джеральд Вайнберг, исходя из своего более чем 50-летнего опыта работы консультантом, делится своими выводами, как запустить и успешно вести свой собственный консалтинговый бизнес. Благодаря использованию юмористичных Правил, Законов и Принципов — таких как Закон малинового варенья, Принцип картофельных чипсов, Правило Руди о брюкве — автор показывает, как, оставаясь самим собой, находить клиентов, завоевывать доверие и устанавливать правильную цену на свои услуги, о которой потом не придется жалеть. Если вы консультант, когда-либо пользовались услугами консультанта или хотите быть одним из них, эта книга будет вам полезна.


Папа, у меня есть бизнес. Как нормально зарабатывать в 16 лет

Классно в 16 лет иметь возможность самостоятельно покупать все, что хочется, помогать близким и дарить дорогие подарки важным людям. Кристина решила, что хочет зарабатывать сама. В итоге у нее получилось не только купить самый дорогой ноутбук, но и оплатить каникулы в Дубае для себя и папы, параллельно продолжая учиться в школе. Как у нее получилось? Благодаря этой книге вы: • Сделаете первый шаг к собственным деньгам • Избежите ошибки при трудоустройстве на работу • Сможете заработать деньги на воплощение мечты.


Караоке-капитализм. Менеджмент для человечества

Авторы Кьелл Нордстрем и Йонас Риддерстрале развивают свои идеи «Бизнеса в стиле фанк». Однако тон цитат стал иным. Пропали прежние оптимизм и лихость, граничащая с нахальством.В мире Караоке-капитализма индивидуальный выбор бесконечен. Но не даром. Вы платите либо способностями, либо наличными. В «Караоке-клубе» страны компании и отдельные люди сталкиваются с неизбежным выбором: копировать других или создавать свое собственное будущее. Пользуясь бенчмаркингом и лучшими методами, вы станете всего лишь одним из многих.


Менеджер Мафии. Руководство для корпоративного Макиавелли

Новые главы, новые аксиомы, дополненный словарь, текст, который стал еще более отточенным, изящным, практичным и приземлённым.Яркий фарс, наглядно демонстрирующий, как преуспеть в бизнесе, применяя опыт и понятия итальянской мафии к корпоративному управлению.


Бархатная революция в рекламе

Сегодня на потребителя обрушивается мощный поток рекламной информации. Выбрать между «хорошим» и «лучшим» почти невозможно. Наверное, поэтому все рекламисты мира в один голос отмечают спад эффективности традиционных рекламных подходов.Один из ведущих специалистов по рекламному бизнесу Сержио Зимен предлагает свой революционный взгляд на то, как компании должны строить свою рекламную политику в XXI веке.


Преступные эмбарго (Защита прав на интеллектуальную собственность препятствует распространению наукоемких продуктов, технологий и культурных ценностей)

В книге рассказывается история главного героя, который сталкивается с различными проблемами и препятствиями на протяжении всего своего путешествия. По пути он встречает множество второстепенных персонажей, которые играют важные роли в истории. Благодаря опыту главного героя книга исследует такие темы, как любовь, потеря, надежда и стойкость. По мере того, как главный герой преодолевает свои трудности, он усваивает ценные уроки жизни и растет как личность.