Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - [66]

Хищническая инклюзия – понятие с давней историей[412]. Кредит дает возможности, но его теневая сторона (задолженность) сковывает. Иногда бремя кредитов намного больше преимуществ, которые они дают. Рассмотрим семейную пару, Джо и Маргарет, которые берут микрокредит под ставку 20 % в неделю. При такой ставке задолженность удваивается каждый месяц. Желая во что бы ни стало расплатиться, они на несколько дней остаются без денег, им нечем кормить детей. Они не могут выплатить арендную плату, и их выселяют, однако кредитор за три месяца получает всю причитающуюся ему выплату, зарабатывая неплохой доход на этом кредите. Когда мы думаем о будущем ИИ в потребительском финансировании, многое зависит от того, как такая история, как у Джо и Маргарет, кодируется фирмами, которые ныне наживаются на миллионах частных кризисов ликвидности. Грубые показатели выплат по кредитам подтолкнут машины и дальше искать подобных отчаявшихся заемщиков.

Весь вопрос в том, как определять «успешную трансакцию» и из чего она состоит. Кредиторы, сосредоточенные на прибылях, очень редко фиксируют данные о том, сложной была оплата кредита или легкой, унизительной или обыкновенной. Неведение-золото, по крайней мере для кредитора.

Тогда как заемщики страдают молча. Один канзасский ветеран войны выплатил 50000 долл, процентов за кредит 2500 долл.[413] Британская воспитательница взяла в долг 300 фунтов и через год была должна 1500[414]. Сотни заемщиков рассказали свои душераздирающие истории лондонскому изданию Guardian, а в Америке истории подобных бедствий распространены еще больше. В развивающемся мире ставки могут быть даже выше. Достаточно историй о самоубийствах клиентов микрокредиторов, которые не могли расплатиться по своим кредитам. «Кредитный круг» означает то, что долг заемщика часто перекладывают на его односельчан, чем создается невыносимая динамика устыжения. Один кениец утверждал, что цифровые приложения для кредитования в его стране «порабощают» как работающих бедняков, так и класс штатных работников[415].

Хищническая инклюзия отравляет также и надежды на образование. Когда люди, стремящиеся во что бы то ни стало ухватиться за удачную возможность, взваливают на себя значительный кредитный груз, чтобы пройти образовательные программы сомнительной ценности, результат тот же. Риторика вертикальной мобильности слишком многих убеждает в том, что больше учиться – значит идти по верному пути к большей возможности зарабатывать. Появляющиеся как грибы коммерческие колледжи пользуются такими надеждами[416]. Они торгуют жестоким оптимизмом, утверждая, что будущее должно быть лучше прошлого[417].

Один из способов предупредить возникновение эксплуатирующих образовательных задолженностей – сертифицировать программы, которые давали студентам хорошую «прибыль на инвестиции». В США администрация Обамы несколько лет пыталась ввести подобное требование, а в 2015 г. наконец провозгласила «правило оплачиваемой должности», но лишь затем, чтобы следующая администрация тут же эти гарантии отменила. Общество не слишком поддержало правило Обамы – гипертехнократический подход к сертификации программ кредитования. Его чрезмерная сосредоточенность на ожидаемых доходах вскоре после выпуска предполагала, что весь смысл обучения состоит в достижении определенного потенциала заработка. Каковы бы ни были преимущества подобного подхода, его нельзя применить к задолженности в обществе в целом. Ни одно государство не может подробно расписывать, какой кредит может использоваться для покупок, а какой должен быть запрещен.

В других юрисдикциях был опробован более просвещенный подход к образовательной задолженности, который мог бы применяться и во многих иных кредитных контекстах. Например, программы погашения кредита на основе дохода заемщика определяют долю дохода, которая должна выплачиваться только в течение определенного количества лет[418]. По сути дела, это налог для выпускников, если не считать того, что люди с достаточным, чтобы расплатиться по кредиту, доходом, прекращают платить после произведенной полной выплаты[419]. Движение за «свободный колледж» требовало также прямого обеспечения образованием[420].

Здесь может показаться, что финансовый ИИ мы оставили далеко позади. Однако специалисты по этике техники все больше понимают, что основные проблемы ИИ не являются в первую очередь технологическими. Скорее, самое главное – это социальная роль ИИ. Если мы хотим остановить хищническое кредитование, важнее разобраться с неравенством сил кредиторов и должников, чем переналаживать технологию ИИ.

Тот же принцип приложим и к жуткой инклюзии. Постоянное отслеживание по мобильному телефону, архивация и перепродажа данных – главный признак жуткой инклюзии[421]. Если банкир спросит сотрудницу, не будет ли она против, чтобы он следил за ней круглые сутки и семь дней в неделю, у нее неизбежно возникнет ощущение угрозы. Она может даже получить запретительное судебное постановление, дабы защитить себя от его преследований. Хотя кредитные договоры, которые сопровождаются трекерами мобильных телефонов, кажутся меньшей угрозой, применение и передача этих данных третьим лицам создает вполне отчетливую и действительно возмутительную угрозу. Жуткость – ощущение будущей угрозы, основанное на восприятии отклонения от нормы. Нормальный опыт включает право на трудовую жизнь, отличную от домашней, и на то, что нас будут судить на основе четко определенных критериев. Жуткая инклюзия подрывает этот баланс, позволяя неизвестным механическим агентам, принимающим решения, шнырять по нашим автомобилям, спальням и туалетам.