Кибербезопасность в условиях электронного банкинга. Практическое пособие - [169]
В результате такого стремительного прогресса человек постепенно теряет навыки общения с миром и управления собственной жизнью без «электронных костылей», как ранее уже успел утратить остроту зрения и слуха, свойственную древним охотникам и сказителям эйдетическую память[254] и т. д. Но чем больше времени люди проводят в цифровой среде, тем больше снижаются их познавательные способности по причине того, что они утрачивают желание «докопаться до сути», полагаясь на поисковые системы и различных виртуальных цифровых помощников (Virtual Digital Assistant, VDA).
Рис. 72. Развитие связанности/мобильности
А здесь их поджидает, даже если пока оставить за скобками возможности целенаправленных манипуляций, «ловушка релевантности»: в top поисковиков поднимаются сведения не наиболее достоверные и адекватные запросу, а наиболее «кликабельные». Показатель CTR[255] стал ключевой метрикой в интернет-маркетинге и в погоне за монетизацией интернет-сервисов фактически подменил собой настоящую релевантность (в ее научном понимании[256]): мнение 100 тыс. малообразованных пользователей с точки зрения машинных алгоритмов куда весомее мнения пары настоящих специалистов, оценить квалификацию которых ни поисковик, ни пользователи не в состоянии. Мало того, информация из дефицитной быстро превратилась в избыточную, что мешает устанавливать причинно-следственные связи тех или иных явлений.
Ситуацию усугубляют информационная перегрузка и быстрый темп изменений, ведущие к утрате желания «вникать в детали». Происходят тотальные симплификация[257], коммодитизация[258] и игровизация[259] продуктов и услуг, которые теперь должны быть «интуитивно понятными»; пространные инструкции превращаются из средства информирования потребителей в гарантию от юридических исков. Выбор обусловливается не только и не столько потребительскими свойствами, сколько «вознаграждением» (приобщение к «избранным» с покупкой последней модели iPhone, получение дополнительных выгод и (или) подарков в рамках программ лояльности и т. п.).
Для финансовых рынков это означает перемещение всех операций в устройство связи, через которое решаются и проблемы идентификации. Как следствие, традиционным банкам, вероятно, придется сфокусироваться на хранении денег клиентов и осуществлении расчетов, а интерфейсы отдать FinTech-компаниям (вышеупомянутая PSD2 уже лишила банки монополии на управление деньгами клиентов: предоставлять API для третьих сторон становится для них не правом, а обязанностью). Это приведет к постепенному отказу от неоцифрованных услуг (что пока сдерживается юридическими коллизиями) и увеличению объема операций, происходящих вне контроля пользователя, таких как автоплатежи за продукты и услуги, сбор информации в «фоновом режиме» для целей управления персональными финансами (PFM). В результате банк либо сам становится ИТ-компанией, либо превращается в back office для FinTech-компаний.
Параллельно будут расти число ошибочных действий (в т. ч. совершенных «по инерции») и возможности для манипулирования (пример: автовозобновление подписки и других услуг, если пользователь специально не заявил об отказе от них). Так, знаменитый «мгновенный обвал» (Flash Crash) американского фондового рынка 6 мая 2010 г. (снижение стоимости ценных бумаг на $1 трлн в рамках одной торговой сессии) с высокой степенью вероятности стал результатом «гонки вооружений» производителей систем для высокочастотного трейдинга[260].
Вообще формирование вокруг человека своего рода цифрового «кокона» дает простор для манипуляций в просто невообразимых масштабах. То, как мы распознаем мир, – результат веры как в данные, предоставляемые разнообразными устройствами, так и в системы их дистрибуции. Социальные сети и VDA уже сейчас активно фильтруют медиа и контент согласно своим внутренним алгоритмам. В недалеком будущем то, на что обращают внимание миллиарды людей (а при использовании VR/AR очков – и то, что они вообще видят), будет контролировать небольшая группа владельцев социальных сетей и производителей ботов и VDA.
«Все вокруг нас напоминает о нашем отречении от нашей собственной власти в пользу технологий… В конце концов мы можем прийти к ощущению того, что мы вообще уже ничего не решаем и не можем ни на что повлиять, – те или иные вещи просто происходят с нами.
Жизнь станет намного проще, не так ли? Идти следом гораздо легче, чем прокладывать дорогу самому… Сможем ли мы свободно принимать решения, не основанные на логике и алгоритмах? Сможем ли мы по-прежнему совершать глупые поступки: превышать скорость, напиваться, есть вредную еду? Или свобода воли перестанет существовать?
В одном можно быть уверенным: технологии и их крупнейшие провайдеры сделают все возможное, чтобы склонить нас к повиновению и отречению, случайно или преднамеренно»[261].
Предиктивная аналитика[262], первоначально призванная помочь с сортировкой и пониманием потока информации для обеспечения принятия обоснованных решений, теперь фактически превращается в способ склонить человека к выполнению действий, ведущих к выгоде финансового института.
