Технологии против человека - [29]

. Нам нужно понять и принять то, что человечность – это целостность, что познание связано со многими факторами, а не только с получаемыми по цифровым каналам данными, и по-настоящему стоящие решения приходят во время беседы, а не в результате клика мыши (хотя и полученные онлайн-идеи тоже могут быть полезными). Другими словами, если мы уберем процесс и оставим только результат, то это не будет тот же результат – программы нас обманут.

Взаимоотношения между людьми богаты и разнообразны и требуют усилий. И мы управляем ими с помощью технологий. Сообщения, электронная почта, посты – все это позволяет нам быть такими, какими мы хотим быть. Мы можем редактировать, и это значит, что мы можем удалять, то есть ретушировать лицо, голос, плоть, тело – не слишком сильно, не слишком мало, а в самый раз.

– Шерри Теркл[65], ⁹³

Что случится с нашей человечностью, если мы избавимся от всех нудных человеческих процессов: разговоров, размышлений, эмоциональных проявлений? Станем ли мы полностью зависимы от этих пространственно-временных туннелей и варп-двигателей, несмотря на то что они всегда будут лишь симуляцией человеческого опыта?

Так как все мегасдвиги работают совместно (см. главу 3), комбинаторно и экспоненциально, нам предстоит столкнуться с тем, что переход на цифровой формат, автоматизация и виртуализация спровоцируют еще больший рост автоматизации. Если одно звено в цепи будет автоматизировано, то со всеми остальными придется сделать то же самое. Автоматизация первого звена приводит в действие автоматизацию второго, и автоматизация всего процесса провоцирует цепную реакцию у связанных процессов. Эту логику нельзя изменить, потому что система постарается обойти изменения.

Конечным результатом может стать то, что после автоматизации новостей и информации, покупок и торговли, финансов и медицинских услуг нам придется также автоматизировать себя, чтобы не нарушать работу системы.

Если мы позволим нашим инструментам (компьютеру, смартфону, цифровым помощникам или ИИ) стать целью, а не средствами и заставить нас передать им в руки нашу власть, тогда без нас уже скоро можно будет обойтись, ведь мы будем слабыми конкурентами машинам.

Самый весомый аргумент в пользу того, что ИИ понадобится тело, ученые обнаружат на стадии его обучения и развития – они поймут, что искусственный общий интеллект нельзя «вырастить» без тела.

– Джеймс Баррат. «Последнее изобретение человечества. Искусственный интеллект и конец эры Homo sapiens»⁹⁴

Как же тогда провести границу между полезной автоматизацией и автоматизацией, которая зашла слишком далеко? Для начала, вот список того, что можно и нужно автоматизировать:

• бухгалтерия, заполнение форм, управление финансами;

• система безопасности в аэропортах;

•составление расписания, назначение встреч;

• прочие рутинные задачи, которые не требуют принятия решений.

Виды деятельности, которые, по моему мнению, не должны быть автоматизированы:

• новости и медиа;

•личные сообщения;

• лайки и подтверждения в социальных сетях;

• дружба (как автоматические подписки в Twitter);

• принятие на работу и увольнение персонала;

• демократические функции (например, подписывание онлайн-петиций вместо активной политической жизни);

• изменения человеческого генома;

• роды.

Напомню, что словарное определение слова «автоматизировать» – это в буквальном смысле «действовать от себя, действовать самостоятельно»⁹⁵. Разумеется, существует множество задач, автоматизация которых пойдет всем только на пользу. Одни автоматизированные функции помогут большинству, другие – некоторым, а третьи в итоге всем только навредят. В «Машине времени» Герберт Уэллс[66] представил будущее, где мир делят между собой одичавшие морлоки и бездейственные, но благородные элои⁹⁶. Даже если нам удастся избежать участи морлоков, насколько самодостаточными мы будем себя чувствовать в качестве элоев – пассивных представителей вида с номинальной претензией на превосходство?

Глава 5. Интернет вещей

Приведет ли интернет вещей к тому, что мы будем вынуждены отказаться от человечности и стать более похожими на машины, только чтобы с нами продолжали считаться?

Как уже упоминалось, развитие технологий приводит к появлению интернета вещей, который Cisco также называют «интернетом всего», а GE[67]– промышленным интернетом.

Его идея проста: когда все будет взаимосвязано и информацию безостановочно будут собирать отовсюду, мы получим возможность открывать новые истины и даже предсказывать и предотвращать события. Брюс Шнайер[68], эксперт по вопросам конфиденциальности и безопасности, называет этот искусственный облачный мозг взаимосвязанных между собой устройств, сенсоров, аппаратов и процессов «паутиной размером с мир»⁹⁷. Такой интернет может привести к новой эре оптимизации и гиперэффективности, но как это скажется на человеческих взаимодействиях?

Интернет вещей позволит сэкономить значительные средства и приведет к переходу на устойчивую многооборотную экономику (circular economy), при которой ресурсы будут использоваться повторно или перерабатываться после первичного использования и, таким образом, отходы полностью исчезнут