Воспитание машин. Новая история разума - [26]

Например, уже сегодня имеется техническая возможность с минимальными издержками организовать массовые электронные голосования, обеспечив доверие к их результатам. (Применяя технологии шифрования с открытым ключом, когда каждый респондент может по своему частному ключу проверить, правильно ли учтен его голос в электронной системе голосования, не раскрывая при этом тайну голосования.) Сюда же, видимо, можно отнести и постоянно развивающиеся технологии распределенных реестров, математически гарантирующие общественную защиту любых транзакций.

В цифровом укладе государство сможет использовать национальные цифровые платформы для структурирования общественного мнения вокруг приоритетных вопросов, организации по ним качественной экспертизы и выработки совместных решений, вплоть до возможности самостоятельного распределения всеми экономическими субъектами своих налогов по основным бюджетным статьям, причем по математически обоснованным схемам оптимального фондирования публичных нужд, например используя квадратичное фондирование (quadratic funding), наилучшим образом учитывающее истинные предпочтения всех граждан[69], вместо нынешних сборов пожертвований для больных детей с помощью СМС-сообщений на фоне кулуарного распределения бюджетов в парламентских комитетах.

На платформах цифровой демократии интеллектуальные агенты смогут «дирижировать» процессами принятия коллективных решений, взвешивая мнения экспертов с учетом уровня их компетентности и знакомя граждан с наиболее весомыми аргументами за и против по любому вопросу подобно тому, как Google сегодня отбирает из сети наиболее релевантную информацию, а Amazon рейтингует и рекомендует товары на своих электронных витринах. Технологии сильного ИИ помогут людям формировать их личные мнения по любому вопросу в процессе диалога, в котором искусственный интеллект сможет суммировать разные точки зрения, находить в них скрытые противоречия и формулировать аргументированные советы исходя из понимания индивидуальных предпочтений и ценностей каждого гражданина.

Таким образом, ИИ несет с собой не только угрозы, но и способы борьбы с ними. Каждую угрозу мы должны воспринимать как вызов и пользоваться окном возможностей, открывающихся благодаря новым технологиям.

ИИ-порабощение

Какими бы ни были опасения обывателей против засилья элит, все они меркнут на фоне страха перед возможным порабощением людей всемогущим сильным ИИ, управляющим армиями послушных роботов. Мы автоматически наделяем искусственный интеллект хорошо знакомыми нам человеческими мотивами, например стремлением к доминированию, помноженными на его сверхчеловеческие способности по достижению своих целей.

Приписывание искусственному интеллекту человеческих мотивов, надо признаться, имеет под собой все основания. В конце концов, «с кем поведешься – от того и наберешься». Только вот насколько правомерно проводить демаркационную линию «порабощения» именно между биологическим и искусственным разумом? Мы интуитивно считаем, что все, что происходит внутри нашего мозга, – это естественный интеллект, а то, что происходит в микрочипах, – искусственный. Но так ли это на самом деле? Ведь, как известно, человеческий разум имеет коллективную природу. Все наше мышление, начиная с раннего детства, формируется обществом. Все наши мысли, даже если они и порождены нашим мозгом, были в своих предпосылках заложены в нас другими людьми в процессе коллективной мыследеятельности. Любой наш мыслительный акт происходит в явном или незримом диалоге с другими людьми, с оглядкой на их будущую оценку наших решений.

Но ведь то же самое будет происходить и в будущей искусственной психике робота – те же сомнения в оценке его действий окружающими, те же привитые воспитанием ценности, лежащие в основе принятия решений его искусственной психикой. Люди не способны заложить в роботов ничего другого, кроме собственных ценностей! Так что если уж и говорить о порабощении, то речь идет скорее о несовершенствах нашего нынешнего общества: излишнем доминировании элит в разделе общественного пирога, силовом подавлении индивидуальных свобод и других пережитках прошлых эпох. ИИ выступает лишь в качестве еще одного инструмента для существующих в обществе институтов – системы правил, убеждений, норм и организаций[70].

И если мы сумеем преодолеть в человеческом обществе идеологию вражды, деления на «своих» и «чужих», на которых моральные ограничения не распространяются, если сможем организовать цифровые институты гармонизации интересов разных групп без опоры на силу, то эти же ценности станут гарантом нашего мирного сосуществования и в рамках будущей человеко-машинной цивилизации. Ибо «без соответствующих институтов индивиды не всегда сознают, в чем состоит общественное благо, либо не всегда мотивированы в стремлении к нему»[71]. И это касается как биологических, так и искусственных индивидов.

Здесь уместно вспомнить о «законе техногуманитарного баланса», согласно которому для выживания цивилизации необходимо обеспечить регуляцию общественных отношений, адекватную степени развития технологий