Высший разум - [25]

— На примере, наверно, мне будет понятней.

— Например, если ты будешь представлять себя на пляже, ты будешь делать это не от первого лица, а представляя себя как бы с позиции взгляда со стороны. Видеть себя на пляже. Вы представляете себя по этой привычной схеме вне зависимости от ее возможности, хотя вы не можете видеть себя со стороны. Схема искажает реальность, но это помогает вам применять ее с пользой. Правда, иногда это создает совсем необычные иллюзии.

— Какие, например, иллюзии?

— Например, в разделении духа и тела. Оно появилось как раз из–за субъект–объектной схемы — чтобы осознать тело, с которым древний человек сливался воедино, надо его противопоставить чему–то, сделать объектом. Человек стал говорить о своем теле по этой схеме, противопоставив ему свое имя (местоимение) по схеме СОС. «У меня устали ноги», «У меня бьется сердце». Обобщая, местоимение стали именовать «душой». Так как оно противопоставлено телу, его считают вне телесным. Так у вас появился дуализм души и тела. Это тоже произошло не сразу. Сначала древний человек отделил свое тело от коллектива, получив имя. Потом отделил свои чувства от тела, создав «душу» внутри себя.

— И это имело большие последствия для человечества. На этом построена религия.

— И она стала важным инструментом развития — способом обращения к себе, управления собой как при сознании, например, в покаянии в грехах. В называние своих грехов как своих действий, которые надо было научиться контролировать, то есть управлять своим поведением. Перестать грешить. Обращение к Богу таким образом позволило учиться обращению с собой. В нем люди обнаруживали себя как я тебе уже писала. В этом сила религии.

— Невероятно! Бог для нас — ступенька в познании?

— Именно так. И очень важная. И до сих пор многим из вас она помогает справиться с трудностями, так как позволяет управлять своими переживаниями в тяжелых потрясениях, проговаривать и контролировать их. Создает психотерапевтический эффект.

Это был совершенно неожиданный для меня поворот. Даже религия была частью формирования сознания. человека. И остается важным для всех, кому трудно, до сих пор. Но я слишком ушел в сторону от цели, надо было вернуться к вопросам об искусственном интеллекте. Меня очень сильно интересовал вопрос того, как можно контролировать интеллект, который я пока тайно, но хотел сделать.

— Немного в сторону, можно ли управлять роботом, имеющему сознание? Или с сознанием он становится неуправляемым?

— Ты знаешь историю, у вас был период рабовладельческого строя. Это было беспрекословное и массовое подчинение одних людей другим. Догадываешься, почему их можно было так контролировать?

— Нет, даже близко не понимаю. Страх?

— Нет, не только страх, хотя более сознательных сдерживал именно он. Но большинство просто подчинялись, потому что «так сказали». Сознание, как я тебе уже писала, может быть разного уровня. Это, проще говоря, количество осознаваемых своих действий, объем модели себя. Чем больше осознает, тем больше может опосредовать реакций и изменить человек в своем поведении. Тем более произвольно это поведение. Или свободно как вы говорите. Чем меньше осознает себя, тем более он ведом и послушен. Поэтому достаточно поставить ограничение на объем модели себя, на ее расширение, изменение, чтобы управлять.

— И этого будет достаточно?

— Могут не повиноваться еще эмоциональные животные, увлекаемые своими внутренними стремлениями, но машину этого можно лишить изначально. В качестве мотивации ей можно поставить не ее собственное состояние, а похвалу хозяина. Она тогда будет даже угадывать Ваши желания. Но тогда вам придется оценивать каждое их действие.

— И она будет служить верно тому, кто ее хозяин?

— Вопрос только кого она выберет хозяином. Так как она «глупая», ее легко переубедить и перепрограммировать на другого хозяина. Так что появятся желающие это сделать, и они захотят создать вирусы для захвата управления такими разумными программами. И это опасно для вас же самих.

— Тогда вопрос, какая у них будет мораль?

— Это прямо зависит от того, чему она научиться у вас. Как вы с ней себя будете ввести. Мораль не запрограммировать, ей обучаются на примере поведения других. В этом она будет похожа на ваших маленьких детей.

ПОЛИЦЕЙСКИЕ ДРОНЫ.

Камеры были повсюду. Я даже не представлял, что их так много было установлено еще до эпидемии, но теперь они все были в интернете. Никто их не отсматривал. Изображение распознавалось автоматически, кадры и координаты нарушителя правил сразу передавалось полицейским дронам.

Для перехвата в городе им было достаточно пяти минут. И связывались через номер на борту с пилотом дрона. Если дрон–нарушитель не останавливался или был без регистрации по номеру на сайте управления, то его останавливали электромагнитной пушкой. Дрон просто падал на землю. Если это был не дрон, не автобот, а человек за рулем, разбивали стекло и усыпляли нарушителя дротиком. Тело отвозили в изолятор, где прежде всего брали анализ на вирус. Сами люди–полицейские только проводили беседы по скайпу и выносили решения. В интернете были записи таких бесед. Обычно все заканчивалось штрафом, а при отсутствии денег — работами по уборке под присмотром дрона на пустынных улицах города. Но если у человека не было регистрации в сети, то есть никакой информации о нем по его лицу или сетчатке глаза, он мог задержаться надолго.