Воспитание машин. Новая история разума - [32]
В качестве примера на базе предложенной автором реконструкции архитектуры мозга приматов[95] в лаборатории когнитивных архитектур МФТИ в настоящее время разрабатывается модель искусственной психики ADAM (Adaptive Deep Autonomous Machine) «по образу и подобию» человеческой. Подчеркнем, что именно обратный инжиниринг кортико-стриарной системы помог нам преодолеть существенный технологический барьер и предложить схему обучения иерархическому управлению. До сих пор эта проблема не поддавалась решению[96].
Почему бы нам теперь не начать создавать и более реалистичные модели психики различных животных, с тем чтобы воспроизвести их поведение в реальных экспериментах? Машинное обучение впервые предоставляет нам способ воссоздать психику животных и тем самым убедиться в том, что мы ее действительно понимаем. А там уже недалеко и до понимания человеческой психики.
Моделирование психики
Итак, понимание вычислительной архитектуры мозга действительно полезно для создателей действующих моделей искусственной психики. А с появлением таких моделей у нас возникает уникальная возможность тестирования различных теоретических представлений о том, как устройство мозга определяет поведение животных и человека, то есть наведения мостов между нейрофизиологией и психологией, а затем перехода к психолингвистике и логике.
Планирование и проведение экспериментов с искусственной психикой объединенными командами представителей разных наук как раз и составляет основное содержание практических проектов в рамках предлагаемой исследовательской программы. Основная задача – воспроизвести с помощью постепенного усложнения искусственной психики эволюцию когнитивных способностей млекопитающих от грызунов к приматам и далее – к человеку.
Начинать естественно с самого простого: воспроизвести основные поведенческие паттерны «искусственной мышки». Примером могут быть опыты с поиском пищи в лабиринтах, открыванием кормушек с помощью различных приспособлений и другими элементами дрессуры. В более сложной постановке можно изучать игровое поведение разных агентов, скажем хищников и их жертв («кошки-мышки»), вместе с исследованием обучения различным навыкам выживания в искусственных средах. Естественно, речь идет не только об индивидуальном обучении животных, но и о коэволюции параметров их мозга, а именно о том, какие врожденные рефлексы оказываются наиболее полезными для выживания «кошек» и «мышек».
Аналогично можно моделировать кооперативное поведение стайных животных в условиях, когда они могут обмениваться сигналами. Например, каждый агент, кроме обычных сенсоров и актуаторов, получает возможность демонстрировать и воспринимать ограниченный набор символов – язык поз и других способов демонстрации намерений. В результате у агентов должна развиваться способность распознавать и использовать намерения других агентов с помощью такой сигнальной системы, то есть то, что обычно называют theory of mind.
С практической точки зрения все такие эксперименты мало чем отличаются от существующих программ обучения искусственных агентов игре в StarCraft и другие игры. Для понимания эволюции мозга необходимо будет создать соответствующий набор тестовых задач типа OpenAI Gym, с помощью которого разные исследовательские группы могли бы сравнивать между собой достоинства различных архитектур искусственной психики и их способность моделировать как можно большее число реальных экспериментов с различными животными[97].
До определенного предела, скажем до уровня приматов, возможности искусственной психики можно наращивать экстенсивно – за счет увеличения числа вычислительных модулей и слоев обработки данных. Все-таки число нейронов мозга мыши (70 млн), кошки (700 млн) и шимпанзе (30 млрд) различаются на порядки. Но всего лишь трехкратная разница между мозгом шимпанзе и человека (менее 90 млрд нейронов) не настолько значительна, чтобы объяснить пропасть между интеллектом шимпанзе и разумом человека. Гораздо важнее то, что последний использует знания, накопленные тысячами поколений наших предков, инсталлированные в индивидуальную психику человека в процессе воспитания. Да, чем-то мозг шимпанзе от мозга человека отличается качественно, а именно способностью к овладению языком и абстрактным мышлением, необходимым для восприятия культурного наследия. Возможно, трехкратное увеличение размеров мозга как раз и позволило праязыку «поместиться» в мозге наших предков, обеспечив качественный переход от индивидуального интеллекта к коллективному разуму.
Способность машин обучаться естественным языкам и свободно общаться на них – важнейший технологический барьер на пути к сильному интеллекту. Существующие глубокие нейросети могут «понимать» значения слов и даже генерировать связные тексты, трудно отличимые от созданных человеком
