Рассвет Сингулярности - [9]

Предлагаемый метод самомодификации состоит в следующем:

При выполнении программы Prog1 она пытается сгенерировать такие варианты поведения, которые повышают удовлетворение от продвижения к цели. Используя кодовую модальность и аналогичный Prog1 дизайн интеллектуального агента, программа Prog2 наблюдает за ходом работы Prog1 и пытается сгенерировать логические изменения в Prog1, которые повысят эффективность Prog1. Prog3 наблюдает за ходом работы Prog2 и пытается сгенерировать логические изменения в Prog2, которые повысят эффективность Prog2. Поскольку Prog3 идентична Prog2, то любые изменения, передаваемые из Prog3 в Prog2, также реализуются и в Prog3. То есть, идёт рекурсивное самосовершенствование.

Итак. Программа Prog1 задаёт поведение. Программа Prog2 изменяет программу Prog1. Программа Prog3 изменяет программу Prog2, а поскольку программа Prog3 идентична программе Prog2, то изменения программы Prog3, передаваемые программе Prog2 также передаются и программе Prog3.

Работа модулей осуществляется непрерывно в параллельном режиме с использованием текущих данных, поступающих от входных модулей.

Модель способна лишь модифицировать свои познавательные алгоритмы, а не всю структуру программы, что ограничивает её как статическое средство.

Если система будет запущена в ограниченной среде, то она оптимизирует себя в этой среде. Если она будет запущено в комплексной расширенной среде, то она оптимизирует себя для этой среды.

Самое эффективное развитие происходит тогда, когда работа начинается в строго ограниченном и простом подмножестве объективной среды, а после расширения масштаба и сложности этой среды система берёт на себя управление причинными связями подмножеств. Подмножества должны расширяться в смежные причинно обусловленные области.

Причина разделения имитационного анализа на обучение, предсказание, начало и конец оптимизации заключается в необходимости предохранить программу от зацикливания на эйфории, желания модифицировать себя таким образом, что интерпретация сенсорных данных станет более важной составляющей её функционирования в сравнении с реально существующей целью.

Составные части программы, ответственные за эффективную интерпретацию и детерминизм в достижении цели, не могут быть изменены теми частями программы, в которых заложена мотивация к увеличению скорости достижения цели.

ЗАКЛЮЧЕНИЕ

Что касается того, почему программа модифицирует лишь познавательные алгоритмы, а не саму структуру программы, то я целенаправленно пытался достичь более простой цели проектирования интеллектуального средства на уровне отсутствия самосознания и собственной мотивации, как более реально достижимой стартовой точки в деле создания семени ИИ.

Эта модель не претендует на то, чтобы копировать работу человеческого мозга. В ней не делается каких-либо попыток эмуляции сознания, эмоций или автономной мотивации.

Аргумент о несоответствии ситуации, который робототехники используют против тех, кто моделирует ИИ, зависит от богатства взаимодействия со средой. Одно дело если робот знает, что сообщения поступили от его сенсоров. И другое дело, когда Вы можете обучиться передвижению без помощи ног, но тогда ваши "ноги" и их функционирование становятся частью вашей среды.

Модель на этой стадии развития не дает подробного определения того, какой алгоритм распознавания используется каждым из модулей. Одна из главных целей системы состоит в том, чтобы выяснить, что и где работает лучше всего. Однако нет причин начинать создавать систему с нуля, например, заново изобретая алгоритм симплексного метода или быстрого преобразования Фурье (FFT). Программисты должны внести свою лепту, основываясь на своей многолетней практике, и задать исходную логику. Система должна также включать обширную библиотеку всех типов алгоритмов для экспериментирования. Системе необходим не чисто случайный, а более рациональный способ самомодификации. Этот подход будет включать использование аллегорического изоморфизма плюс распознавание причинных связей в среде высокоуровневых абстрактных кодов.

Я бы хотел выразить признательность Элизеру Юдковскому за концепцию кодовой модальности и замечание о взаимодействии программистов в фазе разработки, а также за предложение описывать среду от простого к сложному. Также замечу, что хотя это специально выше не оговаривалось, но его понимание уровней организации (восприятия, концептуального мышления, рассуждения) я считаю чрезвычайно привлекательными вместе с его походами с обратной связью в логике сосредоточения внимания для сенсорной модальности, что может быть весьма полезно или необходимо в любой интеллектуальной системе.

Загрузка

Загрузка – это процесс изменения материального субстрата вашего разума с архитектуры на основе биологических нейронов к архитектуре на основе компьютерных транзисторов. Биологический субстрат спроектирован эволюцией. Компьютерный субстрат спроектирован разумом.

Существует несколько разных способов совершить этот подвиг. Все они включают сканирование вашего биологического носителя и создание функционально точной программно-компьютерной основы вместе со всей информацией оригинала. Чтобы сделать точную функциональную копию, возможно, придется отсканировать и сделать дубликат всего биологического тела. В наше тело встроено много взаимосвязанных функций обработки, которые мы бы хотели воссоздать с предельной точностью. Хотя можно было бы получить главную часть разума отсканировав лишь мозг. Всё зависит от того, насколько точная копия вам потребуется. Давайте предположим, что мы получим лучшую копию из всех возможных. Вам необходимо будет поместить вашу виртуальную личность в полностью интерактивную виртуальную среду для её точного функционирования. Если ваша виртуальная особа будет совершенно точной, то она будет иметь все физические болячки и недуги оригинала. Если у оригинала должен произойти сердечный приступ через пятнадцать минут после сканирования, то ваша виртуальная особь должна будет испытать тот же самый сердечный приступ, даже если в результате наступит смерть. Большим преимуществом вашего виртуального "Я" является то, что внесение изменений в дизайн должно быть теоретически более легким делом. После появления зрелой нанотехнологии такое разграничение может стать спорным.