Формула Бога. Эволюция религии, культуры и этики в эпоху технологической сингулярности и бессмертия - [38]

Непрерывное накопление когнитивного опыта с детских лет вкупе со сложными социальными стимулами и ожиданиями способно приводить к очевидным разрывам между функцией подкрепления и биологической основой. Более того, часть сущности человека заключается в способности выйти за рамки биологических ограничений. Иногда наши мотивы действительно основаны на понятии качества жизни и становятся самодостаточными, не являясь суррогатом получения пищи, уклонения от опасности или чего-либо еще, имеющего очевидную эволюционную ценность.

Во-вторых, такие человеческие способности, как обучение и познание мира, основаны на возможности общаться. Именно благодаря языку мы можем рефлектировать и рассуждать о философии, природе и литературе.

В-третьих, максимизация ожидаемой выгоды для человека обусловлена окружающим обществом, культурой и языком. Каждое последующее поколение использует достижения предыдущих поколений, и, соответственно, способности к оптимизации отдельного человека ориентированы на максимизацию выгоды для общества.

В отличие от биологического мозга, ИИ можно копировать неограниченное количество раз и значительно ускорять его работу.

Для создания универсального ИИ необходимо выполнение трех базовых условий:

– создание правильной функции подкрепления;

– реализация эффективной методики обучения для построения модели окружающего мира;

– развертывание метода оптимизации, обеспечивающего максимизацию ожидаемого выигрыша при заданной модели обучения.

С алгоритмической точки зрения эволюционный естественный отбор включает процессы размножения, изменчивости и конкуренции, повторяющиеся огромное количество раз. С точки зрения вычислений в процессе естественного отбора используется массовый параллелизм на протяжении очень длительного времени.

Мюррей Шанахан писал: «Хотя эволюцию можно рассматривать как побочный продукт конкуренции множества генов, стремящихся максимизировать свое распространение, у нее нет глобальной функции затрат или функции полезности, которая направляла бы развитие». Несмотря на отсутствие направления и относительную простоту, «эволюция создала решения задач, достойных любого универсального интеллекта, таких как сохранение солнечной энергии и полет объектов тяжелее воздуха». По этой причине изобретательность может возникнуть в процессе оптимизации, но только при наличии исходных элементов, которые должны быть способны к открытой рекомбинации – должна присутствовать возможность собирать их в разных вариантах для получения неограниченного количества возможных творений. Для изобретательности в процессе оптимизации также необходима универсальная функция подкрепления. Стоит подчеркнуть, что если условия функции подкрепления слишком легко удовлетворяются, то это не способствует развитию инноваций.

Шанахан настаивает и на том, что для проявления изобретательности необходим достаточно мощный алгоритм оптимизации: «Наличие универсальной функции подкрепления и использование исходных элементов, поддерживающих открытую рекомбинацию, не даст заслуживающего внимания результата, если алгоритм оптимизации ограничивается небольшой неоднократно проверенной частью пространства возможностей». Более того, он считает, что «если создать правильный простой лобовой алгоритм оптимизации, оснастить его открытой функцией подкрепления и выпустить в среду с достаточными комбинаторными возможностями, то единственной вещью, ограничивающей его возможности, будут вычислительные ресурсы».

Следовательно, дополнив изобретательный, ненаправленный поиск рациональным исследованием и конструктивным, целенаправленным проектированием, можно значительно ускорить медленный процесс проб и ошибок и компенсировать недостаток вычислительных ресурсов. Для этого требуется модель окружающего мира. Для ее создания и поддержки необходимо машинное обучение, которое можно осуществлять через взаимодействие с окружающей средой либо опосредованно с помощью цифровых баз данных.

В конкурентной среде, где необходимых ресурсов недостаточно для обмена, изобретательность жизненно необходима, а если появляются возможности накапливать ресурсы, то потенциал изобретательности становится бесконечным.

Такой подход к созданию универсального ИИ может превзойти ИИ человеческого уровня и сразу достичь уровня суперинтеллекта, превосходящего человеческий интеллект во всех отношениях.

Не стоит забывать о существенной разнице между границами возможностей и успешностью. Границы возможностей познания универсального ИИ будут охватывать все вещи, которые мы способны воспринять, на которые можем воздействовать, о которых можно думать и которые можно обсуждать. Однако успешность в разных видах деятельности будет различаться: слабость ИИ в одних областях может компенсироваться хорошими результатами в других.

Искусственный интеллект может быть экспертом по нахождению паттернов в больших объемах данных, но, в отличие от человеческого мозга, он не будет ожидать, что данные упорядочены определенным образом – как поступающие с наших органов чувств.

ИИ должен уметь находить и применять статистические закономерности без посторонней помощи, что потребует больших мощностей и универсальности.