Рассвет Сингулярности - [19]

ГРАЖДАНСКАЯ ВОЙНА

Опасность возникновения нестабильной политической ситуации станет более явной при делении населения на пред Сингулярную и пост Сингулярную составные части, после появления разумных вычислительных программ и освоения загрузки сознания людей в компьютеры.

ТЕРМИНАТОР

Технология производства армий роботов убийц находится в пределах ожидаемых возможностей Сингулярности. Но роботы могут служить и средством обороны.

ЗАЦИКЛИВАНИЕ ИЛИ КАЙФОМАНИЯ

После вхождения в Сингулярность комбинация нанотехнологии и биоинжиниринга мозга предоставит нам возможность испытывать любые предпочитаемые нами психологические состояния в любое время и сколь угодно долго без каких-либо физиологических последствий. Кто сможет оказать сопротивление соблазну кайфомании? Однажды испытав все прелести виртуальных наслаждений, не станет ли человек после этого рабом воспоминаний этого эпизода и наркозависимым? Будет ли вообще возможно психологически отключиться от этого каким то образом? Мы все эволюционно запрограммированы на поиск удовольствий. В нашей первой сигнальной системе произойдёт короткое замыкание. Изучение животных показывает 100 процентное предпочтение ими стимуляции центров удовольствий вместо еды. Но, конечно, люди более разумны, чем крысы. Если бы наши наиболее уязвимые центры удовольствий стимулировать постоянно, то многое ли мы познали вокруг? Эта угроза, возможно, наиболее серьёзна среди всех опасностей, связанных с переломными технологиями, потому что источник опасности не является неким внешним агентом, а находится внутри нас как фундаментальная характеристика, запроектированная в структуру нашего сознания. Видимо стоит рассмотреть идею отказа от экспериментов с изменением состояния сознания. Рекомендовать не делать таких попыток. Не изменять нормально функционирующие сигнальные структуры получения удовольствий. Это не говорит о том, что вы не должны испытывать наслаждения и избегать радостей жизни. Но не замыкайте систему накоротко и не изменяйте ваше психологическое состояние напрямую. Эксперименты с вещами, которые вызывают предельное привыкание, слишком опасны, чтобы пробовать их хотя бы раз.

НИГИЛИЗМ

Нигилизм, безразличие, отсутствие цели, потеря интереса. Результат всех этих действий известен заранее. Ответом на эту проблему может быть ЗАБАВНАЯ ТЕОРИЯ СИНГУЛЯРНОСТИ Елизера Юдковского.

ГЛАВА ШЕСТАЯ. ФАНТАЗИИ НА ТЕМУ О СИНГУЛЯРНОСТИ

Здесь представлена подборка коротких фантастических рассказов о Сингулярности. Сингулярность наступит лишь через несколько лет в будущем, но изменения будут фундаментальными и глобальными. Наступление нанотехнологии преобразует медицинскую практику, экономику и архитектуру. Биотехнология трансформирует наши тела в образы из сновидений. Искусственный интеллект изменит наши представления о том, что значит быть личностью.

ЧЕТЫРЕ ГОДА СПУСТЯ

Этот рассказ был написан для электронного списка рассылки SL4 и выпукло отражает особенности реальной жизни посетителей SL4 Бена Герцеля и Элизера Юдковского.

Дата – через четыре года после сегодняшнего дня, когда мир находится на грани чего-то удивительного.

Большой новостью последних двенадцати месяцев является феноменальный успех программы Novamente Бена Герцеля. Она стала суперсредством решения комплексных проблем. После решения проблемы синтеза белков, 'чудодейственные' рецепты излечения одной страшной болезни за другой выдавались почти ежедневно. Победа над программой Deep Blue в двадцать один ход, сразу после того, как ей дали правила игры в шахматы, не кажется впечатляющей. Всё же нанотехнология пока оказалась ещё нерешенной проблемой, более трудной, чем ожидалось. Но обещания ИИ были реализованы не в полной мере. Система Novamente не демонстрирует признаков мотивации или инициативы. Если ей предлагают проблему, то она считает, запрашивает данные, считает и выдаёт ответ. Потом она сидит и думает "чёрт знает что" до тех пор, пока ей не предоставят другую проблему.

Тем не менее, успех системы Novamente сделал Бена Герцеля богатым и знаменитым, позволив ему частенько появляться в ток шоу программах, а также наносить визиты в Белый Дом. Одним из удивительных фактов является то, что эта система оказалась неспособна дать хоть какой-то дельный совет команде юристов, которая точно парировала недавнюю враждебную попытку захвата IBM.

Явление Novamente инициировало взрыв общественного интереса к исследованиям в области ИИ. Вслед за этим некоммерческая организация, Институт Сингулярности Искусственного Интеллекта, была завалена лавиной пожертвований.

В шикарном новом здании в Атланте мы находим Элизера, работающего со своей системой семени ИИ, SeedAI, собственного дизайна.

-Я собираюсь прочитать Вам краткую историю – говорит он.

- О'кей - отвечает компьютер.

На трёх больших экранах мы наблюдаем каскад внутренних переменных, системные параметры и сигналы речи, когда мы пытаемся понять что программа думает.

- У Марии был маленький ягнёнок, чья шерсть была белая как снег. - Элизер читает знакомый с яслей стишок, строку за строкой, глядя на экран. После завершения он спрашивает - О чём был рассказ?