Полдень, XXI век, 2005 № 01 - [105]

Шрифт
Интервал

Еще Станислав Лем показал, что холодная война толкает промышленность к созданию оборонного ИИ, как идеального штабного работника, полководца да и солдата[4]. Даже после прекращения противостояния супердержав к точно такому же результату толкает компьютерные корпорации их взаимная конкуренция. Более того, ИИ необходим фирмам и потребителям не только как идеальный дизайнер, менеджер и т. п. — это достаточно отдаленная перспектива, — но он нужен как идеальный помощник, референт, ходячий блокнот того же дизайнера или менеджера.

Наиболее велика вероятность появления ИИ в той же роли, что и во время холодной войны, — стратега и тактика, который на основе сопоставления тысяч фактов мгновенно выносит управленческие решения. Такие программы должны будут обладать: а) большими оперативными возможностями; б) умением сопоставлять окружающую действительность с данными виртуального пространства; в) способностью к быстрому качественному (благодаря большому количеству вспомогательных программ) и количественному (набор вычислительных возможностей) росту.

Помимо этого, в обрабатываемой ИИ информации будет содержаться множество алгоритмов, доктрин, моделей поведения и концепций развития, по сути своей нелояльных человеку. Уже сейчас есть программы для поиска преступников, выявления налоговых недоимок, охраны закрытых объектов. А компьютерный менеджер должен будет рассчитывать количество увольняемых рабочих, выискивать ошибки политических противников своего хозяина или вероятное количество погибших во время военной операции. И вот здесь роль мутагенного фактора, изменяющего лояльную модель поведения на агрессивную, может сыграть любой удачно запущенный вирус.

Следует заметить, что Deus ex machina может быть не только создан искусственно, но и зародиться самопроизвольно. Программы, обслуживающие крупные серверы и другие подобные информационные узлы, для совершенствования своей работы будут оснащаться возможностями по частичному распознаванию обрабатываемой информации (в частности, программа поверхностного анализа содержания электронной почты). Качественный перевод сложного текста или разговора также невозможен без частичного наделения машины сознанием.

Вывод из перечисленных фактов весьма прост: возникновение Deus ex machina в конечном итоге неизбежно, как неизбежно любое событие, характеризуемое очень высокой вероятностью, будь то выстрел при игре в русскую рулетку или падение предмета, имеющего только одну точку опоры.

Какие же признаки будут отличать сознательные действия компьютерного разума от действий тех же вирусов?

За ответом можно обратиться в область биологии и рассмотреть, чем отличаются действия бессознательных существ от действий сознающих окружающее организмов.

Простейший тип общения с окружающей средой представляют растения — оно ограничено взаимодействием на уровне сложных химических реакций. Благодаря им растение поддерживает свое существование — они идут ему на пользу. Таким образом, своекорыстность действий — первый признак их организованности.

Общение с окружающей средой не сводится к набору химических реакций. Сложность его может быть весьма велика, и по мере ее увеличения проявляются различия между сознательным и бессознательным.

Еще ни одно растение не выкопалось из земли и не перешло на более обводненное место — в то время как такие действия доступны самому ничтожному насекомому. Животные и насекомые проводят оценку окружающей среды по десяткам параметров и соразмеряют свои действия с каждым из них. У животных проявляется избирательность действий, которая может быть только результатом больших знаний об окружающем мире.

А деревья, даже если их ветви ломаются от снега, не сбрасывают листву.

Животные, в свою очередь, лишены абстрактного мышления, и те единичные случаи, когда обезьяна отделяла рис от песка водой или училась читать отдельные буквы, являются исключениями, лишь подтверждающими правило. Образы, которые генерирует мысль животного, изолированы друг от друга, не связаны в единую систему. Вот почему животные легко уходят от лесных пожаров, могут переплывать через реки, строить гнезда, но панически боятся того же огня и не могут им управлять.

Человек обладает возможностями рефлексии и совершенствования собственного сознания. Он может достигать выгоды более сложными действиями. Изощренность этих способов прямо пропорциональна количеству знаний человека и его логическим способностям. Качественно новой ступенью — диалектическим отрицанием изначальных качеств организованности действий — можно признать возможность самоубийства. Но по каким параметрам ограничено мышление «венца творения»? По очень многим, начиная с того, что оно вообще разбито на сознательное и бессознательное, и кончая простым ограничением памяти и вычислительных способностей.

Поэтому признаком существования ИИ можно считать действия по достижению благополучия некоего субъекта, которые нам — людям — ещё малопонятны.

Какие же черты будут свойственны сознанию ИИ? Прежде всего, это его целостность и возможность полного самоосознания. Человек не может до конца понять свой собственный характер, опытнейшие психологи с трудом разбираются в отдельных аспектах своих подсознательных реакций. Оценить и понять свое поведение в толпе, узкой группе лиц, семейном кругу, да при том в режиме реального времени — практически невозможно. ИИ, имеющий доступ к тексту своей программы, сможет оценить и практически предсказать свое поведение в любой ситуации (если в программе нет противоречий или она не слишком стохастична). Самоосознание указывает лучшие пути к самосовершенствованию — поэтому ИИ должен проявить способности идеального ученика, тем более что у него не будет человеческих проблем с памятью. Разумеется, возможности самоанализа будут ограничены начальными постулатами программы, системой сдержек и противовесов, зашитой в нее. Они могут восприниматься ИИ как своего рода инстинкты, и в этом отношении он более ограничен, чем человек. Но в случае устранения подобных сдерживающих механизмов ИИ становится обладателем более совершенного, по сравнению с человеческим, сознания.


Еще от автора Владимир Борисович Данихнов
Колыбельная

Действие книги происходит в безымянном южном городе, «Южной столице», как называет ее сам автор. Город потрясло появление жестокого серийного убийцы, которого в сети уже успели прозвать Молнией: за один месяц он похитил и убил несколько детей, и у следствия нет ни единой зацепки. Чтобы расследовать это дело в город из С.-Петербурга приезжает известный сыщик.Множество судеб, сон и явь, переплетутся в этой странной книге, полной мрачных теней и отменного черного юмора.Новая книга от автора романа «Девочка и мертвецы».


Карлики

Добро пожаловать в детективное агентство космической эры! В агентство где «старыми добрыми методами» расследуют весьма необычные преступления! Найти четверых людей буквально растворившихся в космическом пространстве? Сложно но — можно. Если конечно, люди эти — люди. А если они — взбесившиеся сошедшие с ума киборги?Странно? О да. Но еще более странно — то что исчезновение это напрямую связано с загадочным преступлением, совершенным на далекой космической базе!Расследование начинается. Вот только — ГДЕ И ЧЕМ ОНО ЗАКОНЧИТСЯ?


Привилегия

В книге рассказывается история главного героя, который сталкивается с различными проблемами и препятствиями на протяжении всего своего путешествия. По пути он встречает множество второстепенных персонажей, которые играют важные роли в истории. Благодаря опыту главного героя книга исследует такие темы, как любовь, потеря, надежда и стойкость. По мере того, как главный герой преодолевает свои трудности, он усваивает ценные уроки жизни и растет как личность.


Моногамия

«Я просыпаюсь рано утром. Смотрю, как через маленькое прямоугольное окошко под потолком в мой подвал влетает тополиный пух.В подвале пыльно.В подвале полно старых лопнувших пробирок. Сверху – разрушенная лаборатория. Когда-то в ней производили детей. Будущих солдат. Уж и не знаю для кого – для нас или для них…».


Сценарий битвы

Настоятель Фроско слыл самым мудрым человеком в округе Ведячий Лог. Однажды его попросили избавить округ от войны…


Бог жуков

Конец света, назначенный на декабрь 2012-го, не состоялся. Свечи, макароны и тушенка пылятся по кладовкам. Но не спешите их выбрасывать! Вспомните, крохотный по космическим масштабам метеорит над Челябинском всерьез напугал не только жителей этого города. Извержение исландского вулкана закрыло небо над Европой, на несколько дней отбросив ее на сто лет назад, когда люди передвигались только по суше и воде. А Фукусима? А цунами в Индийском океане, которое унесло сотни тысяч человеческих жизней? И пусть оптимисты сколько угодно рассуждают о том, что настоящий конец света наступит не ранее чем через три миллиарда лет, когда погаснет наше Солнце, мы-то с вами не столь долговечны…


Рекомендуем почитать
Размах и энергия Перри Экса

В книге рассказывается история главного героя, который сталкивается с различными проблемами и препятствиями на протяжении всего своего путешествия. По пути он встречает множество второстепенных персонажей, которые играют важные роли в истории. Благодаря опыту главного героя книга исследует такие темы, как любовь, потеря, надежда и стойкость. По мере того, как главный герой преодолевает свои трудности, он усваивает ценные уроки жизни и растет как личность.


Летописная завеса над князем Владимиром

В книге рассказывается история главного героя, который сталкивается с различными проблемами и препятствиями на протяжении всего своего путешествия. По пути он встречает множество второстепенных персонажей, которые играют важные роли в истории. Благодаря опыту главного героя книга исследует такие темы, как любовь, потеря, надежда и стойкость. По мере того, как главный герой преодолевает свои трудности, он усваивает ценные уроки жизни и растет как личность.


Эскадрон несуществующих гусар

В книге рассказывается история главного героя, который сталкивается с различными проблемами и препятствиями на протяжении всего своего путешествия. По пути он встречает множество второстепенных персонажей, которые играют важные роли в истории. Благодаря опыту главного героя книга исследует такие темы, как любовь, потеря, надежда и стойкость. По мере того, как главный герой преодолевает свои трудности, он усваивает ценные уроки жизни и растет как личность.


Достойное градоописание

В книге рассказывается история главного героя, который сталкивается с различными проблемами и препятствиями на протяжении всего своего путешествия. По пути он встречает множество второстепенных персонажей, которые играют важные роли в истории. Благодаря опыту главного героя книга исследует такие темы, как любовь, потеря, надежда и стойкость. По мере того, как главный герой преодолевает свои трудности, он усваивает ценные уроки жизни и растет как личность.


Жалкие бессмертные дождевые черви

В книге рассказывается история главного героя, который сталкивается с различными проблемами и препятствиями на протяжении всего своего путешествия. По пути он встречает множество второстепенных персонажей, которые играют важные роли в истории. Благодаря опыту главного героя книга исследует такие темы, как любовь, потеря, надежда и стойкость. По мере того, как главный герой преодолевает свои трудности, он усваивает ценные уроки жизни и растет как личность.


Фиалка со старой горы

В книге рассказывается история главного героя, который сталкивается с различными проблемами и препятствиями на протяжении всего своего путешествия. По пути он встречает множество второстепенных персонажей, которые играют важные роли в истории. Благодаря опыту главного героя книга исследует такие темы, как любовь, потеря, надежда и стойкость. По мере того, как главный герой преодолевает свои трудности, он усваивает ценные уроки жизни и растет как личность.


Полдень, XXI век, 2010 № 06

В НОМЕРЕ:Колонка дежурного по номеру Николай РоманецкийИстории, образы, фантазииАлександр Щёголев «Песочница». ПовестьВладимир Томских «Мусоропровод». РассказВладимир Голубев «Теорема Нёттер». ПовестьАндрей Кокоулин «Чуть легче». РассказАлексей Корепанов «Итог». РассказЮрий Косоломов «Аттракцион». РассказЛичности, идеи, мыслиИлья Кузьминов «Сельская жуть»Антон Первушин «Космическая угроза»Дмитрий Проскуряков «Альтернатива или предопределение?»Информаторий«АБС-премия» – 2010Комплект серебряных стрел на лето«Портал» – 2010«Роскон» – 2010Наши авторы.


Полдень, XXI век, 2012 № 07

В номер включены фантастические произведения: начало повести «Искусство кончать молча» Александра Щёголева, «След капеллана» Юрия Погуляй, «Воспитатель» Владимира Голубева, «Мне незачем больше жить» Натальи Болдыревой, «Аплодисменты для Кукольника» Джона Маверика, «Мозговая плесень» Александра Голубева, «Слово поэта» Криса Альбова, «Я иду по воздушной дороге» Ивана Жеребилова, «Охота» Сергея Соловьева.


Полдень, XXI век, 2003 № 05-06

Марианна Алферова. ЗАГРЕЙ.Борис Порецкий. Бестиарии острова Мбондо.Елена Хаецкая. Ежевика, святая обитель.Геннадий Прашкевич. Хирам, большая игра.Ярослав Веров. Отчего гибнут киллерыИрина Бахтина. Зачем я тебе?Виктор Точинов. Остров Стержневой.Александр Бачило. Впереди — вечность.Борис Гайдук. Тысяча жизней.Мария Беркович. Урок физики.Тарас Витковский. Габа и его носорог.Александр Тюрин. Падший ангел.Нина Катерли. Страдания молодого Вертера.Николай Романецкий. Оплошка вышла!..Сергей Захаров. Я — собака.


Полдень, XXI век, 2011 № 04

В номер включены фантастические произведения: «Плывун» Александра Житинского, «Звезды для дочки» Дэна Шорина, «Однажды в Одессе» Натальи Анисковой и Майкла Гелприна, «У лазурных скал» Яны Дубинянской, «Вагон» Валерия Воробьева, «Мореход» Сергея Фомичева.