Диалоги - [51]

Шрифт
Интервал

ГИЛАС. Дело не в этом, дело в том, что такая перспектива, такая картина будущего неотступно создает навязчивое впечатление ненужности человека. Мыслящие машины типа «синтетического гения» не нуждаются в нас, в нашем сотрудничестве, в нашем контроле, как нуждаются в них подъемные краны и паровые молоты.

ФИЛОНУС. Ну и что с того, если они работают на нас?

ГИЛАС. То есть ты считаешь, что машины в будущем станут опережать человека во всех областях?

ФИЛОНУС. Эка хватил! Уже опережают! Любая плохонькая электронная счетная машина справится с заданием, с которым за всю жизнь не справится лучший математик. Существует такой в общем-то смешной и очень наивный миф о заводах будущего как о просторных, заставленных пальмами цехах, полных автоматов, где на центральном пульте стоит человек в белоснежном халате, контролирующий производство... Это (если взять для примера химический завод новой формации) абсолютно невозможно. В новой химической промышленности внимание сосредоточено на реакциях, протекающих с огромной скоростью в раскаленных газах. В этих условиях возникают, именно в области газового пламени, различные ценные химические субстанции, существующие лишь долю секунды. Чтобы их уловить, необходимо поддерживать реакцию, являющуюся их источником, и одновременно непрерывно выводить их из области высокой температуры. Процессы контроля и управления должны происходить за доли секунды, с чем человек не в состоянии справиться, если учесть малые скорости нервных импульсов. А значит, человеку в белом халате нечего делать на этом заводе, пока производство в порядке – под контролем электронного мозга.

ГИЛАС. А если этот мозг сломается, то он его починит.

ФИЛОНУС. Или он, или соответственно настроенный на подобную операцию другой электронный мозг, который выполнит ремонт значительно быстрее и четче.

ГИЛАС. А если и тот сломается?

ФИЛОНУС. А если человек заболеет? Здесь нет никакого regressus ad infinitum, есть только определенная иерархия автоматов, взаимно контролирующих функции, замкнутый круг, который, разумеется, может разомкнуться из-за какой-то неполадки. Сегодня эти дефекты устраняют люди, но завтра?

ГИЛАС. Однако в твоем примере речь в основном идет о проворстве, о быстроте реакции, как, например, в случае со счетной машиной. Получается, что электронные мозги побивают человека только в скорости действий.

ФИЛОНУС. Согласен. Давай возьмем другой пример, где речь идет не о проворстве, а о высшей способности сети как интегрирующей единицы. Как ты прекрасно знаешь из собственного опыта, мыслительный процесс тем труднее, чем больше элементов (понятий) сознание должно охватить одновременно. Поэтому легко производить в уме простейшие арифметические операции, но трудно извлечь корень четвертой степени из десятизначного числа. Однако это всего лишь проблема «временной памяти», то есть фиксации в ней промежуточных результатов, отдельных этапов математического вычисления. В таких вычислениях мы имеем дело с раз и навсегда данными, принципиально неизменными от начала и до конца указаниями к действию (сначала ты должен умножить, потом запомнить полученный результат, потом разделить и т.д.). Когда же речь идет об обобщении большого количества фактов в теорию, по мере самого процесса организации этих фактов в обобщение высшего уровня изменяются и указания к действию, которые не являются окончательными, а следуют из очередных построений. Когда, например, из данных астрономии, физики и математики мы пытаемся создать теорию гравитации более общую, чем ньютоновская, приходится иметь дело с таким огромным количеством факторов, которые необходимо учесть одновременно, что только сеть с чрезвычайно высоким коэффициентом полезного действия может с этим справиться. Такой сетью располагал, да простится мне столь неуклюжее определение, Эйнштейн. Так вот, в будущем не каждый сможет стать Эйнштейном, но каждый будет иметь к своим услугам достаточно оперативную машину для мышления.

ГИЛАС. Но представь, какие губительные перспективы открывает такая возможность! Какое-то время набирающие мощь электронные мозги еще будут выполнять действия, которые люди смогут понять, охватить разумом, оценить хотя бы приблизительно. Однако впоследствии эта раз обнаруженная пропасть начнет расширяться. Мыслящие агрегаты станут представлять нам результаты своих теоретических разработок, которые мы, возможно, и сможем применить, но понять их мы уже окажемся не в состоянии. Будет все увеличиваться область явлений, которыми станут распоряжаться автоматы. В конце концов люди съежатся до размеров безмозглых слуг железных гениев и, может быть, начнут оказывать им божеские почести...

ФИЛОНУС. Вообрази себе, дружище, что слова твоего пророчества по отношению к роду человеческому уже исполнились, к тому же в довольно отдаленном прошлом.

ГИЛАС. О чем ты? Я не понимаю.

ФИЛОНУС. Возникновение электронных мозгов – это начало эволюции средств мышления. Потенциально они могут стать независимыми от человека, как уже стали независимыми от него результаты его общественной и производственной деятельности. С возникновением общества оформилось разделение труда, специфика производственных сил и способ производства создали машину, которая, освобождаясь от человеческой воли, все более влияла на судьбу индивидов, вплоть до того, что были времена, когда человечество этой машине – государству – стало оказывать почти божеские почести... Это не случайная и не поверхностная аналогия, мой Гилас! Люди ни в коем случае не должны – ни сейчас, ни в будущем – утратить контроль над творением их собственных рук и мозгов. Они ни в коем случае не имеют права предаваться спокойной бездумности, интеллектуальной лени, розовому оптимизму, наивной вере в то, что то или иное изобретение или та или иная общественная организация спонтанно, автоматически гарантирует наступление Золотого века. Никакие проявления неудовольствия, никакое отвращение, никакие исполненные возмущения причитания вроде: «и все-таки человек – венец творения» не изменят фактов, а создание все более совершенных и функциональных электронных мозгов есть факт бесспорный, и никто их не отменит в нашей земной жизни, раз уж они в ней появились. Если человечество не будет тщательно анализировать все, именно все, то есть также и отрицательные, самые мрачные последствия развития электронного мозга, то результаты его эволюции могут оказаться еще более губительными, чем кризисы, экономические катастрофы, безработица и хаос свободного капиталистического рынка. Именно поэтому мы так много рассуждаем о кибернетике, стремясь – зачастую тщетно – понять все, что она может нам сказать о явлениях, на первый взгляд так отдаленных во времени, как биологическая эволюция и психология, общая теория информации и социология.


Еще от автора Станислав Лем
Солярис

Роман "Солярис" был в основном написан летом 1959 года; закончен после годичного перерыва, в июне 1960. Книга вышла в свет в 1961 г. - Lem S. Solaris. Warszawa: Wydawnictwo Ministerstwa Oborony Narodowej, 1961.


Непобедимый

Крейсер «Непобедимый» совершает посадку на пустынную и ничем не примечательную планету Регис III. Жизнь существует только в океане, по неизвестной людям причине так и не выбравшись на сушу… Целью экспедиции является выяснение обстоятельств исчезновение звездолета год назад на этой планете, который не вышел на связь несколько часов спустя после посадки. Экспедиция обнаруживает, что на планете существует особая жизнь, рожденная эволюцией инопланетных машин, миллионы лет назад волей судьбы оказавшихся на этой планете.


Фиаско

«Фиаско» – последний роман Станислава Лема, после которого великий фантаст перестал писать художественную прозу и полностью посвятил себя философии и литературной критике.Роман, в котором под увлекательным сюжетом о первом контакте звездолетчиков&землян с обитателями таинственной планеты Квинта скрывается глубокая и пессимистичная философская притча о человечестве, зараженном ксенофобией и одержимым идеей найти во Вселенной своего идеального двойника.


Эдем

Крылатая фраза Станислава Лема «Среди звезд нас ждет Неизвестное» нашла художественное воплощение в самых значительных романах писателя 1960 годов, где представлены различные варианты контакта с иными, абсолютно непохожими на земную, космическими цивилизациями. Лем сумел зримо представить необычные образцы внеземной разумной жизни, в «Эдеме» - это жертвы неудачной попытки биологической реконструкции.


Астронавты

Первая научно-фантастическая книга Станислава Лема, опубликованная в 1951 году (в переводе на русский — в 1955). Роман посвящён первому космическому полету на Венеру, агрессивные обитатели которой сначала предприняли неудачную попытку вторжения на Землю (взрыв «Тунгусского метеорита»), а затем самоистребились в ядерной войне, оставив после себя бессмысленно функционирующую «автоматическую цивилизацию». Несмотря на некоторый схематизм и перегруженность научными «обоснованиями», роман сыграл в развитии польской фантастики роль, аналогичную роли «Туманности Андромеды» Ивана Ефремова в советской литературе.


Друг

В книге рассказывается история главного героя, который сталкивается с различными проблемами и препятствиями на протяжении всего своего путешествия. По пути он встречает множество второстепенных персонажей, которые играют важные роли в истории. Благодаря опыту главного героя книга исследует такие темы, как любовь, потеря, надежда и стойкость. По мере того, как главный герой преодолевает свои трудности, он усваивает ценные уроки жизни и растет как личность.


Рекомендуем почитать
Смертию смерть поправ

В книге рассказывается история главного героя, который сталкивается с различными проблемами и препятствиями на протяжении всего своего путешествия. По пути он встречает множество второстепенных персонажей, которые играют важные роли в истории. Благодаря опыту главного героя книга исследует такие темы, как любовь, потеря, надежда и стойкость. По мере того, как главный герой преодолевает свои трудности, он усваивает ценные уроки жизни и растет как личность.


Авантюра времени

«Что такое событие?» — этот вопрос не так прост, каким кажется. Событие есть то, что «случается», что нельзя спланировать, предсказать, заранее оценить; то, что не укладывается в голову, застает врасплох, сколько ни готовься к нему. Событие является своего рода революцией, разрывающей историю, будь то история страны, история частной жизни или же история смысла. Событие не есть «что-то» определенное, оно не укладывается в категории времени, места, возможности, и тем важнее понять, что же это такое. Тема «события» становится одной из центральных тем в континентальной философии XX–XXI века, века, столь богатого событиями. Книга «Авантюра времени» одного из ведущих современных французских философов-феноменологов Клода Романо — своеобразное введение в его философию, которую сам автор называет «феноменологией события».


История животных

В книге, название которой заимствовано у Аристотеля, представлен оригинальный анализ фигуры животного в философской традиции. Животность и феномены, к ней приравненные или с ней соприкасающиеся (такие, например, как бедность или безумие), служат в нашей культуре своего рода двойником или негативной моделью, сравнивая себя с которой человек определяет свою природу и сущность. Перед нами опыт не столько даже философской зоологии, сколько философской антропологии, отличающейся от классических антропологических и по умолчанию антропоцентричных учений тем, что обращается не к центру, в который помещает себя человек, уверенный в собственной исключительности, но к периферии и границам человеческого.


Бессилие добра и другие парадоксы этики

Опубликовано в журнале: «Звезда» 2017, №11 Михаил Эпштейн  Эти размышления не претендуют на какую-либо научную строгость. Они субъективны, как и сама мораль, которая есть область не только личного долженствования, но и возмущенной совести. Эти заметки и продиктованы вопрошанием и недоумением по поводу таких казусов, когда морально ясные критерии добра и зла оказываются размытыми или даже перевернутыми.


Диалектический материализм

Книга содержит три тома: «I — Материализм и диалектический метод», «II — Исторический материализм» и «III — Теория познания».Даёт неплохой базовый курс марксистской философии. Особенно интересена тем, что написана для иностранного, т. е. живущего в капиталистическом обществе читателя — тем самым является незаменимым на сегодняшний день пособием и для российского читателя.Источник книги находится по адресу https://priboy.online/dists/58b3315d4df2bf2eab5030f3Книга ёфицирована. О найденных ошибках, опечатках и прочие замечания сообщайте на [email protected].


Самопознание эстетики

Эстетика в кризисе. И потому особо нуждается в самопознании. В чем специфика эстетики как науки? В чем причина ее современного кризиса? Какова его предыстория? И какой возможен выход из него? На эти вопросы и пытается ответить данная работа доктора философских наук, профессора И.В.Малышева, ориентированная на специалистов: эстетиков, философов, культурологов.


Репрессивная толерантность

Эссе одного из наиболее известных философов-марксистов «франкфуртской школы» об обманчивости современной толерантности, которая стала использоваться для завуалированного подавления меньшинств вопреки своей изначальной сущности — дать возможность меньшинствам быть услышанными.


Восстание масс

Испанский философ Хосе Ортега-н-Гассет (1883–1955) — один из самых прозорливых европейских мыслителей XX века; его идеи, при жизни недооцененные, с годами становятся все жизненнее и насущнее. Ортега-и-Гассет не навязывал мысли, а будил их; большая часть его философского наследия — это скорее художественные очерки, где философия растворена, как кислород, в воздухе и воде. Они обращены не к эрудитам, а к думающему человеку, и требуют от него не соглашаться, а спорить и думать. Темы — культура и одичание, земля и нация, самобытность и всеобщность и т. д. — не только не устарели с ростом стандартизации жизни, но стали лишь острее и болезненнее.


Капитализм и шизофрения. Книга 1. Анти-Эдип

«Анти-Эдип» — первая книга из дилогии авторов «Капитализм и шизофрения» — ключевая работа не только для самого Ж. Делёза, последнего великого философа, но и для всей философии второй половины XX — начала нынешнего века. Это последнее философское сочинение, которое можно поставить в один ряд с «Метафизикой» Аристотеля, «Государством» Платона, «Суммой теологии» Ф. Аквинского, «Рассуждениями о методе» Р. Декарта, «Критикой чистого разума» И. Канта, «Феноменологией духа» Г. В. Ф. Гегеля, «Так говорил Заратустра» Ф. Ницше, «Бытием и временем» М.


Сумерки идолов. Ecce Homo

Фридрих Ницше — имя, в литературе и философии безусловно яркое и — столь же безусловно — спорное. Потому ли, что прежде всего неясно, к чему — к литературе или философии вообще — относится творческое наследие этого человека? Потому ли, что в общем-то до сих пор не вполне ясно, принадлежат ли работы Ницше перу гения, безумца — или ГЕНИАЛЬНОГО БЕЗУМЦА? Ясно одно — мысль Ницше, парадоксальная, резкая, своенравная, по-прежнему способна вызывать восторг — или острое раздражение. А это значит, что СТАРЕНИЮ ОНА НЕПОДВЛАСТНА…