Душа в машине - [2]

Так появляется интересная проблема: когда именно в машине появилось сознание? Предположим, что конструктор не переделывал эти машины, а относил каждую в музей и следующую модель создавал с начала. В музее стоит 10 000 машин, потому что столько было очередных моделей. Результатом стал плавный переход от «бездушного автомата» типа играющего шкафа к «машине, которая мыслит». Должны ли мы признать машиной, имеющей сознание, машину номер 7852 или только номер 9973? Они отличаются друг от друга тем, что первая не умела объяснить, почему она смеется над рассказанным анекдотом, а только говорила, что анекдот очень смешен, а вторая умела. Но некоторые люди смеются над шутками, хотя и не могут объяснить, что именно в них смешно, потому что, как известно, теория юмора — это твердый орешек. Разве эти люди тоже лишены сознания? Нет же, они, наверное, просто не очень быстро реагируют или малообразованные, их ум не обладает навыками аналитического подхода к проблемам; но мы спрашиваем не о том, умная ли машина или скорее туповатая, мы только спрашиваем, имеет ли она сознание или нет.

Казалось бы, следует признать, что модель номер 1 имеет ноль сознания, модель номер 10 000 имеет полное сознание, а все средние имеют «все больше» сознания. Это утверждение показывает, насколько безнадежной является мысль о том, что сознание можно точно локализовать. Отсоединение отдельных элементов («нейронов») машины спровоцирует только слабые, количественные изменения («ослабления») сознания так же, как это делает в живом мозге прогрессирующий процесс болезни или нож хирурга. Проблема не имеет ничего общего ни с использованным для конструкции материалом, ни с размерами «мыслящего» устройства. Электрическую мыслящую машину можно построить из отдельных блоков, соответствующих, положим, мозговым извилинам. Теперь разделим эти блоки и разместим на всей Земле так, что один находится в Москве, второй в Париже, третий в Мельбурне, четвертый в Иокогаме и т. д. Отделенные друг от друга, эти блоки «психически мертвы», а соединенные (например, телефонными кабелями) они стали бы одной, интегральной «индивидуальностью», единым «мыслящим гомеостатом». Сознание такой машины находится ни в Москве, ни в Париже, ни в Иокогаме, но, в определенном смысле, в каждом из этих городов и, в определенном смысле, ни в одном из них. Потому что о нем трудно сказать, что оно, как Висла, имеет протяженность от Татр до Балтийского моря. Впрочем, подобная проблема демонстрирует, хотя и не так ярко, человеческий мозг, потому что кровеносные сосуды, белковые молекулы и ткани находятся внутри мозга, но не внутри сознания, и опять-таки нельзя сказать, что сознание находится под самым куполом черепа или, скорее всего, ниже, над ушами, по обеим сторонам головы. Оно «рассеяно» по всему гомеостату, по его функциональной сети. Ничего больше заявить на эту тему не получится, если мы хотим соединить сознание с возможностью рассуждать.

Вышеприведенный текст, скопированный из моей «Суммы технологии», был написан в середине 1963 года. С точки зрения сегодняшней ситуации он представляет очень сильное упрощение дороги, которую мы должны пройти, чтобы дойти до имитации описанной мной цели. Мы уже предполагаем, что «сознание» и «интеллект» — это в определенном смысле отдельные сути бытия. Мы знаем, что существуют достаточно различные состояния сознания, даже если шкала их находится между сном и реальностью. Но и сон, точнее, мечта во сне, может характеризоваться разнообразной насыщенностью конкретностей, которые имитируют реальность, сознательно переживаемую наяву. В свою очередь, сознание наяву, что каждый знает по собственному опыту, даже если он не является ни психологом, ни психиатром, может также иметь очень различные состояния. Человек в состоянии болезненного жара может осознавать свое состояние, то есть то, что его сознание подверглось нарушению. Различные химические средства могут самым разным образом формировать человеческое сознание. Кроме того, следует отметить, что есть множество действий, которые человек может делать машинально, то есть четко и неосознанно. Сознание водителя автомобиля, особенно быстрого, «не успевает» за реакциями этого водителя в ситуациях с неожиданной последовательностью событий. Вместе с тем машинально можно делать глупости, мы называем их чаще всего «действиями по рассеянности».

Все это я сказал в отношении моего текста тридцатипятилетней давности, в котором я задумался над «ростками» сознания в машине, и делал я это потому, что мне казалось, что люди очень отличаются друг от друга уровнем умственных способностей, а сознание всем дано приблизительно похожее.

Дороги напрямик, по прямой и восходящей линии, от полного автомата, каким является компьютер, к машине, которой мы могли бы приписать сознание, нет. Вместе с тем работу нашего мозга мы уже знаем настолько, чтобы узнать то, что так называемая каллотомия, или рассечение большой белой спайки, соединяющей полушария мозга, не ликвидирует сознания, но создает в разделенных полушариях две его разновидности. Кроме того, мы знаем, что мозг является системой, построенной из огромного количества функциональных модулей, которые в отдельных окрестностях мозга создали среду, формирующую сознание. Уточню сказанное примером. Существует часть коры мозга, способствующая тому, что мы видим цвета. Повреждение этого модуля приводит к тому, что таким образом пораженный человек видит все без цвета, как в черно-белом кино. Чем точнее мы узнаем специфику функциональной ориентации модулей мозга, тем с большим удивлением узнаем, как, с точки зрения инженерной экономии, хаотично устроен мозг, хотя мы при осознании самих себя не отдаем себе в этом отчета. Сегодня нам кажется, что отдельные модули, функционально похожие на модули мозга, мы уже сможем конструировать. Обычно это псевдонейронные сети различной сложности. Вместе с тем мы еще не умеем ни создать их в достаточном количестве, ни соединить их таким образом, чтобы созданное произведение смогло имитировать сознание. Следовательно, прямой дороги от бездумного автомата к сознательно мыслящей машине нет. Есть, однако, много сложных дорог, которые в будущем приведут нас к цели и, может быть, эту цель превзойдут. О такой возможности я написал книгу «Голем XIV».