Четыре путешествия на машине времени (Научная фантастика и ее предвидения) - [50]

Вот что писал сам творец роботехники в одном из рассказов цикла "Я, робот": "Три Закона роботехники совпадают с основными принципами большинства этических систем, существующих на Земле. Конечно, каждый человек наделен инстинктом самосохранения. У робота это — Третий Закон. Каждый "порядочный" человек, чувствующий свою ответственность перед обществом, подчиняется определенным авторитетам… Он исполняет законы, следует обычаям, соблюдает приличия, даже если они лишают его некоторых удобств или подвергают опасности. А у роботов это — Второй Закон, Кроме того, предполагается, что каждый "хороший" человек должен любить своих ближних, как себя самого, защищать своих товарищей, рисковать своей жизнью ради других. Это у робота — Первый Закон".

Ирония Азимова в адрес так называемых "хороших" и "порядочных" людей очевидна; что же касается роботов, то создатель верил в своих детищ. Пусть хоть роботы будут человечны!

Со страниц книг двинулись в мир целые легионы механической "армии спасения": заботливые няньки, вышколенная домашняя прислуга, стражи порядка, уборщики, повара, гиды, учителя, дублеры космонавтов… Роботы строящие, охраняющие, воспитывающие. Некоторые, правда, по старинке бунтовали, но то были явления эпизодические, от вселенского кошмара, который рисовался авторам ранней фантастики, не осталось и следа.

Но скоро обозначился принципиальный водораздел между механизмами (например, роботом — уборщиком мусора) и подобиями людей (вспомним робота-мэра Байерли из рассказа Азимова "Улики"). То есть андроидами… И как только дело дошло до человекоподобных роботов — не по внешности, а по поведению и уровню интеллекта, — пришли первые сомнения.

Пока речь шла о механизмах, исправно выполняющих возложенные на них функции. Три Закона служили безошибочно. А возможные парадоксы последовательно снимались Азимовым и его коллегами по перу. Но стоило только прозвучать словам "искусственный разум", как выяснилось, что Законы вовсе не универсальны. А в отдельных случаях — и вовсе неприменимы.

Потому что никаких разумных роботов в действительности создано не было, вместо них загримированные люди-актеры разыгрывали свои, истинно человеческие драмы. Только одной религией стало больше: ведь что такое эти Три Закона, как не укороченные по моде века христианские десять заповедей![30] Религия, в какие бы одежды она ни рядилась, уже не раз претендовала на роль этического спасителя — и терпела поражение на этом поприще не единожды.

Технократическая этика Азимова оказалась хороша для создания идеальных механизмов — сложнее обстояло дело с "созданием" идеальных людей. Действительно, стоит задуматься над вопросом: не слишком ли велико насилие над такой многомерной системой, как человек? Попытка замкнуть все богатство его возможных намерений и поступков в каркас жестких постулатов — это значит попытаться ограничить бесконечно сложное и до конца не понятое конечным числом рецептов поведение… Ведь мы еще так мало знаем о себе самих — зато опыт человеческой истории многому нас научил (ибо сказано было "не убий", но убивали, убивали преспокойно с этой заповедью на устах!).

Все это отнюдь не праздные вопросы и не выражение какого-то "этического нигилизма". Просто сомнительно, чтобы задача создания идеального человека решалась столь примитивно, путем наложения на реального человека запретов.

Разумеется, благородные побуждения Азимова сомнений не вызывают, его рассказы о роботах по сей день остаются редким образцом человечности в западной фантастике. Да и далеко еще многим, по правде говоря, до азимовских роботов в нравственном отношении. Но нельзя и безоговорочно восхищаться азимовской программой: в цикле "Я, робот", как ни в какой другой книге, проявилась социальная наивность молодой фантастики, истово веровавшей в однозначно благотворное воздействие науки на жизнь людей.

Да, роботы в этих рассказах, как правило, предусмотрительнее и человечнее людей. Сколько добра они сделали людям, скольких спасли, пока, наконец, не пришло время спасать все человечество: в заключительном рассказе цикла "Конфликт, которого могло бы не быть" роботы предотвращают ядерную катастрофу…

Но они — роботы и в этом качестве послужить примером людям не могут, несмотря на "нравственную чистоту" помыслов. Роботы изначально запрограммированы на добро, однако кто рискнет утверждать, что знает абсолютно точно, что такое это "добро"? Родился же афоризм о дороге в ад, вымощенной благими намерениями… И может ли быть "добро" действительно добром для всех? И вообще мыслим ли разум в отсутствие свободы выбора?

Вот ведь как все непросто. Ситуацию острее всех почувствовал Станислав Лем, в свое время подвергший азимовских роботов резкой критике. Дело не в технологических препятствиях, писал Лем, а в логических. Если роботы разумны, то они способны произвольно менять нормативы поведения, вырабатывать новые. Если же они не способны уклониться от раз и навсегда заданных правил, то они были, есть и навсегда останутся машинами. И их какие-то претензии на "замещение" рода человеческого попросту лишены смысла.