Манифест Унабомбера - [37]
170. "Ерунда! — скажут технофилы, — Наука приведёт всё это в порядок. Мы победим голод, уничтожим психическое страдание, сделаем каждого здоровым и счастливым!" Да, безусловно. Они говорили это и двести лет назад. Предполагалось, что индустриальная революция уничтожит нищету, сделает всех счастливыми и т. д. В реальности всё оказалось совершенно иначе. Технофилы безнадёжно наивны (или обманывают сами себя) в своём понимании социальных проблем. Они не подозревают (или предпочитают игнорировать) о том, что, когда в обществе происходят значительные перемены, даже на первый взгляд благотворные, они приводят к длительной череде других изменений, большинство из которых невозможно спрогнозировать (параграф 103). Результат этого — крах общества. Так что вполне возможно, что в своей попытке покончить с бедностью и болезнями, произвести покорных и счастливых людей и т. д., технофилы создадут крайне проблемную социальную систему, даже более проблемную, чем ныне существующая. Например, учёные хвастаются, что они покончат с голодом, создав новые, генетически видоизменённые съедобные растения. Но ведь это даст возможность человеческому населению неограниченно возрасти, однако, хорошо известно, что уплотнение населения приводит к росту стресса и агрессии. Это лишь один пример ПРЕДСКАЗУЕМЫХ проблем, которые возникнут. Мы же подчёркиваем, что, как показывает опыт, технический прогресс будет приводить к новым проблемам, которые заблаговременно НЕ СМОГУТ быть предсказаны (параграф 103). В сущности, начиная с индустриальной революции, технология неизменно создаёт новые проблемы для общества гораздо быстрее, чем решает старые. Так что исправление дефектов их дивного нового мира[86] займёт у технофилов длительный и сложный период проб и ошибок (если они всё сделают). Тем временем нагрянет великое страдание. Таким образом, вовсе не очевидно, что выживание индустриального общества повлечёт за собой меньшее страдание, чем его крушение. Технология приведёт человеческую расу к катастрофе, от которой вряд ли будет легко найти какое-то спасение.
Будущее[87]
171. Но представим теперь, что индустриальное общество пережило следующие десятилетия, и что дефекты системы в конечном итоге исправлены, так что она функционирует без перебоев. Что это будет за система? Мы рассмотрим несколько вариантов.
172. Во-первых, давайте примем без доказательств, что специалисты по компьютерной технике преуспели в развитии машин с искусственным интеллектом, которые могут делать всё гораздо лучше, чем люди. В этом случае, вероятно, вся работа будет выполняться пространными, высоко организованными системами машин, а в человеческих усилиях просто не будет необходимости. Может произойти одно из двух. Машинам может быть позволено принимать все свои решения без человеческого надзора, или же человеческий контроль над ними будет сохранён.
173. В случае, если машинам будет позволено самим принимать решения, мы не можем сделать никаких предположений в отношении последствий, потому что невозможно догадаться, как такие машины будут себя вести. Мы лишь укажем, что судьба человеческой расы окажется отданной на милость машин. Можно привести доводы, что человеческая раса никогда не будет настолько безрассудной, чтобы отдать им всю власть. Но мы не будем предполагать ни того, что человеческая раса не передаст добровольно власть машинам, ни того, что они своевольно захватят её. Что мы предположим, так это то, что человеческая раса может легко позволить себе втянуться в такую зависимость от машин, что у неё практически не будет никакого выбора, кроме как принимать все их решения. Так как общество и все проблемы, с которым оно сталкивается, становится всё более и более сложным, а машины становятся всё более и более разумными, люди позволят им принимать большинство решений за них, просто потому, что решения, принятые машинами, принесут лучший результат, чем принятые людьми. В конце концов дело может вступить в такую стадию, что решения, необходимые для сохранения работоспособности системы, будут настолько сложными, что люди окажутся просто неспособными благоразумно разрешить их. На этой стадии фактически будут управлять машины. Люди же просто не смогут выключить их, потому что они будут уже настолько зависеть от них, что их отключение будет равносильно самоубийству.
174. С другой стороны, вполне возможно, что контроль людей над машинами сохранится. В этом случае средний человек будет контролировать лишь определённые принадлежащие лично ему машины, вроде автомобиля или персонального компьютера, а крупными системами машин будет управлять крайне малочисленная элита, прямо как сегодня, но с двумя отличиями. В результате усовершенствованной техники элита будет иметь гораздо больший контроль над массами; и так как необходимость в человеческой работе отпадёт, население окажется чрезмерно избыточным, оно станет бесполезной нагрузкой для системы. Если элита будет жестокой, она может решить просто ликвидировать большую часть человечества. Если гуманной, она может использовать пропаганду или другие психологические или биологические методики для снижения уровня рождаемости до тех пор, пока большая часть населения не вымрет, оставив ей весь мир. Или, если элита будет состоять из мягкосердечных либералов, они могут решить играть роль добрых пастырей по отношению к остальной человеческой расе. Они будут заботиться о том, чтобы физические нужды каждого были удовлетворены, чтобы все дети вырастали в условиях психологической гигиены, чтобы у каждого было какое-нибудь полезное хобби — с целью держать его занятым, и чтобы любой, кто окажется чем-то неудовлетворённым, подвергался «лечению» — с целью исцеления его «проблемы». Естественно, жизнь будет настолько бессмысленной, что людей придётся психологически или биологически переконструировать: либо для того, чтобы устранить у них потребность в процессе власти, либо для того, чтобы принудить их «сублимировать» её в какое-нибудь безобидное хобби. Переконструированные человеческие существа могут быть счастливы в таком обществе, но, несомненно, они не будут свободны. Они будут понижены до статуса домашних животных.
