Знание-сила, 2001 № 09 (891) - [8]

Быть может однажды появится робот с человеческим лицом

Первый. Машины принимают все решения самостоятельно, без участия человека. Невозможно предсказать нашу судьбу в таком случае, поскольку она полностью будет зависеть от машин. Самый простой аргумент против такого сценария: «Не настолько же мы глупы, чтобы отдавать свое будущее в механические руки?!» Конечно, нет. Речь идет о том, что постепенно все больше и больше человеческих функций будет передаваться роботам, и мы в конце концов попадем в такую зависимость от них, что не сможем влиять на развитие событий. Причем передача функций будет происходить потому, что роботы будут показывать при их выполнении гораздо лучшие результаты, чем люди. Многие современные системы столь сложны, что люди просто не в состоянии охватить их разумом и эффективно управлять. На это способны только роботы. И даже если они поведут себя не так, как хотелось бы, их невозможно будет отключить, потому что это означало бы остановку и гибель многих важных производств.

Второй сценарий – сохранение некоторого контроля над машинами. В этом случае каждый человек сможет управлять некоторым набором персональных машин-роботов, автомобилем, компьютером и т.п. Но управление крупными системами машин будет находиться в руках немногочисленной элиты (так же, впрочем, как и сегодня). А поскольку потребности в рабочих руках большинства населения планеты больше не будет (из-за всемогущества роботов), с ним что-то придется делать: в более гуманном случае – сокращать рождаемость, в менее гуманном… Еще один возможный вариант: при помощи биологического или психологического воздействия убрать из человеческих голов желание работать, оставив людям лишь прием пищи и другие удовольствия.

Такое «новое общество» можно назвать счастливым, но уж никак не свободным, потому что люди в нем будут низведены до уровня современных канареек или кошек.

Какой из сценариев вам больше по душе?

Вспоминая старика Дарвина, нельзя не признать, что в борьбе за существование роботы с искусственным интеллектом победят нас просто потому, что они все делают лучше, ибо мы их такими создали. Причем до недавнего времени особой угрозы человечеству не было, потому что роботы не могли воспроизводить себя. Теперь эта угроза становится реальностью благодаря прорывам в области не только роботостроения, но и генной инженерии и нанотехнологии.

Чем качественно отличался XX век? В нем было создано оружие массового уничтожения – ядерное, биологическое и химическое. Создание его требовало огромных интеллектуальных усилий и много времени. Технологии XXI века – генетика, нанотехнологии, робототехника – во много раз мощнее, поэтому они могут привести к качественно иным последствиям. Самая большая опасность заключается в том, что эти технологии сегодня доступны небольшим группам людей и даже отдельным личностям. Они не требуют больших фабрик, значительных запасов сырья. Знания – вот что нужно, чтобы управлять ими. Мы получаем не оружие массового уничтожения, а оружие массового разрушения знаниями, причем разрушительная сила этого нового «оружия» многократно усиливается его способностью к быстрому саморазмножению.

Благодаря быстрому прогрессу молекулярной электроники компьютерные вычисления будут производиться посредством перемещения атомов и молекул, что позволит закону Мура (удвоению вычислительной мощности компьютеров каждые полтора года) благополучно просуществовать еще лет тридцать. К 2030 году будут созданы компьютеры, в миллион раз более мощные, чем наши персональные компьютеры сегодня. Компьютерная мощь в сочетании с роботами размером не более маковою зерна и возможностями генетики конструировать живые организмы по заданной программе способны как на добрые, так и на злые чудеса.

Прогресс компьютеров позволяет ожидать, что к 2030 году мошь искусственного интеллекта сравняется с мощью человеческого.

Не менее мо!ушественна и опасна генная инженерия. Одна лишь проблема клонирования человека создает огромные возможности и ставит перед человечеством огромные проблемы. А ведь генетически измененные растения стали реальностью: американская комиссия по сельскому хозяйству уже рекомендовала более полусотни таких растений к повсеместному распространению. В Европе ширится движение против таких растений, но вот Билл Гейтс, к примеру, является большим их сторонником. Аргументирует свою позицию он тем, что на свете миллиарды голодных людей, и они наверняка одобрят все, что сможет накормить их детей досыта.

Нанотехнологии – третья угроза человечеству. Интересно, что впервые заговорил о них выдающийся физик XX столетия Ричард Фейнман. Выступая в 1959 году, он описывал, как манипулирование материей на атомарном уровне может приблизить вечную мечту человечества об изобилии и здоровье.

К глубочайшему сожалению, так же, как ядерную энергию в XX столетии, гораздо легче использовать перечисленные научные достижения для разрушения, а не для созидания. Крошечные микророботы без раздумий будут выполнять указания военных или террористов, уничтожая людей, например, с определенными генетическими отличиями.