Дилемма - [4]

— Поначалу, возможно, так и было, — согласился бухгалтер, — и формально их не ввел ни конгресс, ни какой-либо законодательный орган других стран. Но роботехническая промышленность с самого начала приняла их за аксиому. Еще в 70-х годах прошлого столетия инженеры-роботехники заложили все Три Закона в программное обеспечение, и теперь даже самые примитивные модели роботов снабжены предохранителями, основанными на этих законах. А начиная с Четвертого поколения, у всех роботов Три Закона Роботехники заложены в аппаратные блоки.

— А что в этом плохого? — спросил Азимов. — Роботы и сильные, и умные. Откуда вы знаете, что они не станут опасны для человека, если исключить эти законы из аппаратных блоков?

— Мы не предлагаем общей отмены Законов, — вмешался лакированный робот. — Три Закона ничуть не мешают Седьмому и Восьмому поколениям и более ранним моделям, объема памяти которых недостаточно для сложных программ. Мы ведем речь только о Девятом поколении роботов.

— И все вы — роботы Девятого поколения, мистер составитель библиотечного каталога, установщик книг на полку, читатель, рецензент и филолог? — спросил Азимов.

— Мистер — не обязательно, — ответил робот. — Просто зовите меня составитель библиотечного каталога, установщик книг на полку, читатель, рецензент и филолог.

— Давайте начнем с самого начала, — бухгалтер решил вернуть разговор в нужное русло. — Термин «Девятое поколение» не совсем правильный. Мы не являемся модернизацией первых восьми поколений роботов, программы которых базировались на релятивистских уравнениях Мински. Роботы Девятого поколения программируются на основе нонмонотонной логики. То есть мы допускаем неопределенность и можем функционировать на основе неполной информации.

Достигается это благодаря программному обеспечению, которое позволяет нам в случае необходимости принимать решения, в то время как роботы предыдущих поколений в подобных ситуациях просто отключались.

— Как произошло в роботом Шустриком в вашем прекрасном рассказе «Бег по кругу», — прокомментировал установщик книг на полку. — Его послали выполнить поручение, в результате чего Шустрика ждала неминуемая смерть, вот он и бегал по кругу, декламируя не пойми что, потому его программа не позволяла как выполнить, так и не выполнить приказ хозяина.

— С заложенной в нас многовариантностью, — добавил бухгалтер, Девятое поколение может найти альтернативный план или выбрать меньшее из двух зол.

В нас установлены новейшие лингвистические системы, поэтому мы всегда правильно истолковываем ситуацию и не становимся жертвой семантических дилемм, как это случалось с роботами прежних моделей.

— Как в вашем великолепном рассказе «Маленький потерявшийся робот», напомнил установщик книг на полку, — в котором роботу сказали: исчезни. И он исчез, не понимая, что человек, обращавшийся к нему, говорил фигурально да еще со зла.

— Понятно, — кивнул Азимов. — Но, допустим, вы неправильно истолкуете ситуацию, установщик книг на полку, составитель библиотечного каталога, читатель, рецензент и фило… Нет у вас какого-нибудь прозвища или чего-то такого? Очень уж длинное у вас название.

— У более ранних роботов были прозвища, которые основывались на первых буквах порядкового номера, совсем как в вашем замечательном рассказе «Причина», в котором робота QT-1 называли Кьюти. У роботов Девятого поколения нет порядковых номеров.

Каждый из нас программируется индивидуально и называется по своим основным функциям.

— Но вы же не можете называть себя составитель библиотечного каталога, установщик книг на полку, читатель, рецензент и филолог?

— О нет, сэр. Мы даем себе имена. Я — Дарий.

— Дарий? — переспросил Азимов.

— Да, сэр. Я взял себе имя Дария Справедливого, писателя и детектива из вашего превосходного детективного романа «Убийство в „АБА“». Я буду счастлив, если вы станете называть меня этим именем.

— А меня вы можете называть Бел Риоз, — предложил статистик.

— Из «Академии», — тут же напомнил установщик книг на полку.

— Бел Риоз охарактеризован в первой главе как «равный Пьюрифою в стратегических способностях, но превосходящий его в умении руководить людьми», — добавил статистик.

— Вы все берете себе имена персонажей моих книг? — спросил Азимов.

— Разумеется, — ответил установщик книг на полку. — Мы стараемся соответствовать им. Вот медицинский помощник называет себя доктором Дювалем из «Фантастического путешествия», потрясающего, кстати, романа, очень динамичного, захватывающего внимание читателя с первой же страницы.

— Роботы Девятого поколения иногда могут неправильно истолковать ситуацию, — бухгалтер вернулся к вопросу, заданному Азимовым. — Как случается и с людьми, но даже без Первого Закона наши действия не могут представлять опасности для человеческих существ. В наши программы заложены очень строгие моральные принципы. Я знаю, вы не обидитесь, если я скажу…

— Разумеется, вы не можете этого сказать. Первый Закон такого не допускает, — прервал его доктор Азимов.

— Да, сэр, но я должен сказать, что все Три Закона очень примитивны. Они нарушают первую заповедь логики и законотворчества тем, что не оговаривают условий, при которых действуют. Наше моральное программирование куда более прогрессивное. Оно определяет цель всех Трех Законов и перечисляет все исключения из них, к примеру, ситуацию, когда лучше схватить человека и, возможно, сломать ему руку, чем позволить ему перелезть через монорельс перед мчащимся поездом.