Законы науки о человеке - [2]

Шрифт
Интервал

1. Человек не может допустить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

Если этот закон будет выполняться, роботам останется лишь оберегать людей от несчастных случаев с неодушевленными предметами и живыми существами (не людьми), что освободит их от решения этических проблем. Разумеется, робот должен оберегать человека от вреда, который может неосознанно причинить ему другое человеческое существо. Кроме того, он обязан быть готов прийти ему на помощь, если другой человек по объективным причинам не в состоянии оказать ему эту помощь достаточно быстро. Однако даже робот может неосознанно навредить человеку, и даже робот может не проявить достаточной сноровки и не успеть попасть к месту действия, да и умений ему может не хватить, чтобы предпринять необходимые меры. Ничто в нашем мире не идеально.

Таким образом, мы подходим ко Второму закону роботехники, который требует, чтобы робот повиновался всем приказам, отданным ему человеком, если они не вступают в конфликт с Первым законом. Это означает, что человек имеет право приказывать роботу все, что угодно, без ограничений, если только его желания не причинят вред другому человеку.

Но ведь человек может приказать роботу нечто невыполнимое или его воля поставит робота перед дилеммой, которая может повредить позитронный мозг. В расскаже «Лжец», опубликованном в 1940 году, человек совершенно сознательно поставил перед роботом задачу, которая сожгла его мозг, и машина перестала существовать.

Мы можем даже представить ситуацию, когда появятся достаточно разумные роботы, которые будут в состоянии избежать гибели, если их вынудят делать нечто бессмысленно сложное или злостное. Следовательно, Второй закон науки о человеке должен гласить:

2. Человек должен отдавать роботу приказы, которые не вредят существованию робота, если только эти приказы не явятся причиной вреда или неудобства для других людей.

Целью Третьего закона роботехники было защитить роботов, но с точки зрения робота он может показаться не слишком надежным. Робот должен пожертвовать собой, если того потребуют Первый и Второй законы. Когда речь идет о Первом законе, тут не может быть никаких возражений. Робот обязан забыть о собственной безопасности, если это единственный путь защитить человека или предотвратить опасность, которая ему угрожает. Если мы признаем, что любое человеческое существо важнее любого робота (по правде говоря, я признаю это не вполне охотно), то такая формулировка неизбежноа.

С другой стороны, должен ли робот жертвовать собой, выполняя какой-нибудь несущественный или даже вредоносный приказ? В «Двухсотлетнем человеке» хулиганы сознательно приказывают роботу разобрать себя на части исключительно ради собственного развлечения. Получается, что Третий закон науки о человеке должен звучать следующим образом:

3. Человек не должен причинять вреда роботу или своим бездействием допустить, чтобы роботу был причинен вред, кроме тех случаев, когда робот вынужден пожертвовать собой, чтобы спасти человека или выполнить жизненно важный приказ.

Естественно, мы не можем навязать эти законы, как в ситуации с законами роботехники. Мы не в силах запрограммировать мозг человека, как мозг робота. Однако это начало, и я искренне считаю, что, если нам предстоит управлять умными роботами, мы должны быть за них ответственны, как сказал мой герой из рассказа «Двухсотлетний человек».


Еще от автора Айзек Азимов
Весь Азимов. Конец вечности

В эту книгу вошли три произведения Айзека Азимова, по праву признанные классикой НФ-литературы XX столетия. В романе «Конец вечности» повествуется о некой вневременной структуре, носящей название «Вечность», в которую входят специально обученные и отобранные люди из разных столетий. Задачей «Вечности» является корректировка судьбы человечества. В «Немезиде» речь ведётся об одноименной звезде, прячущейся за пыльной тучей на полдороге от Солнца до альфы Центавра. Человечеству грозит гибель, и единственный выход — освоение планеты Эритро, вращающейся вокруг Немезиды.


Я, робот

Роман в новеллах «Я, робот» относится к одной из самых важных работ в истории фантастики. Сформулированные Азимовым ТРИ ЗАКОНА РОБОТЕХНИКИ легли в основу науки об Искусственном интеллекте. Что случится, если робот начнет задавать вопросы своему создателю? Какие будут последствия программирования чувства юмора? Или возможности лгать? Где мы тогда сможем провести истинную границу между человеком и машиной? В «Я, робот» Азимов устанавливает свои Три Закона, придуманные для защиты людей от их собственных созданий, – и сам же выходит за рамки этих законов.


Основание

…Империя с высочайшим уровнем цивилизации. Ее влияние и власть распространены на десятки миллионов звездных систем Галактики. Ничто не предрекает ее краха в обозримом будущем…И вот однажды психоисторик Хари Сэлдон, создав математическую модель Империи, производит расчеты, которые неопровержимо доказывают, что через 500 лет Империя рухнет…Великий распад будет продолжаться 30 тысяч лет и сопровождаться периодом застоя и варварства. Однако Сэлдон создает План, в соответствии с которым появление новой Империи наступит всего через 1000 лет.


Камешек в небе

Из 1949 года Джозеф Шварц попадает в мир далёкого будущего – периода расцвета Галактической Империи. В результате древних термоядерных войн поверхность Земли стала радиоактивной и непригодной для жизни. В то же время люди расселились по всей Галактике и забыли о своей колыбели. Земля всего лишь камешек в небе. Ныне всё человечество живёт под управлением планеты Трантор, контролирующей двести миллионов звезд. Но на Земле ещё живы националистические настроения, некоторые земляне хотят вернуть себе власть предков.


Основание и Империя

…Империя с высочайшим уровнем цивилизации. Ее влияние и власть распространены на десятки миллионов звездных систем Галактики. Ничто не предрекает ее краха в обозримом будущем…И вот однажды психоисторик Хари Сэлдон, создав математическую модель Империи, производит расчеты, которые неопровержимо доказывают, что через 500 лет Империя рухнет…Великий распад будет продолжаться 30 тысяч лет и сопровождаться периодом застоя и варварства. Однако Сэлдон создает План, в соответствии с которым появление новой Империи наступит всего через 1000 лет.


Весь Азимов. Академия

Однажды, сидя в метро, Айзек Азимов просматривал сборник космических опер и наткнулся на картинку, изображавшую римского легионера среди звездолётов. В мозгу мелькнула мысль: а не описать ли Галактическую Империю — с точки зрения истории, экономики, социологии и психологии? Так появился самый великий учёный в истории мировой фантастики — Гэри Селдон, создавший науку психоисторию, постулаты которой актуальны уже более полувека. Так появился мир Академии: базовая трилогия о нём составила эту книгу. Так появилась "Галактическая история" от сэра Айзека, в которую входят почти все романы знаменитого фантаста.


Рекомендуем почитать
Златокожая девушка и другие рассказы

[25] Восемь из этих девяти рассказов были опубликованы с 1951 по 1955 годы, когда Джек Вэнс писал для дешевых журналов. Даже в этих ранних произведениях, однако, слышится голос будущего гроссмейстера.


Тень на экране

Герой этой истории уяснил для себя в финале - если ты стремишься посмотреть на нечто ужасное, то и это нечто может захотеть взглянуть на тебя...


Рагульба

В книге рассказывается история главного героя, который сталкивается с различными проблемами и препятствиями на протяжении всего своего путешествия. По пути он встречает множество второстепенных персонажей, которые играют важные роли в истории. Благодаря опыту главного героя книга исследует такие темы, как любовь, потеря, надежда и стойкость. По мере того, как главный герой преодолевает свои трудности, он усваивает ценные уроки жизни и растет как личность.


Гуркха и Владыка Вторника

Начинается история с того, что великий джинн Мелек Ахмар просыпается в саркофаге, куда его хитростью запихнули враги. Мелек проспал несколько тысячелетий и совершенно ничего не знает о том, как переменился мир. Впрочем, как раз этот момент Раджу Джиннов не особенно волнует, для этого он слишком могуществен. И вот Мелек спускается с гор и встречает по дороге гуркху Гурунга, который обещает отвести Владыку Вторника в город Катманду, управляемый искусственным интеллектом с говорящим именем Карма. Большая часть человечества сейчас живет в мегаполисах, поскольку за их границами враждебные нанниты уничтожают все живое.


Энергия, власть и слава

Молодой ученый открыл способ получения безграничной энергии и с гордостью демонстрирует его своему старому учителю…


Обманки

В книге рассказывается история главного героя, который сталкивается с различными проблемами и препятствиями на протяжении всего своего путешествия. По пути он встречает множество второстепенных персонажей, которые играют важные роли в истории. Благодаря опыту главного героя книга исследует такие темы, как любовь, потеря, надежда и стойкость. По мере того, как главный герой преодолевает свои трудности, он усваивает ценные уроки жизни и растет как личность.


Взаимодействие роботов

В книге рассказывается история главного героя, который сталкивается с различными проблемами и препятствиями на протяжении всего своего путешествия. По пути он встречает множество второстепенных персонажей, которые играют важные роли в истории. Благодаря опыту главного героя книга исследует такие темы, как любовь, потеря, надежда и стойкость. По мере того, как главный герой преодолевает свои трудности, он усваивает ценные уроки жизни и растет как личность.


Робот, как враг?

В книге рассказывается история главного героя, который сталкивается с различными проблемами и препятствиями на протяжении всего своего путешествия. По пути он встречает множество второстепенных персонажей, которые играют важные роли в истории. Благодаря опыту главного героя книга исследует такие темы, как любовь, потеря, надежда и стойкость. По мере того, как главный герой преодолевает свои трудности, он усваивает ценные уроки жизни и растет как личность.


Лицом к лицу с компьютером

В книге рассказывается история главного героя, который сталкивается с различными проблемами и препятствиями на протяжении всего своего путешествия. По пути он встречает множество второстепенных персонажей, которые играют важные роли в истории. Благодаря опыту главного героя книга исследует такие темы, как любовь, потеря, надежда и стойкость. По мере того, как главный герой преодолевает свои трудности, он усваивает ценные уроки жизни и растет как личность.


Наши друзья

В книге рассказывается история главного героя, который сталкивается с различными проблемами и препятствиями на протяжении всего своего путешествия. По пути он встречает множество второстепенных персонажей, которые играют важные роли в истории. Благодаря опыту главного героя книга исследует такие темы, как любовь, потеря, надежда и стойкость. По мере того, как главный герой преодолевает свои трудности, он усваивает ценные уроки жизни и растет как личность.