«Если», 2015 № 03 (241) - [12]

www.aspcr.com

РЕШЕНИЕ № 2.

Идеологическое

Три закона робототехники Азимова продолжают вдохновлять разработчиков на попытки встроить в автономных роботов алгоритмы морали и нравственности.

В частности, созданием искусственного интеллекта, способного принимать этические решения в сложных ситуациях, занимается группа исследователей из Университета Тафтса, Университета Брауна и Политехнического института Ренсселера совместно с ВМС США.

На практике это направление пока дает больше вопросов, чем ответов. Во-первых, само определение базового перечня норм в непротиворечивой форме достаточно затруднительно. Во-вторых, действительно сложные с точки зрения этики ситуации единственно верного решения не имеют по определению. Например, как должен среагировать беспилотный автомобиль, если на дорогу выскочил ребенок и избежать столкновения можно только ценой жизни пассажира? Наконец, остается проблема ответственности за сделанный роботом выбор.

РЕШЕНИЕ № 3.

Нормативно-правовое

Принятие формальных правил существенно снизит риски, связанные с взаимодействием человека и робота, и, кроме того, позволит определить степень ответственности.

Первым местом в мире, где официально разрешили движение беспилотных автомобилей по дорогам общего пользования, стал штат Невада (США). Свод специальных правил, регулирующих использование автономных транспортных средств в штате, был опубликован в 2012 году.

1.2. Намеренный

Казалось бы, то, что создание Терминатора — плохая идея, в настоящее время должно быть понятно интуитивно, однако люди работают и в этом направлении.

Военные беспилотники сейчас уже никого не удивляют, да и участие роботов в боевых действиях уже скоро станет реальностью. Например, в демилитаризованной зоне между Северной и Южной Кореей наряду с солдатами службу несут боевые машины, оснащенные пулеметами и датчиками тепла и движения.

В настоящее время решение открывать огонь принимает оператор, но, в принципе, роботы могут действовать и автономно.

В теории защититься от армии роботов-убийц для человечества не так уж и сложно, достаточно их не создавать. На практике, как правило, все несколько сложнее. И хотя решение проблемы лежит в плоскости международного и национального законодательства, в мире уже сейчас набирает обороты движение за запрет на разработку и использование роботов-убийц. В 2013 году для продвижения этой идеи было создано объединение неправительственных организаций The Campaign to Stop Killer Robots. К запрету автономных боевых систем призывает ООН. В 2015 году с аналогичной инициативой выступили известные ученые и технологические предприниматели со всего мира, в том числе Элон Маек, Стив Возняк и Стивен Хокинг.

2. МОРАЛЬНЫЙ УЩЕРБ

Распространение сервисной и потребительской робототехники может привести к тому, что личного пространства у человека практически не останется. Для нормального функционирования роботам необходимы сложная система датчиков и определенный набор информации о клиенте. Использоваться же собранные данные могут далеко не всегда на благо потребителя. Домашний робот-помощник вообще представляет собой идеальное средство проникновения в частную жизнь.

Насколько легко люди могут дать неограниченный доступ к личной информации случайному роботу просто потому, что он выглядит мило и безобидно, демонстрирует робот Boxie — собиратель историй, разработанный специалистами Массачусетского технологического института. Маленькая картонная коробочка с нарисованной милой улыбкой, снабженная видеокамерой и системой сенсоров, была специально спроектирована для того, чтобы вызывать у людей доверие и заставлять делится личными историями — разумеется, исключительно для съемок документального фильма в рамках эксперимента.

РЕШЕНИЕ № 1.

Спокойствие и бдительность

Помните, роботы вам не друзья. Утешает, что ненавидеть они вас тоже не могут. По крайней мере, пока.

Справедливости ради следует заметить, что самую разнообразную личную информацию при желании можно добыть о любом человеке, использующем мобильный телефон, уже сейчас, без роботов-посредников. Персональные данные в социальных сетях вообще находятся в открытом доступе, и мы сами их туда поместили. Ничего, живем.

РЕШЕНИЕ № 2.

Нормативно-правовое

Законодательное регулирование использования робототехники и данных, полученных с помощью роботизированных средств, снижает риск морального вреда в той же степени, что и вреда физического.

3. ВЫТЕСНЕНИЕ С РЫНКА ТРУДА

Роботы становятся все умнее и могут все больше. Мы успели привыкнуть к автоматизации производственных задач, в то время как сфера применения робототехники продолжает расширяться.

Гости отеля Aloft в Калифорнии могут встретиться с роботом-дворецким, в Китае в ресторане Haohai Robot Restaurant работают механические официанты и повара, а в Японии с июля 2015 года открывается гостиница Hennna Hotel, в которой роботы составят большую часть персонала.

Под удар попадают не только материальное производство и сервис, но и интеллектуальная деятельность, например, подготовка финансовых и спортивных обзоров. Услугами робожурналистов — специальных программ, способных собирать и обрабатывать различную информацию без непосредственного участия человека, успешно пользуются журнал Forbes, The Los Angeles Times, информационно-новостное агентство Associated Press.