Цифровой журнал «Компьютерра» 2012 № 01 (101) - [11]

Заключаю: настоящее чудо-оружие оружием не выглядит и противником в качестве оружия не воспринимается. Но дело своё делает отменно.

Бледнолицые завоевали Новый Свет. Индейцев с помощью стали и огня частью истребили, а частью вытеснили на бросовые земли. Но индейские вожди сумели отомстить. Они начали свою битву, которая длится по сей день. Их чудо-оружие уничтожило сотни миллионов бледнолицых, и список пополняется ежедневно. Табакокурение! Сегодня от этого оружия погибает пять миллионов человек ежегодно. Хотя на каждой пачке теперь крупно и разборчиво пишут «Курение убивает», число жертв только растёт. Вот оно, идеальное чудо-оружие в действии!

Стоит оглянуться: а вдруг враги из прошлого, настоящего или будущего косят нас каким-нибудь чудо-оружием, о котором мы не знаем и не догадываемся? Да вот хоть стремление всё перевести в цифру – и лицо, и одежду, и душу, и мысли? Вспомните, ведь прежде перемножить восемьсот тридцать шесть на четыреста двадцать три в уме занимало времени меньше, нежели сегодня совершить это действие на калькуляторе: пока наберёшь, пока прочитаешь…

Писать без спел-чекера – одна мука, а с ним – другая. Хранение данных в цифре тоже чревато осложнениями: потерянную бумажную рукопись романа Чернышевского удалось отыскать, а будь рукопись цифровой, на флешке размером с ноготь? Упала бы флешка в грязь, кто-нибудь на неё бы наступил – и всё, Володя Ульянов вместо «Что делать» читает «Таинственный остров», и мы живём в совсем другом мире.

Или электрификация всей страны: трудно представить себе жизнь без оной, а вдруг она, электрификация, на самом деле ведёт к тому, что?..

(Далее думайте сами, а я спешу вывинтить пробки.)

К оглавлению

Кивино гнездо: Беззаконие роботехники Киви Берд

Опубликовано 26 декабря 2011 года

В декабрьском номере американского журнала The Atlantic опубликована большая аналитическая статья под названием «Доклад об этике для дронов: что рассказал ЦРУ ведущий эксперт по роботам» ("Drone-Ethics Briefing: What a Leading Robot Expert Told the CIA"). То, что публикации подобного рода уже определённо необходимы и своевременны, разъяснять, вероятно, уже не требуется.

Несмотря на то что количество роботов, применяемых в военных конфликтах армиями и спецслужбами разных стран, исчисляется десятками (если не сотнями) тысяч штук, никаких законов или международных соглашений, регулирующих их использование, пока не видно.

Когда речь заходит о робоэтике, невозможно не вспомнить знаменитые «Три закона роботехники» из цикла фантастических рассказов Айзека Азимова «Я, робот»:

Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.

Сопоставляя эти принципы, сформулированные почти семьдесят лет назад, с тем, что происходит в действительности, приходится констатировать, что создателям настоящих роботов неинтересны «утопические и наивные» азимовские идеи. В докладе, который подготовил для ЦРУ Патрик Лин, считающийся одним из ведущих теоретиков в области этичного применения новых технологий, три закона роботехники не упомянуты ни разу.

Зато Лин описал множество примечательных (и вызывающих понятное беспокойство) сценариев и задач, которые подходят для того, чтобы переложить их на плечи роботов.

Три D вместо трёх законов роботехники

В отличие от людей, машины прекрасно работают в условиях, которые известны как «три D». Именно это делает их настолько привлекательными для военных и шпионов.

Первое D — из английского слова Dull, то есть «скучная работа». Такая, к примеру, как продолжительное наблюдение, рекогносцировка на местности, патрулирование территории или охрана периметра в течение длительного времени.

Второе D – от Dirty, «грязная работа». Роботам, как правило, не страшны ядовитые и опасные для человека материалы. Они способны работать в средах, которые не подходят для людей, вроде подводного мира или открытого космоса. Их можно использовать для борьбы с последствиями ядерных или биохимических аварий и атак.

Третье D – от Dangerous, то есть «опасная работа». Типичный пример такого рода задач — обследование туннелей в системах пещер, где прячется противник, контроль над поведением враждебно настроенной толпы или обезвреживание взрывных устройств.

Кроме того, отмечает Лин, ныне в этот комплекс всё чаще добавляют ещё одно «четвёртое D» — Dispassion, то есть способность роботов сохранять бесстрастность. Это, правда, спорный момент (оспаривается не отсутствие у робота эмоций, конечно, а стремление рассматривать этот аспект как важный плюс в работе).

Для себя Лин уже решил, на чьей стороне в этом споре правда. Очевидно, что роботы никогда не будут действовать со зла или из ненависти. Им чужды эмоции, приводящие к совершению военных преступлений вроде резни мирного населения или массовых изнасилований. Суждения машины не искажают адреналин и голод. Они не страдают от недосыпа, низкого морального духа и сомнений, которые влияют на то, как люди оценивают ситуацию. Это, по мнению Лина, означает, что роботы способны воевать не только лучше людей, но и этичнее.