Новый цифровой мир - [99]

Шрифт
Интервал

В ближайшем будущем управлять этими устройствами будут люди и ошибок избежать не удастся. Если человек с его хрупкой психикой оказывается в условиях боевых действий, в ситуации непредсказуемости, это может привести к посттравматическому стрессу, тяжелым эмоциональным расстройствам и психическим срывам. Пока люди будут участвовать в войнах, будут и ошибки.

Устройства, способные воевать без участия человека, не смогут заменить людей ни непосредственно в бою, ни в центре принятия решений до тех пор, пока искусственный интеллект не заменит человеческий мозг полностью. Ошибки совершают даже самые умные машины. Как отмечает Питер Сингер, когда во время Первой мировой войны на полях сражений появился танк, он казался непобедимым, пока кто-то не придумал противотанковый ров. Бывший министр обороны Афганистана Абдул Рахим Вардак, с которым мы познакомились в Кабуле незадолго до его отставки, с улыбкой рассказывал нам, как в 1980-е годы он вместе с другими моджахедами боролся с советскими танками, замазывая грязью их смотровые щели и сооружая покрытые ветками и листвой ямы-ловушки вроде тех, которые за десять лет до этого вьетконговцы использовали против американских солдат. Сингер проводит более современные параллели: «Наземные роботы, которых наши солдаты используют в Ираке и Афганистане, поразительно высокотехнологичны, однако повстанцы поняли, что они могут бороться с ними с помощью простых ловушек, всего лишь выкапывая глубокие ямы, в которые те падают. Они даже подобрали определенный угол наклона стен, чтобы роботы не выбирались обратно». Интеллект этих роботов ограничен, и, пока они проходят полевые испытания, их операторы и разработчики будут постоянно сталкиваться с вражескими контрмерами, которые не смогли предугадать. Им придется постоянно совершенствовать свои продукты. Подобные асимметричные ответы противника окажутся непреодолимой трудностью даже для самых совершенных технологий.

Однако человеку мало одних лишь навыков решения задач. Есть уникальные человеческие черты, важные в военных условиях, которые даже определить трудно, не то что наделить ими роботов: это свое мнение, эмпатия и доверие. Что-то наверняка будет утрачено, если роботы возьмут на себя функции солдат. В ходе наших бесед с военнослужащими сил специального назначения все они, ссылаясь на свой боевой опыт, подчеркивали чрезвычайную важность доверия к однополчанам и чувства братства. Некоторые из них учились вместе и многие годы воевали бок о бок, изучив привычки и почти без слов понимая действия и ход мыслей друг друга. По их словам, они могут общаться при помощи взгляда. Смогут ли роботы когда-нибудь перенять человеческие способности считывать невербальные подсказки?

Способен ли робот на смелый поступок? Может ли пожертвовать собой? Может ли робот, обученный обнаруживать и уничтожать цель, иметь какие-то понятия об этике или сдержанности? Сможет ли он когда-нибудь отличать ребенка от невысокого взрослого? Если робот застрелит мирного жителя, кого в этом винить? Представьте, что лицом к лицу столкнулись вооруженный наземный робот и шестилетний мальчик с аэрозольным баллончиком краски, которого послали повстанцы. Как бы ни действовал робот, автономно или под управлением человека, у него есть две возможности: выстрелить в невооруженного ребенка или оказаться выведенным из строя, поскольку мальчишка просто ослепит его, распылив краску на высокотехнологичные камеры и датчики. Как бы поступили вы, управляя роботом, задает вопрос Сингер. Мы не можем отдавать роботов под трибунал или как-то еще наказывать их. Еще многие годы доминирующую роль в военных операциях будут играть люди, несмотря на то что роботы становятся все более разумными и все лучше интегрируются в «человеческие» боевые подразделения.

Новые способы вмешательства

Переход конфликтов на новую стадию, для которой характерно применение виртуального и автоматического оружия, означает, что в будущем в распоряжении государств-агрессоров окажется более широкий диапазон средств ведения войн. Расширятся возможности для вмешательства в конфликт со стороны граждан, бизнес-сообщества и иностранных государств.

На международном уровне единственным органом, который, с одной стороны, представляет все страны мира, а с другой – способен придать легитимность иностранному военному вмешательству, является Совет безопасности ООН. Маловероятно, что страны мира в достаточной мере серьезно пересмотрят полномочия, которыми была наделена организация при ее создании в 1945 году, несмотря на призывы к действию и все возрастающее давление на власть со стороны гражданского общества. Почти невозможно будет получать новые мандаты и право на интервенцию, учитывая то, что для изменения Устава ООН требуются голоса 194 стран-участниц.

В некоторых областях международных отношений появятся и окажутся жизнеспособными новые формы иностранного вмешательства, организованного в рамках альянсов с ограниченным числом участников. Вполне возможно, что в какой-то чрезвычайной ситуации несколько стран решат совместными усилиями вывести из строя военных роботов «заблудшего» государства. Можно также представить себе, что в рамках НАТО кто-то из его стран-участниц добьется введения нового типа мандатов на вмешательство в конфликт, которые будут давать право на ввод войск с целью установления буферных зон безопасности с независимыми и защищенными сетями связи. Это могло бы стать популярным методом: фактически речь идет о естественном расширении доктрины «Обязанность защищать», которая легла в основу принятого в 2011 году решения Совета безопасности ООН о разрешении военной интервенции в Ливию (включая авиаудары по стране), начатой впоследствии НАТО. Вполне возможно, что мы станем свидетелями того, как члены НАТО мобилизуют беспилотники для организации над районом, контролируемым повстанцами, – первой в истории зоны, свободной от полетов, которая функционирует без участия человека и поэтому не предполагает риска для жизней солдат.


Еще от автора Джаред Коэн
Искусственный разум и новая эра человечества

В 2017 году нейронная сеть AlphaZero стала самым лучшим игроком в шахматы. Зная лишь правила игры, она смогла разработать уникальную выигрышную тактику всего за 4 часа. Спустя три года программа искусственного интеллекта в Массачусетском технологическом институте смогла решить более сложную задачу – разработать новый вид антибиотика, халицин. Он способен уничтожать бактерии, устойчивые ко всем остальным лекарственным препаратам. Программное обучение проникает во все сферы жизни: его используют в транспортной отрасли, медицине, торговле, финансах, правоохранительной деятельности и других областях.


Как работает Google

В эпоху, когда все меняется быстрее, чем успеваешь это заметить, лучший выход – привлечь умных, творческих людей и создать для них среду, в которой они могли бы придумывать новые идеи и развиваться. «Как работает Google» расскажет, как этого добиться. Страница за страницей председатель совета директоров Эрик Шмидт и вице-президент Джонатан Розенберг раскрывают секреты, как им удалось построить великую компанию. Вы узнаете, kak в Google развивают корпоративную культуру, привлекают талантливых специалистов, придумывают инновации, решают неразрешимые задачи – и все с многочисленными историями из жизни Google, которые публикуются впервые.


Рекомендуем почитать
Как стать дизайнером, не продав душу дьяволу

Дизайнеры очень любят рассказывать о полете своей мысли и источниках вдохновения, но они гораздо менее открыты, когда речь заходит о таких важных вопросах, как найти заказы, как определить расценки и что делать, когда клиент отказывается от заказа, на который было потрачено несколько месяцев. Эта книга, выходящая уже во втором издании, призвана помочь решить проблемы молодых дизайнеров, которые хотят зарабатывать, создавая творчески интересные работы, при этом не превратившись в бездушных роботов, механически отрабатывающих очередной заказ.


Instagram для бизнеса: 40 хаков и готовых решений

Прочитав эту книгу, вы перестанете сомневаться в эффективности Instagram и научитесь грамотно использовать функционал этой соцсети. Мы приготовили более 40 практических хаков и вдохновляющих примеров, а также ценные рекомендации от экспертов Ingate и Another Point по самым важным вопросам: от создания аккаунта и выбора оптимальной стратегии до тонкостей продвижения и настройки рекламы.


Мир в 2050 году

Наш мир постоянно меняется, и в последние десятилетия – быстрее, чем когда бы то ни было. Стремительное развитие технологий, море информации, ее доступность – все это оказывает огромное влияние на состояние государств, рынков, гражданского общества.Каким станет мир к 2050 году? В книге – попытка экспертов легендарного The Economist ответить на этот вопрос. Но прогноз журналистов «Экономиста» – это не гадание на кофейной гуще. Они выявили и исследовали основные тенденции, оказывающие решающее воздействие на мир в различных сферах жизни – от здравоохранения до экономики, детально, доступным языком описали их и подкрепили большим количеством фактов, благодаря чему книга, несомненно, превратилась в ценный справочный инструмент.Она заинтересует каждого, кто стремится заглянуть вглубь событий, а также тех, кому небезразлично будущее нашей планеты.



Величайшая возможность в истории человечества

В книге рассказывается история главного героя, который сталкивается с различными проблемами и препятствиями на протяжении всего своего путешествия. По пути он встречает множество второстепенных персонажей, которые играют важные роли в истории. Благодаря опыту главного героя книга исследует такие темы, как любовь, потеря, надежда и стойкость. По мере того, как главный герой преодолевает свои трудности, он усваивает ценные уроки жизни и растет как личность.


Войны брендов

Как победить в войне — непримиримой войне брендов? Как сделать торговую марку непобедимой? Как избежать ошибок в процессе брендинга? Ведь эти ошибки допускают даже самые известные фирмы. Что нужно сделать, чтобы ваша фирма достигла успеха? На эти и множество других, связанных с ними, вопросов ответит книга, написанная одним из лучших в мире специалистов по маркегингу Дэвидом Д'Алессандро. Руководствуясь своим богатейшим опытом, автор предлагает несколько правил создания поистине непобедимого бренда.Издание будет интересно не только специалистам по маркетингу, бизнесменам, студентам и аспирантам, изучающим экономику, но самому широкому кругу читателей.