Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - [60]

Шрифт
Интервал

Этот сценарий может показаться забавной научной фантастикой – некоей смесью Франца Кафки и Филиппа К. Дика[367]. Но в то же время можно сказать, что в нем отражены три актуальные тенденции социального контроля. Первая – повсеместное наблюдение, то есть способность записывать и анализировать каждый момент жизни людей. Вторая – запрос на умные города, которые динамически выдают штрафы или, наоборот, награды за запрещенное или поощряемое поведение. Футуристы рассматривают полицейское регулирование на базе результатов, которое позволит отказаться от старомодного права и перейти к более гибким оценкам общественного порядка. В этом идеале порядка без права, если на громкую вечеринку подано достаточное количество жалоб, она считается незаконной; если нет, она может продолжаться. Третья – попытка заменить людей машинами. Если охранники и полиция нуждаются в зарплатах и пенсиях, то роботам только и нужно, что электричество и обновление программ. Возможно, в будущем охраной правопорядка будут заниматься рои дронов, готовых остановить любого преступника или подозреваемого.

Искусственный интеллект и роботы в охране порядка и управлении сегодня в основном обосновываются экономическим нарративом, сосредоточенным на более эффективном применении ресурсов. Дроны, камеры наружного наблюдения и роботы – все это может быть намного дешевле, чем батальоны офицеров полиции. Они могут оказаться и более эффективными, к тому же, скорее всего, они будут реже наносить ущерб подозреваемым или выбирать неправильные цели. Но во всем этом сохраняется определенная двусмысленность, ощущение не только приобретения, но и утраты, возникающее, когда государство слишком далеко уходит по этой траектории контроля[368]. Государство всегда выступает защитником и в то же время потенциальной угрозой, источником помощи и агентом подавления. Полиция способна защитить мирных протестующих от враждебной толпы, но также она может арестовывать их и бросать в тюрьмы. Еще неприятнее то, что плюсы и минусы государственной силы слишком часто распределяются произвольным и дискриминирующим образом. Полиция оказывает непропорциональное давление на меньшинства – на афроамериканцев в США, уйгуров в Китае и жителей фавел в Бразилии.

Сообщества, стремящиеся утвердить верховенство права, нашли способы сгладить подобную несправедливость. Гражданские апелляционные комиссии и суды способны ограничивать полицейский произвол, назначая компенсации, когда нарушены гражданские права. Четвертая поправка Конституции США запрещает «общие ордеры», которые являются разрешениями общего характера на обыски и арест имущества и лиц без убедительной причины. Другие организации и структуры, поддерживающие права человека, предлагают еще более надежную защиту от полицейского государства. Все эти способы защиты снижают эффективность полицейских мер[369]. То есть наши обычные стандарты промышленной результативности не слишком хорошо сочетаются с такой социальной практикой, как охрана общественного порядка.

Программы и ИИ уже определяют значительную часть труда охранников и полицейских, то есть ту обширную область служб безопасности (как кибернетической, так и физической), полиции и армии, которая потребляет значительную долю мировых производительных сил[370]. Существуют проекты программирования таких роботов, которые будут безусловно соблюдать международное право, поскольку на них не влияют человеческие предубеждения, страсти или предрассудки. Профессор права Беннет Кейперс представил в своей работе будущее, в котором значительно компьютеризированные полицейские силы будут защищать всех и каждого, подчинив все население США контролю необычайно высокой интенсивности[371]. В его афрофутуристическом описании технология охраны правопорядка будет встроена в более мягкий и великодушный социальный порядок. Кейперс надеется на то, что «те немногие судебные разбирательства, которые понадобятся, будут не вполне „машинным судом“, но могут приблизиться к этой форме, поскольку она позволит исключить предубеждения, которые в наше время нередко влияют на судопроизводство».

Австралийский исследователь права и декан университета Дэн Хантер считает, что благодаря ИИ тюрьмы могут закрыться[372]. Если у нас будет достаточно сложная компьютерная система, все будущие приговоры могут отбываться в виде домашнего ареста. Учитывая скуку и уровень насилия, с которым сталкиваются многие заключенные тюрем, такая идея может показаться значительным шагом вперед в области наказания и реабилитации. Однако планы Хантера по «Проекту технологического заключения» содержат также идеи, которые пришлись бы кстати в «Особом мнении». В обмен на отбывание срока дома «правонарушители должны носить специальный электронный браслет, способный на обездвиживающий удар электротока в случае, если алгоритм замечает, что вот-вот будет совершено новое преступление или применено насилие. Такая оценка может производиться на основе ряда биометрических факторов, распознавания голоса и анализа лиц»[373]. Таково определение автоматизированного правосудия. Соответственно, не будет шанса подать апелляцию судье или ходатайство о помиловании, если искусственный интеллект уже вынес приговор. Ведь он будет и судьей, и присяжными, и, возможно, палачом, если система неправильно рассчитает удар током.


Рекомендуем почитать
Закон малинового варенья и еще 103 секрета консалтинга

Джеральд Вайнберг, исходя из своего более чем 50-летнего опыта работы консультантом, делится своими выводами, как запустить и успешно вести свой собственный консалтинговый бизнес. Благодаря использованию юмористичных Правил, Законов и Принципов — таких как Закон малинового варенья, Принцип картофельных чипсов, Правило Руди о брюкве — автор показывает, как, оставаясь самим собой, находить клиентов, завоевывать доверие и устанавливать правильную цену на свои услуги, о которой потом не придется жалеть. Если вы консультант, когда-либо пользовались услугами консультанта или хотите быть одним из них, эта книга будет вам полезна.


Скользящий по лезвию фондового рынка

Джон учитель в средней школе городишка Блусток мечтает сбежать из этого нудного мира на динамичную и ослепительную арену международных финансов. Вместе с Джоном мы начинаем новую карьеру в дилерской фирме «Нью маркет секьюритиз» и наблюдаем, как из наивного стажера он превращается в закаленного трейдера и борется за выживание в беспощадном главном дилинговом зале. Его история наглядный пример опасностей, иллюзий, мечтаний и кошмаров, переживаемых клиентами и дилерами в стремительном мире фондового рынка.Книга «Скользящий по лезвию фондового рынка» в пугающе правдоподобных деталях описывает бизнес, связанный с ценными бумагами.


Понедельник - день тяжелый. Книга-утешение для всех работающих

Перед вами вторая книга Й.Сгрийверса – автора нашумевшего бестселлера «Как быть крысой». Это эссе о тебе и обо мне. Утро понедельника – мы чувствуем, как нас сковывает напряжение. Почему к горлу подступает комок от одной мысли о работе? Это синдром понедельника. Он сигнализирует о том, что в наши дни многие испытывают дискомфорт, связанный с работой. Автор в своей уникальной и яркой манере создает галерею портретов коллег и боссов, среди которых завистливые стервы, мачо, пьяницы, халявщики, реформаторы. Он рассказывает нам о том, как они проникают в наши мозги и вызывают этот синдром понедельника; показывает, как мы попадаем в зависимость от их эмоций, неуемного стремления к деньгам, желания залезть внутрь каждого, а также упорства, с которым они защищают свое кресло или свой отдел от всех и вся.Книга представляет собой средство защиты от тех моментов, когда неприятные стороны жизни наваливаются на вас или приближаются к вам.


Менеджер Мафии. Руководство для корпоративного Макиавелли

Новые главы, новые аксиомы, дополненный словарь, текст, который стал еще более отточенным, изящным, практичным и приземлённым.Яркий фарс, наглядно демонстрирующий, как преуспеть в бизнесе, применяя опыт и понятия итальянской мафии к корпоративному управлению.


Бархатная революция в рекламе

Сегодня на потребителя обрушивается мощный поток рекламной информации. Выбрать между «хорошим» и «лучшим» почти невозможно. Наверное, поэтому все рекламисты мира в один голос отмечают спад эффективности традиционных рекламных подходов.Один из ведущих специалистов по рекламному бизнесу Сержио Зимен предлагает свой революционный взгляд на то, как компании должны строить свою рекламную политику в XXI веке.


Преступные эмбарго (Защита прав на интеллектуальную собственность препятствует распространению наукоемких продуктов, технологий и культурных ценностей)

В книге рассказывается история главного героя, который сталкивается с различными проблемами и препятствиями на протяжении всего своего путешествия. По пути он встречает множество второстепенных персонажей, которые играют важные роли в истории. Благодаря опыту главного героя книга исследует такие темы, как любовь, потеря, надежда и стойкость. По мере того, как главный герой преодолевает свои трудности, он усваивает ценные уроки жизни и растет как личность.