Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - [111]

Шрифт
Интервал

Конечно, в нашей повседневной жизни отказаться от привычки нельзя. Рутины закрепляются, поскольку не нужно каждый раз во всех подробностях представлять, как лучше встать с кровати, сделать себе чашку кофе или включить компьютер. Однако склонность человека к привычке становится патологией, когда она захватывает вообще все. Этот автоматический способ мышления затемняет лучшее будущее, которое возможно.

Совместное создание будущего труда

Сегодняшние автоматизаторы, обещающие всеобщее процветание, склонны видеть в профсоюзах, регуляторах, кооперативах и профессиях устаревших лежачих полицейских, положенных на скоростной трассе, ведущей к изобилию. В действительности же все эти профсоюзы и регуляторы способны демократизировать будущее, которое ныне в основном диктуется технологическими и финансовыми фирмами. Мы поступим правильно, если демократизируем власть за пределами этих фирм, поскольку, как утверждал специалист по робототехнике Илаа Реза Нурбакхш:

Сегодня большинство неспециалистов практически не имеют слова в определении того, какую роль роботы будут играть в нашей жизни. Мы просто смотрим на новую версию «Звездных войн», которая пишется в реальном времени деловыми и научными интересами, если не считать того, что этот сценарий становится нашим реальным миром… Хорошо знакомые устройства станут более сознательными, интерактивными и проактивными; совершенно новые роботизированные создания будут делить с нами наше пространство, публичное и приватное, физическое и цифровое… Со временем нам надо будет читать, что они пишут, взаимодействовать с ними, чтобы вести наши дела, и часто наша дружба будет опосредована ими[723].

Условия этого сотрудничества могут быть вполне неолиберальными: задача в таком случае в том, чтобы максимизировать прибыль с инвестиций богатейших технологов и наиболее продвинутых в технологическом плане богачей. Или они могут отличаться, могут разрабатываться вместе с экспертами из различных областей, отвечать ценностям сообщества. Режим laissez-faire наверняка приведет нас к первому результату, а четыре новых закона робототехники – ко второму.

Когда главной угрозой правовому порядку были произвольные постановления автократов, судьи и адвокаты сопротивлялись им, выдвинув принцип «верховенства права, а не людей». По мере развития автоматизации мы должны дополнить этот принцип максимой «верховенство людей, а не машин». Менеджеры и бюрократы не должны иметь возможности скрыться за алгоритмическими способами установления социального порядка. Личная ответственность за решения имеет критическое значение для сохранения легитимного правления как государственных ведомств, так и фирм.

Также мы должны с подозрением относиться к сторонникам технологий, которые считают, что большинство работ являются предсказуемыми, а потому им могут научиться машины, получившие доступ к достаточным данным. Это верный рецепт для того, чтобы общество попало в ловушку прошлого, то есть тренировочной выборки, на которой будут учиться машины. Энтузиасты автоматизации определяют тренировочную выборку как всего лишь начальную точку, позволяющую в будущем приобрести независимость от машин, которые будут учиться на негативных и позитивных стимулах, отвечая на будущие действия. Однако само определение «негативного» и «позитивного» должно быть запрограммировано, как и возможности расширять или сокращать их определения. Органическое развитие моральной ответственности (на индивидуальном уровне) и самоуправления (на коллективном уровне) может быть приписано ИИ лишь благодаря мифическому мышлению, известному по волшебным сказкам.

Современные вычислительные системы скрывают в себе огромную мощь. Искушение применить ее для решения всякой крупной проблемы, не сковывая ее законами, профессиональными обязательствами или этиками, будет почти неодолимым. В той мере, в какой вообще можно говорить о социобиологической человеческой свободе, она, возможно, и правда склонна к гонке за относительные позиции, которая еще больше ускоряется автоматизацией. Как предупреждала Симона Вейль, «не применять всю имеющуюся в распоряжении власть – значит терпеть пустоту. Это противно всем законам природы. Только благодать на это способна»[724].

Нужная для этого благодать не может быть благодатью кибернетического поэта или робота – ангела истории[725]. Нас ждут затяжные политические и юридические дискуссии о верном распределении выгод и обязанностей. Будет множество решений по вполне практическим вопросам, например, о том, может ли врач не учитывать предупреждение программы поддержки клинических решений, а водитель – отключить компьютерное вождение, и могут ли они получить доступ к внутренностям компьютерных систем, которые сейчас слишком часто остаются для них непрозрачными. Подобные дискуссии, не являясь помехой лучшему будущему, свидетельствуют о подлинных и важных конфликтах по поводу самого способа управлять обществом. Если мы будем избегать их, нам будет грозить опасность.

Гуманная автоматизация требует мудрости ограничения. Миф об Икаре, который обычно толкуется как сказание о личной гордыне, – это еще и одна из легенд о технологическом перенапряжении. В изложении Овидия Дедал и его сын Икар были заключены на острове. Дедал сделал крылья из воска и перьев, чтобы улететь на другой берег. Смелый план сработал, и отец с сыном воспарили над океаном. Однако Икар проигнорировал предупреждения отца о том, что нельзя рисковать и летать слишком близко к солнцу. Воск растаял, крылья распались, а Икар упал в море и утонул.


Рекомендуем почитать
Лидерство третьего уровня: Взгляд в глубину

Данное издание представляет собой руководство для тех, кто изучает тему лидерства и хочет выработать продуктивную модель влияния на окружающих. В соответствии с центральной концепцией книги поведение человека складывается из трех уровней: видимой деятельности, сознательного мышления и подсознательных ценностей, убеждений, представлений и ожиданий от окружающего мира. Любое влияние на человека естественным образом затрагивает все три уровня, но в разном соотношении. Концепция «лидерства третьего уровня» применяется в программах обучения руководителей в различных странах мира.


Убедили! Как заявить о своей компетентности и расположить к себе окружающих

Блестящий придворный и знаток людей Ларошфуко говорил в свое время: «Свет чаще награждает видимость достоинств, нежели сами достоинства». Но как же действовать подлинно талантливому человеку, которого не замечают на фоне более уверенных соперников? Джек Нэшер, профессор менеджмента и всемирно известный эксперт в области деловых коммуникаций, призывает освоить стратегии общения, свойственные профессионалу, который впечатляет своей компетентностью и привык греться в лучах славы. Читателю предлагается «пересоздать» себя: усовершенствовать внешний облик, подобрать уместный гардероб, грамотно организовать рабочее пространство, заучить поведение, характерное для лидеров, и бесстрашно выступать с самопрезентацией перед коллегами и партнерами.


Мотивация в стиле экшн. Восторг заразителен

Радость от работы, партнерские отношения внутри фирмы, скрупулезное планирование в сочетании со свободой принятия решений - эти идеи предлагались теоретиками менеджмента и маркетинга давно, но именно Клаус Кобьелл, ресторатор и владелец старинной гостиницы, впервые на практике последовательно воплотил их в жизнь. Уникальный новаторский метод мотивации сотрудников, используемый им, является универсальным и может быть эффективно использован в любой сфере бизнеса - будь то гостиница, адвокатская контора, ресторан или автосервис.


Тренинг. Настольная книга тренера

Предлагаемая книга является практическим руководством по совершенствованию систем обучения, развития потенциала личности и организации с помощью активных тренииговых форм. В ней раскрываются вопросы профессиональных качеств тренера, его креативных и функциональных возможностей, перспектив развития карьеры и самостоятельного бизнеса, принципов и способов обучения личности и коллектива, процессов разработки и проведения тренингов, навыков оценки и самооценки проводимых изменений. Данное руководство станет полезным источником информации для всех, кто связан с профессиональной необходимостью обучения других людей.


Путь успеха: как работает корпорация IBM

Бак Роджерс занимал десять лет пост вице-президента IBM по маркетингу. В своей книге он показывает, как корпорация изо дня в день ведет свой бизнес,как реагирует на изменениярынка, как добивается решения самых сложных задач, следуя трем простым принципам:– главным капиталом корпорации являются не деньги и недвижимость, а люди,– продажей должен заниматься каждый сотрудник, независимо от должности – покупатель превыше всего,– основа всего – стремление к совершенству.


Современная реклама: теория и практика

В книге рассказывается история главного героя, который сталкивается с различными проблемами и препятствиями на протяжении всего своего путешествия. По пути он встречает множество второстепенных персонажей, которые играют важные роли в истории. Благодаря опыту главного героя книга исследует такие темы, как любовь, потеря, надежда и стойкость. По мере того, как главный герой преодолевает свои трудности, он усваивает ценные уроки жизни и растет как личность.