Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - [9]

Шрифт
Интервал
.

Позиция «подождем – посмотрим» игнорирует то, что технология, не будучи ни в коем смысле независимой от ценностей, сама начинает их формировать[43]. Роботы – компаньоны детей в сетевых чартерных школах не просто отражают (или искажают) существующие ценности, определяющие то, какая именно социализация нужна детям, они еще и формируют ценности этих поколений, прививая им понимание того, какие моменты являются приватными, а какие могут легко постоянно записываться. Подобные обычаи не должны проистекать просто из того, что наиболее выгодно поставщикам технологизированного образования. Они требуют демократического управления и участия экспертов, работающих не только в сфере технологии[44].

* * *

Эта роль технологии в оформлении ценностей представляется очевидной опасностью в военном деле, где роботы могут существенно поменять наше понимание параметров честного конфликта. С точки зрения некоторых футуристов, автоматизация военного конфликта – дело решенное. Ни одна военная держава не может позволить себя слишком сильно отстать от конкурентов в разработке страшного флота «роботов-убийц»[45]. Если мы «запрограммированы на войну», значит, мы будем развивать смертоносные роботизированные силы[46]. С такой точки зрения человеческая природа сама диктует определенное направление технологического развития, как и, возможно, свое собственное устаревание, которое приведет к появлению сверхчеловеческих роботизированных систем[47].

Подобный реализм может быть благоразумным, однако он рискует стать опасным самоисполняющимся пророчеством, то есть ускорить гонку вооружений, а не просто ее предсказать. Чем менее дорогостоящим кажется военное вмешательство, тем с большей вероятностью оно привлечет политиков и государства. Кроме того, чем с большей точностью можно использовать силы, тем больше друг с другом начинают сливаться язык войны и язык правоприменения, создавая этические серые зоны. Рассмотрим почти уже реальную возможность: США могут дополнить своих воздушных дронов, присутствующих в зонах военных действий, наземными роботами и более мелкими дронами, проникающими в помещения. Кем в таком случае считать людей, отслеживаемых такими дронами, – комбатантами или подозреваемыми? И международные, и национальные правовые прецеденты указывают на разное обращение с теми и другими. Подобное обращение нельзя легко автоматизировать или, может быть, вообще нельзя. Следовательно, военное право (или простая уголовная процедура) могут стать непреодолимым барьером для роботов-солдат или, о по крайней мере, для их законного применения[48].

И академики, и государственные чиновники уже приступили к анализу сценариев роботизированной войны и правоприменения[49]. Следует ожидать дальнейшего слияния двух этих областей под общей рубрикой «внутренней безопасности» и все большего применения роботов с целью поддержания общественного порядка. В конечном счете нам обещают появление сверхчеловеческого интеллекта, который будет выявлять угрозы, то есть ИИ, способного просеивать миллионы потоков данных для быстрого выявления и предотвращения будущего преступления.

Но прежде чем воодушевляться подобной технологией, надо привести некоторые отрезвляющие примеры, показывающие, насколько бесчеловечным может быть искусственный интеллект. Исследователи использовали машинное обучение для предсказания криминальных наклонностей на основе таких скудных данных, как черты лица. Должны ли будущие роботы-полицейские учитывать эти данные о криминальных чертах лица при принятии решений о том, за какими людьми следить внимательнее, а каких игнорировать? Или любые данные и выводы на их основе запрещены для машин и техник, которые в будущем могут стать еще более важной частью охраны общественного порядка, например, таких, как предиктивный анализ, ныне пользующийся популярностью в некоторых отделениях полиции? Есть ли у нас право инспектировать и обсуждать подобные данные? Должны ли эти исследования вообще проводиться?[50]

Соотнесение черт лица с криминальными наклонностями может показаться довольно экзотическим или необычным применением ИИ. Однако базовая логика развитых вычислительных решений остается непроницаемой для обычных форм объяснения. Некоторые специалисты по робототехнике превозносят такую необъяснимость, представляя ее в качестве альтернативы человеческому интеллекту, выходящей далеко за его пределы. «В какой-то момент это все равно что объяснять Шекспира собаке», – заметил Ход Липсон из Колумбийского университета, когда его попросили оценить необходимость потребовать от ИИ большей прозрачности[51]. Если речь идет об уничтожении раковых клеток или предсказании погоды, Липсон, возможно, в чем-то и прав: нам не нужно понимать точный механизм ИИ, чтобы дать ему возможность решать наши проблемы. Но когда дело касается важных человеческих решений, необъяснимое становится неприемлемым. Как показывает постепенно складывающееся в ЕС «право на объяснение», необъяснимое может быть ограничено и заменено более гуманным подходом.

Некоторые крупнейшие сражения вокруг роботов и ИИ будут сосредоточены на аналитической силе машин. Какие данные им позволено собирать и применять? И как такие данные будут обрабатываться? Эти вопросы жизненно важны для будущего демократии и коммуникаций. Подумаем о том, как и когда расцветает дезинформация

Продолжить чтение
Рекомендуем почитать
Лидерство третьего уровня: Взгляд в глубину

Данное издание представляет собой руководство для тех, кто изучает тему лидерства и хочет выработать продуктивную модель влияния на окружающих. В соответствии с центральной концепцией книги поведение человека складывается из трех уровней: видимой деятельности, сознательного мышления и подсознательных ценностей, убеждений, представлений и ожиданий от окружающего мира. Любое влияние на человека естественным образом затрагивает все три уровня, но в разном соотношении. Концепция «лидерства третьего уровня» применяется в программах обучения руководителей в различных странах мира.

Убедили! Как заявить о своей компетентности и расположить к себе окружающих

Блестящий придворный и знаток людей Ларошфуко говорил в свое время: «Свет чаще награждает видимость достоинств, нежели сами достоинства». Но как же действовать подлинно талантливому человеку, которого не замечают на фоне более уверенных соперников? Джек Нэшер, профессор менеджмента и всемирно известный эксперт в области деловых коммуникаций, призывает освоить стратегии общения, свойственные профессионалу, который впечатляет своей компетентностью и привык греться в лучах славы. Читателю предлагается «пересоздать» себя: усовершенствовать внешний облик, подобрать уместный гардероб, грамотно организовать рабочее пространство, заучить поведение, характерное для лидеров, и бесстрашно выступать с самопрезентацией перед коллегами и партнерами.

Мотивация в стиле экшн. Восторг заразителен

Радость от работы, партнерские отношения внутри фирмы, скрупулезное планирование в сочетании со свободой принятия решений - эти идеи предлагались теоретиками менеджмента и маркетинга давно, но именно Клаус Кобьелл, ресторатор и владелец старинной гостиницы, впервые на практике последовательно воплотил их в жизнь. Уникальный новаторский метод мотивации сотрудников, используемый им, является универсальным и может быть эффективно использован в любой сфере бизнеса - будь то гостиница, адвокатская контора, ресторан или автосервис.

Тренинг. Настольная книга тренера

Предлагаемая книга является практическим руководством по совершенствованию систем обучения, развития потенциала личности и организации с помощью активных тренииговых форм. В ней раскрываются вопросы профессиональных качеств тренера, его креативных и функциональных возможностей, перспектив развития карьеры и самостоятельного бизнеса, принципов и способов обучения личности и коллектива, процессов разработки и проведения тренингов, навыков оценки и самооценки проводимых изменений. Данное руководство станет полезным источником информации для всех, кто связан с профессиональной необходимостью обучения других людей.

Путь успеха: как работает корпорация IBM

Бак Роджерс занимал десять лет пост вице-президента IBM по маркетингу. В своей книге он показывает, как корпорация изо дня в день ведет свой бизнес,как реагирует на изменениярынка, как добивается решения самых сложных задач, следуя трем простым принципам:– главным капиталом корпорации являются не деньги и недвижимость, а люди,– продажей должен заниматься каждый сотрудник, независимо от должности – покупатель превыше всего,– основа всего – стремление к совершенству.

Современная реклама: теория и практика

В книге рассказывается история главного героя, который сталкивается с различными проблемами и препятствиями на протяжении всего своего путешествия. По пути он встречает множество второстепенных персонажей, которые играют важные роли в истории. Благодаря опыту главного героя книга исследует такие темы, как любовь, потеря, надежда и стойкость. По мере того, как главный герой преодолевает свои трудности, он усваивает ценные уроки жизни и растет как личность.