Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - [15]

Шрифт
Интервал

Эти вопросы не новы. Например, еще в 1976 г. специалист по компьютерным наукам Джозеф Вейценбаум спрашивал: «Какие человеческие цели и задачи нельзя в должной мере передать компьютерам? Вопрос не в том, можно ли это сделать, а в том, следует ли передавать машине функцию, которая ранее выполнялась человеком»[81]. Однако вопросы: «Могут ли роботы быть лучше людей?» и «Когда люди не должны использовать роботов?» – сами по себе неполны. Почти каждый из нас в своей работе сегодня в определенной мере уже использует автоматизацию, которая начинается с простых инструментов и заканчивается ИИ, заменяющим человека. Более верная формулировка вопросов такова: «Какое социально-техническое сочетание людей и робототехники лучше всего отвечает социальным и индивидуальным задачам, а также ценностям?».

Разбирая ряд кейсов, я дам конкретные ответы на этот вопрос, отстаивая мысль о том, что именно дополнение, а не замена человеческих экспертных знаний искусственным интеллектом позволяет реализовать важные человеческие ценности. В главах 2, 3 и 4 описывается то, как подобный процесс мог бы осуществляться в здравоохранении, образовании и медиа, при этом обсуждение сосредоточено на первом новом законе робототехники, а именно на том, что технология должна дополнять, а не заменять уже существующих профессионалов.

В целом я смотрю на перспективы дополняющей автоматизации в здравоохранении и образовании с оптимизмом. В общем, пациентам и учащимся требуется взаимодействие с человеком[82]. Они понимают, что, какого бы уровня развития не достиг ИИ, крайне важно о его применении консультироваться с экспертами, ежедневно изучающими надежность различных источников знаний. Еще более важно в различных образовательных и медицинских контекстах то, что во взаимодействии всегда присутствует элемент человеческих отношений. Роботизированные системы способны предоставить техническую помощь, оценить суждения, разработать увлекательные и захватывающие способы зубрежки. Возможно, в сельских или неблагополучных областях на них будет спрос как на замену профессионалам, которых там сегодня нет. Но требования в условиях дефицита очень далеки от образцовой программы развития рабочей силы. И особую тревогу они вызывают тогда, когда речь заходит о психиатрическом уходе, необходимом уязвимым группам.

Когда в точке контакта с ИИ присутствует медработник, учитель или врач, которые опосредуют его воздействие, обеспечивают правильный сбор данных, сообщают об ошибках и выполняют другую крайне важную работу, можно предположить существенное снижение вероятности мрачного детерминистического будущего, в котором нас всех толкают и шпыняют безличные машины, заставляющие учиться и заботиться о своем здоровье. У профессиональных работников в области здравоохранения и образования есть строго определенные юридические и этические обязанности перед пациентами и учащимися. Такие стандарты в среде технологий только начинают формироваться. Так, в области медиа и журналистики, которые изучаются в главе 4, для восстановления той публичной сферы, сегодня в значительной степени автоматизированной, потребуются коллективные усилия, которые смогут эту ситуацию исправить.

Когда дело дошло до систем рекламы и рекомендаций, то есть самой основы новых медиа, развитие ИИ было и в самом деле быстрым. Компании вроде Facebook и Google, занятые реорганизацией коммерческой и политической жизни, применяли ИИ для принятия таких решений, за которые раньше отвечали руководители телекомпаний или редакторы газет, но их следствия оказались более мощными. Такие компании сумели изменить читательские и зрительские привычки сотен миллионов людей. Прорывное развитие сильно ударило по газетам и журналистам. Для некоторых уязвимых групп, включая преследуемые меньшинства, его последствия оказались ужасными. Единственный способ остановить эпидемию фейковых новостей, цифровых кампаний по разжиганию ненависти и другого подобного мусора – вернуть в управление сетевыми медиа больше ответственных людей.

Если в главе 4 речь в основном идет о неудачах ИИ в определении ценности новостей, то в главе 5 описываются опасности, возникающие при попытке применять ИИ для оценки людей. Программное обеспечение играет все более значительную роль в найме и увольнении, а также в выдаче кредитов и работе с долгами. Также оно постепенно проникает и в службы безопасности. Я предостерегаю от поспешного внедрения роботов-полицейских и роботов-охранников. Даже предсказательная полиция, то есть чисто программные инициативы под управлением полицейских, оказалась достаточно спорной из-за того, что часто опиралась на старые и искаженные данные. Машины, отправляемые самостоятельно патрулировать районы или разгонять попрошаек, вызывают еще больше беспокойства. Не так много других форм применения ИИ в гражданском праве, которые бы подходили для широкого внедрения уже сегодня. Все они требуют власти машин над людьми, что заставляет принести человеческое достоинство в жертву на алтарь эффективности.

В главе 6 этот вопрос о власти рассматривается на полях сражений, как традиционных, так и сетевых. Споры об автономных системах вооружения приобрели хорошо знакомую структуру. Аболиционисты призывают запретить роботов-убийц, реалисты отвергают этот подход, а реформаторы занимают середину, предлагая регулирование, которое все же не означает полного запрета. Аболиционисты и реформаторы участвуют сегодня в оживленных дискуссиях о ценности подхода каждой из сторон. Однако стратегии двух этих групп со временем можно будет согласовать. Реформаторы признают то, что определенные типы систем вооружений настолько опасны, что их вообще нельзя создавать. Аболиционисты соглашаются с тем, что некоторые оборонные применения автоматизации (особенно в кибервойнах) необходимы для национальной безопасности.


Рекомендуем почитать
Партнерское соглашение: Как построить совместный бизнес на надежной основе

О том, почему партнерства в бизнесе, как правило, эффективнее и успешнее бизнесов предпринимателей-одиночек. Объединяя свои сильные стороны (деньги, знания, идеи, умения, связи, средства, патенты – все что угодно), партнеры не только способствуют упрочению своего бизнеса, но и расширяют его возможности. Однако все эти преимущества могут быть быстро уничтожены, если правила взаимодействия партнеров не были прописаны «на берегу». Для бизнеса нет ничего страшнее, чем междоусобные войны владельцев. Зачастую они заканчиваются крахом партнерства – вкупе с нарушенными обещаниями, финансовыми катастрофами и кошмарными судебными спорами.


Доброе утро каждый день: Как рано вставать и все успевать

По статистике, 40 % людей считают себя «совами» и только 25 % – «жаворонками». При этом раннее утро, согласно современной науке, идеальное время для творческой работы, уединения и сосредоточения, фитнеса и даже для занятия сексом! Если вы всю жизнь думали, что вы «сова» и с трудом вставали по утрам, эта книга полностью изменит вашу жизнь. Она поможет вам просыпаться рано с удовольствием. Вы позабудете о кнопке «дремать» на будильнике и вскоре поймете, что ранний подъем – это самый щедрый подарок, который вы себе сделали.


Forbes: от просчетов к прорывам. 30 уроков великих бизнес-лидеров

Никто не любит рассказывать о своих ошибках и просчетах, а уж тем более бизнесмены – ведь это прямая угроза их имиджу и деловой репутации. Но телевизионный журналист Боб Селлерс сумел развязать язык 30 ведущим бизнес-лидерам современности, среди которых Джек Уэлч, Питер Линч, Джим Крамер, Билл Гросс и многие другие. Они искренне и откровенно рассказали автору о своих провалах и ошибках, которые круто и в положительную сторону изменили их карьеру и жизнь.Как же научиться превращать просчеты в прорывы? Прочитайте эту книгу, и вы научитесь не бояться неудач, а извлекать из них всю возможную выгоду: мобилизовать все свои возможности, увидеть проблему в новом свете, вовремя сменить карьеру и курс.


Платформа: как стать заметным в интернете

Сегодня, чтобы достучаться до ваших клиентов, недостаточно иметь хороший продукт, нужна платформа для его продвижения. Эта книга – пошаговое руководство по ее созданию. Никогда еще сделать это не было проще, дешевле и реальнее, чем сейчас. Майкл Хайятт, бывший СЕО и нынешний председатель правления одного из крупнейших издательств в США Thomas Nelson, приглашает читателя в новый мир социальных медиа и рассказывает, как достичь успеха с их помощью. Автор учит читателей не только расширять свою представленность в сети, но и получать благодаря этому стабильный доход.


Экономика. Конспект лекций

Непосредственной сдаче экзамена или зачета по любой учебной дисциплине всегда предшествует достаточно краткий период, когда студент должен сосредоточиться, систематизировать свои знания. Выражаясь компьютерным языком, он должен «вывести информацию из долговременной памяти в оперативную», сделать ее готовой к немедленному и эффективному использованию. Специфика периода подготовки к экзамену или зачету заключается в том, что студент уже ничего не изучает (для этого просто нет времени): он лишь вспоминает и систематизирует изученное.Предлагаемое пособие поможет студентам в решении именно этой задачи применительно к курсу «Экономика».Содержание и структура пособия соответствуют требованиям Государственного образовательного стандарта высшего профессионального образования.Издание предназначено студентам высших учебных заведений.


Бизнес в стиле шоу. Маркетинг в культуре впечатлений

Попрощайтесь с "бизнесом как у всех"! Пора переходить на новый способ ведения бизнеса – с использованием элементов шоу, который поможет вам не затеряться в суете рынка, дифференцировать свои товары и бренды, увлечь потребителей – и тем самым создать для них настоящую ценность. Авторы приводят примеры успешного бизнеса в стиле шоу, и рассказывают о современных технологиях, с помощью которых он реализуется. Речь идет о новом поколении маркетинговых средств – гастрольных шоу, проповедовании бренда, мультимедийном театре и пр.