Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - [54]

Шрифт
Интервал

В 2012 г. YouTube «поставил перед компанией задачу достичь миллиарда часов просмотров в день и переписал свою рекомендационную систему, чтобы максимизировать этот показатель»[334]. «Миллиард часов ежедневных просмотров стали для наших технических специалистов путеводной звездой», – сказала гендиректор Сьюзен Воджицки. К неудовольствию пользователей YouTube, эта фиксация на количественных показателях позволила мошенникам манипулировать рекомендациями и создавать трафик для источников опасной дезинформации, о которых мы уже упоминали. Чтобы выявлять и предупреждать подобную манипуляцию, социальные сети вместе с поисковыми машинами должны покончить с ботами, занимающимися подобными махинациями. Если они не смогут сделать этого, законы должны потребовать, чтобы каждый аккаунт раскрывал, кем он управляется: человеком или машиной. Все пользователи должны иметь возможность блокировать аккаунты ботов в пользовательских настройках, а еще лучше, если такая блокировка будет выставлена по умолчанию, так что от пользователя, чтобы открыть ботам и их автоматическим сообщениям доступ в свою новостную ленту, потребуется специально его подтвердить. Некоторые адепты технологии обеспокоены тем, что подобные ограничения могут сказаться на свободе слова. Однако чисто автоматический источник информации и манипуляции, за который не отвечает ни один человек, не должен обладать подобными правами. Государства могут блокировать шумные мини-дроны, которые вторгаются в наше личное пространство для распространения новостей, изображений и рекламы, и та же логика применима и в сети.

Защита свободы слова – для людей и только во вторую очередь (если она к ним вообще применима) для программ, алгоритмов и искусственного интеллекта[335]. Свобода слова для людей – чрезвычайно важная цель, если учесть контекст современных исследований манипуляций публичной сферой по всему свету. Как отметил Джеймс Гриммельман, призывая отнестись к авторскому праву роботов с осторожностью, Первая поправка в приложении к ИИ могла бы систематически отдавать предпочтение машинной речи, а не человеческой[336]. Если людям-ораторам приходится учитывать законы о клевете и другие формы ответственности, наступающей, когда они лгут или искажают истину, как может быть ответственен автономный бот? У него нет репутации или активов, которые он мог бы потерять, поэтому остановить его невозможно.

Гораздо проще изобразить народную поддержку, чем на самом деле создать ее[337]. Когда избиратели и даже государства не могут провести различие между реальным и поддельным выражением мнения, невозможным становится то, что Юрген Хабермас называет «формированием демократической воли». Как доказывает постоянно растущее число эмпирических исследований негативных последствий «высказываний» ботов, в слишком многих сценариях их выступления представляют собой не столько речь, сколько антиречь, то есть хорошо рассчитанную попытку подорвать разумные обсуждения и ввести в заблуждение ничего не подозревающих людей[338]. Для восстановления доверия общества к демократическим процессам государства должны потребовать безотлагательного раскрытия данных, используемых для порождения алгоритмической речи, применяемых алгоритмов, а также таргетирования этой речи. Четвертый новый закон робототехники (предусматривающий атрибуцию ИИ его изобретателем или контролером) требует подобной прозрачности. Фирмы, которые подпадут под это требование, могут утверждать, что их алгоритмы слишком сложны, чтобы их раскрыть. В таком случае власти должны иметь возможность запретить таргетирование и сбор соответствующей информации, поскольку защита свободы слова должна иметь некоторое опознаваемое отношение к человеческому интеллекту. Без такого правила постоянно пополняемая армия ботов грозит заглушить речь реальных людей[339].

Кроме того, власти должны рассмотреть запрет определенных типов манипуляций. В британском Кодексе рекламы на радио и телевидении говорится, что «аудиовизуальные коммерческие передачи не должны применять техники, незаметные для сознания»[340]. В нормах американской Федеральной торговой комиссии прямо указывается на запрет вводящих в заблуждение рекламных объявлений, а также неверных или отсутствующих сведений о спонсорстве. Также государствам будет необходимо разработать более конкретные законы, управляющие все более автоматизируемой публичной сферой. В Калифорнии недавно потребовали, чтобы цифровые боты идентифицировали себя в социальных сетях[341]. Еще один предложенный закон должен «запретить оператору сайта социальной сети совершать сделки по продаже рекламы с программным аккаунтом или пользователем, выполняющим автоматическую задачу, либо с аккаунтом, который не верифицирован оператором в качестве контролируемого реальным человеком»[342]. Это сильные и конкретные законы, которые должны гарантировать то, что критически важные форумы человеческой коммуникации и взаимодействия не будут заглушаться постчеловеческим роем спама, пропаганды и отвлечения.

Как бы ни были привлекательны говорящие роботы, которых рисует научная фантастика, никто не должен романтизировать манипуляционную речь ботов. Логическим завершением laissez-faire в автоматизированной публичной сфере становится вечное сражение за внимание пользователей, которое ведут армии роботов, причем наиболее вероятным победителем станет фирма с наибольшими финансовыми ресурсами. Они смогут микротарге-тировать население любыми «работающими» материалами, чтобы мобилизовать его (и не важно, будет ли это истина, полуправда или ложь, цель которой – манипуляция), раскалывая публичную сферу на миллион персонализированных приватных сфер. Это очень далеко от победы классических ценностей свободы слова (то есть автономии и демократического самоуправления); на самом деле это, скорее, предвестье растворения в сфабрикованном консенсусе фантомной публики. Нераскрытые боты подделывают базовую репутационную валюту, которую люди зарабатывают благодаря своей телесности, поскольку боты неприкрыто нарушают второй новый закон робототехники.


Рекомендуем почитать
Закон малинового варенья и еще 103 секрета консалтинга

Джеральд Вайнберг, исходя из своего более чем 50-летнего опыта работы консультантом, делится своими выводами, как запустить и успешно вести свой собственный консалтинговый бизнес. Благодаря использованию юмористичных Правил, Законов и Принципов — таких как Закон малинового варенья, Принцип картофельных чипсов, Правило Руди о брюкве — автор показывает, как, оставаясь самим собой, находить клиентов, завоевывать доверие и устанавливать правильную цену на свои услуги, о которой потом не придется жалеть. Если вы консультант, когда-либо пользовались услугами консультанта или хотите быть одним из них, эта книга будет вам полезна.


Скользящий по лезвию фондового рынка

Джон учитель в средней школе городишка Блусток мечтает сбежать из этого нудного мира на динамичную и ослепительную арену международных финансов. Вместе с Джоном мы начинаем новую карьеру в дилерской фирме «Нью маркет секьюритиз» и наблюдаем, как из наивного стажера он превращается в закаленного трейдера и борется за выживание в беспощадном главном дилинговом зале. Его история наглядный пример опасностей, иллюзий, мечтаний и кошмаров, переживаемых клиентами и дилерами в стремительном мире фондового рынка.Книга «Скользящий по лезвию фондового рынка» в пугающе правдоподобных деталях описывает бизнес, связанный с ценными бумагами.


Понедельник - день тяжелый. Книга-утешение для всех работающих

Перед вами вторая книга Й.Сгрийверса – автора нашумевшего бестселлера «Как быть крысой». Это эссе о тебе и обо мне. Утро понедельника – мы чувствуем, как нас сковывает напряжение. Почему к горлу подступает комок от одной мысли о работе? Это синдром понедельника. Он сигнализирует о том, что в наши дни многие испытывают дискомфорт, связанный с работой. Автор в своей уникальной и яркой манере создает галерею портретов коллег и боссов, среди которых завистливые стервы, мачо, пьяницы, халявщики, реформаторы. Он рассказывает нам о том, как они проникают в наши мозги и вызывают этот синдром понедельника; показывает, как мы попадаем в зависимость от их эмоций, неуемного стремления к деньгам, желания залезть внутрь каждого, а также упорства, с которым они защищают свое кресло или свой отдел от всех и вся.Книга представляет собой средство защиты от тех моментов, когда неприятные стороны жизни наваливаются на вас или приближаются к вам.


Менеджер Мафии. Руководство для корпоративного Макиавелли

Новые главы, новые аксиомы, дополненный словарь, текст, который стал еще более отточенным, изящным, практичным и приземлённым.Яркий фарс, наглядно демонстрирующий, как преуспеть в бизнесе, применяя опыт и понятия итальянской мафии к корпоративному управлению.


Бархатная революция в рекламе

Сегодня на потребителя обрушивается мощный поток рекламной информации. Выбрать между «хорошим» и «лучшим» почти невозможно. Наверное, поэтому все рекламисты мира в один голос отмечают спад эффективности традиционных рекламных подходов.Один из ведущих специалистов по рекламному бизнесу Сержио Зимен предлагает свой революционный взгляд на то, как компании должны строить свою рекламную политику в XXI веке.


Преступные эмбарго (Защита прав на интеллектуальную собственность препятствует распространению наукоемких продуктов, технологий и культурных ценностей)

В книге рассказывается история главного героя, который сталкивается с различными проблемами и препятствиями на протяжении всего своего путешествия. По пути он встречает множество второстепенных персонажей, которые играют важные роли в истории. Благодаря опыту главного героя книга исследует такие темы, как любовь, потеря, надежда и стойкость. По мере того, как главный герой преодолевает свои трудности, он усваивает ценные уроки жизни и растет как личность.