Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - [52]

Убежденные технофилы готовы утверждать, что решение о том, является ли нагота эстетической или непристойной, заслуживающей или незаслуживающей внимания, – это вопрос исключительно вкуса. Обычно они считают, что вкус «ниже» машинного интеллекта, то есть это какое-то второсортное знание, поскольку его нельзя свести к алгоритму. Но эту иерархию легко перевернуть, отдав приоритет нестандартизируемым суждениям, а не тем, что определяются данными и правилами. Возможно, мы не хотим инвестировать ресурсы в то, чтобы такие решения принимались людьми, выносящими решения и спорящими. Но это должно быть специальное решение о распределении ресурсов, а не следствие диктата неизбежности прогрессивного развития по направлению к искусственному интеллекту.

Право быть забытым: испытание человечной автоматизации

Каждый раз, когда жертвы манипуляций предлагают те или иные меры регулирования, им предсказуемо возражает хор голосов, утверждающих, что, как бы плохо технологические фирмы ни справлялись с этой задачей, государственное вмешательство будет еще хуже. Однако у нас уже есть один важный пример успешной и человечной автоматизации публичной сферы: европейское регулирование автоматического поиска имен, известное как «право на забвение». Для понимания важности этого права представьте, что кто-то создал сайт о худшем, что с вами когда-либо случалось, или о вашем худшем поступке, и что этот сайт всегда выводится в топе результатов при поиске по вашему имени. В США вы в таком случае юридической помощи не найдете; корпоративные лоббисты и идеологи либертарианства выступили единым фронтом, чтобы сделать подобное регулирование политически неприемлемым. Но в Европе «право на забвение» гарантирует, что неумолимая логика чисто алгоритмического поиска не приклеит к человеку навечно «алую букву».

«Право на забвение» – хорошее испытание технологии управления, разделяющей ценности политического общества в целом (а не только тех, кому посчастливилось владеть технологическими компаниями). До появления «права на забвение» руководители Google не раз указывали на необходимость максимальной автоматизации поиска, что согласуется с требованием тех, кто ищет, к качеству получаемой ими услуги[324]. При этом компания отказывалась учитывать интересы тех, кого ищут.

И это классическая стратегия оптимизации ИИ: значительное число соображений отбрасывается для того, чтобы сосредоточиться на более простых результатах (таких как рекламные доходы), которые может отследить и машина. Но если государство не должно пренебрегать интересами значительных групп людей, чтобы облегчить задачу законодателям и бюрократам, точно так же руководители и владельцы ИИ должны в полной мере учитывать проблематичность и размах их воздействия в мире[325]. Такие фирмы фактически управляют цифровыми репутациями, и действовать они должны соответственно.

Граждане ЕС могут удалить из поисковой выдачи информацию, которая является «неадекватной, нерелевантной, больше нерелевантной или чрезмерной», если только возможность найти такую информацию поиском по имени субъекта не является значительным общественным приоритетом[326]. И это стандарт, определить который на практике так же сложно, как и разницу между искусством и порнографией. Однако пользователи сети, поисковые машины и европейские чиновники приложили все силы к тому, чтобы найти баланс между частной заинтересованностью в приватности и общественным правом знать.

Рассмотрим, к примеру, историю женщины, муж которой был убит в 1990-х гг., а спустя десятилетия она выяснила, что, если ее погуглить, в результатах поиска обнаруживается эта история убийства.

Это классический пример потенциально избыточного влияния определенной информации на жизнь человека. Информация не является ложной, поэтому закон о клевете в этой женщине неприменим. Но вот «право на забвение» она могла использовать. Она подала прошение с требованием исключить эти материалы из поисковых результатов о ней. Работник Google согласился и исключил эти результаты. В этом случае не было никакой противостоящей такому решению общественной заинтересованности в доступности этой истории при любом поиске по имени вдовы[327].

Когда Суд Европейского союза объявил о «праве на забвение», защитники свободы слова (многие из которых финансировались Google) обличали его как атаку на свободу высказывания. Жалобы эти оказались несколько преувеличенными; «право на забвение» никак не влияет на источник проблематичной информации, и нет такого права на свободу слова, согласно которому негативную информацию из частной базы данных люди должны были бы видеть привязанной к имени определенного человека. Кроме того, Google и государственные органы довольно разумно подошли к одобрению поступивших запросов. Правовед Джулиа Поулс собрала некоторые ключевые решения по «праву на забвение», сравнив успешные и безуспешные запросы на исключение из поисковой выдачи[328]. Политикам, которых приговаривали к срокам за мошенничество, обычно отказывали в праве удалить новости об их делах из результатов поисков. Тогда как пациенты с ВИЧ, личность которых была раскрыта, удалили ссылки на материалы с упоминанием их имен. Замечательная работа Поулс показывает, как внимательное применение юридических и этических принципов способно подвести к тонким контекстуальным суждениям, которые позволяют возместить репутационный урон жертвам необоснованно заметных результатов, соблюдая при этом право общества на простой доступ к важным фактам о публичных фигурах или должностных лицах, которые пользуются доверием.