Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - [63]
К сожалению, во многих обществах один из всадников правовой безответственности – фундаментализм свободы слова – способен покончить с разумными схемами лицензирования. Требуя всеобщего права на «научную свободу», фирмы заявляли, что у государства не должно быть права говорить им, какие данные они могут собирать или исследовать. Самая большая ирония тут в том, что корпоративное утверждение конституционных прав ведет к созданию баз данных, которые будут оказывать огромное и при этом достаточно пагубное влияние на свободу слова обычных граждан. Одно дело – идти на митинг, когда службы безопасности наблюдают за ним издалека. И совсем другое – когда полиция может сразу же определить ваши имя, адрес, место работы, используя для этого скан лица, приобретенный у какой-нибудь частной фирмы, которая ни перед кем не отчитывается.
Защитники личных прав высказывали и опасения, связанные с точностью подобных баз данных. Как показали Дана Прист и Билл Аркин в документальном сериале Top Secret America, существуют сотни организаций, имеющих доступ к огромным запасам данных о гражданах США. Со времен откровений Сноудена эта поразительная способность собирать данные об индивидах вызывает беспокойство среди исследователей, защитников гражданских свобод и практически у каждого гражданина, понимающего, насколько ошибочными могут быть решения, опирающиеся, как утверждается, на данные. Ставки высоки: люди попадают в черные списки, запрещающие им работать, голосовать, летать на самолетах, получать гражданство. Те, кто стали жертвой необоснованно, обычно не могут ни к кому обратиться, а потому в итоге увязают в бесполезных запросах, пересылаемых от одного ведомства другому. Результатом оказывается поистине кафкианское надругательство над базовыми принципами прозрачности и законного юридического процесса. Многие режимы практически никогда не дают обычным гражданам доступ к решениям, которые о них выносят правительства и фирмы, и это не говоря уже о том, чтобы такие решения оспорить. Моральный аргумент в пользу «управления средствами ИИ» рассыпается, когда нет таких базовых гарантий[391].
Судить о книге по обложке: от распознавания лиц к их анализу
Из-за анализа лиц эта и так уже неприемлемая ситуация может серьезно ухудшиться. Некоторые выдающиеся исследователи машинного обучения утверждают, что по лицу можно понять нашу сексуальную ориентацию и интеллект[392]. На основе базы данных лиц заключенных могут быть созданы стереотипические изображения криминальных черт лица[393]. Один из стартаперов заявил, что может выявлять черты педофилов и террористов и что его технология используется спецслужбами по всему миру[394].
Критики оспорили точность подобных предсказаний. Тренировочные данные, состоящие из лиц заключенных, представляют не преступность, а, скорее, преступников, которые были пойманы, заключены в тюрьму и сфотографированы. Значительный процент преступников никогда не ловят или не наказывают, поэтому подобные данные не могут адекватно представлять преступность как таковую. Исследование, претендующее на идентификацию лиц геев, возможно, отобрало определенные паттерны саморепрезентации людей, использующих сайты знакомств, ставших источниками фотографий «геев» и «не геев», использованных для тренировки классификационной системы. Геи и лесбиянки в определенное время и в определенном месте, возможно, и в самом деле в большей или меньшей степени склонны носить очки, бороды или усы, улыбаться или, наоборот, выглядеть серьезно.
Как отмечает Дэн Маккиллан, машинное обучение часто выдвигает сильные предсказания, «склоняя к сравнениям с наукой. Но фактически оно производит знание, которое, не будучи универсальным и объективным, неразрывно связано с определенными вычислительными механизмами и данными, 84 использованными для тренировки»[395].
Все эти недостатки подкрепляют более общую критику многих непрозрачных форм машинных суждений; оставаясь необъясненными (или необъяснимыми), они могут быть надежными или, наоборот, ненадежными в зависимости от репрезентативности тренировочных данных[396]. К примеру, представьте переполненный зал суда, в котором применяется обработка естественного языка для определения того, какой из актуальных исков более всего напоминает те, что были удовлетворены в прошлом, а потому при структурировании порядка рассмотрения дел предпочтение отдается именно им. Поскольку прошлые иски отражают прошлые условия, которые более недействительны, они не могут быть надежным ориентиром для того, какие актуальные иски на самом деле заслуживают внимания[397]. Более объяснимая система, которая бы показывала, почему она выделяет определенные слова и фразы в качестве признаков действительно серьезного или обоснованного иска, была бы полезнее. Но даже ее ценность снижается при изменении типов рассматриваемых дел, приоритетов судей и других факторов[398].
Перед предсказанием преступной деятельности методами ИИ стоит еще больше препятствий. Как пояснил Кил Бреннан-Маркес, юриспруденция, основанная на принципе хорошо обоснованного сомнения (и в целом опирающаяся на Четвертую поправку Конституции США), требует того, чтобы органы власти предоставили убедительное, а не просто вероятностное, статистическое или искусственно-интеллектуальное объяснение причин, по которым они производят расследование в отношении данных подозреваемых
