Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - [105]
Связь между человеческой биологической телесностью и бесконечными оттенками чувств, подкрепляемая культурой и языком, еще больше отрывает наш опыт от машинного (если вообще можно сказать, что у машины бывает опыт). Из-за этого отрыва и этого различия определенная демократизация ощущений, наблюдений и суждений обширной массой людей крайне важна даже для скромных программ ИИ и исследования робототехники.
Одна из причин, по которым мы позволяем судьям судить преступников, состоит в том, что судья может интуитивно понять, как живется в заточении. Конечно, у судей-людей много недостатков. И, разумеется, можно представить отлично откалиброванного утилитаристского робота, запрограммированного (и обновляемого методами машинного обучения) так, чтобы применять закон к любой ситуации, которая только может возникнуть, если достаточно данных. Подобная машина в подсчете оптимальных наказаний и наград может достичь лучших результатов, чем судьи-люди. Действительно, такой ИИ, вероятно, не будет испытывать те непозволительные страсти и совершать те проступки, к которым слишком склонны люди. Но сам он не смог бы понять, что значит отбывать тюремный срок, а потому его приговоры были бы незаконны. Это удел исключительно существа с ограниченной продолжительностью жизни, испытывающего внутреннюю потребность в стимуляции и сообществе, которые не может дать ему тюрьма[677].
С утилитаристской точки зрения подобное самоограничение может показаться странным, поскольку мы тем самым отказываемся от судебного суперкомпьютера, способного при рассмотрении дел соотносить друг с другом миллионы переменных. В сравнении с ним язык кажется чрезвычайно слабым инструментом. Однако его ограничения определяют в то же время его сильные стороны. Необходимость писать или говорить слово за словом выстраивает линию рассуждений, которую слушатели могут понять (или оспорить). Эта идея отлично передана в произведении Мэтью Лопеса «Наследство», в котором воображаемый Э. М. Форстер говорит начинающему автору: «Все ваши идеи – на старте, они готовы рвануть вперед. Но все они должны пройти через замочную скважину, чтобы начать бег»[678]. Текст или речь могут пониматься последовательно, одно слово за другим, с ними можно соглашаться или спорить. Если только способность оспорить методы машинного обучения не будет подобным образом демократизирована и не станет столь же доступной, к передаче ИИ оценки людей мы должны отнестись с крайней осторожностью.
У ограничений телесности есть свои сильные стороны. Постоянное желание отвлечься – вот что делает личное внимание настолько ценным; привлекательность беззаботности – вот благодаря чему забота приобретает ценность. Роботизация профессий, связанных с уходом, означала бы либо полное отчуждение, либо что-то похуже, а именно неспособность почувствовать себя не в своей тарелке, когда что-то должно казаться чуждым и пугающим[679]. Взаимодействие с артефактом сообщества бихевиористских симуляторов не может приблизиться к «благородному риску» контакта с реальным человеком[680]. Мы лишь потеряем нашу способность знать и ценить это различие, если с самого детства будем воспитываться в исключительно солипсистской и инструменталистской манере.
К сожалению, такое воспитание, скорее всего, будет развиваться, поскольку есть сильные экономические мотивы, заставляющие людей работать с тем же постоянством и за такие же маленькие деньги, что и роботы[681]. Прогресс в области психофармацевтических препаратов, возможно, наделит нас стальной стойкостью, предсказуемостью и бесконечной адаптивностью, которую сегодня пытаются найти в будущем ИИ и в роботах[682]. В книге Джонатана Крэри «24/7» описывается давняя история исследований химических веществ, способных снизить или исключить потребность во сне[683]. Как говорит Крэри, сон – это просто слишком большая роскошь как для капиталистических экономик, так и для воюющих армий. Лучше накачать людей препаратами, чтобы они не спали, иначе они потеряют свое преимущество. Однако этот мотив успешности нельзя принимать за предельный смысл жизни людей. Третий закон робототехники, запрещающий гонки за социальное, экономическое либо военное преимущество, предложен для того, чтобы техническая среда сглаживала подобные мотивы, а не усиливала их.
Короче говоря, метафизика и политическая экономия статуса ИИ тесно связаны друг с другом. Чем сильнее становится неравенство, тем больше власти у миллиардеров, чтобы заставить каждого относиться к их роботам так же, как к людям. Если они одержат верх, замена человека роботами покажется не такой уж неприятной, скорее, признаком модной авангардности или неизбежного прогресса. Напротив, попытки глобальной бедноты приобщиться к изобилию богатейших стран мира будут выглядеть еще менее обоснованными, если у состоятельных людей появится моральное право закачивать еще больше ресурсов в машины, призванные заменить людей. Равенство людей и роботов предвещает гигантское неравенство среди самих людей.
