Воспитание машин. Новая история разума - [39]
Как мы уже не раз отмечали, машинный разум, как и человеческий, будет коллективным: роботы и агенты будут активно взаимодействовать друг с другом и с людьми, образуя сложные цепочки создания стоимости с очень высокой степенью разделения труда. Условно говоря, в экономике вместе с 10 млрд человек будут действовать 100 млрд и более искусственных личностей. Их число будет ограничено лишь доступными вычислительными мощностями, которые, как мы знаем, за 10–20 лет вырастут в 100–10 000 раз[114]. С увеличением уровня разделения труда вырастет и эффективность экономики, то есть общее количество производимых благ в расчете на человека.
Как это все будет выглядеть на практике? Прежде всего, наши персональные ассистенты, обретя свою собственную психику, станут гораздо более самостоятельными и креативными, в отличие от прежних, поведение которых было в большой степени запрограммировано. Они смогут понимать нас и наши мотивы гораздо глубже и тем лучше, чем ближе будет устройство искусственной психики к человеческой. Соответственно, им можно будет перепоручить представление наших интересов в цифровом мире, ведение переговоров от нашего лица с такими же агентами других людей. Иначе говоря, мы сможем «повысить» их с должности секретаря-ассистента до роли агента-импресарио или поверенного с определенными полномочиями, вплоть до подготовки и заключения юридически значимых смарт-контрактов.
То же относится и к роботам, которые будут связаны между собой и с программными агентами в единую сеть, обмениваясь информацией и знаниями в процессе совместной с людьми мыследеятельности. Вот почему важно иметь единую архитектуру искусственной психики агентов и роботов, как можно более похожую на человеческую. В этом случае им легче будет понимать наш язык, мотивы и ценности, то есть действовать именно в наших интересах.
Как мы уже говорили, обучаться агенты и роботы будут через одобрение или критику своих действий со стороны людей с помощью встроенного в их психику аналога дофаминовой системы – электронного кошелька. Но цепочки создания стоимости в современной экономике достаточно длинные, так что роботы будут обслуживать и получать вознаграждения также и друг от друга. Возникнет коллективное обучение роботов через перераспределение денежного потока от конечных пользователей – людей[115]. Взаимное рейтингование роботами поведения друг друга – очень важная составляющая будущей системы коллективной безопасности, ведь с появлением агентов со сверхчеловеческим интеллектом контролировать свои поступки и ценности смогут лишь они сами. Люди просто не смогут предугадывать мотивы их поведения и будут неспособны оценивать агентов адекватно. Они сумеют оценивать лишь текущие, но не отдаленные последствия их действий, предвидеть которые будут не в состоянии.
На этом важном моменте стоит остановиться несколько подробнее. Когда люди оценивают поведение друг друга, они не столько рассматривают сами поступки, сколько стараются угадать стоящие за ними мотивы. Если вам вдруг предлагают слишком выгодную цену за какую-то услугу, вы инстинктивно ищете в этом какой-то подвох, опасаясь возможных неприятностей в будущем. На языке теории обучения вы решаете задачу обратного обучения с подкреплением[116]: по наблюдаемому поведению агента угадать его предполагаемую функцию подкрепления – что именно его мотивирует. (Обычное обучение с подкреплением состоит, напротив, в нахождении оптимального поведения агента, соответствующего наблюдаемым подкреплениям – мотивирующим сигналам.)
Обратное обучение с подкреплением – это следующий уровень рефлексии мышления, попытка поставить себя на место другого и угадать его мотивы, желания и чувства. В мозге приматов имеется специальная система зеркальных нейронов, которые возбуждаются и когда вы сами что-то делаете, и когда это делают другие[117], что для приматов как общественных животных, и особенно для людей, чрезвычайно важно. Так, способность обезьянничать позволяет детям, и не только им, обучаться по принципу «увидел и сделал». Естественно, что этой способностью нам следует наделить и искусственную психику роботов, чтобы они легче обучались, не были бездушными, могли нам сопереживать и действовать в наших истинных интересах. Ведь, если они будут понимать, что нами движет, им будет легче сформировать свое поведение в соответствии не только с наблюдаемыми, но и с предполагаемыми подкреплениями с нашей стороны.
В отличие от обычного, обратное обучение с подкреплением предполагает построение модели психики других агентов (theory of mind), на что способны очень немногие виды животных. Человек же способен и на большее – построение модели своей собственной психики, то есть объяснение своих собственных мотивов. Это еще более высокий уровень рефлексии – самосознание. (У детей понятие «я» формируется постепенно, по мере совершенствования их способности угадывать мотивы других людей.) Ничто не мешает переходу на такой уровень сознательного мышления и в рамках искусственной психики при наличии в ней соответствующих архитектурных возможностей для такого рода перехода.
Монография посвящена исследованию положения и деятельности Русской Православной Церкви в Среднем Поволжье в конце XIX – начале XX веков. Подробно рассмотрены структура епархиального управления, особенности социального положения приходского духовенства, система церковно-приходских попечительств и советов. Обозначены и проанализированы основные направления деятельности Церкви в указанный период – политическое, экономическое, просветительское, культурное.Данная работа предназначена для студентов, аспирантов, преподавателей высших учебных заведений, а также для всех читателей, интересующихся отечественной историей и историей Церкви.2-е издание, переработанное и дополненное.
Учебник представляет собой материалы по вопросам, раскрывающим содержание жизни общества и его отдельных сторон: экономической, политической, духовной, культурной, становления и функционирования государства, появления и развития форм общественного сознания.Учебник отвечает требованиям Министерства образования и науки Российской Федерации.
Многим до сих пор непонятно, почему происходит эволюция? Дело в том, что, если исходить из законов физики, конкретно, термодинамики, то эволюции не может быть. Все в мире стареет, разрушается со временем. Это непреложный факт. Какое уж тут развитие? Но оно существует в Природе, и грандиозный пример развития, увеличения сложности со временем, накопления информации – как раз и есть эволюция Жизни на нашей планете. В предлагаемой вниманию читателя книжке предлагается способ окончательного разрешения этого фундаментального противоречия.
В предлагаемой монографии представлены теоретико-методологические основы формирования полиэтнической культуры младших подростков, раскрыты сущность, генезис, идеи, подходы, аспекты понятия «полиэтническая культура», представлена модель формирования полиэтнической культуры младших подростков в процессе усвоения традиций народов Поволжья; теоретическое обоснование педагогических условий формирования полиэтнической культуры школьников.Монография предназначена для учителей, преподавателей и студентов педагогических вузов, слушателей курсов повышения квалификации, аспирантов педагогических специальностей.
Рассмотрены теоретические и методические основы организации системы контроля в организации, концепция ее построения и развития на основе интеграции различных видов контрольной деятельности; обоснованы принципы организации контроля путем встраивания в бизнес-процессы с учетом риск ориентированности контроля. Определены сущность контроля и основные виды контрольной деятельности, обоснованы принципы их интеграции на основе адекватности целей контрольной деятельности контролируемого объекта.Может быть рекомендована для использования студентами, магистрантами, менеджерами и специалистами в области внутреннего контроля и аудита.Для студентов вузов, обучающихся по экономическим специальностям, может быть использована магистрантами, аспирантами, менеджерами, специалистами служб внутреннего контроля и аудиторами организаций.
В монографии из серии «Научная школа: Функции права и проблемы их реализации в правовой системе России» исследованы современные подходы к пониманию социальных оснований гражданско-правовой ответственности.Для научных работников, преподавателей, аспирантов в области современного гражданского права.