Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - [71]
Право, политика и даже политический активизм – все это может выродиться в подобную гонку вооружений. Франк описывает судебное решение деловых споров в качестве бездонной бочки, поскольку каждая сторона закачивает ресурсы в юридические фирмы (а сегодня и в юридическую аналитику), чтобы получить преимущество перед оппонентом. В политике даже небольшое преимущество может стать критическим; кандидат выигрывает выборы не благодаря некоему магическому числу голосов, а просто потому, что он получил больше голосов, чем противники. Подобные преимущества не просто обнуляются, когда подходят новые выборы. Партия большинства может (иногда благодаря одному-единственному голосу) провести свое решение и отстоять интересы своих союзников, нанеся ущерб своим врагам. В некоторых странах демократия сама вырождается после нескольких раундов получения победителями преимуществ, которые закрепляют сами себя. Политические кампании могут пониматься как война, которая ведется другими средствами, – бой за умы является игрой с нулевой суммой[454].
Третий закон робототехники, который запрещает гонку вооружений на основе ИИ, должен определять все эти области. Это общая линия рассуждений в этой главе и следующей. ИИ, подсчитывающий рейтинг во имя рационализации социальных суждений при найме, увольнениях и в борьбе с преступностью, грозит тем, что подведет всех нас к скользкой дорожке конкуренции за статус, когда надо будет раскрывать все стороны своей жизни мощным, но непрозрачным организациям, а также регламентировать собственную жизнь в угоду им. Только согласованные действия могут остановить эту гонку по направлению к будущему полного разоблачения.
Порой путь к кооперации может быть достаточно очевидным, например в финансовом регулировании, которое может ограничить способность кредиторов применять дроны или анализ социальных сетей для наблюдения за поведением актуальных или будущих клиентов. В других ситуациях, особенно военной конкуренции крупных держав, наша способность ввести ограничения будет, возможно, зависеть от довольно хрупких норм международных отношений. Так или иначе, человеческие стратегии кооперации имеют ключевое значение, если только не передать машинам еще больше сведений об устройстве социального порядка.
6. Автономные силы
В классической игре компании Atari Pong игрок двигал «ракеткой» (которая обозначалась небольшим прямоугольником, перемещавшимся по краю экрана), чтобы защищаться от прилетающего мяча и отбивать его так, чтобы он вылетел за ракету противника. Pong., одна из простейших игр за всю историю, сводит настольный теннис к двум измерениям. Для выигрыша требуется ловкость рук и хорошее интуитивное понимание геометрии.
Или, по крайней мере, они требовались для выигрыша людям. Команда исследователей ИИ проверила на практике совершенно иной подход. Они просто дали компьютеру задание тестировать каждый возможный ответ на прилетающий мяч – компьютер мог избегать его, отбивать его, бить по нему краем ракетки, и все это под разными углами и с разными скоростями. Поскольку ИИ способен проверять миллионы стратегий в секунду, быстро сформировались паттерны выигрыша. ИИ овладел игрой Pong и стал выигрывать у любого игрока-человека. Позже он научился тому, как выигрывать у любого человека в других видеоиграх и даже в древнекитайской настольной игре го. [455]
Исследователи ИИ назвали эти выигрыши важным прорывом, поскольку они стали результатом самообучения. Программа не изучала прошлые партии Pong или го, чтобы выявить стратегии, чем, возможно, стал бы заниматься человек. Скорее, ИИ смог овладеть игрой, комбинируя грубую силу (то есть симулируя огромный массив сценариев) и алгоритмическую сортировку. По-видимому, человек его победить уже не может.
Подобное господство – фантазия военных теоретиков, которые давно используют военные игры для моделирования действий противника и ответов на них. Действительно, корни ИИ – в кибернетике середины XX в., когда эксперты по исследованию операций стали давать генералам советы о том, как лучше программировать автоматические ответы на действия противника, который, считалось, стремится любой ценой достичь технологического превосходства[456]. Моделирование создало эффект зеркальной комнаты, в которой отражались военные, пытающиеся спроектировать то, как враг проектирует то, как они будут сами проектировать что-то, чтобы застать его врасплох.
Мы уже обсуждали специфические этические и правовые сложности, создаваемые роботизацией полицейских сил. Применение ИИ в военных условиях усложняет ситуацию еще больше. Все сценарии гонки вооружений, описанные мной до сих пор, предполагают наличие государства, которое может устанавливать правила и наказывать тех, кто их нарушает. Но в глобальном масштабе такой власти не существует. ООН может осудить определенное государство, но часто на ее авторитет никто не обращает внимания.
Отсутствие глобальной власти превращает обсуждение военных роботов в игру антиномий. Аболиционисты хотят путем международных договоренностей поставить роботов-убийц вне закона. «Реалисты», как они сами себя называют, утверждают, что государства должны накапливать передовые военные технологии, иначе их перегонят менее щепетильные конкуренты и будут терроризировать бандиты. Сторонники ИИ заявляют, что роботы сглаживают ужасы войны, определяя цели лучше, чем любой человек. Скептики полагают, что до такого будущего еще далеко. Теоретики сдерживания обеспокоены тем, что, даже если автоматизированная война станет «гуманнее», вооруженный конфликт не должен быть для государств слишком легким предприятием, иначе они используют техническое преимущество для подчинения всех остальных.
Джеральд Вайнберг, исходя из своего более чем 50-летнего опыта работы консультантом, делится своими выводами, как запустить и успешно вести свой собственный консалтинговый бизнес. Благодаря использованию юмористичных Правил, Законов и Принципов — таких как Закон малинового варенья, Принцип картофельных чипсов, Правило Руди о брюкве — автор показывает, как, оставаясь самим собой, находить клиентов, завоевывать доверие и устанавливать правильную цену на свои услуги, о которой потом не придется жалеть. Если вы консультант, когда-либо пользовались услугами консультанта или хотите быть одним из них, эта книга будет вам полезна.
Джон учитель в средней школе городишка Блусток мечтает сбежать из этого нудного мира на динамичную и ослепительную арену международных финансов. Вместе с Джоном мы начинаем новую карьеру в дилерской фирме «Нью маркет секьюритиз» и наблюдаем, как из наивного стажера он превращается в закаленного трейдера и борется за выживание в беспощадном главном дилинговом зале. Его история наглядный пример опасностей, иллюзий, мечтаний и кошмаров, переживаемых клиентами и дилерами в стремительном мире фондового рынка.Книга «Скользящий по лезвию фондового рынка» в пугающе правдоподобных деталях описывает бизнес, связанный с ценными бумагами.
Перед вами вторая книга Й.Сгрийверса – автора нашумевшего бестселлера «Как быть крысой». Это эссе о тебе и обо мне. Утро понедельника – мы чувствуем, как нас сковывает напряжение. Почему к горлу подступает комок от одной мысли о работе? Это синдром понедельника. Он сигнализирует о том, что в наши дни многие испытывают дискомфорт, связанный с работой. Автор в своей уникальной и яркой манере создает галерею портретов коллег и боссов, среди которых завистливые стервы, мачо, пьяницы, халявщики, реформаторы. Он рассказывает нам о том, как они проникают в наши мозги и вызывают этот синдром понедельника; показывает, как мы попадаем в зависимость от их эмоций, неуемного стремления к деньгам, желания залезть внутрь каждого, а также упорства, с которым они защищают свое кресло или свой отдел от всех и вся.Книга представляет собой средство защиты от тех моментов, когда неприятные стороны жизни наваливаются на вас или приближаются к вам.
Новые главы, новые аксиомы, дополненный словарь, текст, который стал еще более отточенным, изящным, практичным и приземлённым.Яркий фарс, наглядно демонстрирующий, как преуспеть в бизнесе, применяя опыт и понятия итальянской мафии к корпоративному управлению.
Сегодня на потребителя обрушивается мощный поток рекламной информации. Выбрать между «хорошим» и «лучшим» почти невозможно. Наверное, поэтому все рекламисты мира в один голос отмечают спад эффективности традиционных рекламных подходов.Один из ведущих специалистов по рекламному бизнесу Сержио Зимен предлагает свой революционный взгляд на то, как компании должны строить свою рекламную политику в XXI веке.
В книге рассказывается история главного героя, который сталкивается с различными проблемами и препятствиями на протяжении всего своего путешествия. По пути он встречает множество второстепенных персонажей, которые играют важные роли в истории. Благодаря опыту главного героя книга исследует такие темы, как любовь, потеря, надежда и стойкость. По мере того, как главный герой преодолевает свои трудности, он усваивает ценные уроки жизни и растет как личность.