ИИ-2041. Десять образов нашего будущего - [17]
Как известно, любая палка — о двух концах, что уж говорить о мощной технологии. Мы не можем представить себе жизнь без электричества — но соприкосновение с источником тока смертельно опасно. Интернет делает наше существование комфортным — но одновременно мешает нам сосредоточиться. Каковы же недостатки глубокого обучения?
Когда кто-то (ИИ) знает тебя лучше, чем ты сам, — это уже большой риск. Очевидны преимущества ИИ: он может порекомендовать новые полезные продукты быстрее, чем ты их заметишь; присоветовать совместимые варианты романтических партнеров и друзей — исходя из того, что ему известно о твоих нынешних близких. Но у такой осведомленности, безусловно, имеется и обратная сторона.
С вами когда-нибудь бывало такое: садишься посмотреть на YouTube одно видео и застреваешь на три часа? Или проходишь в Facebook по какой-то более-менее провокационной ссылке, а тебе тут же рекомендуют куда более экстремальный контент?
В киноленте «Социальная дилемма»[21] наглядно показано, как непревзойденные способности ИИ в деле персонификации позволяют ему манипулировать нами, а мы даже не осознаем этого. Звезда фильма Тристан Харрис, президент и соучредитель Центра гуманитарных технологий и специалист по этике технологий, так высказался по этой проблеме: «Тебе и невдомек, что твой клик нацелил суперкомпьютер на твой мозг. Он активировал миллиарды долларов вычислительной мощности, которая очень многому научилась на своем опыте заманивания двух миллиардов человеческих существ снова и снова кликать мышью».
Эта зависимость затягивает нас в порочный круг. Он весьма выгоден крупным интернет-компаниям, будучи своего рода станком для печати денег. Еще в фильме утверждается, что все это зачастую резко сужает мировоззрение, поляризует общество, искажает истину и негативно влияет на настроение и психическое здоровье.
Говоря техническим языком, суть проблемы заключается в простоте целевой функции и в опасности бездумной оптимизации целевой функции по одному критерию, так как это способно привести к вредоносным внешним эффектам. Сегодня ИИ обычно оптимизирует единственный критерий — и чаще всего для того чтобы получить больше (кликов, рекламы, доходов). ИИ маниакально сосредоточен на этой корпоративной цели и ничуть не заботится о благополучии пользователей.
В нашей истории «Золотой слон» Ganesh Insurance обещает потенциальным клиентам минимизировать страховые взносы, что в значительной степени коррелирует с минимизацией выплат по медицинскому страхованию и, следовательно, с улучшением здоровья застрахованных. На первый взгляд это подразумевает совпадение корпоративных целей с целями пользователей.
Однако в рассказе ИИ этой страховой компании определяет, что отношения между Наяной и Сахеджем с большой степенью вероятности приведут к увеличению страхового взноса семьи Наяны, и потому изо всех сил старается помешать их зарождающейся любви.
ИИ Ganesh Insurance предобучен находить причинно-следственные связи. Он может обнаружить повышенный риск заболеваний, связанных с курением, и, следовательно, будет пытаться отвратить человека от этой вредной привычки; и это хорошо. Но, руководствуясь узконаправленным анализом данных, ИИ может заставить приложение увеличить страховые взносы из-за потенциального романтического союза. Таким образом, умозаключения ИИ приводят к действиям, которые разрывают души людей на части и усугубляют неравенство.
Как же решается проблема? Один из первейших подходов — обучить ИИ сложным целевым функциям, таким как снижение страховых взносов с учетом фактора справедливости. Например, Тристан Харрис предлагает использовать в качестве метрики не просто «проведенное в интернете время», а «время, проведенное с толком».
Эти две цели можно объединить в одну сложную целевую функцию. Еще одно решение предложено экспертом в области ИИ Стюартом Расселом: гарантировать полезность каждой целевой функции путем поиска способа включить людей в цикл дизайна таких функций.
Например, можно попытаться построить целевые функции для «большего человеческого блага», такого, например, как счастье, и привлечь людей, чтобы определять, какой смысл они вкладывают в это понятие. (Эту идею мы исследуем подробнее в главе 9 «Остров счастья».)
Однако очевидно: эти идеи требуют дополнительных исследований в области сложных целевых функций и поиска способов количественной оценки таких расплывчатых концепций, как «с толком проведенное время», «справедливость» или «счастье». Более того, реализация этих идей изначально предполагает, что компании станут зарабатывать меньше денег.
Так как же нам стимулировать интернет-гигантов поступать правильно, невзирая на неизбежные финансовые потери? Один из способов — на законодательном уровне ввести нормы, предусматривающие наказание для нарушителей.
Другой путь — поощрять позитивное поведение как часть корпоративной социальной ответственности, например с помощью принципов ESG (environmental, social and corporate governance — экологическое, социальное и корпоративное управление). Сегодня принципы ESG уже набирают обороты в некоторых бизнес-кругах, и не исключено, что ответственный ИИ может стать частью будущей структуры ESG.
Кай-Фу Ли – один из известнейших экспертов в области искусственного интеллекта. За долгую и блестящую карьеру он узнал изнутри, как работают Кремниевая долина США и IT-отрасль Китая, поэтому с уверенностью делает прогнозы о том, кто и почему победит в гонке ИИ. Но эта победа может обернуться безработицей и невиданным социальным расслоением по всему миру. Катастрофа почти неизбежна, но после серьезнейшего личного кризиса Кай-Фу Ли увидел неожиданный выход. Его укажут человечность и ответственность, а вовсе не армия умных машин. На русском языке публикуется впервые.
Мими тонет в мусоре. Она работает на Кремниевом острове, где электроника – от сотовых телефонов и ноутбуков до роботов и бионических конечностей – отправляется на переработку. Отходы скапливаются и загрязняют каждый свободный дюйм земли. На этом острове у берегов Китая плоды капитализма и культуры потребления находят свой конец. Тысячи рабочих-мигрантов, таких как Мими, заманиваются на Кремниевый остров обещаниями стабильной работы и лучшей жизни. Назревает конфликт между безжалостными местными бандами, борющимися за власть.
Эта книга описывает технологию преобразующих «языков». Вам предстоит изучить свои мощные внутренние мотивы противостоять переменам, обнаружить скрытую «иммунную систему», заставляющую вас блокировать изменения и научиться ее отключать.
В книге рассказывается история главного героя, который сталкивается с различными проблемами и препятствиями на протяжении всего своего путешествия. По пути он встречает множество второстепенных персонажей, которые играют важные роли в истории. Благодаря опыту главного героя книга исследует такие темы, как любовь, потеря, надежда и стойкость. По мере того, как главный герой преодолевает свои трудности, он усваивает ценные уроки жизни и растет как личность.
В книге подтверждаются основные выводы автора о весьма относительной устойчивости созданного «планом Дауэса» равновесия в Европе и о неминуемом обострении противоречий империализма на почве проведения этого плана.
Монография, посвященная положению золота на международной арене в первую и вторую мировые войны. Для изучающих экономическую и военно-экономическую историю.
В этой книге описывается, как в цифровую эпоху изменился баланс сил – баланс разума и машины, продуктов и платформ, ядра и толпы. По мере развития технологий расширяются и возможности человека. Понимание того, какие принципы и тренды стоят за современной цифровой революцией поможет каждому из нас проложить собственный путь в будущее. Эта книга для тех, кто интересуется технологиями, трендами, будущим. На русском языке публикуется впервые.
В пособии рассказывается о создании Объединенной Европы, играющей сегодня важнейшую роль в мировой экономике и политике. Характеризуются национальные экономики стран Европы – членов ЕС. Рассматриваются европейские экономические модели, особенности динамики постиндустриальной экономики стран Европы, эволюция роли Евросоюза в международных экономических отношениях. Раскрывается процесс консолидации экономики европейских стран как составной части глобализации экономики и политики. Анализируются новые направления в отношениях стран Евросоюза, России, Индии и Китая.Для студентов экономических факультетов вузов, изучающих курс мировой экономики, а также для учащихся колледжей, лицеев и гимназий экономического профиля.
Иван Чаплыгин рассказывает о сложных отношениях внутри пары автор – переводчик. Он позволит заглянуть на переводческую кухню и буквально на пальцах покажет, чем хороший перевод отличается от посредственного и откровенно плохого. Иван расскажет о чувстве слова, неоправданной русификации и переводческих головоломках. О заслуженной критике и необоснованных придирках. А еще о конкуренции среди переводчиков, о поиске заказчиков и об удовольствии от работы. Эта книга поможет вам понять, как находить суть в мутной воде авторского высказывания и как передавать смысл, не искажая оригинал и не привнося в него собственное звучание.
Скотт Янг, изучив результаты последних исследований и опыт выдающихся личностей, нашел те методы обучения, которые дают максимальный эффект: позволяют лучше понять и запомнить информацию, а также раскрыть новые таланты. Он сформулировал девять принципов быстрого самообразования, позволяющие осваивать сложные навыки, получать необходимые знания, максимизировать конкурентные преимущества и выстраивать карьеру. Эти принципы пригодятся всем, кто хочет научиться чему-либо самостоятельно: овладеть языком (или несколькими языками), получить новую профессию или освоить несколько инструментов для создания продукта или бизнеса с нуля. На русском языке публикуется впервые.
Книга о корпоративной культуре Netflix, которая построена вокруг свободы и ответственности. Именно культура позволила компании вырасти из небольшой фирмы по прокату DVD в гиганта развлекательной индустрии.
Рэй Далио, успешный инвестор и один из самых влиятельных людей планеты, основатель компании Bridgewater, исследует империи прошлого, выявляет закономерности взлетов и падений ведущих мировых экономик и делает выводы относительно настоящего и будущего в сфере макроэкономики и геополитики.