Совместимость. Как контролировать искусственный интеллект - [36]
Если собрать все, что мы знаем о том, как работать со всеми потенциально новыми достижениями, перечисленными в этой главе, мы добьемся успеха? Как вела бы себя получившаяся система? Она неудержимо развивалась бы, со временем накапливая огромные объемы информации и отслеживая состояние мира в громадных масштабах путем наблюдения и умозаключений. Она постепенно совершенствовала бы свои модели мира (включающие, конечно, и модели людей). Она использовала бы эти модели для решения комплексных задач, сохраняла и повторно использовала процессы принятия решений, чтобы повысить эффективность своих прикидок и научиться решать еще более комплексные задачи. Она открывала бы новые концепции и действия, и это позволило бы ей повышать уровень совершения открытий. Она составляла бы более эффективные планы за все более короткие промежутки времени.
В общем, трудно сказать, упущено ли еще что-нибудь принципиально важное в плане создания систем, эффективных в решении этих задач. Разумеется, единственная возможность убедиться в этом — создать их (когда будут совершены прорывы) и посмотреть, что из этого выйдет.
Представим себе сверхинтеллектуальную машину
При обсуждении природы и эффектов сверхинтеллектуального ИИ техническому сообществу отказывает воображение. Часто мы наблюдаем дискуссии вокруг снижения количества медицинских ошибок[130], уровня опасности автомобилей[131] или других небольших продвижений. Роботы мыслятся как индивидуальные существа, которые имеют свой собственный мозг, тогда как на самом деле они, скорее всего, будут беспроводным способом соединены в единую глобальную структуру, использующую огромные вычислительные ресурсы стационарного оборудования. Кажется, исследователи боятся рассматривать реальные последствия успеха в создании ИИ.
Универсальная интеллектуальная система, предположительно, может делать то же, что и человек. Например, некоторые люди проделали большую работу в математике, разработке алгоритмов, программировании и эмпирических исследованиях, чтобы создать современные поисковые системы. Результаты этой работы очень полезны и, разумеется, очень ценны. Насколько ценны? Недавнее исследование показало, что средний взрослый американец из числа опрошенных должен был бы получать минимум $17 500 за то, чтобы на год отказаться использовать поисковые системы[132], что в сумме составляет десятки триллионов долларов.
Представим теперь, что поисковых систем все еще не существует, потому что необходимые работы пока не выполнены, но вместо этого вы имеете доступ к сверхинтеллектуальной ИИ-системе. Вы задаете вопросы и имеете доступ к технологии поисковой системы благодаря системе ИИ. Готово! Ценность в триллионы долларов просто в ответ на вопрос, и ни единой строчки кода, написанной вами. То же самое относится ко всем не созданным изобретениям или сериям изобретений: если это могли бы сделать люди, значит, могут и машины.
Этот последний момент дает ценную информацию о нижней границе — пессимистической оценке — способностей интеллектуальной машины. Предположительно, машина обладает большими возможностями, чем отдельный человек. Очень многое в мире не может отдельно взятый, но может группа из n человек: отправить астронавта на Луну, создать детектор гравитационных волн, секвенировать геном человека, управлять страной с сотнями миллионов жителей. Грубо говоря, мы создаем n программных копий машины и соединяем их так же — с теми же информационными и управляющими потоками, — как и n человек. Теперь у нас есть машина, способная делать все, что могут n человек, только лучше, поскольку каждый из ее n компонентов обладает сверхчеловеческими возможностями.
Концепция интеллектуальной системы на основе многоагентной кооперации — лишь нижняя граница вероятных возможностей машины, потому что есть другие концепции, более эффективные. В группе из n человек общая доступная информация хранится отдельными частями в n мозгах и передается между ними очень медленно и несовершенно. Поэтому n человек тратят много времени на собрания. У машины нет необходимости в этом разделении, которое часто мешает составить полную картину. Красноречивым примером отсутствия надлежащей структуры в сфере научных открытий является долгая история пенициллина[133].
Другой полезный метод расширения возможностей своего воображения — подумать об одном из источников сенсорных входных данных, скажем, чтении, и отмасштабировать его. Если человек может читать одну книгу в неделю, машина могла бы прочитать и понять все когда-либо написанные книги — все 150 млн — за несколько часов. Это требует соответствующей вычислительной мощности, но книги можно было бы читать, по большей части, параллельно, то есть простое добавление чипов позволяет машине масштабировать свой процесс чтения. Аналогично машина может видеть все одновременно через спутники, роботов и сотни миллионов камер видеонаблюдения, смотреть все телевизионные трансляции мира и слушать все мировые радиостанции и телефонные разговоры. Очень быстро она получила бы намного более подробное и точное понимание мира и его обитателей, чем любой человек в принципе может надеяться приобрести.
Новая книга профессора Московского университета Г. А. Федорова-Давыдова написана в научно-популярной форме, ярко и увлекательно. Она представляет собой очерки истории денежного дела в античных государствах Средиземноморья, средневековой Западной Европе, странах Востока, на Руси (от первых «златников» и «сребреников» князя Владимира до реформ Петра 1)„ рассказывается здесь также о монетах нового времени; специальный раздел посвящен началу советской монетной чеканки. Автор показывает, что монеты являются интересным и своеобразным историческим источником.
Книга в легкой и доступной форме рассказывает об истории электротехники и немного касается самого начального этапа радиотехники. Автор дает общую картину развития знаний об электричестве, применения этих знаний в промышленности и технике. В книге содержится огромное количество материала, рисующего как древнейшие времена, так и современность с её проблемами науки и техники. В русской литературе — это первая попытка дать читателю систематическое изложение накопленных в течение веков фактов, которые представляют грандиозный путь развития учения об электричестве и его практического применения.
Когда у собеседников темы для разговора оказываются исчерпанными, как правило, они начинают говорить о погоде. Интерес к погоде был свойствен человеку всегда и надо думать, не оставит его и в будущем. Метеорология является одной из древнейших областей знания Книга Пфейфера представляет собой очерк по истории развития метеорологии с момента ее зарождения и до современных исследований земной атмосферы с помощью ракет и спутников. Но, в отличие от многих популярных книг, освещающих эти вопросы, книга Пфейфера обладает большим достоинством — она знакомит читателя с интереснейшими проблемами, которые до сих пор по тем или иным причинам незаслуженно мало затрагиваются в популярной литературе.
Сорняки — самые древние и злостные враги хлебороба. Зеленым пожаром охвачены в настоящее время все земледельческие районы земного шара. В книге рассказывается об истории и удивительной жизненной силе сорных растений, об ожесточенной борьбе земледельца с сорняками и путях победы над грозным противником. - Книга в увлекательной и популярной форме рассказывает о борьбе с самым древним и злостным врагом хлеборобов — сорняками (первое издание — 1981 г). В ней даны сведения об истории и биологии сорняков, об их взаимоотношениях с культурными растениями.
Пчелы гораздо древнее, чем люди: когда 4–5 миллионов лет назад предшественники Homo sapiens встретились с медоносными пчелами, те жили на Земле уже около 5 миллионов лет. Пчелы фигурируют в мифах и легендах Древних Египта, Рима и Греции, Индии и Скандинавии, стран Центральной Америки и Европы. От повседневной работы этих трудолюбивых опылителей зависит жизнь животных и людей. Международная организация The Earthwatch Institute официально объявила пчел самыми важными существами на планете, их вымирание будет означать конец человечества.
Многие традиционные советы о том, как преуспеть в жизни, логичны, обоснованны… и откровенно ошибочны. В своей книге автор собрал невероятные научные факты, объясняющие, от чего на самом деле зависит успех и, что самое главное, как нам с вами его достичь. Для широкого круга читателей.
Специалист по проблемам мирового здравоохранения, основатель шведского отделения «Врачей без границ», создатель проекта Gapminder, Ханс Рослинг неоднократно входил в список 100 самых влиятельных людей мира. Его книга «Фактологичность» — это попытка дать читателям с самым разным уровнем подготовки эффективный инструмент мышления в борьбе с новостной паникой. С помощью проверенной статистики и наглядных визуализаций Рослинг описывает ловушки, в которые попадает наш разум, и рассказывает, как в действительности сегодня обстоят дела с бедностью и болезнями, рождаемостью и смертностью, сохранением редких видов животных и глобальными климатическими изменениями.
Американский генетик Дэвид Райх – один из главных революционеров в области изучения древней ДНК, которая для понимания истории человечества оказалась не менее важной, чем археология, лингвистика и письменные источники. В своей книге Райх наглядно показывает, сколько скрытой информации о нашем далеком прошлом содержит человеческий геном и как радикально геномная революция меняет наши устоявшиеся представления о современных людях. Миграции наших предков, их отношения с конкурирующими видами, распространение культур – все это предстает в совершенно ином свете с учетом данных по ДНК ископаемых останков.
Все решения и поступки зарождаются в нашей психике благодаря работе нейронных сетей. Сбои в ней заставляют нас страдать, но порой дарят способность принимать нестандартные решения и создавать шедевры. В этой книге нобелевский лауреат Эрик Кандель рассматривает психические расстройства через призму “новой биологии психики”, плода слияния нейробиологии и когнитивной психологии. Достижения нейровизуализации, моделирования на животных и генетики помогают автору познавать тайны мозга и намечать подходы к лечению психических и даже социальных болезней.
«Уравнение Бога» – это увлекательный рассказ о поиске самой главной физической теории, способной объяснить рождение Вселенной, ее судьбу и наше место в ней. Знаменитый физик и популяризатор науки Митио Каку прослеживает весь путь удивительных открытий – от Ньютоновой революции и основ теории электромагнетизма, заложенных Фарадеем и Максвеллом, до теории относительности Эйнштейна, квантовой механики и современной теории струн, – ведущий к той великой теории, которая могла бы объединить все физические взаимодействия и дать полную картину мира.