Совместимость. Как контролировать искусственный интеллект - [5]
Исключение предпосылки, что машины должны иметь определенные цели, означает, что мы должны будем изъять и заменить часть предпосылок ИИ — базовые определения того, что мы пытаемся создать. Это также предполагает перестройку значительной части суперструктуры — совокупности идей и методов по разработке ИИ. В результате возникнут новые отношения людей и машин, которые, я надеюсь, позволят нам благополучно прожить следующие несколько десятилетий.
Глава 2. Разумность людей и машин
Если вы зашли в тупик, имеет смысл вернуться назад и выяснить, в какой момент вы свернули не в ту сторону. Я заявил, что стандартная модель ИИ, в которой машины оптимизируют фиксированную цель, поставленную людьми, — это тупик. Проблема не в том, что у нас может не получиться хорошо выполнить работу по созданию ИИ, а в том, что мы может добиться слишком большого успеха. Само определение успеха применительно к ИИ ошибочно.
Итак, пройдем по собственным следам в обратном направлении вплоть до самого начала. Попытаемся понять, как сложилась наша концепция разумности и как получилось, что она была применена к машинам. Тогда появится шанс предложить лучшее определение того, что следует считать хорошей системой ИИ.
Разумность
Как устроена Вселенная? Как возникла жизнь? Где ключи к пониманию этого? Эти фундаментальные вопросы заслуживают размышлений. Но кто их задает? Как я на них отвечаю? Как может горстка материи — несколько килограммов розовато-серого бланманже, которое мы называем мозгом, — воспринимать, понимать, прогнозировать и управлять невообразимо огромным миром? Очень скоро мозг начинает исследовать сам себя.
Тысячелетиями мы пытаемся понять, как работает наш ум. Первоначально это делалось из любопытства, ради самоконтроля и вполне прагматичной задачи решения математических задач. Тем не менее каждый шаг к объяснению того, как работает ум, является и шагом к воссозданию возможностей ума в искусственном объекте — то есть к созданию ИИ.
Чтобы разобраться в том, как создать разумность, полезно понять, что это такое. Ответ заключается не в тестах на IQ и даже не в тесте Тьюринга, а попросту во взаимосвязи того, что мы воспринимаем, чего хотим и что делаем. Грубо говоря, сущность разумна настолько, насколько ее действия могут привести к получению желаемого при условии, что желание было воспринято.
Возьмем самую обыкновенную бактерию, например E. coli. У нее имеется полдесятка жгутиков — длинных тонких, как волоски, усиков, вращающихся у основания по часовой или против часовой стрелки. (Этот двигатель сам по себе потрясающая штука, но сейчас речь не о нем.) Плавая в жидкости у себя дома — в нижнем отделе вашего кишечника, — E. coli вращает жгутики то по часовой стрелке и «пританцовывает» на месте, то против, отчего они сплетаются в своего рода пропеллер, и бактерия плывет по прямой. Таким образом, E. coli может перемещаться произвольным образом — то плыть, то останавливаться, — что позволяет ей находить и потреблять глюкозу, вместо того чтобы оставаться неподвижной и погибнуть от голода.
Если бы на этом все заканчивалось, мы не назвали бы E. coli сколько-нибудь разумной, потому что ее действия совершенно не зависели бы от среды. Она не принимала бы никаких решений, только выполняла определенные действия, встроенные эволюцией в ее гены. Но это не все. Если E. coli ощущает увеличение концентрации глюкозы, то дольше плывет и меньше задерживается на месте, а чувствуя меньшую концентрацию глюкозы — наоборот. Таким образом, то, что она делает (плывет к глюкозе), повышает ее шансы достичь желаемого (по всей видимости, больше глюкозы), причем она действует с опорой на воспринимаемое (увеличение концентрации глюкозы).
Возможно, вы думаете: «Но ведь и такое поведение встроила в ее гены эволюция! Как это делает ее разумной?» Такое направление мысли опасно, поскольку и в ваши гены эволюция встроила базовую конструкцию мозга, но вы едва ли станете отрицать собственную разумность на этом основании. Дело в том, что нечто заложенное эволюцией в гены E. coli, как и в ваши, представляет собой механизм изменения поведения бактерии под влиянием внешней среды. Эволюция не знает заранее, где будет глюкоза или ваши ключи, поэтому организм, наделенный способностью найти их, получает еще одно преимущество.
Разумеется, E. coli не гигант мысли. Насколько мы знаем, она не помнит, где была, и если переместится из точки А в точку Б и не найдет глюкозы, то, скорее всего, просто вернется в А. Если мы создадим среду, где привлекательное увеличение концентрации глюкозы ведет к месту содержания фенола (яда для E. coli), бактерия так и будет следовать вслед за ростом концентрации. Она совершенно не учится. У нее нет мозга, за все отвечает лишь несколько простых химических реакций.
Огромным шагом вперед стало появление потенциала действия — разновидности электрической сигнализации, возникшей у одноклеточных организмов около 1 млрд лет назад. Впоследствии многоклеточные организмы выработали специализированные клетки, нейроны, которые с помощью электрических потенциалов быстро — со скоростью до 120 м/с, или 430 км/ч — передают сигналы в организме. Связи между нейронами называются
Птичьи яйца – важная составляющая нашей культуры, символ плодовитости, неотъемлемый атрибут религиозных верований и мифологических представлений. Издревле за яйцами охотились коллекционеры и зачастую рисковали жизнью, взбираясь по скалистым склонам в поисках уникальных экземпляров. Казалось бы, яйцо устроено очень просто – но эта простота лишь кажущаяся. Один из ведущих орнитологов современности, известный британский популяризатор науки, обладатель множества наград за исследования в области поведенческой экологии и орнитологии, Тим Беркхед делится своими уникальными знаниями и раскрывает множество тайн этого настоящего чуда природы.
Как происходит дыхание? Почему нам порой не хватает воздуха и какое отношение имеет к этому маленькая Русалочка? Как наши эмоции влияют на дыхание? Почему мы кашляем, но не чувствуем боли в дыхательных путях? Может ли вырасти новое легкое? Как самый большой орган нашего тела защищается от микробов и вредных веществ. И самое главное: что мы можем предпринять, чтобы этот чудесный орган сохранял свою работоспособность всю жизнь? Обо всем этом увлекательно и захватывающе повествует специалист по легким Кай-Михаэль Бе. Для широкого круга читателей.
Книга основателя Игнобелевской (Шнобелевской) премии — сборник эссе о самых разных исследованиях вполне почтенных ученых. Только вот предмет этих исследований заставляет читателей сначала рассмеяться, а потом задуматься о весьма серьезных вещах. Почему чаще всего крадут книги по этике? Как найти оптимальный способ нарезки ветчины с помощью математики? Отчего танцоры в Вегасе получают большие чаевые в определенные месяцы? И какое ухо лучше распознает ложь — правое или левое? Абрахамс рассказывает о подобных довольно странных исследованиях в области биологии, физики, математики и других наук с большим юмором, иронией и — глубоким знанием человеческой природы.
Зарождение и развитие капитализма сопровождалось как его циклическими кризисами, так и его возрождениями в новых обличьях. Однако в реалиях XXI века капиталистическая система, по мнению Пола Мейсона, более не способна адаптироваться к новым вызовам, что означает ее фактический крах. Раз так, то главный вопрос: каким может быть будущее, если капиталистические перспективы неутешительны? Есть ли шанс создать новую стабильную и социально ориентированную глобальную финансовую систему? В своем исследовании Пол Мейсон в качестве альтернативы предлагает модель «посткапитализма», основы которой можно найти в современной экономической системе, и они даже сосуществуют с ней.
«Настоящая книга представляет собою сборник новелл о литературных выдумках и мистификациях, объединенных здесь впервые под понятиями Пера и Маски. В большинстве они неизвестны широкому читателю, хотя многие из них и оставили яркий след в истории, необычайны по форме и фантастичны по содержанию».
О пути, который прошла Русь на протяжении XIII–XV веков, от политической раздробленности накануне татаро-монгольского нашествия до победы в Куликовской битве и создания централизованного Русского государства, рассказывают доктор исторических наук И. Б. Греков и писатель Ф. Ф. Шахмагонов. Виктор Иванович Буганов — известный советский ученый, доктор исторических наук, заведующий отделом источниковедения Института истории СССР Академии наук СССР. Его перу принадлежит более 300 научных работ, в том числе пять монографий, и научно-популярные книги.
Специалист по проблемам мирового здравоохранения, основатель шведского отделения «Врачей без границ», создатель проекта Gapminder, Ханс Рослинг неоднократно входил в список 100 самых влиятельных людей мира. Его книга «Фактологичность» — это попытка дать читателям с самым разным уровнем подготовки эффективный инструмент мышления в борьбе с новостной паникой. С помощью проверенной статистики и наглядных визуализаций Рослинг описывает ловушки, в которые попадает наш разум, и рассказывает, как в действительности сегодня обстоят дела с бедностью и болезнями, рождаемостью и смертностью, сохранением редких видов животных и глобальными климатическими изменениями.
Все решения и поступки зарождаются в нашей психике благодаря работе нейронных сетей. Сбои в ней заставляют нас страдать, но порой дарят способность принимать нестандартные решения и создавать шедевры. В этой книге нобелевский лауреат Эрик Кандель рассматривает психические расстройства через призму “новой биологии психики”, плода слияния нейробиологии и когнитивной психологии. Достижения нейровизуализации, моделирования на животных и генетики помогают автору познавать тайны мозга и намечать подходы к лечению психических и даже социальных болезней.
Американский генетик Дэвид Райх – один из главных революционеров в области изучения древней ДНК, которая для понимания истории человечества оказалась не менее важной, чем археология, лингвистика и письменные источники. В своей книге Райх наглядно показывает, сколько скрытой информации о нашем далеком прошлом содержит человеческий геном и как радикально геномная революция меняет наши устоявшиеся представления о современных людях. Миграции наших предков, их отношения с конкурирующими видами, распространение культур – все это предстает в совершенно ином свете с учетом данных по ДНК ископаемых останков.
«Уравнение Бога» – это увлекательный рассказ о поиске самой главной физической теории, способной объяснить рождение Вселенной, ее судьбу и наше место в ней. Знаменитый физик и популяризатор науки Митио Каку прослеживает весь путь удивительных открытий – от Ньютоновой революции и основ теории электромагнетизма, заложенных Фарадеем и Максвеллом, до теории относительности Эйнштейна, квантовой механики и современной теории струн, – ведущий к той великой теории, которая могла бы объединить все физические взаимодействия и дать полную картину мира.