Четвертая мировая война. Будущее уже рядом - [18]

Шрифт
Интервал

• От первого человека разумного до человека говорящего — 150 тысяч лет.

• От человека говорящего до пишущего и читающего — 30 тысяч лет.

• От него до человека программирующего — немногим более двух тысяч лет.

• От человека программирующего до специального (слабого) искусственного интеллекта — несколько десятилетий.

Теперь вопрос: сколько лет отделяет нас от общего (сильного) искусственного интеллекта?

А сколько часов (или минут) будет отделять общий искусственный интеллект от сверхинтеллекта?..

«Успешный зародыш искусственного интеллекта должен быть способен к постоянному саморазвитию: первая версия создаёт улучшенную версию самой себя, которая намного умнее оригинальной; улучшенная версия, в свою очередь, трудится над ещё более улучшенной версией и так далее.

При некоторых условиях процесс рекурсивного самосовершенствования может продолжаться довольно долго и в конце концов привести к взрывному развитию искусственного интеллекта».

НИК ВОСТРОМ, Оксфордский университет

Ирония состоит в том, что мы даже не заметим, как это случится: у нас будет состоять в услужении дружественный, очень эффективный, но слабый, то есть узкоспециализированный искусственный интеллект, а потом вдруг раз — и нами управляет Нечто.

Причём уровень интеллекта этого Нечто мы даже не можем себе представить. В нашем представлении умный человек — это тот, кто набирает каких-нибудь 120 баллов по IQ-тесту, а дурак — тот, у кого меньше 80. Но как вообразить себе существо, у которого IQ превышает, если бы тест это позволял, десять тысяч или двадцать тысяч баллов?

Конечно, мы очень гордимся своими изобретениями — формулу открыли E = mc>2, ракету в космос отправили, ДНК расшифровали, Bluetooth настроили, плохонькие 3D-принтеры произвели… А теперь попробуйте всё это как-то умножить на тысячи раз — и представьте, что это будет.

Фокус в том, что представить это невозможно, поскольку это и есть «технологическая сингулярность». Все известные нам законы, на которые мы опираемся, перестают действовать, ничто более не находится под нашим контролем.

Это совершенно новая реальность, в которой, возможно, нам просто нет места. Если, конечно, в отношении кого-то из нас будущий Властелин и Цифровой Бог не проявит милосердие…

Не появилось у вас желания примкнуть к «Пути будущего»?

«Я пришёл к выводу, что мы уже поддерживаем эволюцию мощного искусственного интеллекта, а он, в свою очередь, повлияет на развитие привычных нам могущественных сил: бизнеса, индустрии развлечений, медицины, государственной безопасности, производства оружия, власти на всех уровнях, преступности, транспорта, горнодобывающей промышленности, производства, торговли, секса — да чего угодно!

Я думаю, что результаты нам не понравятся. […] Я не знаю, окажется ли кто-нибудь достаточно умным и одарённым для того, чтобы сохранить власть над этим джинном, потому что контролировать, возможно, придётся не только машины, но и людей, дорвавшихся до новых технологий и имеющих злые намерения».

ДЖОН МАЗЕР, Центр космических полётов им. Годдарда
«ВАШИ ВОЗРАЖЕНИЯ, ГОСПОДА!»

Дискуссии о возможности или невозможности сингулярного сценария не утихают — об этом пишут не только в научных журналах, но и в популярных СМИ, в личных блогах. Скоро, мне кажется, и на заборах начнут писать. Ну и правильно — надо же разобраться, в конце-то концов!

Род Брукс, например, этот величайший из великих создателей искусственного интеллекта, любит шутить, общаясь со своим старым другом и коллегой по Массачусетскому технологическому институту Курцвейлом: «Рэй, мы оба умрём!» И добавляет, что было бы неплохо, если бы его — бруксовский — антропоморфный робот Baxter оказался достаточно совершенным, чтобы обеспечить обоим старикам достойный уход.

Впрочем, кто-то настроен и по-другому, предлагая при этом весьма внятные и интересные аргументы. В частности, профессор того же самого Массачусетского технологического института, директор по научным исследованиям Института основополагающих вопросов Макс Тегмарку разбивает позиции скептиков следующим образом…

Прежде всего он предлагает унять разнузданное паникёрство. В значительной части оно вызвано желанием журналистов сделать свои материалы про искусственный интеллект пострашнее и позабористее. «Страх увеличивает доходы от рекламы и рейтинг Нильсена[9]», — говорит Тегмарк.

На возражение, что столь впечатляющее развитие событий в принципе невозможно, он отвечает: «Будучи физиком, я знаю, что мой мозг состоит из кварков и электронов, организованных и действующих подобно мощному компьютеру, и что нет такого закона физики, который препятствовал бы тому, чтобы мы построили ещё более разумные сгустки кварков».

Многие считают, что даже если такое развитие событий возможно, то «это произойдёт не при нашей жизни». Тегмарк признаёт, что мы не можем сказать с уверенностью, каковы шансы, что машины достигнут человеческого уровня во всех когнитивных задачах при нашей жизни.

Но добавляет: «Однако большинство исследователей, работающих в области искусственного интеллекта, на прошедшей недавно конференции высказывались в пользу того, что вероятность этого выше 50 процентов, — таким образом, было бы глупо с нашей стороны отбрасывать такую возможность, считая её просто научной фантастикой».


Еще от автора Андрей Владимирович Курпатов
Скажи депрессии «НЕТ!». Универсальные правила

Эта книга – поистине уникальное практическое пособие. Что такое депрессия? Почему она возникает? И главное: как избавиться от депрессии? Вот вопросы, на которые вы найдете ответы в этой книге. Доступность изложения и ясность рекомендаций объясняются большим практическим опытом автора. Он не делает секрета из профессиональных знаний, а бескорыстно делится своим опытом со всеми, кто нуждается в его помощи. Книга ранее издавалась под названием «5 спасительных шагов. От депрессии к радости".


Чертоги разума. Убей в себе идиота!

«Чертоги разума. Убей в себе идиота!» – книга о том, как заставить наш мозг работать и достигать поставленных целей. От автора бестселлера «Красная Таблетка. Посмотри правде в глаза!» Вам понравится эта книга, если… [ul]вы хотите научиться эффективно мыслить и решать сложные задачи; вы хотите быть в курсе самых современных нейробиологических знаний, рассказанных системно, но простым и понятным языком; вам важно самим влиять на то, что происходит в вашей жизни.[/ul] Важные факты «Чертоги разума» – научно-популярная книга Андрея Курпатова, полностью посвященная работе мозга и эффективным практикам улучшения качества жизни. Ещё до публикации книга стала лидером по предзаказам. Благодаря умению автора ясно, доступно и с пользой рассказывать о научных исследованиях, его книги уже проданы совокупным тиражом более 5 миллионов экземпляров и переведены на 8 иностранных языков. «Чертоги разума» превращает научные знания по нейробиологии в увлекательное интеллектуальное путешествие и эффективный практикум. Все технологии, представленные в книге, прошли апробацию в рамках проекта «Академия смысла». «Чертоги разума»: [ul]с научной точки зрения объясняет механизмы информационной и цифровой зависимости и рассказывает, что делать, чтобы не оказаться под ударом «информационной псевдодебильности»; последовательно раскрывает сложную структуру мышления, а каждый этап иллюстрируется важнейшими научными экспериментами; в книге вы найдете эффективные практические упражнения, которые позволят осознанно подходить к решению задач; из книги вы узнаете, почему мы не понимаем мыслей и чувств других людей, как избавиться от чувства одиночества и наладить отношения; в качестве отдельного научно-популярного издания по нейробиологии продолжает тему бестселлера «Красная Таблетка.


Красная таблетка. Посмотри правде в глаза!

Книга о том, как мозг нас обманывает, и как с ним договориться.Вам понравится эта книга, если… — вы чувствуете, что мир не так прост, как о нём рассказывают в кругу дилетантов; — вы понимаете, что вы — это ваш мозг, и необходимо научиться использовать его в собственных целях; — вы хотите понять, как ваш мозг принимает решения, и найти, наконец, то, что для вас по-настоящему важно. «Красная таблетка» — полезное интеллектуальное чтиво для людей, которые готовы смотреть на научные факты со всей серьезностью и не отворачиваются от правды только потому, что она не льстит нашему самолюбию.Важные факты «Красная таблетка» — первая научно-популярная книга Андрея Курпатова за последние 10 лет, результат большого и серьезного исследования. Благодаря уникальному таланту автора ясно, доступно и с пользой рассказывать о научных исследованиях, его книги уже проданы совокупным тиражом более 5 миллионов экземпляров и переведены на 8 иностранных языков. «Красная таблетка» превращает научные знания по нейробиологии в увлекательное интеллектуальное путешествие и эффективный практикум. Все технологии, представленные в книге, прошли апробацию в рамках проекта «Академия смысла».«Красная Таблетка»: — самые важные научные исследования в области нейрофизиологии, которые помогут разобраться в работе мозга и научиться использовать его для решения важных задач; — вы поймёте, почему нам кажется, что мы делаем для других больше, чем они для нас; — научит вас понимать поведение и мотивы других людей и взаимодействовать с ними; — поможет вам избавиться от противоречий и домыслов о предназначении и смысле жизни; — вы узнаете, чего хотите на самом деле, и как этого достичь.


Троица. Будь больше самого себя

Нельзя развить интеллект, если вы не знаете, какой он у вас от природы. Современная наука о мозге совершила настоящий прорыв: теперь мы знаем, что есть три типа людей, которые живут в трёх разных мирах и используют три разные интеллектуальные стратегии. На какой тип поведения запрограммирована ваша психика – «шизоидный», «истероидный» или «невротический»? Каким способом вы думаете: как «конструктор», как «рефлектор» или как «центрист»? Эта книга для тех, кто хочет узнать себя. Она для тех, кто хочет понять других.


Быть эгоистом. Универсальные правила

Надо ли себя любить? – вопрос, которым рано или поздно задается каждый из нас. По природе своей человек эгоистичен, но он не умеет пользоваться своим эгоизмом, а в результате страдает и он сам, и его близкие. Книга «12 нетривиальных решений. Обрети мир в своей душе» ответит на самые важные вопросы в жизни каждого человека: как найти себя? Как перестать играть и начать жить? Как не допускать ошибок и строить свою жизнь с пользой для себя и других? Книга выходила также под названиями «Пособие для эгоиста.


Как избавиться от тревоги, депрессии и раздражительности

Если вы хотите разобраться в причинах своих неприятностей, и понять, как из них выпутаться, эта книга станет для вас незаменимым помощником. Почему нас мучают тревоги и страхи? Как получается, что мы страдаем депрессией и не можем справиться со своей раздражительностью? Ответы на эти вопросы и конкретные рекомендации от практикующего врача-психотерапевта необходимы каждому человеку, который заботится о себе и качестве своей жизни.


Рекомендуем почитать
Вырождение. Современные французы

Макс Нордау"Вырождение. Современные французы."Имя Макса Нордау (1849—1923) было популярно на Западе и в России в конце прошлого столетия. В главном своем сочинении «Вырождение» он, врач но образованию, ученик Ч. Ломброзо, предпринял оригинальную попытку интерпретации «заката Европы». Нордау возложил ответственность за эпоху декаданса на кумиров своего времени — Ф. Ницше, Л. Толстого, П. Верлена, О. Уайльда, прерафаэлитов и других, давая их творчеству парадоксальную характеристику. И, хотя его концепция подверглась жесткой критике, в каких-то моментах его видение цивилизации оказалось довольно точным.В книгу включены также очерки «Современные французы», где читатель познакомится с галереей литературных портретов, в частности Бальзака, Мишле, Мопассана и других писателей.Эти произведения издаются на русском языке впервые после почти столетнего перерыва.


Несчастное сознание в философии Гегеля

В книге представлено исследование формирования идеи понятия у Гегеля, его способа мышления, а также идеи "несчастного сознания". Философия Гегеля не может быть сведена к нескольким логическим формулам. Или, скорее, эти формулы скрывают нечто такое, что с самого начала не является чисто логическим. Диалектика, прежде чем быть методом, представляет собой опыт, на основе которого Гегель переходит от одной идеи к другой. Негативность — это само движение разума, посредством которого он всегда выходит за пределы того, чем является.


Проблемы жизни и смерти в Тибетской книге мертвых

В Тибетской книге мертвых описана типичная посмертная участь неподготовленного человека, каких среди нас – большинство. Ее цель – помочь нам, объяснить, каким именно образом наши поступки и психические состояния влияют на наше посмертье. Но ценность Тибетской книги мертвых заключается не только в подготовке к смерти. Нет никакой необходимости умирать, чтобы воспользоваться ее советами. Они настолько психологичны и применимы в нашей теперешней жизни, что ими можно и нужно руководствоваться прямо сейчас, не дожидаясь последнего часа.


Зеркало ислама

На основе анализа уникальных средневековых источников известный российский востоковед Александр Игнатенко прослеживает влияние категории Зеркало на становление исламской спекулятивной мысли – философии, теологии, теоретического мистицизма, этики. Эта категория, начавшая формироваться в Коране и хадисах (исламском Предании) и находившаяся в постоянной динамике, стала системообразующей для ислама – определявшей не только то или иное решение конкретных философских и теологических проблем, но и общее направление и конечные результаты эволюции спекулятивной мысли в культуре, в которой действовало табу на изображение живых одухотворенных существ.


Ломоносов: к 275-летию со дня рождения

Книга посвящена жизни и творчеству М. В. Ломоносова (1711—1765), выдающегося русского ученого, естествоиспытателя, основоположника физической химии, философа, историка, поэта. Основное внимание автор уделяет философским взглядам ученого, его материалистической «корпускулярной философии».Для широкого круга читателей.


Онтология поэтического слова Артюра Рембо

В монографии на материале оригинальных текстов исследуется онтологическая семантика поэтического слова французского поэта-символиста Артюра Рембо (1854–1891). Философский анализ произведений А. Рембо осуществляется на основе подстрочных переводов, фиксирующих лексико-грамматическое ядро оригинала.Работа представляет теоретический интерес для философов, филологов, искусствоведов. Может быть использована как материал спецкурса и спецпрактикума для студентов.


Красная таблетка-2. Вся правда об успехе

«Как достичь успеха?» – это, кажется, сейчас самый актуальный вопрос. Нам постоянно рассказывают про какой-то «успешный успех». Обещают сакральное знание о том, как к нему прийти. Пичкают историями об успешных людях и вообще мотивируют как могут. Но всё это, как вы знаете, не работает. Эта книга о том, что такое «успех» с научной точки зрения. Вы познакомитесь с нейрофизиологическими механизмами, определяющими успешность человека. Вы узнаете, что нейронаука отвечает тем, кто говорит: «Я не знаю, чего хочу» и «Я не знаю, как себя заставить что-то делать».


Мышление. Системное исследование

Новая книга «Мышление» от Андрея Курпатова — автора нашумевших бестселлеров, изданных тиражом более 5 млн. экземпляров и переведённых на 8 языков. Мышление человека — одна из самых актуальных тем современной науки. Мы привыкли думать, что мы думаем, более того — уверенно рассуждаем об интеллекте, сознании, разуме, мозге. Возникает ощущение, что с мышлением все ясно. Но так ли это в действительности? Что мы на самом деле знаем о мышлении, его природе и механизмах? Андрей Курпатов — один из крупнейших отечественных ученых, специализирующихся на прикладных аспектах исследования мозга и процессов мышления.