Таинственные ответы на таинственные вопросы - [4]
Для того, чтобы правильно готовить оправдания для будущих экспериментальных результатов, Кредерус должен, во-первых, хранить где-то в разуме правильную модель ситуации, контролирующую его ожидания, и, во-вторых, действовать и мыслить таким образом, чтобы защитить либо своё свободно плавающее убеждение о драконе, либо своё представление о себе, как о верящем в дракона.
Если Кредерус верил в убеждение о существовании дракона, и вдобавок был убеждён в существовании дракона, то проблема была бы уже не так грозна. Кредерус желал бы рисковать, если речь идёт об экспериментальных предсказаниях, и, возможно, даже согласился бы отказаться от убеждения о существовании дракона, если бы его предсказания бы не сбылись (хотя, если Кредерус был бы не до конца уверен в существовании дракона, то его вера в убеждение могло бы помешать этому признанию). Однако, когда кто-то заранее оправдывается, это обычно требует расхождения убеждения и веры в убеждение.
Перевод:
BT
http://lesswrong.com/lw/i4/belief_in_belief/
Байесианское дзюдо
Элиезер Юдковский
Вы можете получить массу удовольствия, общаясь с людьми, чьи ожидания будущего теряют связь с их же верой в убеждениях.
Как-то на одном званом обеде я пытался объяснить человеку, чем я зарабатываю на жизнь; и он сказал: «Я не верю в возможность искусственного интеллекта, ведь лишь Бог может создать душу.»
Я, должно быть, движимый божественным наитием, немедленно ответил:
— То есть, если я смогу создать искусственный интеллект, то это докажет ложность вашей религии?
— Что? — сказал он.
— Ну, если ваша религия предсказывает, что я неспособен создать искусственный интеллект, то факт создания мной искусственного интеллекта будет означать неправоту вашей религии. Либо ваша религия допускает возможность создания ИИ, либо его создание опровергнет вашу религию.
Повисла пауза — он осознал, что только что сделал свою гипотезу фальсифицируемой — и затем он ответил:
— Ну, я не имел ввиду, что вы не сможете создать интеллект. Я хотел сказать, что он не может испытывать эмоции таким же образом, что и мы.
— Итак, если я создам искусственный интеллект, в который не будет заложено ничего навроде заранее написанного сценария, и моё творение начнёт говорить о чём-то, похожем на нашу духовную жизнь, то тогда ваша религия неверна.
— Ну, гм, видимо нам придётся остаться при своих мнениях на этот счёт. «Согласиться не соглашаться» — в таких случаях говорят англичане.
— На самом деле, так нельзя. Есть теорема из области рациональности — теорема Ауманна о согласии — которая говорит о том, что два рационалиста не могут согласиться не соглашаться. Если два человека не соглашаются друг с другом, то хотя бы один из них должен быть в чем-то неправ.
Мы коротко прошлись по этой теме. И, наконец, он сказал:
— Ну, кажется, на самом деле я пытался сказать вот что: я считаю, что вы не можете создать что-то вечное.
— Ну, я тоже так считаю!— ответил я. — Я рад, что мы смогли прийти к консенсусу по этому вопросу, как и требует теорема Ауманна о согласии.
Я протянул свою руку и он пожал ее, а потом побрёл дальше.
Женщина, которая стояла рядом и слушала наш разговор, серьёзно посмотрев на меня, сказала: «Это было прекрасно».
— Большое спасибо, — ответил я.
Перевод:
BT
http://lesswrong.com/lw/i5/bayesian_judo/
Провозглашения и крики ободрения
Элиезер Юдковский
Однажды я посетил конференцию по теме «совместимы ли религия и наука?». Одна женщина-язычник с жаром рассказывала о своих представлениях о сотворении Земли: гигантская первичная корова была рождена в первичной бездне, а затем создала первичного бога при помощи слюны и языка; потомки первичного бога убили корову и сотворили Землю из её плоти, и так далее. История была длинной, подробной и более абсурдной, чем модель мира, в которой Земля покоится на спине огромной черепахи. И эта женщина явно разбиралась в науке достаточно, чтобы это понимать.
Я до сих пор не могу подобрать слов, чтобы описать, как именно говорила эта женщина. Она говорила… гордо? С самодовольством? Осознанно щеголяя собой?
Казалось, что женщина рассказывала этот миф о сотворении целую вечность (на самом деле, вероятно, прошло не более пяти минут). Странное нечто, гордость/удовлетворение/выставление себя напоказ, явно имело какое-то отношение к её знанию того, что эти убеждения были возмутительны с научной точки зрения. И она не презирала науку: она выступала за то, что наука и религия совместимы. Она даже рассказала о том, что, если взглянуть на землю, в которой жили викинги, то нетрудно понять, почему они верили в первичную бездну (этим объяснением она свела свои верования к чему-то заурядному!), но при этом всё равно настаивала на своей вере в этот миф, говоря об этом с исключительным удовлетворением.
Я не думаю, что понятие «вера в убеждение» можно растянуть настолько, чтобы покрыть это событие. Слишком странной была эта речь. Она не повторяла легенду с фанатичной верой кого-то, кому нужно подбодрять себя. Она не надеялась убедить в чём-то аудиторию, и ей не нужна была наша поддержка для того, чтобы чувствовать себя полноценной.
![Краткое руководство по интеллектуальным героям](/build/oblozhka.dc6e36b8.jpg)
В книге рассказывается история главного героя, который сталкивается с различными проблемами и препятствиями на протяжении всего своего путешествия. По пути он встречает множество второстепенных персонажей, которые играют важные роли в истории. Благодаря опыту главного героя книга исследует такие темы, как любовь, потеря, надежда и стойкость. По мере того, как главный герой преодолевает свои трудности, он усваивает ценные уроки жизни и растет как личность.
![Тройной контакт](/build/oblozhka.dc6e36b8.jpg)
Это история невозможного будущего, в котором нет ни искусственного интеллекта, ни молекулярных нанотехнологий, и лишь немного биотехнологии, — но человечество каким-то образом выжило, и более того, открыло способ Перемещаться Быстрее Света. История бывшего будущего.
![Гарри Поттер и методы рационального мышления](/storage/book-covers/bd/bded3fd7d7e14787a3820b2a17c6e3c313c3ef45.jpg)
Петуния вышла замуж не за Дурсля, а за университетского профессора, и Гарри попал в гораздо более благоприятную среду. У него были частные учителя, дискуссии с отцом, а главное – книги, сотни и тысячи научных и фантастических книг. В 11 лет Гарри знаком с квантовой механикой, когнитивной психологией, теорией вероятностей и другими вещами. Но Гарри не просто вундеркинд, у него есть загадочная Тёмная сторона, которая явно накладывает свой отпечаток на его мышление. Перевод публикуется по лицензии Creative Commons Attribution-ShareAlike 4.0 International.
![Горестные заметы](/build/oblozhka.dc6e36b8.jpg)
АМФИТЕАТРОВ Александр Валентинович [1862–1923] — фельетонист и беллетрист. Газетная вырезка, обрывок случайно услышанной беседы, скандал в московских аристократических кругах вдохновляют его, служа материалом для фельетонов, подчас весьма острых. Один из таковых, «Господа Обмановы», т. е. Романовы, вызвал ссылку А. в Минусинск [1902]. Фельетонный характер окрашивает все творчество А. Он пишет стихи, драмы, критические статьи и романы — об артисте Далматове и о протопопе Аввакуме, о Нероне («Зверь из бездны»), о быте и нравах конца XIX в.
![Россия на дне. Есть ли у нас будущее?](/storage/book-covers/1a/1a2090e24cc5460e8bf4f3f976888921abd047db.jpg)
«Все мы слышали перед революцией повсюду одну и ту же фразу: «хуже не будет», однако на собственном горьком опыте убедились, что всегда может быть хуже, ибо дно у чаши бедствий, по мере их накопления, опускается», — этим словам Ивана Бунина без малого век, но история повторяется, и сегодня мы вновь слышим от властей бодрые отчеты и оптимистичные заверения, что «дно кризиса уже достигнуто» и «хуже не будет». Стоит ли верить этим заклинаниям? Подходит ли нынешняя Великая Депрессия к концу — или все только начинается? Что ожидает нас в ближайшем будущем, когда мир накроет «второй волной» экономической катастрофы? Можно ли переплыть бушующее море на корабле с проломленным бортом и пожаром в трюме — или Россия, подобно «Титанику», идет на дно?..
![Газета Завтра 1045 (48 2013)](/storage/book-covers/52/52a2ea43dc4d6410aca663579aedd7beb9ccee10.jpg)
В книге рассказывается история главного героя, который сталкивается с различными проблемами и препятствиями на протяжении всего своего путешествия. По пути он встречает множество второстепенных персонажей, которые играют важные роли в истории. Благодаря опыту главного героя книга исследует такие темы, как любовь, потеря, надежда и стойкость. По мере того, как главный герой преодолевает свои трудности, он усваивает ценные уроки жизни и растет как личность.
![Взятка. Победит ли коррупция Россию?](/storage/book-covers/3c/3c0ca78493dec5f357bc448d192e652053ce5dc9.jpg)
Новая серия книг представит привычные для каждого россиянина вещи в новом неожиданном ракурсе. Взглянуть на себя со стороны - чертовски полезно и даже необходимо, чтобы соответствовать быстро меняющемуся миру и слыть цивилизованной нацией не только на словах. Первая книга серии о самом, пожалуй, известном бренде России (после дорог и дураков) - о взятке. Исключительно подробное, абсолютно достоверное, основанное на реальных материалах и исторических фактах расследование известного питерского журналиста Елены Филипповой.
![Литературная Газета, 6435 (№ 42/2013)](/build/oblozhka.dc6e36b8.jpg)
"Литературная газета" общественно-политический еженедельник Главный редактор "Литературной газеты" Поляков Юрий Михайлович http://www.lgz.ru/.
![Газета Завтра 462 (40 2002)](/storage/book-covers/0e/0e6bf99955c6c1bd4d3662e34b53c8e0eb328dad.jpg)
В книге рассказывается история главного героя, который сталкивается с различными проблемами и препятствиями на протяжении всего своего путешествия. По пути он встречает множество второстепенных персонажей, которые играют важные роли в истории. Благодаря опыту главного героя книга исследует такие темы, как любовь, потеря, надежда и стойкость. По мере того, как главный герой преодолевает свои трудности, он усваивает ценные уроки жизни и растет как личность.