Что мы думаем о машинах, которые думают [заметки]

Сноски

1

Бостром Н. Искусственный интеллект: Этапы. Угрозы. Стратегии. — М.: Манн, Иванов и Фербер, 2016.

2

Edge Foundation — организация, основанная Джоном Брокманом для объединения ученых и интеллектуалов и для популяризации передовых направлений науки. Организация издает сетевой журнал Edge (www.edge.org); каждый год редакция ставит новый вопрос, на который отвечают разные комментаторы — как представители научных кругов, так и просто известные люди, чье мнение может показаться интересным читателям. — Прим. ред.

3

Вымышленная кибернетическая цивилизация в сериале «Звездный путь». — Прим. ред.

4

Ливио М. От Дарвина до Эйнштейна. Величайшие ошибки гениальных ученых, которые изменили наше понимание жизни и Вселенной. — М.: АСТ, 2000.

5

Маркофф Дж. Homo Roboticus? Люди и машины в поисках взаимопонимания. — М.: Альпина нон-фикшн, 2017.

6

В философии этим термином обозначают любые ощутимые человеком явления, например цвет или вкус. — Прим. ред.

7

Игра слов: Curiosity (англ. «любопытство») — название марсохода. — Прим. пер.

8

Несуществующая, но теоретически возможная технология, позволяющая перемещаться быстрее скорости света. — Прим. ред.

9

Эмерджентными называются свойства, присущие системе в целом, но не присущие ни одному из ее элементов по отдельности. — Прим. ред.

10

Имеются в виду композитор Антонин Дворжак (1841–1904) и теннисист Новак Джокович (род. 1987). — Прим. ред.

11

Рейтинг популярности телевизионной программы. — Прим. ред.

12

Английская идиома, обозначающая намеренную дезинформацию с целью отвлечь чье-либо внимание. Копченую («красную») сельдь, обладающую сильным запахом, традиционно использовали для натаскивания охотничьих собак. — Прим. ред.

13

Глейзер М. Остров знаний. Пределы досягаемости большой науки. — СПб.: Питер, 2017.

14

Кэрролл Ш. Частица на краю Вселенной. Как охота на бозон Хиггса ведет нас к границам нового мира. — М.: Бином, 2000.

15

Новый атеизм — термин, обобщающий взгляды ряда современных ученых и мыслителей, которые считают любую религию вредным явлением, активно проповедуют материалистичный взгляд на мир и опровергают основополагающие религиозные постулаты с позиции науки. — Прим. ред.

16

Управление перспективных исследовательских проектов Министерства обороны США. — Прим. ред.

17

Карр Н. Пустышка. Что интернет делает с нашими мозгами. — СПб.: BestBusinessBooks, 2012.

18

Год чудес (лат.) — в западной традиции так называются отдельные календарные годы, отмеченные важными событиями. В данном случае имеется в виду 1905 год, когда Альберт Эйнштейн сделал открытия в области фотоэлектрического эффекта, броуновского движения и специальной теории относительности. — Прим. ред.

19

Ситуационная комната (ситуационный центр) — помещение, оснащенное техническими средствами и предназначенное для оперативного принятия управленческих решений в крупных государственных и коммерческих структурах. — Прим. ред.

20

Заболевание, характеризующееся неспособностью распознавать и запоминать лица. — Прим. ред.

21

Персонаж рассказа Курта Воннегута «Харрисон Бержерон», молодой человек, обладающий исключительными интеллектуальными качествами; в антиутопическом мире будущего, где все люди сделаны одинаковыми, в том числе и в умственном плане, его судьба не могла не сложиться трагически. Рассказ имеет две экранизации: «Харрисон Бержерон» (1995, Брюс Питтман) и «2081» (2009, Чендлер Таттл). — Прим. ред.

22

Имеется в виду решение Верховного суда США, впервые закрепившее права за юридическим лицом (корпорацией). — Прим. ред.

23

HAL, Heuristically programmed ALgorithmic computer (англ. «Эвристически программируемый алгоритмический компьютер») — вымышленное устройство из цикла произведений Артура Кларка «Космическая Одиссея». — Прим. пер.

24

Неофициальное название одного из подразделений Lockheed Martin. — Прим. пер.

25

Дерман Э. Карьера финансового аналитика. От физики к финансам. — М.: Вильямс, 2008.

26

Дайсон Ф. Мечты о Земле и о небе. — СПб.: Питер, 2017.

27

BRAIN, The Brain Research Through Advancing Innovative Neurotechnologies — исследование мозга средствами передовых инновационных нейротехнологий (англ.). — Прим. пер.

28

Суперкомпьютер, способный понимать вопросы на естественном английском языке и искать ответы в базе данных. — Прим. ред.

29

Фитч У. Т. Эволюция языка. — М.: Издательский дом «ЯСК», 2013.

30

Жизненный порыв (фр.) — термин, введенный философом Анри Бергсоном для объяснения движущей силы эволюции. — Прим. ред.

31

Термин введен философом Дэвидом Чалмерсом; подразумевается проблема объяснения того, как происходящие в мозге процессы порождают субъективные переживания. — Прим. ред.

32

БДВ — персонаж художественного фильма «Большой и добрый великан» (Стивен Спилберг, 2016). — Прим. ред.

33

Хамфри Н. Сознание: Пыльца души. — М.: Карьера Пресс, 2014.

34

Наблюдение за собственными психическими процессами. — Прим. ред.

35

Добелли Р. В капкане ментальных ловушек. Попробуй жить по-другому. — Ростов н/Д.: Феникс, 2012.

36

Идальго С. Как информация управляет миром и определяет историю Вселенной и живущих в них видов. — М.: Эксмо, 2016.

37

Флопс (от англ. FLOPs, floating point operations — операции с плавающей запятой) — единица измерения производительности компьютеров; эксафлопс — 1018 операций с плавающей запятой в секунду. — Прим. ред.

38

Вильчек Ф. Красота физики. Постигая устройство природы. — М.: Альпина нон-фикшн, 2017.

39

Бостром Н. Искусственный интеллект: Этапы. Угрозы. Стратегии. — М.: Манн, Иванов и Фербер, 2016.

40

Классическая проблема в теории алгоритмов, сформулированная в 1936 году Аланом Тьюрингом. Это первый пример задачи, результат которой невозможно вычислить с помощью алгоритма. — Прим. ред.

41

Задача, придуманная психологом Карлом Дункером и демонстрирующая феномен функциональной закрепленности — склонности человека использовать предметы в одном-единственном качестве. Дано: стол, свеча, коробка канцелярских кнопок и упаковка спичек; требуется зажечь свечу и закрепить ее на стене так, чтобы воск не капал на стол. Несмотря на то что решение задачи простое — приколоть коробку из-под кнопок к стене и поставить в неё свечу, — оно предполагает нестандартное использование предметов, и на его поиски у испытуемых обычно уходит довольно много времени. — Прим. ред.

42

Компьютерные системы, заменяющие людей-экспертов и помогающие найти решение проблемы в определенной области. — Прим. ред.

43

Следует отметить, что на время игры суперкомпьютер был отключен от интернета и пользовался только собственной базой данных, что не помешало ему выиграть у обоих противников-людей. — Прим. ред.

44

Полная карта связей в нервной системе или в мозге. — Прим. ред.

45

Фонд электронных рубежей, некоммерческая правозащитная организация. — Прим. пер.

46

Корпорация по управлению доменными именами и IP-адресами. — Прим. пер.

47

Дайсон Э. Release 2.0: Жизнь в эпоху интернета. — М.: Бизнес и компьютер, 1998.

48

gâteau — сладкий пирог; торт; пирожное (фр.).

gato — кошка (исп.).

49

Кофе без кофеина. — Прим. ред.

50

Паундстоун У. Достаточно ли вы умны, чтобы работать в Google? — М.: Карьера Пресс, 2014.

51

Идея компьютерного вируса впервые появилась в рассказе Грегори Бенфорда «Человек со шрамом» (The Scarred Man); на русском языке рассказ не издавался. — Прим. ред.

52

Рассел С., Норвиг П. Искусственный интеллект: Современный подход. — М.: Вильямс, 2014.

53

Согласно философу и теологу Пьеру Тейяру де Шардену, это состояние максимальной сложности, организованности и сознания, к которому стремится Вселенная. — Прим. ред.

54

Кейн Г. Суперсимметрия: От бозона Хиггса к новой физике. — М.: Бином, 2015.

55

Атран С. Разговаривая с врагом: Религиозный экстремизм, священные ценности и что значит быть человеком. — М.: Карьера Пресс, 2016.

56

Ридли М. Рациональный оптимист: Как накормить 9 миллиардов, или Куда ведет нас прогресс. — М.: Эксмо, 2015.

57

Совокупность технологий, культуры, права, искусства и всех прочих творений человеческого ума как единая система. Термин введен Кевином Келли, редактором журнала Wired. — Прим. ред.

58

Косслин С. М., Миллер Дж. У. Два игрока на одном поле мозга. — М.: Эксмо, 2016.

59

«Причина существования» (фр.) — смысл жизни. — Прим. пер.

60

Соркин Э. Р. Слишком большие, чтобы рухнуть. Инсайдерская история о том, как Уолл-стрит и Вашингтон боролись, чтобы спасти финансовую систему от кризиса и от самих себя. — М.: Астрель, Corpus, 2012.

61

Внешние эффекты деятельности (положительные или отрицательные), затрагивающие интересы третьих лиц. — Прим. ред.

62

Единственная возделываемая на данной территории сельскохозяйственная культура. — Прим. ред.

63

Парейдолия — разновидность зрительных иллюзий, заключается в формировании иллюзорных образов на основе реальных объектов. Типичный пример — фигуры людей и животных, которые мы видим в облаках. — Прим. ред.

64

Селигман М. Путь к процветанию: Новое понимание счастья и благополучия. — М.: Манн, Иванов и Фербер, 2012.

65

Ощущение положения частей своего тела в пространстве. — Прим. пер.

66

Имеются в виду известные преступники Чарльз Мэнсон и Линнет Фромм, вместе совершившие несколько убийств. — Прим. ред.

67

Крупная американская сеть магазинов одежды и аксессуаров. — Прим. ред.

68

Нисбетт Р. Мозгоускорители: Как научиться эффективно мыслить, используя приемы из разных наук. — М.: Альпина Паблишер, 2017.

69

Цитата из сочинения Иеремии Бентама «Введение в основания нравственности и законодательства» (М.: РОССПЭН, 1998). — Прим. ред.

70

Рассел Б. Автобиография // Иностранная литература, 2000, № 12.

71

Вернись с победой (лат.) — Прим. ред.

72

Стайрон У. Выбор Софи. — М.: АСТ, 2010.

73

Шабри К., Саймонс Д. Невидимая горилла, или История о том, как обманчива наша интуиция. — М.: Карьера Пресс, 2011.

74

Гигеренцер Г. Понимать риски: Как выбирать правильный курс. — М.: Азбука-Аттикус, КоЛибри, 2015.

75

Простатический специфический антиген. — Прим. ред.

76

Сервис, осуществляющий поиск по научным работам, чьи полные тексты представлены в Сети. — Прим. ред.

77

Макиавеллианский интеллект — специфические интеллектуальные способности, отвечающие за функционирование индивида в коллективе (способность предвидеть реакции и поступки «соплеменников», формировать коалиции, повышать свой социальный статус и т. д.). Назван в честь итальянского политика и философа Никколо Макиавелли (1469–1527), известного своими работами по стратегии власти, для укрепления которой он допускал применение любых средств. — Прим. ред.

78

Бейтсон М. К. Возраст активной мудрости: Будущее, которое мы сочиняем. — М.: Карьера Пресс, 2013.

79

Mod — молодежная субкультура в Великобритании, чей расцвет пришелся на 1960-е годы; mad — «дурной, сумасшедший» (англ.) — Прим. пер.

80

Написать брачные обеты (англ.) — Прим. пер.

81

Органицизм — методологический принцип, в соответствии с которым те или иные социальные феномены рассматриваются по аналогии с явлениями природы. — Прим. ред.

82

Видоцентризм — ущемление интересов или прав одного биологического вида другим, основанное на убеждении в собственном превосходстве. В работах основоположников концепции, Ричарда Райдера и Питера Сингера, утверждается, что животные подвергаются такой дискриминации со стороны человеческого общества. — Прим. ред.

83

Страук Б. Тайны мозга взрослого человека: Удивительные таланты и способности человека, который достиг середины жизни. — М.: Карьера Пресс, 2013.

84

Кристакис Н. А., Фаулер Дж. Связанные одной сетью. Как на нас влияют люди, которых мы никогда не видели. — М.: Юнайтед Пресс, 2014.

85

Идеация — процесс формирования понятий и представлений. — Прим. ред.

86

Когда в 1978 году японский ученый Масахиро Мори изучал реакцию людей на все более человекоподобные искусственные сущности, то обнаружил, что, по мере увеличения сходства с человеком, кривая симпатии сперва идет вверх, но по достижении определенного уровня подобия резко обрывается вниз. Этот участок графика, где симпатия переходит в отвращение, получил название «зловещей долины». — Прим. ред.

87

Фишер Х. Формула любви: Ключ к успешным отношениям. — М.: Эксмо, 2013.

88

Рассел С., Норвиг П. Искусственный интеллект: Современный подход. — М.: Вильямс, 2016.

89

Выгода (эсперанто). — Прим. ред.

90

Когниверсум — разумность Вселенной. — Прим. ред.

91

Умвельт (Umwelt, нем. — окружение, окружающий мир) — понятие, введенное биологом, зоопсихологом и философом Якобом фон Икскюлем. Означает особый мир восприятия и действия, в котором существует и к которому адаптируется каждый биологический вид и отдельная особь в нем. — Прим. ред.

92

Мыслю, следовательно существую (лат.) — Прим. ред.

93

Термины Система 1 и Система 2 предложены психологами Китом Становичем и Ричардом Уэстом в статье «Индивидуальные различия в мышлении: последствия для дискуссии о рациональности?» (Individual Difference in Reasoning: Implications for the Rationality Debate?) для обобщенного обозначения двух полюсов человеческого мышления. Система 1 объединяет такие аспекты, как бессознательность, невербальность, шаблонность, нелогичность, ассоциативность, параллельность и др.; Система 2 объединяет сознательность, вербальность, гибкость, логичность, основанность на правилах, последовательность и др. — Прим. ред.

94

Долан П. Счастье по расчету: Как управлять своей жизнью, чтобы быть счастливым каждый день. — Альпина Паблишер, 2015.

95

Имеется в виду так называемый «стэнфордский зефирный эксперимент». Ученые предлагали детям сделать выбор: взять одну зефирку сразу или подождать 15 минут, чтобы получить две. В последующих исследованиях обнаружилось, что у детей, которым хватало терпения дождаться двойного вознаграждения, как правило, жизнь складывалась более благополучно. — Прим. ред.

96

Узелковое письмо у древних перуанцев. — Прим. пер.

97

Фонд, созданный с целью популяризации науки и нерелигиозных ценностей. — Прим. ред.

98

То есть основанной на принципах, позаимствованных из живой природы. — Прим. ред.

99

Не знаю что (фр.) — Прим. пер.

100

Басби Беркли (1895–1976) — американский хореограф и режиссер, автор и постановщик знаменитых «калейдоскопических» танцевальных номеров со множеством участников. — Прим. ред.

101

Семейство суперкомпьютеров, построенных на принципах, отличных от фоннеймановских. — Прим. пер.

102

Семантическая технология и база знаний, используемая Google. — Прим. пер.

103

Технологии, облегчающие работу с большими объемами неструктурированных данных. — Прим. ред.

104

Сознание, рассматриваемое неотрывно от чувственно-моторного опыта тела, которое взаимодействует с внешней средой и одновременно влияет на мысли и эмоции. — Прим. ред.

105

Построенный Вольфгангом фон Кемпеленом в 1769 году автомат в виде сидящего за массивным столом механического человека, якобы способного играть в шахматы. На самом деле движениями руки «турка» управлял оператор, прятавшийся в корпусе стола. — Прим. ред.

106

Протобионты — самоорганизуемые скопления липидов, из которых, предположительно, произошла клеточная жизнь. — Прим. ред.

107

Пинчон Т. Радуга тяготения. — М.: Эксмо, 2012.

108

Строка из стихотворения Т. С. Элиота «Геронтион» (1920). — Прим. ред.

109

«Let me google that for you» (часто сокращается до «LMGTFY») — интернет-мем, фраза, используемая на англоязычных форумах и в социальных сетях в качестве комментария к вопросу, ответ на который легко находится с помощью поисковой системы. — Прим. ред.

110

Китти Дженовиз была изнасилована и убита маньяком на глазах у как минимум десяти свидетелей, но все они — каждый по своей причине — не сочли нужным вмешаться или вызвать полицию. — Прим. ред.

111

Имеется в виду цикл научно-фантастических романов Фреда Саберхагена. — Прим. ред.

112

Обрист Х. У. Пути кураторства. — М.: Ад Маргинем Пресс, 2016.

113

Онлайн-сервис, который создает зацикленные видео. — Прим. пер.

114

Талер Р. Новая поведенческая экономика: Почему люди нарушают правила традиционной экономики и как на этом заработать. — М.: Эксмо, 2017.

115

Искусственный интеллект, предназначенный для создания картин и анимации. — Прим. пер.

116

«Новый ум короля. О компьютерах, мышлении и законах физики» (The Emperor's New Mind: Concerning Computers, Minds and The Laws of Physics) — книга британского физика Роджера Пенроуза, вышедшая в 1989 году. В ней Пенроуз утверждает, что человеческое сознание нельзя смоделировать с помощью обычного компьютера, поскольку оно не алгоритмично, однако его природу можно понять при помощи аппарата квантовой механики. — Прим. ред.

117

Холархия — согласно концептуальной системе американского философа Кена Уилбера, иерархия вложенных друг в друга холонов. Холон — система (или явление), которое само по себе является завершенным, но вместе с этим представляет собой часть ещё большей системы. В качестве примера естественной холархии Уилбер обычно приводит цепочку: атомы — молекулы — клетки — организм и т. д. — Прим. ред.

118

Сэмюэль Батлер (1835–1902) — английский писатель, один из классиков викторианской литературы. В отдельных его произведениях поднимается тема эволюции машин, которые вытеснят человеческую расу, приобретя более сильный жизненный инстинкт. — Прим. ред.

119

Город идей (исп.) — Прим. пер.

120

Смолин Л. Возвращение времени: От античной космогонии к космологии будущего. — М.: АСТ, Corpus, 2014.

121

Цитата из пьесы У. Шекспира «Макбет», пер. Б. Л. Пастернака. — Прим. ред.

122

Вещь мыслящая (лат.) — Прим. пер.

123

Автор имеет в виду один из двух видов фоторецепторов человеческого глаза. — Прим. пер.

124

Фрагмент из стихотворения Э. Э. Каммингса, пер. Н. В. Семонифф.

125

Речь идет о трехкольцевой концепции одаренности Джозефа Рензулли. Он описывает одаренность как взаимодействие трех групп человеческих качеств: интеллектуальные способности, превышающие средний уровень, высокая увлеченность выполняемой задачей и высокий уровень креативности. Схематически эта концепция изображается в виде трех пересекающихся колец. — Прим. ред.

126

Цитата из эссе Э. Хемингуэя «Смерть после полудня». — Прим. ред.

127

Человек чувствующий разумный. — Прим. ред.

128

Агрессивные разумные роботы, противостоящие людям в телесериале «Звездный крейсер „Галактика“». — Прим. ред.

129

Метцингер Т. Наука о мозге и миф о своем Я: Тоннель эго. — М.: АСТ, 2017.

130

Имеются в виду строки из песни «Колыбельная Международных сил» (MLF Lullaby): «У нас есть ракеты, чтобы переделать мир, / И один из пальцев на кнопке будет немецким». — Прим. ред.

131

Заключительное четверостишие в средневековой балладе. — Прим. ред.

Комментарии

1

Сет Ллойд. Программируя Вселенную. — М.: Альпина нон-фикшн, 2014).

2

Steven Pinker, The Better Angels of Our Nature (New York: Viking Penguin, 2011). [Стивен Пинкер. Добрые ангелы человеческой природы]

3

James R. Beniger, The Control Revolution: Technological and Economic Origins of the Information Society (Cambridge, MA: Harvard University Press, 1986). [Джеймс Р. Бениджер. Революция контроля: технологические и экономические истоки информационного общества]

4

Nick Bostrom, Superintelligence: Paths, Dangers, Strategies (New York: Oxford University Press, 2014). [Ник Бостром. Сверхинтеллект: Пути, угрозы, стратегии]

5

G. K. Chesterton, Heretics (New York: John Lane, 1905). [Дж. К. Честертон. Еретики]

6

I. J. Good, «Speculation Concerning the First Ultraintelligent Machine», Advances in Computers, vol. 6, 1965. [И. Дж. Гуд. Рассуждения о первой сверхразумной машине // «Достижения вычислительной техники», номер 6, 1965 г.].

7

Kevin Kelly, «The Technium», Edge, entry February 3, 2014, https://edge.org/conversation/the-technium. [Кевин Келли. Техниум]

8

Alan Turing, «On Computable Numbers, with an Application to the Entscheidungsproblem», Proc. Lond. Math. Soc. 42, series 2 (1936–7): 230–65. [Алан Тьюринг. О вычислимых числах, с применением Entscheidungsproblem]

9

Steven Pinker, comment on «The Myth of AI», Edge, entry November 14, 2014, http://edge.org/conversation/the-myth-of-ai#25987 [accessed July 21, 2015]. [Стивен Пинкер. Комментарий к «Миф об ИИ»]

10

Hannah Arendt, The Life of the Mind, vol. 1 (New York: Harcourt Brace, 1978). [Ханна Аренд. Жизнь разума]

11

Nick Bostrom, «Existential Risks», Jour. Evol. & Technol. 9, no. 1 (2002), at http://www.nickbostrom.com/existential/risks.html. [Ник Бостром. Экзистенциальный риск]

12

Doris Jonas and David Jonas, Other Senses, Other Worlds (New York: Stein & Day, 1976). [Дорис Джонас, Дейвид Джонас. Другие чувства, другие миры]

13

David Romer, «Do Firms Maximize? Evidence from Professional Football», Jour. Political Econ. 114, no. 2 (2006): 340–65. [Дэвид Ромер. Фирмы максимизируют прибыль? Данные из профессионального футбола]

14

Karen A. Frenkel, «The Wisdom of the Hive: Is the Web a Threat to Creativity and Cultural Values? One Cyber Pioneer Thinks So», Sci. Amer., February 16, 2010. [Карен Френкель. Мудрость улья: является ли Сеть угрозой творчеству и культурным ценностям? Один киберпионер думает, что да]