Что мы думаем о машинах, которые думают - [25]

Принятие решений и мышление — не одно и то же, нам не следует путать эти два понятия. Когда мы развертываем системы принятия решений по вопросам национальной безопасности, здравоохранения и финансов — а мы это делаем, — чрезвычайно высока оказывается опасность такой путаницы. Чтобы защититься от нее, нужно сознавать, что мы генетически запрограммированы действовать в режиме доверия и приписывания разумной субъектности при определенных видах взаимодействий как с людьми, так и с машинами. Но иногда механизм, который ходит вразвалку и крякает, — это просто механизм, а никакая не утка.

Машина — материальная вещь

Эманьюэл Дерман

Преподаватель финансового инжиниринга в Колумбийском университете; старший советник в KKR Prisma; автор книг «Модели. Работают. Неправильно» (Models. Behaving. Badly) и «Карьера финансового аналитика: от физики к финансам» (My Life as a Quant: Reflections on Physics and Finance) [25]

Машина — это небольшая часть физического мира, которая после выполненных человеком или животным размышлений была упорядочена так, чтобы при установлении некоторых начальных условий законы природы обеспечивали развитие этой небольшой части материального мира определенным образом, полезным для людей или животных.

Машина — материальная вещь, качества которой задаются с позиции разума. Есть разумная точка зрения, и есть материальная точка зрения.

Стюарт Хэмпшир в своей работе «Спиноза: Введение в его философскую мысль» (Spinoza: An Introduction to His Philosophical Thought) утверждал, что, согласно Спинозе, вы должны выбрать: обратиться к разуму для объяснения разумного или к материи для объяснения материального, но вы не можете обращаться к разуму, чтобы объяснять материальное, и наоборот. Чтобы иллюстрировать это положение, давайте предположим, что вы смутились и покраснели. Вы запросто можете сказать: «Я покраснел, потому что смутился». А вот строгий последователь Спинозы, если верить Хэмпширу, не станет утверждать, что причиной покраснения щек было смущение, потому что оно является характеристикой разума, в то время как румянец — характеристика материи. Нельзя допускать пересечения причинно-следственных цепочек, это небрежность мышления. Смущение и румянец комплементарны, но не каузальны.

Таким образом, человек не должен перескакивать с одной формы умопостроений на другую. Мы должны объяснять физическое физикой, а психологическое — психологией. Конечно, очень сложно отринуть представление о психических причинах физических состояний или о материальных причинах состояний ума.

Мне нравится такое представление о мире, и я описываю психическое поведение в психических терминах (любовные муки сделали меня угрюмым), а телесное — в телесных (лекарства испортили мой обмен веществ). Так что, поскольку мне известно, что поведение машины имеет материальное обоснование, я утверждаю, что она не может думать.

Я понимаю, что мне придется изменить свое мнение, если кто-то действительно покончит с комплементарным представлением о разуме и материи и убедительно продемонстрирует, что материя первична по отношению к разуму или что разум — причина материи. Пока, однако, это лишь вопрос веры.

Покуда такой день не настанет — а я не вижу никаких признаков его приближения, — я буду считать, что машины неспособны думать.

Я могу ошибаться

Фримен Дайсон

Физик, Институт перспективных исследований; автор книги «Мечты о Земле и о небе» (Dreams of Earth and Sky) [26]

Я не думаю, что мыслящие машины уже существуют или что их появление возможно в обозримом будущем. Если же я ошибаюсь, а такое случается часто, любые мои мысли по данному вопросу, не имеют значения.

А если я прав, то не имеет значения сам вопрос.

Почему нельзя вычислить бытие и счастье

Дэвид Гелернтер

Специалист по теории вычислительных систем, Йельский университет; научный руководитель Mirror Worlds Technologies; автор книги «Америка-Lite: Как имперская наука демонтировала нашу культуру (и ознаменовала начало Обамократии)» (America-Lite: How Imperial Academia Dismantled our Culture (and Ushered in the Obamacrats))

Считающаяся ныне старомодной идея о мыслящих машинах демонстрирует глубокое, но вполне естественное заблуждение о разуме и программном обеспечении. Компьютеры никогда не будут мыслить. Чтобы понять почему, давайте начнем с картошки фри — french fries (к Франции она не имеет никакого отношения). Я предполагаю, что рассматриваемые нами машины — это компьютеры, но вариант доказательства подходит для любой техники.

Ни «french fries», ни «french fried» не являются вычислимыми — ни один компьютер никогда не сможет выдать в качестве результата фразу «french fries» или состояние «french fried». «French fried» невычислимо, потому что это физическое состояние особого объекта, но компьютеры продуцируют только информацию или коды для информации, а не физические объекты и не их преобразования. Счастье также является физическим состоянием конкретного предмета, а именно человека. Счастье не может существовать, если только вы не возьмете человека и не поместите его в это состояние. Компьютеры не способны проделать такое.