Об интеллекте - [9]

Не стоит возлагать вину за провал на первопроходцев этой теории. Алан Тьюринг был гением, его универсальная машина, без преувеличения, совершила революцию в мире технологий, хотя и не помогла создать искусственный интеллект.

Мой скептицизм в отношении создания искусственного интеллекта соотносится с периодом, когда я подавал документы для поступления в Массачусетсский технологический институт. Джон Сирл, один из наиболее именитых преподавателей философии Калифорнийского университета (Беркли), в свою очередь утверждал, что у компьютера разума нет и быть не может. В доказательство своих взглядов в 1980 году он предложил провести эксперимент, который назвал «Китайской комнатой». Эксперимент состоял в следующем.

Представьте комнату со щелью в стене. За столом в комнате сидит человек, который владеет исключительно английским языком. На столе перед ним лежат карандаши, большой учебник и стопка листов бумаги. Полистав учебник, испытуемый выясняет, что это написанное на английском языке руководство, подробно разъясняющее, как писать, различать и сравнивать китайские иероглифы. Заметьте, что значения иероглифов не приводятся, речь идет лишь о правилах воспроизведения символов.

Другой человек находится вне описанной комнаты. Время от времени он просовывает сквозь щель в стене записки. На них по-китайски написан рассказ и вопросы к нему. Испытуемый, не имеющий никакого представления о китайском языке, по условиям эксперимента должен взять руководство к действию и поработать над полученными записками. Он старается и пыхтит, четко выполняя инструкции из книги. Иногда в инструкциях стоит указание написать определенные символы на листике бумаги, иногда он должен переставить или убрать символы. Шаг за шагом, неуклонно следуя инструкциям, человек пишет одни иероглифы, убирает или переставляет другие, пока не выполнит задание до конца. Так создается целая страница новых символов, которые являются ответами на вопросы, заданные на китайском языке. Разумеется, сам автор страницы этого не осознает. В книге содержится указание отдать исписанный листок бумаги сквозь щель в стене. Участник эксперимента так и делает, недоумевая, в чем же суть столь странного задания.

Полученный от испытуемого лист с иероглифами дают прочитать китайцу, который отмечает, что все ответы – верны, а некоторые из них впечатляют своей глубокомысленностью. Если мы спросим у китайца, считает ли он, что ответы написал разумный человек, который понял прочитанный рассказ, он ответит утвердительно. Как вы думаете, он прав? Кто понял рассказ? Однозначно, не человек, сидящий в комнате, ведь он не знает китайского, а значит, не имеет ни малейшего представления, о чем шла речь в исходной записке. Так на какой стадии было достигнуто понимание? Ответ Сирла: ни на какой. Все, что происходило в комнате, – это бездумное листание страниц и рисование. А сейчас проведем параллель: «Китайская комната» – это аналог цифрового компьютера, руководство по написанию иероглифов есть не что иное, как «компьютерная программа», соответственно, ее авторы – «программисты». Таким образом, все старания смоделировать искусственный интеллект напрасны. Участник эксперимента, подобно компьютеру, манипулирует символами, но не может придать им какого бы то ни было смысла. Следовательно, заключил Сирл, машина, или физическая система способная выполнять определенные функции, не может стать разумной и действовать осознанно. Сирл отмечал, что он затрудняется дать определение понятию разума, однако полон уверенности, что, независимо от определения, компьютеры разумом не обладают и обладать не могут.

Выводы Сирла спровоцировали войну между философами и сторонниками проблем искусственного интеллекта. Последние выдвигали десятки контраргументов. Вот, например один из них: хотя ни одна из составляющих «Китайской комнаты» не понимала китайского, сама комната как целое понимала язык, т. е. испытуемый понимал китайский язык, сам того не осознавая. Что касается меня самого, то я вполне разделяю точку зрения Сирла и считаю, что в эксперименте под названием «Китайская комната» налицо лишь манипуляция символами, но не истинное понимание. Давайте определим, что же такое «понимание».

Чтобы понять рассказ, человеку достаточно его прочесть. С другой стороны, если я не подам виду, что понял рассказ, то вы не сможете заключить из моего поведения, владею ли я языком, на котором написан рассказ, или нет, а также усвоил ли я предложенную информацию. Чтобы выяснить это, вы можете задать вопросы. Однако заметьте, что мне придется отвечать на них сейчас, а рассказ-то я понял намного раньше, еще во время чтения. Ключевой тезис моей книги: понимание не поддается оцениванию на основе наблюдения внешних реакций. Из следующих глав вы узнаете, что понимание является внутренней матрицей, которая формируется в мозге при запоминании информации и в дальнейшем используется для построения прогнозов. Компьютер Deep Blue, испытанный в «Китайской комнате», и многочисленные компьютерные программы не способны осознавать выполняемые ими функции. А единственным способом оценки разумности машины является ее «поведение».