Воспитание машин. Новая история разума - [28]
Дискуссия разгорелась в основном вокруг термина «интеллект», который лежит на перекрестье многих наук – философии, психологии, нейрофизиологии и, естественно, машинного интеллекта. Первоначальная идея разработчиков последнего состояла в дополнении исторически сложившихся подходов к интеллекту новыми идеями из недавно возникших компьютерных наук. Норберт Винер в конце 1940-х предложил использовать кибернетику как науку об общих принципах управления и самоорганизации в живых и технических системах. Участники Дартмутского семинара 1956 года, на котором, собственно, и родился термин «искусственный интеллект», попытались поднять эту планку еще выше – создать искусственный разум. Общим в обоих подходах было стремление строить действующие модели, следуя принципу «понять – значит воссоздать».
Пионеры ИИ, как выяснилось, явно переоценили возможности тогдашней науки по моделированию «алгоритмов разума». У них не хватало ни теоретических представлений о том, как эти алгоритмы могут быть устроены, ни эмпирических знаний о реальных механизмах работы мозга. Это привело, как мы помним, к краху завышенных ожиданий, снижению первоначальной планки и переориентации исследований на слабый ИИ. Однако с тех пор ситуация качественно изменилась и в области алгоритмов, и в науках о мозге. Так что, возможно, пришла пора вновь переосмыслить исследовательскую программу когнитивных наук и ИИ-сообщества.
В науках о мозге прогресс был связан с появлением новых экспериментальных методик, позволивших заглянуть внутрь живого мозга: функциональной магнитно-резонансной томографии, оптико-генетических методов и многих других. Накоплен огромный массив эмпирических данных о том, что и когда происходит в мозге. При этом явно ощущается дефицит идей, обобщающих эти данные на уровне алгоритмов работы мозга и его вычислительной архитектуры[76]. По крайней мере, реалистичной действующей модели психики до сих пор так и не создано, несмотря на многолетние исследования в этом направлении[77]. Это и значит, что у нас до сих пор нет целостного понимания того, как мозг работает.
В области «алгоритмов разума» мы наблюдаем начавшуюся в 2010-х годах революцию глубокого обучения, в ходе которой впервые удалось с помощью универсального метода градиентного обучения искусственных нейросетей решать многие классы когнитивных задач не хуже человека. В ИИ-сообществе по этому поводу в последние годы наблюдается некоторая эйфория и возрождается осторожный оптимизм по поводу реальности разработки сильного ИИ. Многие лидеры революции глубокого обучения ставят перед собой эту цель (DeepMind, OpenAI и другие). При этом, по крайней мере на словах, признается, что какие-то идеи они надеются почерпнуть из наук о мозге[78]. Однако по сложившейся традиции накопленный массив знаний о мозге используется в прикладном ИИ в минимальной степени.
Таким образом, наукам о мозге не хватает объединяющей накопленный эмпирический материал модели человеческой психики, а разработчикам ИИ недостает идей о том, как может быть устроена искусственная психика. Налицо предпосылки для налаживания их более тесного взаимодействия[79].
Существующие глубокие нейросети можно рассматривать как подсистемы искусственной психики, которые можно обучить решению множества самых разных задач, но только по одной, а не всех сразу. Если обученную нейросеть начать обучать новой задаче, она будет забывать старые навыки, поскольку разные задачи решаются разными наборами одних и тех же настроечных параметров нейросети. Это известная проблема «катастрофического забывания» в нейросетях, отличающая слабый интеллект от сильного. Настоящий интеллект должен уметь накапливать знания и приобретать новые навыки, не забывая старые. А для этого нужно объединить множество нейросетей в единую искусственную психику со своей архитектурой, определяющей роли и взаимодействие своих подсистем.
Наделение интеллекта психикой связано еще и с тем, что, как выяснилось в ходе упомянутой выше дискуссии, большинство ведущих специалистов в области ИИ согласны с мнением, что родовым свойством интеллекта является способность к самостоятельному решению как можно более широкого круга задач. Сформулировать идею можно по-разному. Интеллект – это[80]:
● способность порождать новые алгоритмы для сколь угодно широкого круга задач;
● умение добиваться своих целей в постоянно меняющихся условиях внешней среды;
● способность решать неограниченный круг задач при ограниченных ресурсах;
● способность к целенаправленному адаптивному поведению, и т. д.
Все эти определения тесно связаны между собой, подчеркивая разные стороны одного и того же свойства интеллекта: его субъектность, самостоятельность и креативность в рамках так называемого
