Совместимость. Как контролировать искусственный интеллект - [14]
К 2019 г. созданы экспериментальные прототипы маленького квантового процессора, оперирующего несколькими десятками кубитов, но пока нет интересных вычислительных задач, в которых квантовый процессор оказывается быстрее классического компьютера. Главной проблемой является декогерентность — такие процессы, как тепловой шум, разрушающие когерентность многокубитной волновой функции. Специалисты по квантовым вычислениям надеются решить проблему декогерентности путем создания цепи исправления ошибок, чтобы любая ошибка, возникающая в ходе вычислений, быстро обнаруживалась и исправлялась с использованием своего рода процесса голосования. К сожалению, системы исправления ошибок требуют намного больше кубитов для выполнения той же работы; если квантовая машина с несколькими сотнями идеальных кубитов была бы очень мощной по сравнению с существующими классическими компьютерами, нам, вероятно, потребуется несколько миллионов кубитов, исправляющих ошибки, чтобы практически осуществить эти вычисления. Переход от нескольких десятков к нескольким миллионам кубитов займет несколько лет. Если нам в конце концов удастся решить такую задачу, это полностью изменит наши возможности в использовании вычислений по методу «грубой силы»[45]. Вместо того чтобы ждать настоящих концептуальных прорывов в области ИИ, мы, возможно, сумеем использовать мощность квантовых вычислений, чтобы обойти ряд барьеров, с которыми сталкиваются нынешние «неинтеллектуальные» алгоритмы.
Даже в 1950-х гг. компьютер описывался в популярной печати как «супермозг», который мыслит «быстрее Эйнштейна». Можем ли мы теперь наконец сказать, что компьютеры обладают огромными возможностями человеческого мозга? Нет. Обращать внимание исключительно на вычислительную мощность — значит очень сильно заблуждаться. Одна лишь скорость не подарит нам ИИ. Выполнение неверного алгоритма на более быстром компьютере не делает алгоритм лучше; это всего лишь означает, что вы быстрее получаете неправильный ответ. (Причем чем больше данных, тем больше возможностей для неправильных ответов!) Главное следствие ускорения машин — это сокращение времени эксперимента, что позволяет исследованиям быстрее идти вперед. Создание ИИ задерживает не аппаратная, а программная часть. Мы еще не знаем, как делать машину по-настоящему интеллектуальной — даже если бы она была размером со Вселенную.
Предположим, однако, что нам удалось создать правильное программное обеспечение для ИИ. Налагает ли физика какие-либо ограничения на возможную мощность компьютера? Помешают ли нам эти ограничения получить достаточную вычислительную мощность, чтобы создать настоящий ИИ? Как представляется, ответы на эти вопросы: да, пределы существуют, и нет, отсутствует даже тень вероятности, что эти пределы не позволят нам создать настоящий ИИ. Физик МТИ Сет Ллойд оценил ограничения компьютера размером с ноутбук, исходя из квантовой теории и энтропии[46]. Результаты заставили бы даже Карла Сагана удивленно поднять брови: 10>51 операций в секунду и 10>30 байт памяти, или приблизительно в миллиард триллионов триллионов раз выше скорость и в 4 трлн раз больше память, чем у Summit — компьютера, который, как было указано, превосходит мощностью человеческий мозг. Таким образом, заявив, что ум человека способен определить верхнюю границу физически достижимой вычислительной мощности в нашей Вселенной[47], нужно, по крайней мере, пояснить эту мысль.
Помимо ограничений, налагаемых физическими законами, существуют пределы возможностей компьютеров, о которых можно узнать из работ специалистов по компьютерам. Сам Тьюринг доказал, что некоторые задачи не решаемы никаким компьютером: задача хорошо поставлена, у нее есть решение, но невозможен алгоритм, который всегда находил бы ответ. Он привел пример так называемой проблемы остановки: может ли алгоритм решить, что данная программа имеет «бесконечный цикл», который не позволит ей когда-либо закончиться?[48]
Предложенное Тьюрингом доказательство того, что никакой алгоритм не может решить проблему остановки[49], невероятно важно для основ математики, но, как представляется, никак не связано с вопросом о том, могут ли компьютеры быть интеллектуальными. Одна из причин этого утверждения заключается в том, что то же базовое ограничение, судя по всему, применимо и к мозгу человека. Предложив человеческому мозгу создать точную модель себя, моделирующего себя, моделирующего себя и т. д., вы загоняете себя в тупик. Лично меня никогда не беспокоило то, что я на это не способен.
Таким образом, сосредоточение на решаемых задачах вроде бы не налагает никаких ограничений на ИИ. Оказывается, однако, что решаемая — не значит простая. Специалисты в области компьютерных наук много размышляют о сложности задач, то есть о том, какой объем вычислений необходим, чтобы решить задачу самым эффективным методом. Вот простая задача: найдите в списке из 1000 чисел наибольшее. Если на проверку любого числа требуется одна секунда, то решение этой задачи очевидным методом — проверять каждое число по очереди, запоминая наибольшее, — потребует 1000 секунд. Возможен ли более быстрый метод? Нет, потому что, если метод
