Наука и жизнь, 2000 № 02 - [14]

СМОЖЕМ ЛИ МЫ СОХРАНИТЬ КОНТРОЛЬ НАД МАШИНАМИ?

Кто-то может сказать: даже если машины превзойдут нас по уровню интеллекта, «мы» все равно будем осуществлять контроль над ними. До тех пор, пока «мы» можем включать и выключать их по нашему желанию, — все будет в порядке. Я намеренно выделил слово «мы», поскольку не плохо бы выяснить, кто имеется в виду. Если понятие «мы» включает именно вас или, по крайней мере, тех, кому вы доверяете, все обстоит нормально. Но представьте себе, что это некая группа людей, которые используют машины для личной выгоды или для уничтожения других людей? Как вам это понравится? Представьте и такую ситуацию: есть лишь несколько человек, которые могут управлять некой очень умной, мощной и опасной машиной. И вдруг они умирают, не оставив никаких инструкций. С их смертью человечество теряет контроль над машиной, и она начинает действовать самостоятельно.

Возможны и другие ситуации, когда человечество лишится своих контрольных позиций. Например, машина сама решит, что пора поменяться местами. С какой стати более умной машине во всем подчиняться человеку? Много лет назад над этим вопросом размышлял фантаст Айзек Азимов и даже вывел «Три закона робототехники» — правила, которые, будучи внесенными в программу роботов, позволили бы человеку сохранять контроль над ними. Но мы должны четко понимать, что законы Азимова — чистая фантастика, они действуют в выдуманном мире. В реальном мире роботы им не подчиняются.

Уже сегодня люди, часто того не замечая, очень зависимы от машин. Мы настолько привыкли доверять им, что потеряли всякую бдительность. Представим себе машину (компьютер), которая следит за заключением сделок на большой финансовой бирже, решая покупать или продавать те или иные акции и товары. Допустим, она обучилась на собственном опыте, как лучше поступать в различных ситуациях, с тем чтобы получать максимальную прибыль. И вот машина решает, например, что не нужно больше закупать бразильский кофе, поскольку кенийский стал гораздо более прибыльным. Решение компьютера выполняется немедленно и влечет за собой огромные перемены на рынке. Машина тем самым вершит судьбы тысяч людей в Бразилии и Кении! Причем правильность ее решения никто не станет проверять — на это ушло бы слишком много времени.

С каждым годом мы зависим от машин все больше и больше. Мы передаем им нашу информацию, а также право давать нам советы и принимать решения. Тем самым мы автоматически наделяем их все большей властью над нами. Сегодня значительная часть машин связана в единую сеть, которая позволяет им обмениваться информацией друг с другом. Никто не в состоянии контролировать эту сеть целиком, это уже совершенно особый организм, который слишком сложен для нашего понимания.

МАШИНЫ И СОЗНАНИЕ

Есть ли у человеческого мозга возможность сохранить лидерство, или полная победа машин — всего лишь вопрос времени?

В фантастической пьесе Карела Чапека «R.U.R.» (где, кстати, впервые упоминается слово «робот» в современном значении) роботы, захватившие весь мир, внезапно понимают: они не знают, что им дальше делать с собой. Им нужен человек, чтобы дать им смысл к существованию. Чапек тем самым затронул очень важный вопрос: способны ли машины сознавать себя (есть ли у них сознание), и имеет ли это какое-либо значение?

Сознание — то качество человеческого мозга, которое, судя по тому, что нам известно сегодня, просто не может быть воспроизведено в машинной версии. Поэтому для тех, кто верит в вечное превосходство человека над машинами, сознание — один из основных аргументов: «Как бы ни были могущественны машины, у них никогда не будет человеческого сознания, поэтому они никогда не смогут делать все то, на что способен человек».

Трудно определить, что такое человеческое сознание. Мы знаем только, что оно есть. Мы знаем, что мы, люди, обладаем сознанием, но мы никогда не сможем точно объяснить, что это такое. Поскольку сознание представляет собой нечто, чего мы еще не можем понять до конца и, следовательно, не можем воспроизвести в искусственном интеллекте. Но, возможно, это дело будущего. Есть, например, мнение, что работу мозга можно понять, только изучив его на квантово-механическом уровне.

Иногда, правда, говорят еще и о неком «магическом компоненте» человеческого мозга, который вообще не поддается научному объяснению. Без этого компонента машинный мозг никогда не сможет делать все то, что делает человеческий, и, следовательно, никогда не сможет его превзойти. Однако я не считаю такой аргумент серьезным. Разговоры о чем-то магическом, чего мы никогда не сможем понять, — это просто способ избежать спора.

Мне также не кажется, что человеческое сознание может оказаться препятствием для машинного интеллекта.

С одной стороны, у нас нет никаких причин считать, что машины не могут обладать сознанием, что оно свойственно только человеку. Разумные машины могут обладать своим собственным, машинным, сознанием. Мы, люди, способны смотреть на машину только со стороны. Только в том случае, если б у нас были машинные мозги, мы могли бы сказать, обладают ли машины таким же сознанием, что и мы.