Что мы думаем о машинах, которые думают - [3]

Шрифт
Интервал

Мыслить — не значит подчинять

Стивен Пинкер
профессор психологии гарвардского университета; автор книги «чувство стиля: руководство для умных писателей в XXI веке» (the sense of style: the thinking person’s guide to writing in the twenty-first century)

По меткому выражению Томаса Гоббса, рассуждение есть не что иное, как исчисление, и это одна из величайших идей во всей истории человечества. Представление о том, что разумность может достигаться в результате физического процесса вычисления, было высказано в XX веке в работах Алана Тьюринга (который утверждал, что простейшие машины могут выполнять любые вычислимые функции) и реализовано в моделях Дональда Хебба, Уоррена Мак-Каллока и Уолтера Питтса и их последователей, продемонстрировавших, что сети упрощенных нейронов добиваются сопоставимых с человеческими результатов. Познавательные способности мозга можно описать количественно. Грубо говоря (и пусть нас за это критикуют), убеждения — вид информации, мышление — вид вычисления, а мотивация — вид обратной связи и контроля.

Это концепция великолепна, и вот почему. Во-первых, она дополняет естественнонаучное понимание Вселенной, изгоняя из машины оккультистских духов, призраков и душу. Как Дарвин дал возможность вдумчивому наблюдателю за миром природы обходиться без креационизма, так Тьюринг и другие позволили наблюдающему за миром мышления избавиться от спиритуализма.

Во-вторых, вычислительная теория разума открывает двери для искусственного интеллекта, то есть для машин, которые мыслят. Рукотворное вычислительное устройство может, в принципе, заменить человеческий разум и превзойти его в силе. Из этого вовсе не следует, что такое непременно произойдет на практике, поскольку в обозримой перспективе вряд ли возникнет надежная технологическая база и экономическая потребность для того, чтобы осуществить нечто подобное. Как изобретение автомобиля не было попыткой создать точную копию лошади, так и разработка окупающихся систем искусственного интеллекта не означает создание чего-то подобного Homo sapiens. Устройству, которое создано, чтобы управлять автомобилем или прогнозировать развитие эпидемии, не обязательно уметь привлекать полового партнера или избегать несвежего мяса.

Тем не менее предпринимаемые в последнее время крошечные шаги к более разумным машинам вновь пробудили у многих страх того, что знание нас погубит. Мое личное мнение таково: боязнь того, что машины могут вдруг обезуметь, есть не что иное, как напрасная трата эмоциональных сил — такой сценарий ближе к «проблеме 2000 года», чем к Манхэттенскому проекту.

Прежде всего, у нас достаточно времени для того, чтобы все предусмотреть. От искусственного интеллекта, сравнимого с человеческим, нас все еще отделяют от 15 до 25 лет, а многие из недавних широко разрекламированных прорывов в этой области на деле оказались довольно поверхностными. В прошлом «эксперты» со смехом отвергали возможность быстрого технического прогресса — а он взял да и случился. «Эксперты» также вещали (местами даже с паникой в голосе) о неминуемых научно-технических достижениях, которые так и не произошли: об автомобилях с атомными двигателями, о подводных городах, о колониях на Марсе, о «проектируемых» детях и о хранилищах с зомби, обеспечивающими людей запасными органами.

Кроме того, странно было бы думать, что робототехники не станут заботиться о мерах безопасности, улучшая системы искусственного интеллекта. Для этого не понадобятся занудные «законы робототехники» или какая-нибудь новая моральная философия, достаточно будет здравого смысла — того же, которым люди руководствовались, разрабатывая кухонные комбайны, циркулярные пилы, обогреватели и автомобили. Бояться того, что системы ИИ станут чрезвычайно искусными в выполнении своей конкретной задачи (например, в распределении энергии) и в результате станут самовольно пренебрегать другими задачами (например, безопасностью людей), — значит предполагать, что мы будем создавать машины быстрее, чем разрабатывать соответствующие меры безопасности. В действительности же прогресс в области искусственного интеллекта, несмотря на всю шумиху вокруг него, довольно скромен, и пройдет еще много времени, прежде чем будут достигнуты сколько-нибудь значительные успехи, причем на каждом из предстоящих этапов работы люди будут держать отвертки наготове.

Станет ли машина, обладающая искусственным интеллектом, намеренно отключать системы безопасности? А зачем это ей? Антиутопии об ИИ проецируют мещанскую психологию альфа-самца на представление об интеллекте. Авторы таких книг предполагают, что нечеловечески умные роботы однажды решат свергнуть своих хозяев или захватить мир. Но разумность — это способность использовать новые оригинальные методы для достижения цели, сами же цели лежат за пределами собственно разума. Быть умным и желать чего-либо — не одно и то же. Да, история знает немало деспотов с манией величия и серийных убийц-психопатов, но они появились на свет в результате естественного отбора, сформировавшего тестостерон-сенситивные нервные цепи у отдельного вида приматов, так что стремление доминировать — вовсе не обязательный признак разумных систем. Что характерно, многие из известных технопророков даже не задумываются о том, что искусственный интеллект может естественным образом развиваться по женскому типу, то есть будет вполне в состоянии справляться с решением своих задач, не испытывая желания истреблять невиновных или властвовать над цивилизацией.


Еще от автора Коллектив Авторов
Диетология

Третье издание руководства (предыдущие вышли в 2001, 2006 гг.) переработано и дополнено. В книге приведены основополагающие принципы современной клинической диетологии в сочетании с изложением клинических особенностей течения заболеваний и патологических процессов. В основу книги положен собственный опыт авторского коллектива, а также последние достижения отечественной и зарубежной диетологии. Содержание издания объединяет научные аспекты питания больного человека и практические рекомендации по использованию диетотерапии в конкретных ситуациях организации лечебного питания не только в стационаре, но и в амбулаторных условиях.Для диетологов, гастроэнтерологов, терапевтов и студентов старших курсов медицинских вузов.


Психология человека от рождения до смерти

Этот учебник дает полное представление о современных знаниях в области психологии развития человека. Книга разделена на восемь частей и описывает особенности психологии разных возрастных периодов по следующим векторам: когнитивные особенности, аффективная сфера, мотивационная сфера, поведенческие особенности, особенности «Я-концепции». Особое внимание в книге уделено вопросам возрастной периодизации, детской и подростковой агрессии.Состав авторского коллектива учебника уникален. В работе над ним принимали участие девять докторов и пять кандидатов психологических наук.


Семейное право: Шпаргалка

В шпаргалке в краткой и удобной форме приведены ответы на все основные вопросы, предусмотренные государственным образовательным стандартом и учебной программой по дисциплине «Семейное право».Рекомендуется всем изучающим и сдающим дисциплину «Семейное право».


Налоговое право: Шпаргалка

В шпаргалке в краткой и удобной форме приведены ответы на все основные вопросы, предусмотренные государственным образовательным стандартом и учебной программой по дисциплине «Налоговое право».Книга позволит быстро получить основные знания по предмету, повторить пройденный материал, а также качественно подготовиться и успешно сдать зачет и экзамен.Рекомендуется всем изучающим и сдающим дисциплину «Налоговое право» в высших и средних учебных заведениях.


Трудовое право: Шпаргалка

В шпаргалке в краткой и удобной форме приведены ответы на все основные вопросы, предусмотренные государственным образовательным стандартом и учебной программой по дисциплине «Трудовое право».Книга позволит быстро получить основные знания по предмету, повторить пройденный материал, а также качественно подготовиться и успешно сдать зачет и экзамен.Рекомендуется всем изучающим и сдающим дисциплину «Трудовое право».


Международные экономические отношения: Шпаргалка

В шпаргалке в краткой и удобной форме приведены ответы на все основные вопросы, предусмотренные государственным образовательным стандартом и учебной программой по дисциплине «Международные экономические отношения».Книга позволит быстро получить основные знания по предмету повторить пройденный материал, а также качественно подготовиться и успешно сдать зачет и экзамен.Рекомендуется всем изучающим и сдающим дисциплину «Международные экономические отношения» в высших и средних учебных заведениях.


Рекомендуем почитать
Страх физики. Сферический конь в вакууме

Легендарная книга Лоуренса Краусса переведена на 12 языков мира и написана для людей, мало или совсем не знакомых с физикой, чтобы они смогли победить свой страх перед этой наукой. «Страх физики» — живой, непосредственный, непочтительный и увлекательный рассказ обо всем, от кипения воды до основ существования Вселенной. Книга наполнена забавными историями и наглядными примерами, позволяющими разобраться в самых сложных хитросплетениях современных научных теорий.


Одиноки ли мы во Вселенной? Ведущие ученые мира о поисках инопланетной жизни

Если наша планета не уникальна, то вероятность повсеместного существования разумной жизни огромна. Более того, за всю историю человечества у инопланетян было достаточно времени, чтобы дать о себе знать. Так где же они? Какие они? И если мы найдем их, то чем это обернется? Ответы на эти вопросы ищут ученые самых разных профессий – астрономы, физики, космологи, биологи, антропологи, исследуя все аспекты проблемы. Это и поиск планет и спутников, на которых вероятна жизнь, и возможное устройство чужого сознания, и истории с похищениями инопланетянами, и изображение «чужих» в научной фантастике и кино.


Золотая Орда. Монголы на Руси. 1223–1502

Книга немецкого историка, востоковеда, тюрколога, специалиста по истории монголов Бертольда Шпулера посвящена истории и культуре Золотой Орды. Опираясь на широкий круг источников и литературы, автор исследует широкий спектр вопросов: помимо политической истории он рассматривает религиозные отношения, государственный строй, право, военное дело, экономику, искусство, питание и одежду.


Великая разруха Московского государства, 1598–1612 гг.

В русской истории 14 лет, прошедших с 1598 по 1612 год, называют «разрухою» или «Смутным временем». «Смятения» Русской земли, или «Московская трагедия», как писали о ней иностранцы, началась с прекращением династии Рюриковичей, т. е. после кончины Царя Фёдора Ивановича, и кончилась, когда земские чины, собравшиеся в Москве в начале 1613 г., избрали на престол в Цари Михаила Фёдоровича, родоначальника новой династии Дома Романовых.


Камень, ножницы, теорема. Фон Нейман. Теория игр.

Джон фон Нейман был одним из самых выдающихся математиков нашего времени. Он создал архитектуру современных компьютеров и теорию игр — область математической науки, спектр применения которой варьируется от политики до экономики и биологии, а также провел аксиоматизацию квантовой механики. Многие современники считали его самым блестящим ученым XX века.


Получение энергии. Лиза Мейтнер. Расщепление ядра

Женщина, еврейка и ученый — непростая комбинация для бурного XX века. Австрийка по происхождению, Лиза Мейтнер всю жизнь встречала снисходительность и даже презрение со стороны коллег-мужчин и страдала от преследований нацистов. Ее сотрудничество с немецким химиком Отто Ганом продолжалось более трех десятилетий и увенчалось открытием нового элемента — протактиния — и доказательством возможности расщепления ядра. Однако, несмотря на этот вклад, Мейтнер было отказано в Нобелевской премии. Она всегда отстаивала необходимость мирного использования ядерной энергии, в изучении которой сыграла столь заметную роль.