Технологии против человека - [57]

50 000 и выше, как мы поймем, что им можно доверять? И кто может их контролировать? Станут ли они в конце концов разумными в новом понимании? Должны ли мы встраивать в них ряд желательных этических норм, и как это возможно?

В журнале AI Magazine в статье «Вопрос ответственности» (1987) Митчелл Уолдроп писал:

Ясно одно… умные машины воплотят в себе ценности, предположения и цели, независимо от того, сознательно ли их так запрограммируют или нет. Таким образом, по мере того как компьютеры и роботы становятся все более и более умными, становится необходимым внимательно и четко думать о том, что это за встроенные ценности¹⁹³.

Эта проблема еще более актуальна сейчас, когда мы входим в экспоненциальную эпоху, потому что теперь нам надо проанализировать, какими должны быть этические рамки для всех экспоненциальных технологий, включая ИИ, геоинженерию, когнитивные вычисления и, конечно, редактирование генома человека. Это включает в себя как рамки, которые люди-изобретатели или сборщики (не)преднамеренно программируют в машинах, так и те, которым машины сами могут обучиться и развить с течением времени.

Если суперкомпьютер Watson фирмы IBM действительно умеет думать, как он будет разбираться с критериями и ценностями людей, непонятными, двоякими или используемыми по умолчанию даже для людей? Будет ли этика ИИ предварительно запрограммирована или развита и адаптирована с использованием глубинных обучающих нейронных сетей, которые стремятся имитировать методы приобретения мозгом новой информации? А если они самообучаемые, как люди смогут проверять, контролировать и корректировать их? Как эти системы будут удовлетворять множеству культурных изменений в этике людей?

Более теоретические вопросы об ИИ и глубинном обучении, такие как техническая осуществимость управления такими новыми интеллектами, на данный момент не рассматриваются автором в этой книге, но в любом случае очевидно, что перед нами стоит огромная задача. Действительно, в самом ближайшем будущем роль специалиста по цифровой этике вполне может стать одной из самых востребованных профессий наряду со специалистом по анализу и обработке данных. Может быть, это хорошая работа и для ваших детей?..

И никакой религии?..

Нам также очень важно помнить, что этика и религия – это не одно и то же. В вышедшей в 2011 году крайне важной книге «Больше чем религия» Далай-лама заметил, что у всех есть этика, и только у некоторых людей есть религия, а затем призвал установить глобальную светскую этику, чтобы управлять нашими самыми элементарными решениями, например, касающимися автономных систем вооружения, способных убивать без контроля человека¹⁹⁴. Этика и религия – существенно разные понятия, и мы должны помнить об этом различии при обсуждении злободневных тем, таких как редактирование генома человека или небиологические дополнения людей. Я предлагаю по возможности избегать вовлечения религии в эти споры, во-первых, потому что религиозные взгляды не настолько единообразны и повсеместны, как самые элементарные этические нормы и ценности, и во-вторых, потому что в них порой отражается слишком много пережитков прошлого.

Артур Чарльз Кларк обратил особое внимание на это критическое различие в своем интервью 1999 года:

Все считают, что религия и мораль связаны между собой. Однако основа морали очень проста и вовсе не требует никакой религиозности: не поступай с другими так, как не хочешь, чтобы поступали с тобой¹⁹⁹.

Создание Глобального совета по вопросам цифровой этики. Какое определение мы дадим этике, подходящее для экспоненциальной эпохи?

Я хотел бы затронуть две основные проблемы. Во-первых, попытаться определить, какой глобально приемлемый ряд этических норм может подойти для экспоненциальной цифровой эпохи. И, во-вторых, попробовать понять, что нам нужно сделать, чтобы убедиться, что благополучие людей и этические проблемы в действительности остаются на повестке дня в мировом масштабе и не поглощены машинным мышлением.

Нам необходимо определить ряд реалистичных этических норм, которые подходят для цифрового века: достаточно открытые, чтобы не тормозить прогресс или препятствовать инновациям, но достаточно сильные, чтобы защитить нашу человечность. Нормы, которые станут компасом, а не картой для будущего, в котором более мощные технологии сначала расширят свои возможности, затем дополнят их, а затем станут еще сильнее угрожать человечеству.

С этой целью я предлагаю создать Глобальный совет по вопросам цифровой этики, которому будет поручено определить, какими должны быть основные правила и основополагающие и универсальные ценности для совершенно нового, полностью цифрового общества.

По большому счету, в настоящее время мы согласны с тем, что ни у каких государств-изгоев не должно быть ядерного потенциала, даже если они могут себе это позволить. Это по-настоящему сложная ситуация, сопряженная с ложью и обманом, – и она постоянно меняется, но необходимое понимание остается, и оно усиливается, потому что альтернатива сопряжена с немыслимым риском.

Точно так же нам нужно согласовать ограничения и независимый контроль масштабов, развития искусственного интеллекта, редактирования генома и других экспоненциальных технологий будущего.