Мегатех. Технологии и общество 2050 года в прогнозах ученых и писателей - [62]

Но все же, если вы считаете, что прогнозы экспертов являются надежным руководством к дальнейшим действиям, подумайте еще раз. Существуют много поразительно неверных технологических прогнозов великих экспертов. Например, в 2004 году Гейтс предсказал: «Через два года проблема спама будет решена». Маск также высказывал предположение: «Шанс, что мы не живем в компьютерном симуляторе — один на миллиард». То есть вы не реальны, вы читаете все это в Матрице. Буквально.

Реальность более банальна. Нынешние и предполагаемые умные технологии обладают интеллектом счетной доски, абака, то есть нулевым. Беда всегда является продуктом человеческой глупости или злой воли. 24 марта 2016 года Microsoft представила в Twitter Тая — говорящего робота с искусственным интеллектом. Всего через 16 часов компании пришлось удалить его. В процессе общения с людьми Тай должен был становиться все умнее и умнее. Вместо этого он быстро превратился в злого болтуна, обожающего Гитлера, отрицающего холокост, пропагандирующего инцест и провозглашающего, что «теракт 11 сентября 2001 года организовал Буш». Причина? Он функционировал как обычное кухонное полотенце, впитывающее любые отправленные ему злобные и неприятные сообщения. Microsoft пришлось извиняться.

Таково состояние искусственного интеллекта сегодня и в обозримом будущем. Компьютерам по-прежнему не удается найти стоящие рядом с ними принтеры. Тем не менее тот факт, что совершенный искусственный интеллект пока остается лишь объектом из научной фантастики, не является поводом для самоуспокоенности. Напротив, после стольких сбивающих с толку безответственных домыслов о разнообразных и самых причудливых рисках, связанных со сверхразумными машинами, пришло время включить свет, перестать тревожиться по поводу научно-фантастических сценариев и сосредоточиться на реальных и серьезных задачах, чтобы избежать болезненных и дорогостоящих ошибок при разработке и использовании «умных» технологий.

Расширяя границы возможного

Чтобы прояснить некоторые проблемы, необходимо понять один фундаментальный момент: искусственный интеллект успешен во многом из-за того, что мы строим среду, в которой умные технологии чувствуют себя как дома, а мы все больше напоминаем аквалангистов. Это мир адаптируется к ИИ, а не наоборот. Посмотрим, что это значит.

В промышленной робототехнике трехмерное пространство, задающее границы, в которых робот может успешно работать, определяется как оболочка последнего. Мы не строим дроидов вроде C‐3PO из «Звездных войн», которые бы мыли посуду в раковине точно так же, как это делаем мы. Мы подстраиваем среду вокруг простых роботов, чтобы она соответствовала их ограниченным возможностям, и используем их так, чтобы это приводило к желаемому результату. Посудомоечная машина выполняет свою задачу потому, что окружающие условия структурированы с учетом ее простых способностей. То же самое относится, например, к роботизированным полкам в Amazon. Эта среда разработана для удобства роботов. Беспилотные автомобили станут удобными в тот день, когда мы сможем создать для них подходящую окружающую обстановку.

Оболочка обычно была либо автономным явлением (вы покупаете робота с требуемыми функциями — например, с посудомоечной или стиральной машиной), либо реализовывалась в стенах промышленных зданий, тщательно подобранных для этих искусственных обитателей. Сегодня преобразование окружающей среды в удобную для искусственного интеллекта инфосферу пронизывает все аспекты реальности. Это можно видеть везде — в доме, в офисе и на улице. На протяжении десятилетий мы обволакиваем весь мир цифровыми технологиями, не реализуя их в полной мере.

В 1940-х и 1950-х годах компьютер занимал целую комнату, и, чтобы работать, Алисе приходилось заходить внутрь него. Программирование производилось при помощи отвертки. Взаимодействие человека и компьютера было похоже на соматические или физические отношения. В 1970-х дочь Алисы вышла из компьютера и встала перед ним. Взаимодействие человека и компьютера стало семантическим отношением, чему позже поспособствовали DOS (дисковая операционная система), взаимодействие при помощи текстовых команд, GUI (графический пользовательский интерфейс) и иконки. Сегодня внучка Алисы снова вошла в компьютер, представляющий собой целую инфосферу, которая окружает девочку — порой даже незаметно для нее. Взаимодействие человека и компьютера снова стало соматическим: с сенсорными экранами, голосовыми командами, прослушивающими устройствами, чувствительными к жестам приложениями, данными для определения местоположения и т. д.

В такой дружественной для искусственного интеллекта инфосфере нас регулярно просят доказать, что мы люди — для чего разгадать так называемую «капчу» (CAPTCHA, аббревиатура английской фразы «полностью автоматизированный публичный тест Тьюринга, определяющий, где компьютер, а где — человек»). Тест представляет собой слегка измененные буквы, иногда фрагменты изображений, иногда то и другое вместе. И при регистрации новой учетной записи, например в Википедии, мы должны дать правильный ответ, чтобы доказать: мы — люди, а не программы. Иногда это просто рамка с надписью: «Я не робот» и кнопкой подтверждения. Программы не могут поставить в ней галочку, поскольку не понимают это сообщение, люди же находят задачу тривиальной.