На заре новой эры. Автобиография отца виртуальной реальности - [123]

Но если изображение принимается только как приблизительное соответствие в аналоговом стиле и анализируется только статистически, как если бы на него была наведена камера, уровень уязвимости сильно снижается[156]. Проблема не в изображении, а в жесткости протоколов.

Иногда лучше всего, если инженеры сами точно не знают, как работают программы.

Поверхностная природа современных алгоритмов, которые ассоциируются с глубинным обучением и похожими терминами, по сути, устойчива к уловкам, к которым прибегают хакеры, но мы применяем эти возможности только к решению специализированных задач, а не к созданию архитектуры. Использование их в архитектуре – еще один способ подачи идеи фенотропного программирования.

Точно так же как и в биологии, безопасность достигается тогда, когда система становится стабильной, что не равно совершенству. Совершенная система развалится, а стабильная пошатнется.

Стойкость

Фенотропная гипотеза отчасти состоит в том, что системы, использующие алгоритмы, которые схожи с алгоритмами искусственного интеллекта, в структуре и связи между компонентами, а не только ради целевой нагрузки, будут менее уязвимы к постоянным неустранимым отказам.

Разумеется, фенотропные принципы в большинстве своем неэффективны для связи между модулями небольшой системы. Вы полагаетесь на машинное зрение и алгоритмы обучения, чтобы объединить самые основные задачи. Но в очень крупных системах неэффективным будет поддерживать протоколы. Например, вирусы постоянно обновляются и совершенствуются, а на изменение протокола нужно время.

Я люблю приводить пример из музыки. На протяжении долгих лет я потратил тысячи долларов на покупку подключаемых программных модулей для работы с музыкой, выполняющих такие задачи, как добавление реверберации к фонограмме, но ни одно из них больше не работает. Ни одно!

Программные компоненты быстро устаревают, поскольку зависят от идеальной совместимости с протоколами и прочими аспектами программной экосистемы, а появление мельчайших изменений сложно предотвратить[157].

При этом в 1970-е я приобрел множество физических педалей музыкальных эффектов. А еще у меня есть совершенно невероятное количество физических модулей для синтезаторов. Многие из этих артефактов аппаратного обеспечения обладают встроенным компьютерным чипом, выполняющим абсолютно те же функции, что и приобретенные мной программные модули. Но они не эквивалентны друг другу в одном крайне важном аспекте. Все физические устройства все еще работают. Абсолютно все.

Разница в том, что у физических устройств аналоговое подключение по типу зазора, устойчивое к моральному устареванию.

Теоретически подключаемые программные модули должны быть дешевле, эффективнее и во всех смыслах лучше. На практике же аппаратные средства дешевле, эффективнее и лучше во всех смыслах, потому что они все еще работают. Аппаратные средства, такие как педали и модули, – это фенотропная версия музыкальных технологий[158], а подключаемые программные модули – версии протокола.

Нельзя просто посмотреть на то, как функционирует технология в тот или иной момент времени. Придется наблюдать весь ее жизненный цикл, в том числе разработку и поддержку.

Мой опыт с музыкальными устройствами служит иллюстрацией еще одного аспекта фенотропной гипотезы: фенотропная архитектура станет эффективнее традиционной, протоколоцентричной архитектуры на основе кода при достаточно крупном масштабе и при долгом наблюдении за ее использованием и внесением в нее изменений.

Адаптация

Критикуя традиционную архитектуру компьютеров, я всегда использовал слово «хрупкая». Она ломается, а не гнется, даже если хоть один бит в ней неправильный.

Альтернативу хрупкости можно разглядеть в жизни. Подумайте о том, как способна функционировать естественная эволюция. Наши гены иногда могут напоминать программное обеспечение: иногда одна мутация может стать смертельной.

Но для разных особей абсолютно нормально сохранять жизнеспособность, даже при том, что наши гены не идентичны. Небольшие изменения не всегда нас губят.

Мы, мягко говоря, не понимаем гены в полной мере, но ясно следующее: они достаточно стабильны, чтобы позволить произойти эволюции.

Эволюция – поэтапный процесс. Незначительные изменения накапливаются на протяжении очень долгого времени, а потом переходят в почти необъяснимые метаморфозы. От одноклеточных организмов до нас.

Главный микрошаг на этом пути совершается тогда, когда незначительное изменение в генах отражается лишь в незначительных изменениях для получившегося организма. Это соотношение небольшого с небольшим возникает достаточно часто, чтобы петля обратной связи в основе эволюции имела шанс функционировать.

Если небольшие генетические изменения заставляют организмы радикально меняться слишком часто, они не «научат» эволюцию многому, так как результаты изменений будут слишком беспорядочными. Но поскольку результаты небольших генетических изменений во многих случаях тоже незначительны, популяция может шаг за шагом «экспериментировать» с совокупностью схожих новых черт и эволюционировать.

При этом если в случайном порядке изменить хоть один бит, то можно полностью вывести компьютер из строя; если этот бит изменить с умом, вы поставите под угрозу безопасность нефенотропного компьютера.