Создатели искусственного гения. О бунтарях, которые наделили интеллектом Google, Facebook и весь мир - [19]

Шрифт
Интервал

Настоящим прорывом в его деятельности стала разновидность нейронной сети>96, моделирующая зрительную кору, то есть ту часть головного мозга, которая управляет зрением. Вдохновленный исследованиями японского ученого-компьютерщика Кунихико Фукусимы, он назвал свое творение «сверточной нейронной сетью». Подобно тому, как разные отделы зрительной коры обрабатывают разные фрагменты изображения, воспринимаемого глазами, сверточная нейронная сеть разрезает изображение на клетки и анализирует каждую из них отдельно, находя в этих клетках маленькие паттерны и выстраивая их в большие паттерны по мере поступления информации через паутину (псевдо)нейронов. Эта идея стала стержневой в карьере Лекуна. «Если Джефф Хинтон – Лиса, тогда Ян Лекун – Еж, – говорит профессор из Беркли Джитендра Малик, заимствуя эту аналогию у философа Исайи Берлина. – Хинтон пузырится миллионами и миллиардами идей, которые скачут в разные стороны. Ян же более целеустремленный. Лиса знает много секретов, а Еж – один, но самый главный».

Первоначально Лекун разрабатывал свою идею, находясь рядом с Хинтоном в Торонто. По-настоящему эта идея расцвела, когда он перебрался в Bell Labs, где в его распоряжении были огромные массивы данных, необходимые для обучения лекуновой сверточной нейронной сети (тысячи не дошедших до адресата писем). Кроме того, там были более мощные компьютеры (новейшая рабочая станция Sun Microsystem), позволявшие с большой скоростью анализировать эти конверты. Он объяснил Хинтону, что перешел в Bell Labs, потому что там ему обещали собственную рабочую станцию, тогда как во время стажировки в Торонто ему приходилось делить машинное время с другими учеными. Через несколько недель после перехода в Bell Labs, используя тот же самый базовый алгоритм, он создал систему, способную распознавать написанные от руки цифры с точностью, которая превосходила все другие технологии, разрабатывающиеся в AT&T. Эта система работала так хорошо, что вскоре нашла коммерческое применение. Помимо Bell Labs, AT&T принадлежала компания NCR, которая продавала кассовые аппараты и другое оборудование для бизнеса, и к середине 1990-х годов AT&T стала продавать технологию Лекуна банкам как способ автоматического чтения рукописных чеков. В этот момент творение Лекуна прочитывало более 10 процентов всех чеков, которые выписывались в США.

Но он рассчитывал на большее. В стеклянных стенах комплекса Bell Labs в Холмделе, который называли «самым большим зеркалом в мире», Лекун и его коллеги разработали микрочип, получивший название ANNA. Это был акроним с акронимом внутри>97. ANNA расшифровывалась как Analog Neural Network ALU (аналоговая нейронная сеть ALU), а ALU, в свою очередь, расшифровывалось как Arithmetic Logic Unit (арифметическая логическая единица). ALU – это особая микросхема, разработанная специально для математических расчетов, связанных с нейронными сетями. Вместо того чтобы запускать свои алгоритмы с использованием обычных микрочипов, применяемых для решения любых задач, компания Лекуна разработала микросхему для данной конкретной задачи. Благодаря этому расчеты выполнялись со скоростью около 4 миллиардов операций в секунду, что значительно превосходило стандарты того времени. Эта фундаментальная концепция – микросхема, созданная специально для нейронных сетей, – с течением времени привела к перестройке всей мировой индустрии микрочипов, хотя случилось это двадцатью годами позже.

Вскоре после того, как банковский сканер Лекуна вышел на коммерческий рынок, AT&T, бывшая общенациональная телекоммуникационная корпорация, которая уже не раз делилась на множество мелких компаний, разделилась снова. NCR и исследовательская группа Лекуна оказались по разные стороны, и проект с банковским сканером был аннулирован, что ввергло Лекуна в состояние разочарования и депрессии. Группа уже вот-вот подбиралась к технологиям с использованием всемирной паутины, которая еще только начинала разворачиваться в Америке, а его вообще лишили возможности работать над нейронными сетями. Когда компания начала увольнять ученых, Лекун понял, что тоже хочет уйти. «Я не хочу заниматься тем дерьмом, которое хочет навязать мне компания, – сказал он начальнику лаборатории. – Я работаю над компьютерным зрением». Удерживать его не стали.

В 1995 году двое исследователей Bell Labs>98 – Владимир Вапник и Ларри Джекель – поспорили. Вапник говорил, что через десять лет «никто в здравом уме не будет использовать нейронные сети». Джекель принял сторону коннекционистов. Они поспорили на «дорогой обед», и Лекун выступил в качестве посредника. Они распечатали взаимные обязательства и подписались. Практически сразу ситуация повернулась так, что поражение Джекеля казалось неминуемым. Проходили месяцы, и в мире коннекционистов снова наступили заморозки. Да, фургон Померло мог ехать без водителя. Да, система NETtalk, разработанная Сейновски, могла читать вслух. А банковский сканер Лекуна мог читать рукописные чеки. Но было ясно, что этот фургон способен ездить лишь по прямой или там, где никого нет. Система NETtalk годится, скорее, как фокус для вечеринок. А для чтения чеков существовала масса других возможностей. Сверточные нейронные сети Лекуна не справлялись с анализом более сложных изображений, таких как фотографии собак, кошек и автомобилей. И было не ясно, есть ли у них вообще перспектива. В конечном счете Джекель одержал победу, но это была пустая победа. Через десять лет после их пари ученые все же продолжали пользоваться нейронными сетями, но технология за это время продвинулась немногим дальше системы Лекуна, способной читать рукописные цифры. «Я выиграл пари, потому что Ян не сдался, – говорит Джекель. – Научное сообщество фактически игнорировало его, но он не сдавался».


Рекомендуем почитать
Взламывая анатомию

Наше тело — удивительная и сложная машина, все части которой работают слаженно, взаимодействуют с окружающей средой и даже учатся у нее.Эта книга подробно рассказывает об устройстве и работе тела, помогая понять, как развивались наши знания о нем. Она дает представление обо всех системах организма, объясняет медицинскую терминологию и отвечает на важнейшие вопросы. Дочитав до конца, вы заглянете не только в прошлое, настоящее и будущее, но и внутрь себя.


Ринг «быков» и «медведей»

«Быки» и «медведи» — так называются спекулянты, играющие соответственно на повышении и понижении курса ценных бумаг. Фондовая биржа и является тем местом, где скрещивают копья эти спекулянты-профессионалы. Анализируя механизм биржевой спекуляции, закономерности курсов ценных бумаг, кандидат экономических наук В. П. Федоров показывает социально-экономическую роль биржи, обнажает паразитизм биржевиков, царящую там обстановку узаконенного грабежа и прямой преступности. Работа написана популярно и доступна самому широкому кругу читателей.


Блики на портрете

Расшифровка генетического кода, зашита от инфекционных болезней и патент на совершенную фиксацию азота, проникновение в тайну злокачественного роста и извлечение полезных ископаемых из морских вод — неисчислимы сферы познания и практики, где изучение микроорганизма помогает добиваться невиданных и неслыханных результатов… О достижениях микробиологии, о завтрашнем дне этой науки рассказывает академик АМН СССР О. Бароян.


Эмбрионы в глубинах времени

Эта книга предназначена для людей, обладающих общим знанием биологии и интересом к ископаемым остаткам и эволюции. Примечания и ссылки в конце книги могут помочь разъяснить и уточнить разнообразные вопросы, к которым я здесь обращаюсь. Я прошу, чтобы мне простили несколько случайный характер упоминаемых ссылок, поскольку некоторые из затронутых здесь тем очень обширны, и им сопутствует долгая история исследований и плодотворных размышлений.


Антикитерский механизм: Самое загадочное изобретение Античности

Это уникальное устройство перевернуло наши представления об античном мире. Однако история Антикитерского механизма, названного так в честь греческого острова Антикитера, у берегов которого со дна моря были подняты его обломки, полна темных пятен. Многие десятилетия он хранился в Национальном археологическом музее Греции, не привлекая к себе особого внимания.В научном мире о его существовании знали, но даже ученые не могли поверить, что это не мистификация, и поразительный механизм, использовавшийся для расчета движения небесных тел, действительно дошел до нас из глубины веков.


Штурм неба

Воздушную оболочку Земли — атмосферу — образно называют воздушным океаном. Велик этот океан. Еще не так давно люди, живя на его дне, почти ничего не знали о строении атмосферы, о ее различных слоях, о температуре на разных высотах и т. д. Только в XX веке человек начал подробно изучать атмосферу Земли, раскрывать ее тайны. Много ярких страниц истории науки посвящено завоеванию воздушного океана. Много способов изыскали люди для того, чтобы изучить атмосферу нашей планеты. Об основных достижениях в этой области и рассказывается читателю в нашей небольшой книге.