Юный техник, 2014 № 10 - [8]
Между тем минуло 70 лет с тех пор, как Айзек Азимов предложил свои знаменитые законы роботехники, согласно которым:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
Позднее Азимов добавил еще один, самый важный закон: «Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинен вред».
При проектировании роботов и программного обеспечения для них специалисты должны закладывать эти законы в электронные «мозги», и все будет в порядке.
Однако вспомните, всегда ли вы сами следуете всем правилам и законам, о существовании которых прекрасно осведомлены? Всегда ли говорите и поступаете честно? Так что же тогда хотеть от роботов?
Оказывается, уже ныне специалисты наблюдают, как электронные мозги пытаются хитрить и врать. Пока они делают это очень неуклюже, словно маленькие дети. Но что будет завтра? Ведь поколения машин сменяют друг друга гораздо быстрее, чем человеческие.
Сегодня мы как никогда близки к моменту, когда роботы (точнее, системы искусственного интеллекта) станут настолько сложными, что смогут самостоятельно принимать решения о своих действиях. Нет сомнений и в том, что рано или поздно интеллект машин превзойдет возможности человека по всем параметрам. Обыгрывают же сегодня компьютеры в шахматы даже гроссмейстеров… Страшно? Конечно. Ошибка в программе или неспособность такого сверхмозга понять, что хорошо, а что плохо для человечества, могут привести к катастрофе.
Правда, многие специалисты ныне довольно скептически относятся к прогнозам Азимова о будущем роботехники. Так, теоретик Бен Гёрцел из компании Aidyia Holdings замечает, что многие фантасты (и Азимов в их числе) почему-то останавливаются на гуманоидных роботах и андроидах. «Возможно, придет такое время, когда по улицам будут разгуливать роботы, внешне ничем не отличающиеся от людей, но этот период в истории отрасли станет сравнительно скоротечным, — полагает специалист. — На смену им довольно быстро придут системы искусственного интеллекта, физическое оформление которого не обязательно будет гуманоидным».
А уж каким будет их поведение, об этом мы должны позаботиться заранее. Философы давно заметили, что в своем поведении мы руководствуемся не заученными наизусть правилами, а некими «врожденными» концепциями, которые зачастую даже не можем сформулировать. Это нечто на уровне инстинкта, интуиции.
Так что, если будет создан искусственный интеллект, то он должен будет обладать именно такой этикой — интуитивной, гибкой, адаптивной. Если что-то пойдет не так, он перестроится на ходу, вместо того чтобы задымиться или начать уничтожать все, что движется.
Заслужил критику экспертов и сам факт существования сознающих себя машин. Во-первых, ни один нормальный разработчик не будет стремиться к этому, никому не нужны особые сложности и проблемы. Во-вторых, давайте оставим на совести фантастов внезапное появление сознающего себя интеллекта. Ничего внезапного в таком деле быть не может: исследования идут долго, тяжело и под наблюдением громадного экспертного сообщества. В-третьих, страшилки о случайном создании безумным гением чего-то такого, что выйдет из-под контроля творца и отправится убивать, еще можно было вытерпеть во времена «Франкенштейна» и «Острова доктора Моро», но сейчас это уже дурной тон.
По материалам BBC
У СОРОКИ НА ХВОСТЕ
КАКОЙ ПРОК ОТ ЗОЛОТА?
Золото, как известно, почти не поддается окислению. Однако недавно исследователям из Кардиффского института катализа удалось обнаружить неожиданные свойства у благородного металла, который раньше считался малопригодным для нужд химии из-за своей инертности.
Благодаря открытым свойствам, золото можно эффективно использовать при производстве пластика или солнечной энергии. Благородный металл способен выступать в качестве катализатора, причем чрезвычайно долгодействующего и обладающего высокой эффективностью.
«Наночастицы золота, состоящие из нескольких сотен атомов, становятся чрезвычайно активными химически, — рассказал профессор Грэм Хатчингс, директор Кардиффского института катализа. — Таким образом, золото оказалось более быстрым, доступным и энергетически выгодным катализатором, чем большинство известных. Оно вполне может заменить, например, нынешние катализаторы, содержащие ртуть, которая наносит огромный ущерб окружающей среде и человеческому здоровью».
МОЗГОЛОМЫ СТАРАЮТСЯ.
Современные методы слежки американского Агентства национальной безопасности, о которых рассказал перебежчик Эдвард Сноудэн, могут померкнуть по сравнению с тем, что станет возможным через несколько лет.
Вот что сообщил по этому поводу специалист по новейшим технологиям Жан-Мишель Корню: «Уже сегодня по характеру движения компьютерной мыши можно довольно точно идентифицировать привычки и характер конкретного человека, — на очереди чтение мыслей»…
