Цивилизационные кризисы в контексте Универсальной истории. Акоп Погосович НазаретянЧитать онлайн книгу.
ЭВМ рано или поздно приведет к непредсказуемым и неподконтрольным качественным эффектам. В середине 80-х годов немецкий ученый В. Циммерли заметил, что тенденция уже приобрела реальные очертания. Он назвал ее парадоксом информационных технологий: контроль за функционированием компьютерных систем обеспечивается посредством более сложных систем, и таким образом машинный интеллект неуклонно обособляется от человеческого [Zimmerli W., 1986].
Имеются и специальные аргументы в пользу того, что самообучающаяся система с рефлексивной моделью мира, квазипотребностными механизмами автономного целеполагания, способная оценивать успешность действий, отношение между общими и частными задачами, испытывать аналоги удовлетворенности и неудовлетворенности и т. д. – такая система не будет вечно оставаться «машиной» в привычном смысле слова. Включение же в электронную конструкцию белковых молекул (биочипов), выращенных в генетической лаборатории и ускоряющих искусственное формирование сенсорных органов, должно особенно впечатлить тех, кто склонен придавать большее значение субстратным (органика – неорганика), чем функциональным признакам. Впрочем, биочипы – вероятно, только промежуточное решение, если иметь в виду поразительные перспективы нанотехнологий (см. раздел 1.1). Все это дало основание американскому ученому Г. Моравеку [1992, с. 34] заявить: «Недалек тот час, когда наши механические рабы обретут душу».
Что же произойдет потом? Автор приведенной цитаты, один из самых знаменитых специалистов по робототехнике, основатель крупнейшей в мире программы по изучению роботов, в новой книге [Moravec H., 2000] попытался это предугадать, используя дарвиновскую модель борьбы за существование. Он провел параллель с тем, как 10 млн. лет назад, после образования Панамского перешейка, плацентарные млекопитающие Северной Америки проникли в Южную Америку и за несколько тысячелетий извели обитавших там сумчатых. Нечто подобное, но за гораздо меньший срок, приличествующий XXI веку, должно произойти и теперь. Роботизированные производства, конкурируя между собой за вещество, энергию, пространство и информацию, настолько повысят цену этих ресурсов, что они станут недоступны для людей; последние будут, таким образом, обречены на вымирание. Моравек скептически относится к «законам робототехники», сформулированным писателем А. Азимовым, и не надеется на то, что в сознание роботов удастся внедрить имманентные алгоритмы человеколюбия, а значит, в этой конкуренции шансы человечества равны нулю.
Такие высказывания профессионалов уже начали влиять на массовые настроения. В США появились неолуддиты, физически истребляющие программистов как носителей главной опасности для человеческого рода. Рассказывая об этих фактах, о пострадавших друзьях и коллегах, о том, что и сам может стать очередной мишенью, уже известный нам Б. Джой, соучредитель и главный специалист компании «Сан майкросистем», неожиданно солидаризируется со своими смертельными врагами [Joy B., 2000].
Характерно