Измерять и навязывать. Социальная история искусственного интеллекта. Маттео ПасквинеллиЧитать онлайн книгу.
ся на миллион лет эволюционной саге: с его помощью мир сам почувствует, чего вы хотите, и сам под вас подстроится. Не надо даже волшебной палочки: окружающий вас мир – сегодня виртуальный, а завтра физический – станет похож на волшебный лес»[1]. «Искусственный интеллект» – другая история. Волшебный лес Бострома сулит не исполнение (даже невысказанных) желаний, а мрачный финал, где «машинный сверхразум» изведет «всю Землю, а потом и обозримую Вселенную»[2] на канцелярские скрепки.
Эти две работы воплощают тот взгляд, который Пасквинелли совершенно претит, – технологический детерминизм, предполагающий, что развитие техники определяет судьбу общества в однонаправленной истории все более совершенных достижений. На одном полюсе находится утопия блаженства, на другом – классический монстр, который губит незадачливого Франкенштейна. Общий знаменатель – это мистификация ИИ. Приписывая объекту таинственную самостоятельность, завороженный наблюдатель проецирует на него свои страхи и надежды.
Если в искусственном интеллекте и есть тайна, то ее механизм раскрыт еще Людвигом Фейербахом: немецкий материалист полагал, что человечество проецирует на высшее существо, Бога, свои лучшие качества и способности, отчуждая их от самих себя. Схожим образом человечество не опознает в ИИ собственные силы, знания и – на чем делает особый акцент Пасквинелли – труд и его разделение. Расплетая цепочки уравнений, скрытые в черном ящике искусственного интеллекта, философ демонстрирует их проблематичность. Так, например, разумность машины в первых нейронных сетях 1950-х годов была приравнена к задаче классификации изображений, что довольно далеко от моделирования мозга и когнитивных процессов, которым занимались, по собственным утверждениям, отцы-основатели современной технологической реализации ИИ. В результате таких уравнений за проявления «сверхразума» предлагается принимать игру статистических корреляций внутри колоссальных объемов данных, запущенную за счет применения психометрических методов к анализу визуальной информации.
Оптический элемент в социальной истории ИИ для автора книги особенно важен. Название оригинала (Eye of the Master) отсылает к выражению Энгельса, которое в отечественной переводческой традиции передают как «хозяйский глаз». Немецкий философ описывал этой метафорой контроль мастеров над рабочими, усилившийся с внедрением промышленных машин и достигший пика в фордизме. Также оно широко употреблялось на фабриках и заводах XIX века. Пасквинелли трактует словосочетание расширенно – как «индустриалистскую перспективу», согласно которой развитие средств производства трансформирует трудовые отношения и которую автор диалектически переворачивает.
Выбранное для перевода название – «Измерять и навязывать», – помимо уместной отсылки к работе Фуко, акцентирует предикаты ИИ, которые связаны с измерением и координацией рабочих процессов. Соответствующие задачи стали необычайно значимы для хозяев производств еще на заре промышленного капитализма в связи с масштабной трансформацией разделения труда. Но ИИ, в чем уверен Пасквинелли, древнее первых станков и уж тем более ЭВМ. Его корни уходят в известную человечеству на протяжении тысячелетий культурную технику алгоритмизации социальных, в первую очередь трудовых, практик. Иными словами, ИИ – это не только и не столько технологический артефакт, не «искусственный интеллект», а созидательная деятельность, захваченная и перестроенная технонаукой. Несколько утрируя мысль автора, можно предположить, что отношения между интеллектом и ИИ отражают образ двух рук, рисующих друг друга. Представим, что его анимировали и обнаружилось, что загадки предшествования здесь нет. Одну руку видно сразу, другая же, поначалу нечеткая, обретает объем и начинает все сильнее искажать ту, которая ее рисует.
Проблематичность стоящих за ИИ уравнений, о которой я упомянул, имеет и переводческое измерение. В отечественной традиции предложенное в 1957 году Джоном Маккарти выражение artificial intelligence принято передавать как «искусственный интеллект», хотя в СССР это выражение стало применяться к научным разработкам и исследованиям позднее, уже в 1970-е (я еще расскажу, почему). Насколько верна эта привычка, если русскому слову «интеллект» в английском соответствует, собственно, intellect? Понятие intellect предполагает способность мыслить и понимать, тогда как intelligence относится к применению этой способности на практике, например в форме получения и использования знаний и навыков. Соответственно, эта практическая форма и может быть описана через набор инструкций, то есть алгоритмизирована.
Пасквинелли приводит еще один интересный пример, который помогает понять, в какую цепочку уравнений вписан термин intelligence. В конце 1920-х годов, развивая теорию информации на основе выработанных внутри телеграфного дела техник, инженер Ральф Хартли предложил отказаться от выражения act of intelligence[3] – оно использовалось для описания работы операторов с принимаемым сигналом. Хартли указывал, что этот термин, обозначающий «интерпретацию сигнала», слишком психологичен и антропоцентричен, поскольку никакой интерпретации, то есть придания смысла сообщению, от оператора не ждут. От него требуется лишь декодировать сигнал, «определить последствия
Домингос П. Верховный алгоритм: как машинное обучение изменит наш мир. М.: Манн, Иванов и Фербер, 2016. С. 17.
Бостром Н. Искусственный интеллект: этапы, угрозы, стратегии. М.: Манн, Иванов и Фербер, 2016. С. 197.
Букв. перевод «интеллектуальный акт».