Измерять и навязывать. Социальная история искусственного интеллекта. Маттео ПасквинеллиЧитать онлайн книгу.
Схожим образом Тьюринг воображает разумный автомат, который в будущем будет программировать себя сам, заменив как хозяев, так и слуг. Сегодня видению Тьюринга противостоит армия рабочих-призраков с Глобального юга, которые, как документально доказывают Мэри Грей и Сиддхарт Сури, убраны из поля зрения, чтобы шоу машинной автономии продолжалось[34]. Тьюринг бы счел это парадоксом, но ИИ в основном заместил хозяев, то есть управляющих, а не слуг – рабочие нужны (и всегда будут нужны), с одной стороны, чтобы производить данные и значения для ненасытных конвейеров ИИ и его глобальных монополий, а с другой стороны, чтобы обслуживать мега-машину, фильтруя контент, проверяя безопасность, бесконечно оценивая и оптимизируя. Как отмечают гендерные исследовательницы Неда Атанасоски и Калинди Вора, мечты о полной автоматизации и ИИ, подобные тем, что озвучивает Тьюринг, не нейтральны. Они исторически укоренены в существовании «суррогатного человечества» – рабов, слуг, пролетариев и женщин, которые невидимым трудом сделали возможным универсалистский идеал свободного и автономного (белого) субъекта[35].
Множественные истории ИИ
Написание истории ИИ в нынешней непростой ситуации требует принимать в расчет обширную идеологическую конструкцию: в компаниях Кремниевой долины и высокотехнологичных университетах пропаганда всемогущества ИИ стала нормой и порой даже принимает форму фольклорных представлений о машине, обретающей «сверхчеловеческий разум» и «самосознание». Хорошей иллюстрацией подобных представлений служит апокалиптический нарратив из «Терминатора», согласно которому системы ИИ достигли технологической сингулярности и стали представлять «экзистенциальную угрозу» для выживания человечества на планете – именно это проповедует среди прочих футуролог Ник Бостром[36]. В мифологиях технологической автономии и машинного интеллекта ничего нового нет: они были придуманы в индустриальную эпоху для мистификации роли рабочих и субалтернов[37]. Описывая культ автоматов в эпоху Бэббиджа, Шаффер сформулировал это так: «Чтобы машины казались разумными, требовалось спрятать источник энергии, то есть рабочие руки, которые их поддерживали и направляли»[38].
Помимо спекулятивных нарративов, которые никогда не вдаются в достаточные технические подробности, чтобы прояснить, какие именно алгоритмы реализуют «сверхинтеллект» (super-intelligence), сегодня можно найти множество технических историй ИИ, призванных сделать понятными его сложные алгоритмы[39]. Соответствующие технические обзоры часто выражают ожидания корпораций от «верховного алгоритма»: чтобы он, с чудесной скоростью сжимая данные, решал перцептивные и когнитивные задачи. Именно так неромантично описывается метрика, по которой оценивают «разумность» систем[40]. Эти публикации обычно игнорируют исторический контекст и социальные последствия автоматизации и
Gray M. and Suri S. Ghost Work: How to Stop Silicon Valley from Building a New Global Underclass. New York: Houghton Mifflin Harcourt, 2019. См. также: Irani L. The Cultural Work of Microwork // New Media and Society 17, no. 5, 2013: 720–739; Irani L. and Silberman M. S. Turkopticon: Interrupting Worker Invisibility in Amazon Mechanical Turk // Proceedings of CHI 2013. 28 April – 2 May 2013.
Atanasoski N. and Kalindi V. Surrogate Humanity: Race, Robots, and the Politics of Technological Futures. Durham, NC: Duke University Press, 2019.
Бостром Н. Искусственный интеллект. Этапы. Угрозы. Стратегии. М: Манн, Иванов и Фербер, 2016.
Schaffer S. Babbage’s Dancer and the Impresarios of Mechanism // Cultural Babbage: Technology, Time and Invention. Francis Spufford and Jenny Uglow (eds). London: Faber & Faber, 1996; Schaffer S. Enlightened Automata // The Sciences in Enlightened Europe. William Clark, Jan Golinski, and Simon Schaffer (eds). Chicago: University of Chicago Press, 1999; Truitt E. R. Medieval Robots: Mechanism, Magic, Nature, and Art. Philadelphia: University of Pennsylvania Press, 2015; Voskuhl A. Androids in the Enlightenment: Mechanics, Artisans, and Cultures of the Self. Chicago: University of Chicago Press, 2013.
См., например: Nilsson N. The Quest for Artificial Intelligence: A History of Ideas and Achievements. Cambridge: Cambridge University Press, 2010.
Пример корпоративной повестки см.: Домингос П. Верховный алгоритм: как машинное обучение изменит наш мир. М.: Манн, Иванов и Фербер, 2016.