Механическое чудо. Кирилл БерендеевЧитать онлайн книгу.
возникла проблема? – спросил Олег.
– Третий закон реализовать было проще всего. Хотя изначально роботы просто отказывались работать. По их мнению, физический труд ведёт к износу составляющих робота деталей. Но мы ввели ограничение на срок, через который возможно полное нарушение работоспособности механизма, и всё нормализовалось. Со вторым законом было гораздо сложнее. Требовалось в доступных для псевдоинтеллекта терминах объяснить что такое «человек».
– Двуногое прямоходящее животное, обладающее разумом? – предположил Олег.
– А если этот человек – инвалид. И у него только одна нога. Или вообще ни одной? А если он поступает с точки зрения робота неразумно? К тому же под выданное вами определение попадают сами роботы. Что будет, если один робот станет считать другого робота человеком?
– Кх-кх, – Олег пристыжено опустил голову. – Как я понимаю, это и есть моё тестовое задание?
– Нет, – Ирвин К. Доулинг задумчиво постучал пальцами по подлокотнику кресла. – Это достаточно простая задача. Нудная, но всё-таки простая. Нами написана программа, выявляющая на основании семидесяти трёх показателей, человек находится перед роботом или нет. Максимальные проблемы возникли, когда мы попытались программно реализовать первый закон роботехники.
– Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен какой-либо вред? – спросил Олег.
– Именно. Здесь имеются два подводных камня, с которыми мы уже сталкивались при решении предыдущих задач. Термин «человек» и понятие «вреда».
– А как же программа, которая «на основании семидесяти трёх показателей…"? – ехидно заметил Олег.
– Одно дело, когда человек находится прямо перед тобой и пытается отдавать тебе приказы. И совсем другое дело, когда он находится, например, около строящегося дома, а робот с пятнадцатого этажа выбрасывает строительный мусор. Дистанционно распознать человек это или вовсе не человек за короткий отрезок времени крайне затруднительно.
– Понятно, – тяжело вздохнул Олег. – А с вредом-то что вышло?
– Вред, наносимый роботом самому себе, и вред, наносимый роботом человеку, несопоставимы. Идеальный вариант – когда робот вообще не наносит никакого вреда человеку, но это, увы, невозможно. В нашем обществе достаточно людей, которым само существование роботов может нанести моральный вред. Концепция вреда для человека так и не сформулирована. Представьте себе робота, который препятствует альпинистам, так как подъём в горы на его взгляд напрямую связан с риском для жизни. Или робота, который громит табачную лавку, потому что курение вредит человеческому здоровью. Представили?
– В общих чертах, – ответил Олег.
– Так вот, это ещё не всё. При полевых испытаниях выяснилось, что концепции трёх законов роботехники и саморазвивающегося псевдоинтеллекта несовместимы.
– А это ещё почему? – не понял Олег.
– Самостоятельное