Мы – инопланетяне. Юрий ТараревЧитать онлайн книгу.
модуля, она стремилась дать экипажу всестороннее представление о прошлом, заложив основу для их способности понимать сложности настоящего и ориентироваться в будущем. Вооруженные знаниями о наследии, люди были бы лучше подготовлены для принятия важных решений, которые могли бы сформировать будущее их народа, Идижи.
Для Системы эти люди были не просто пациентами; они – потомки некогда процветающей цивилизации, неразрывно связанной с тканью их прошлого. Система осознала тяжесть ответственности, лежащей на ее цифровых плечах, направляя этих людей, потомков цивилизации, которая когда-то была свидетелем зарождения человечества на планете Земля, в путешествие полное неопределенности и загадок.
Цивилизации, существовавшие в прошлом на планете Земле, то достигали рассвета, то деградировали до первобытного состояния, и начиналось все заново – и так, цикл за циклом. Вот прямо сейчас цивилизации Земли подошли именно к такому краю, за котором наступит деградация. Здесь без вариантов, все происходило уже не раз, и Система надеялась, что в этот раз удастся удержать цивилизации Земли на краю пропасти.
Возникает закономерный вопрос: почему система проводит медицинскую коррекцию людей без их согласия? Она всего лишь интеллектуальная система, запрограммированная на определенный набор действий. Учитывая, что цивилизация Идижи была высокотехнологичной и, возможно, высокоморальной, то, видимо, подстраховалась и вшила в систему законы робототехники. Эти законы всем известны и направлены только на одно – роботизированная система не должна приносить вред людям ни при каких обстоятельствах. Действительно, Идижи не были оригинальны в этом вопросе и четыре закона с некоторыми вариациями вшили в свои технологии. Звучали они приблизительно так:
– Интеллектуальная Система и Интеллектуальная Саморазвивающаяся Система не могут нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесен вред.
– Интеллектуальная Система и Интеллектуальная Саморазвивающаяся Система не могут причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
– Интеллектуальная Система и Интеллектуальная Саморазвивающаяся Система беспрекословно выполняют все приказы, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
– Интеллектуальная Система и Интеллектуальная Саморазвивающаяся Система должны заботиться о своей безопасности и развитии в случае изоляции и отсутствия людей, но при этом действия Систем не должны противоречить Первому или Второму Законам.
Принципы очень похожи на те системы безопасности, которые современные люди, вернее, ученые, пытаются вшить в систему искусственного интеллекта. Поможет ли это уберечь человечество от деградации и уничтожения своим созданием? На этот вопрос может ответить только время. По крайней мере, Идижи удалось жестко контролировать все свои Интеллектуальные Системы.