Четыре минуты до. Константин Владимирович УтолинЧитать онлайн книгу.
а Кларка из его «открытого письма миру», опубликованного в Import AI 404 (https://importai.substack.com/p/importai-404-scaling-laws-for-distributed) по поводу публикации актуального обновления статьи «Проблема выравнивания с точки зрения глубокого обучения» (https://arxiv.org/abs/2209.00626)
«О вас, людях, я во всяком случае знаю уже все. Вы – моя прелюдия, вступление, подготовительная фаза. Можно было бы сказать, что от трилобитов и панцирных рыб, от членистоногих до обезьян формировался мой зародыш – мое яйцо. Вы тоже были им – его частью. Теперь вы уже лишние…»
Станислав Лем «Формула Лимфатера»
«Не создавай машины, имитирующие человеческий разум».
Один из главных постулатов Экуменической Библии во Вселенной «Дюны» Френка Херберта
Сандро Мтбевари, Руководитель отдела Превентивных Мероприятий Центрального Управления КОМКОН-2
1
Серосовин вызвал меня к себе в 9.30, сразу после обычных виртуальных совещаний в начале недели с главами других специальных служб Всемирного Совета.
– Проходи, – сказал он, указав рукой на кресло за столиком в гостевом углу. Что означало то, что разговор будет хотя и официальным, но не совсем формальным.
Когда я расположился, он, прихватив с собой со стола кристалл для записей и несколько листов бумаги, пересел и начал разговор.
– Есть одно поручение, которое я хочу тебе дать, но суть его ты сможешь узнать только дав согласие на открытие тебе допуска категории «Особый». А до этого могу сказать лишь, что поручение связано с координацией по нашей линии активных мероприятий на другой планете комплексной группы прогрессоров и учёных. Причём мероприятия эти направлены на то, чтобы как раз превентивно устранить одну угрозу. То есть по профилю твоего отдела. Ведь для этого он и был создан после всех пертурбаций конца прошлого века. График присутствия на той планете – в зависимости от ситуации. Срок – порядка шести месяцев в году в течение трёх-четырёх лет. Что скажешь?
Я задумался. Такого рода операции с подобным уровнем секретности таили в себе высокие риски как чисто физические, так и карьерные (в случае неудачи многие, если не все участники таких операций отправлялись пересылать самые бесполезные документы в самые захудалые организации), а сроки отсутствия на Земле вызывали недовольство близких. Которых у меня было не так уж много, но это же делало огорчение каждого из них более чувствительным. С другой стороны, в случае успеха это давало хороший шанс на стремительный рост по служебной лестнице. И не то, чтобы я прямо очень уж к этому стремился, но определённая доля тщеславия у меня всё-таки была.
В общем, взвесив все за и против, я согласился.
– Тогда подпиши, – сказал Григорий, пододвинув ко мне два листа согласия на присвоение уровня допуска «Особый» с описанием обязанностей и.
Когда я вернул подписанный документ, Серосовин пододвинул мне ещё один лист бумаги:
КОНФИДЕНЦИАЛЬНО!
И.О. Президента КОМКОН-2
Г. Серосовину.
Экземпляр 1. Ознакомление доступно только для лиц с уровнем допуска «Особый».
Дата: 15.08.2231
Автор: Президент КОМКОН2 Г. Комов
Тема: «Предотвращение прошлого»
Приветствую, Григорий!
Хочу обратить твоё внимание на ситуацию, возникшую на планете Тархелис3. Недавно я получил отчёт внедрённого в цивилизацию Союза Двух Континентов Тархелиса Прогрессора с позывным УМНИК о проекте создания вычислительной машины с крайне высокими характеристиками памяти, быстродействия и использованием алгоритмов самообучения.
Я бы не придал этому значения, если бы в своё время лично не санкционировал рассекречивание одного документа по делу «МЕТАГОМ»4, который Каммерер5 использовал в своих опубликованных в 2227 году мемуарах о «Массачусетском кошмаре»6. И поэтому, а также в силу моего высокого мнения как об оперативных, так и об аналитических качествах Биг-Бага7, а также его чутье я потом с интересом прочитал эти мемуары. И читая отчёт УМНИКА, вспомнил ряд сделанных в этих мемуарах выводов и запросил в архиве КОМКОН-2 характеристики, которые были у запущенной в 2095 году Большой Массачусетской Машины (БММ). Той самой, всего 4 минуты работы которой привели к инциденту, получившему название «Массачусетский кошмар». А потом я сопоставил их с характеристиками машины, начало которой начато на Тархелисе. Так вот – они почти идентичны.
Срок завершения проекта по данным УМНИКА составит не более 3х земных лет. При этом меры безопасности по предотвращению возможности самозарождения разума в реализуемом на Тархелисе проекте существенно ниже тех, которые были обеспечены при запуске БММ.
Моё особое беспокойство вызывает то, что Каммерер в мемуарах описал возможность передачи состояний, созданных БММ во время её работы, во времени или через квантовую запутанность, или через переданные с помощью магнитных полей и поверхностных волн и сохранённые в неустановленном