Денис молчал.
-Ведь не может быть такого?– с ноткой неуверенности спросила Ира.
-Смотри– энергетик и ночной дежурный этой ночью вывел на планшет изображение передаваемое видеокамерой установленной внутри центра управления реактором.
Внутри тот робот, найденный у тела инженера Симоненко, совершал странные действия. Одно время Ира пыталась изучать его искусственный мозг, но там оказалась всё ужасно перемешено и, вдобавок, нуждалось в восстановлении. Она попыталась что-то сделать, даже привлекла Дениса (он и отключил повреждённые аудио-сенсоры от основной нейронной сети, чтобы те не генерировали разрушительные сигналы – аналог человеческих болевых ощущений посылаемых повреждённым органом), но затем Снежинская мобилизовала их обоих на основную задачу восстановления работоспособности комплекса и любительские исследования пришлось отложить до лучших времён.
Похоже, лучшие времена настали прямо сейчас, потому, что древний робот, посаженный на современное шасси, с частично восстановленной нейронной сетью и новенькими, переданными с Прометея, аккумуляторами, метался между пультами управления с выключенными экранами.
-Что он делает?– удивлённо спросила Ира. Промышленный лазер она опустила на пол, в нём больше не было нужды.
-Такое ощущение, будто пытается разобраться почему заглушен реактор.
-Не говори ерунды.
-Я не утверждаю, что так есть на самом деле. Но посмотри: он пытается запросить состояние реактора. Теперь замер в раздумьях, как человек на минутку вышедший из знакомой комнаты и по возвращению обнаруживший, что она стала совсем другой. Он пытается вскрыть основной пульт, чтобы проверить почему он не запитан.
Ира веско заявила: –Ерунда!
-Тебе виднее. Ты у нас старший специалист по информационным системам…
-А ты младший– парировала девушка: –И должен понимать, сколь неразумно подходить к роботу с человеческой меркой. Тем более к древнему роботу собранному десятком безумных инженеров брошенных корпорацией на Меркурии.
Они помолчали, наблюдая за действиями робота. К Ириному удивлению тот и вправду снял с пульта боковую панель и принялся копаться во внутренностях.
-Неужели это он был в цеху и потом в столовой?
-Почти точно "да"– Денис отвлёкся раздавая указания конструктам-разведчикам собирающимися перед закрытой дверью: –Сегодня наш рукотворный призрак попал в поле зрения одной из дополнительных видеокамер. С полчаса я следил за ним, потом отправился будить тебя, подозревая, что если ты пропустишь маленькое приключение, то потом целый месяц будешь дуться.
Ира потупила взгляд: –Спасибо.
-Вряд ли в одном промышленном комплексе, в один момент времени, завелись сразу два древних робота ночами ломающих инвентарь. Поэтому да – видимо и раньше это был он.
В иной ситуации Ира заподозрила бы, что любимый подтрунивает над ней (ну сколько можно обижаться всего на одну случайную пощёчину отвешенную в момент экспресс-побудки?). Но сейчас она слишком взволнована.
-Что он делал?
-Катался туда-сюда с видом не до конца проснувшегося лунатика. Во втором осевом коридоре оторвал новые лампы, закреплённые на месте старых и разбил– отчитался Денис: –Готовься, сейчас будем брать хулигана.
-Подожди– попросила Ира –Я хочу попробовать войти с ним в контакт и посмотреть на ответную реакцию.
Денис быстро сказал: –Это может быть опасно.
-И всё-таки– Ира задумалась: –Я практически уверена, что Симоненко вложил в своего питомца императив не причинять вреда людям.
-А если нет?
-Ты рядом– улыбнулась Ира.
-Ведь это вполне мог бы оказаться какой-нибудь древний боевой робот– сказал Денис: –Мы ведём себя слишком беспечно для первых людей спустившихся в недра меркурия за долгие годы.
-И это говоришь ты!– поразилась девушка.
Денис помедлил. Потом вздохнул и согласился: –Только внутрь не входи, оставайся в коридоре.
Взгляд, брошенный на планшет, транслирующий передаваемое видеокамерой изображение, показал, что механический призрак аккуратно отключил внутри основного пульта часть разъёмов, но бросил их и сейчас снимал крышку с соседнего пульта.
Конструкты-разведчики замерли у Ириных ног. Вставший рядом Денис взял её за руку. Сквозь материал комбинезона он ощущал давление, но не чувствовал тепла её руки – как если бы держал за руку статую нагретую в точности до температуры человеческого тела. Многофункциональный робот выставил вперёд гибкие манипуляторы, готовясь отбросить древний механизм, если тот вздумает причинить вред людям Земли.
-Нажми на кнопку– попросила Ира, почему-то снова шёпотом.
Денис нажал.
И дверь открылась.
-Никогда вам двоим не прощу то, что позволили мне проспать всё веселье– в который уже раз возмущалась физик Снежинская.
-Анечка– снова и снова повторяла Ирина: –Не могли мы тебя разбудить. Он бы вернулся в лабораторию и снова отключился бы Левин знает на сколько времени.
-Какой ещё Левин?– удивилась Снежинская.
-Виталий Ильич– пояснила Ира: –Основоположник аналитической динамики дискретных автоматов.
Виновник разговора находился рядом. Висел, не касаясь гусеницами пола – спеленатый рабочими щупальцами многофункционального робота. Если бы он был человеком, то время от времени начинал бы вертеться, проверяя крепость пут или разгоняя по жилам застоявшуюся кровь. Однако человеком он не являлся и удостоверившись, что вырваться невозможно, затих и не шевелился с момента поимки.
Физик задумчиво посмотрела на пленника. Видеокамеры развернулись на малый угол, рассматривая Снежинскую.
-Инженер Симоненко называл его в своём дневнике Бонделеем, сокращённо Боней– добавила Горохова: –В честь кота, которого держали его родители ещё до того как он заключил контракт на работу в корпорации и покинул Россию.
-Они всем роботам дали имена?– спросил Денис.
Ира кивнула.
-Рассказывайте– со вздохом разрешила Снежинская: –Как вы поймали этого древнего робота по имени Бонделей.
-А ты точно нас прощаешь?– уточнила предусмотрительная Ира.
-Точно. Рассказывайте.
Бросив на Дениса торжествующий взгляд, означающий "я же говорила, что она не сможет долго сердиться", Горохова продолжила рассказ:
-Когда ведущая в центр управления реактором дверь открылась, он не сразу заметил нас. Аудио-сенсоры у него отключены от вычислительного мозга, да и система восприятия видеоинформации работает далеко не идеально. Что же до состояния самого вычислительного мозга, то когда я последний раз заглядывала туда, там была такая путаница, что и весь ленинградский ЦНИИ Роботехники и Технической Кибернетики не разобрался бы что к чему.
Я хотела войти в отсек, но Денис запретил. Наконец древний робот – творение помрачневших умов древних инженеров вынужденных наблюдать за гибелью привычного им мира с задних рядов кинозала и без возможности покинуть сеанс – заметил нас, стоящих в дверном проёме. Он откатился, будто бы испугавшись. Задний край шасси задел снятый кожух от пульта управления. Механические руки подняли его и выставили вперёд, то ли предлагая нам, то ли защищаясь им от нас. Видя однозначно неадекватное поведение робота, Денис хотел послать конструктов обездвижить его, но прямой агрессии он не проявлял и мне стало любопытно.
Ира замолчала, переводя дух. Денис подал стакан с водой. Благодарно кивнув, девушка продолжила:
-Разбор и описание многоуровневых нейронных сетей принятия решений само по себе довольно сложная задача даже в том случае, если объектом исследования становится знакомая модель искусственного мозга. Любой более-менее интеллектуальный конструкт в процессе функционирования постоянно изменяет структуру своих нейронных сетей. По мелочи, кончено. Изменяет, когда получает новое знание, встраивая его в целостную структуру описания объектов реальности и связей между ними. Этот процесс имеет вероятностную природу, и нельзя заранее сказать по какому именно пути он пойдёт. Хотя определить общее направление самоизменения нейронных сетей труда не составит.
В данном случае задача усложнялась непривычной архитектурой выбранной древними инженерами. Непривычной ещё мало сказано. Мне прежде не встречалось ничего подобного. Она слишком избыточна. Слишком неэффективна. Склонна к "детским" ошибкам вроде попадания в цикл самоусиления сигналов или размножения паразитных импульсов. Подобные ошибки часто совершают начинающие кибернетики, учащиеся последних курсов профильных институтов. Для уменьшения влияния структурных дефектов в искусственный мозг Бонделея внесены дополнительные корректирующие модули. Словом, если бы кто-нибудь принёс подобную схему подобного искусственного мозга на рассмотрение в приёмную комиссию, то его бы стыдила вся кафедра роботехники и смежные факультеты. Плюс схема изрядно повредилась за то время, пока робот бездействовал. Когда мы переселились с базы в комплекс, я восстановила часть сети, но далеко не полностью.
Я хочу сказать, что разобраться в этом бульоне практически невозможно. Единственный выход: представить мозг Бонделея в виде чёрного ящика и изучить его реакции на внешние воздействия.
-Постой– попросила Снежинская: –Зачем нам вообще изучать эту рухлядь? Отключить и засунуть в дальний угол. Или разобрать на запчасти
-Разве тебе не интересно?!– возмутилась Ира. Глаза кибернетика яростно пылали, а губы сжались в ниточку, демонстрируя всю тяжесть праведного гнева охватившего девушку.
Сидевший рядом Денис обнял её, прижавшись губами к затылку.
Повернувшись к энергетику, Ира беспомощно спросила: –Уникальный случай. Необычный искусственный мозг, функционировавший в автономном режиме несколько десятилетий. Зачем такая бесполезная сложность? В конце эпохи древних они уже умели конструировать гораздо более эффективные псевдоразумные вычислительные машины. Ведь интересно, правда?
-Ещё как– подтвердил энергетик: –Место этого Бони в музее хотя бы только потому, что его нашли рядом с телом Симоненко, благодаря которому подняли на Прометей сказочное количество энергнума. В нём наверняка сохранились фрагменты записей за все двадцать лет жизни брошенных корпорацией рабочих, сумевших до самого конца оставаться людьми и не поддаваться безумию вызванным одиночеством и ежедневными мыслями о том, что их труд напрасен и некому будет воспользоваться его плодами.
Они замолчали, как часто происходило, стоило кому-нибудь упомянуть в разговоре древних инженеров, один за другим угасших в бывшем промышленном комплексе владевшей Меркурием корпорации.
-Идём завтракать?– предложил Денис: –Сколько часов на ногах, а во рту ни росинки. Это некоторые недавно проснулись, а кое-кто не прилёг со вчерашнего дня.
Аня возмущённо фыркнула, но идею с завтраком поддержала.
Выполняющие несвойственные им функции телохранителей конструкты-разведчики потянулись за идущими в столовую людьми. Загадка необычных происшествий в недрах комплекса разрешилась, нарушитель найден и пойман – повышенный уровень безопасности можно было бы отменить, а конструктов отправить заниматься более полезными делами, нежели сопровождением землян куда бы те не пошли. Но пока этого не сделали, конструкты класса "разведчик" послушно следовали за людьми, оберегая их от возможных опасностей. И неважно, что большая часть этих опасностей вымышлена. Псевдоразумные системы никогда не претендовали на статус настоящего полноценного разума. Они были ограничены. И сколько ни бились учёные – преодолеть ограничения не удавалось. Кое-кто, после очередной неудачи, начинал говорить, что создать полноценный искусственный разум теоретически невозможно. И ему бы могли поверить, если бы пример настоящего разумного существа не находился прямо перед глазами учёных. Стоит только посмотреть в зеркало.
Запивая картофельное пюре с котлетами из мяса, выращенного в соседнем, с картофельной гидропонной фермой, чане, ягодным морсом из разведённого порошка, Денис неразборчиво попросил: –Я не могу говорить пока ем. Поэтому рассказывай ты.
-Нечего толком рассказывать– развела руками Ирина: –Стояли, смотрели друг на друга. Боня забился в дальний угол и закрывался снятым с пульта кожухом. Я попыталась наладить общение через коммуникатор, но он не отвечал на вызовы, хотя радиоприёмник у него точно исправный. Потом развернула голографический терминал, куда вывела несколько управляющих фигур используемых древними программистами.
-И тогда Боня взбесился!– с набитым ртом влез в разговор Денис.
Ира поморщилась, но согласно кивнула: –Отшвырнул кожух (к счастью в сторону, а не в нас). Бросился к выходу. Там его и поймали.
Главного участника обсуждаемых событий в столовой не было. Многофункциональный робот сумел бы пройти по коридорам, но зачем вести пленённого призрака за собой. Пусть пока побудет в одном из технических помещений.
-Какие управляющие фигуры?– заинтересовалась Аня.
-Из трёхмерного языка взаимодействия человек-машина весьма популярного в древнем мире. Требование немедленно предоставить общий отчёт и всё такое.
-Это привело Боню в ярость?
-Роботы не могут прийти в ярость. Они не люди.
-Но почему он напал?
-Честно говоря: не знаю– Ира перелила остатки порошкового ягодного морса к себе в стакан за секунду до того как Денис успел сделать тоже самое. Энергетик остался сидеть с протянутой рукой, укоризненно глядя на специалиста по информационным системам.
-Ладно, страдалец, бери– отдала свой стакан Ира.
-Я не уверен, что это было нападение.– Денис сделал крохотный глоток, после которого на губах осталась от морса тёмная полоса.
-Что тогда, если не нападение?
-Паника.
-Роботы не паникуют!– возмутилась Ира.
-Хорошо, пусть не паника, а, как это правильно называется…– Денис прищёлкнул пальцами: –Вспомнил! Каскадное усиление сигналов, забивающее контуры нейронной сети и препятствующее нормальной обработке входящей информации. Такую формулировку примешь?
-Приму– Ира развела в ещё кипящей воде новую порцию порошка. В столовой отчётливо запахало спелой, перетёртой между пальцами, малиной. Кипяток на глазах приобретал насыщенный красный оттенок по мере того как мелкие гранулы растворялись отдавая сохранённый аромат.
-Я в этом плохо разбираюсь– призналась физик.
-Там и разбираться нечего– усмехнулся Денис: –Главная догма кибернетики гласит: роботы не люди. Они эмулируют, а не испытывают эмоции. Вместо чувства удовлетворения – стойкий рост потенциалов на выходе из подсистемы оценки и корректировки. Вместо страха – отрицательный вероятностный расчёт. Любопытство заменяет вложенный инстинкт поиска и обработки доступной информации. А чувство товарищества обеспечивает пропускная ширина канала коммуникации и подпрограмма распределения массива вычислений для параллельной обработки. Без поставленных человеком задач, существование псевдоразумных систем полностью лишено смысла.
-Хватит уже наговаривать на кибернетиков– Ира налила всем троим по новой порции ягодного морса.
Аня поднесла стакан к губам, но морс всё ещё был слишком горячим.
-Значит, главное отличие искусственного мозга от настоящего в неспособности ставить глобальные цели?
-Скорее в том, что для описания работы искусственных нейронных сетей разработан подходящий математический аппарат, а для описания процессов происходящих вот здесь– Денис коснулся пальцем лба: –Такой детализации пока не добились.
-Сказала ведь: хватит наговаривать на кибернетиков!– Ира возмущённо ткнула Дениса локтём, но тот только улыбнулся. Способный выдержать выстрел из древнего пистолета в упор, светло-серый комбинезон спас владельца и от острого локотка.
-Зачем вообще пытаться создавать настоящий разум– Снежинская подула, остужая кипяток: –Не лучше ли остановиться на том, что уже есть?
Подняв глаза физик увидела одинаковое удивлённого выражение сразу на двух лицах. Аня поспешила объяснить: –Столько проблем появится вместе с созданием полноценного искусственного разума. Нужно будет придумывать для него правовой статус и так далее. А вдруг он окажется нам враждебен.
-Почему искусственный разум вдруг станет враждебен людям?
-Я не сказала, что обязательно станет. Просто существует такая возможность…– на Анином лбу пролегла сходящаяся к переносице морщина появляющаяся там всегда, когда она над чем-то задумывалась: –Например он решит, что люди зазря растрачивают полезные ему ресурсы. Или будет настолько превосходить нас, что вполне сможет относится как к неразумным зверюшкам.
Денис рассмеялся. Ира ограничилась широкой улыбкой.
-Я сказала что-то смешное?– не удержалась от улыбки Аня.
-Вселенная бесконечна. И, хуже того, ближайшая её часть похоже пуста– ответила Ирина: –А в мире существует ещё столько загадок и тайн. Хватит на миллион лет существования миллиону искусственных интеллектов мыслящих со скоростью света.
-Вместе веселее– добавил Денис: –Кроме того вдвоём мы будем сильнее. Кто знает, что на самом деле происходит у дальних звёзд? Пуста только ближайшая часть бесконечной вселенной, да и то толком непонятно: так ли это.
-Но для разума мыслящего со скоростью света люди будут глупыми черепахами– попробовала возразить физик.
-Тогда что помешает искусственным детям человечества подтянуть родителей до своего уровня. Медленных сделать быстрыми. Глупых умными.
-… а злых людей – добрыми?– перебила Аня.
-Надеюсь, с этой задачей мы как-нибудь справимся сами.
-Вот уж не предполагал какой ты ретроград, Аня– покачал головой Денис: –Этот, как его – луддит.
-Вот только обзываться не надо.
-Прости– не сходя с места покаялся Денис. Он всегда легко извинялся. Отчасти поэтому Ире сложно было поверить в искренность его раскаяния. Уж слишком легко Кораблёву давались извинения: –Но согласись, что боятся злых роботов в наше время просто смешно.
-А если кто-то не захочет становится быстрее– поинтересовалась Снежинская.
-Не захочет?
-Категорически откажется.
-Так пусть и не становится– пожала плечами Ира: –Кто его заставлять будет. Или можно будет, скажем, прожить сто лет в своём теле – обычным человеком, потом сто лет внутри машины – где забываешь только то, что хочешь забыть, мысли бегут со скоростью смены состояний процессорных регистров и чтобы оставаться человеком придётся прикладывать определённые усилия. Потом сто лет кем-нибудь другим. Например, звездой.
-Люди-звёзды?– удивился Денис.
-Почему бы и нет!
Наручный коммуникатор Кораблёва издал короткую музыкальную трель. Энергетик скользнул взглядом по маленькому экрану: –Через пятнадцать минут сеанс связи с базой. Хватит фантазировать о людях и звёздах. Скажи лучше, что будем делать с карманным полтергейстом? Выключим и поставим в чулан? Мне нужно будет получить согласие капитана.
-Пожалуй попробую заново научить его разговаривать– задумчиво произнесла кибернетик.
-Это возможно?