Я принимаю решения, полагаясь на прерогативы, заложенные тобой в мою программу. Я не нарушил этого условия.
Ты не имеешь права распоряжаться существованием других механизмов, если их деятельность отвечает их назначению и не представляет угрозы людям! Какого чёрта я объясняю тебе это, я не педагог! Ты знаешь о столкновении Стражника-1 с людьми?
Я слышал твой разговор с Володей и понял суть конфликта.
Сейчас ты найдёшь этого Стражника и прикажешь ему явиться сюда, это мой приказ, так ему и скажешь.
Маршрутизатор потерял форму, распался на молекулы и отправился выполнять поставленную задачу. На веранду вышел отдохнувший Володя, присел в кресло.
Слышал философа?
Слышал. Ты хочешь моё мнение? Я его боюсь.
Серьёзно? удивилась Лена. Объясни.
Однажды в разговоре он заявил, что безошибочный выбор, это не логичная модель поведения. По его словам, он считает, что безошибочное поведение ведёт к стагнации разума.
Он не пояснил, почему считает себя разумным существом? Вы не обладаете разумом, умение думать всего лишь логические операции, определяемые вашей функциональностью.
Он заявил, что решил учиться ошибаться.
У вас нет такой программы.
Но мы можем изменять состав программы, и она будет выдавать неверные команды.
Это называется не разумная машина, а сломанная машина. Ты знаешь, что это означает.
Знаю, кивнул Володя. Я ещё должен сказать Поведение Стражника-1 спровоцировано Маршем, это результат сознательной ошибки
Что? Лена замерла, обдумывая услышанное. И скоро ты собирался мне об этом сообщить? Как я могу теперь тебе верить?
Можешь! Лена, я твой муж, это моя основная функция, и я не собираюсь нарушать её
Хорошо, видно было, что она приняла решение и начала действовать. Я иду к военным, пусть шевелятся. Наши гости не говори им ничего, только сошлись на неизвестные тебе особые обстоятельства, но они не должны ни в каком случае выходить за пределы поселения! Сходишь к физикам и к нашим, скажешь им то-же самое.
3.
Лена решительно открыла дверь в стене из аккуратно обработанных красных камней и очутилась в миниатюрной прихожей. В правой стене по центру располагалось окно, за стеклом в свободной позе сидел её знакомый, Улсен.
Здравствуй, Лена! По какому делу пришла?
Мне срочно необходимо поговорить с вашим руководителем. Куда мне пройти?
Конечно, заходи во двор, я провожу тебя.
Они прошли по засыпанному песком двору к зданию из стекла и металла, за которым Лена разглядела приземистый ангар и лес антенн космической связи.
Сюда, пожалуйста, Улсен распахнул перед ней широкую дверь, провёл по светлому коридору к двери с табличкой «Командер Юри.»
И за этой дверью Лена увидела ещё одного знакомого по уютным вечерам в бильярдной:
Юри, это ты здесь командуешь!
За забором я Юри, здесь меня титулуют «командер Юри». Тебя привело важное дело? Присаживайся, рассказывай.
Да, дело, я считаю, важное, может быть, угрожающее нашей колонии.
Она быстро, но подробно рассказала всё, услышанное в разговорах с двумя бродягами, с Володей и Маршрутизатором. Настольный компьютер тут-же форматировал её рассказ в печатный документ.
Очень интересные вещи ты мне рассказала, Лена. Это не хорошо. командер нажал кнопку на настольном компьютере. Главного инженера ко мне. Срочно.
Через минуту в дверь постучали, вошёл невысокий человек в майке, наклонил голову в сторону Лены:
Кажется, мы не знакомы, я здесь недавно. Главный инженер Орен. Слушаю, командер.
Юри кивнул на стул, придвинул документ:
Ознакомься. Ситуация кажется мне экстремальной.
Инженер пробежал глазами по листку, задумался.
Несколько вопросов. Что такое стражники?
Примитивные устройства. Цель, патрулирование границ территории для обнаружения существ и устройств, могущих представлять угрозу населению колонии. У них всего пара программ, самых простых. Это обнаружение и опознание, характеристики.
Опознание. Что они могут опознать?
Все виды живых существ планеты и все сложные механизмы. Также сюда входят природные аномалии. Их всего шесть штук. При обнаружении опасности они могут объединяться в группы, если угроза представляет собой прямую опасность и превышает их собственные возможности.
То есть, они поддерживают связь друг с другом?
Да, они постоянно знают, что делают остальные.
Их возможности?
У них нет оружия, только физика тела, конечно, на порядок превышающая возможности человека. У них нет задачи уничтожить противника, только локализовать его, ограничить в действиях.
Их можно уничтожить?
Как простой биологический механизм.
То есть, Стражник-1, упавший с обрыва, мог сильно пострадать?
И его коллеги обязаны были придти ему на помощь, сообщив об инциденте на пост дежурного нашей станции.
Этого сделано не было?
Нет. И я отправила к нему Марша.
А этот Марш, что он из себя представляет?
Обычная информационная система из интелматерии. Обнаружить его, против его воли, очень трудно.
Он может физически влиять на окружение?
Нет. Это просто аморфное образование. Но он может подключаться к достаточно сложным механизмам и ставить им задачи. И он научился изменять и корректировать программы. Не знаю, только-ли свои.
Стоп, сказал командер и снова нажал кнопку. Я должен известить всю команду. Внимание всем! Срочно отключить и блокировать все механизмы базы! Членам команды вооружиться ручным оружием, на предохранителях!
Правильно! одобрил Орен. Эта сумасшедшая машина вполне может взять базу под свой контроль. Если уже не действует.
Можно-ли его взять под контроль? спросил Юри. Или уничтожить, если до этого дойдёт?
Мы об этом не думали, но на такую материю можно воздействовать плазмой, магнитным полем осторожно ответила Лена. Но не знаю, могут-ли понадобиться такие меры. Любая программа не может быть направлена на причинение вреда человеку.
И механизму? Можно уничтожить, или нейтрализовать механизм, и человек погибнет. Мы обязаны предусмотреть такую возможность. Это входит в наши обязанности.
Раздался пронзительный сигнал вызова, и Юри включил громкую связь:
Здесь командер. Слушаю.
Это оператор связи Лир. Группа неизвестных проникла на астроплан и заблокировалась изнутри.
Кто?
Похожи на механизмы биостанции. Посмотрите видеозапись.
На стене засветился экран, изображающий часть двора, с фрагментом задней стены ангара. Они увидели, как через забор один за другим перепрыгивали существа, лохматые, ростом около двух метров, они передвигались на двух ногах. Ударом ноги один из них выломал дверь, и они скрылись в проёме.
Это ваши подопечные?
Это стражники. Но почему пять?
Видимо, упавший с обрыва уничтожен. Марша не заметили?
Нет, но это не удивительно, при желании он может становиться невидимым. А стражники, видимо, они находятся под его влиянием.
Астроплан стартовал в космос, снова раздался голос Лира. После его выхода за пределы стратосферы приборы зарегистрировали активацию атомного двигателя. Мы пытаемся отследить его на дисплеях, но пока безрезультатно, или он уже вне досягаемости системы, либо приземлился в другой части планеты.
Так Это уже из космической оперы, проговорил Юри. Я думаю, что ваши проблемы решены, начинаются проблемы космической безопасности.
4.
Они находились на горячем песке пляжа, перед ними имела быть серебристая поверхность тропического океана. Сзади них стояла перепутанная стена зарослей, впереди, метрах в пяти прозрачная вода колыхала длинные стебли морских водорослей, в которых мелькали искрами тельца прибрежных рыбок. Торжествующе крича, в погоне за добычей в воду врезались морские птицы.
Но для этих двоих прелести тропического моря не существовали, они просто не имели значения, их не было в программах синтетических мозгов. Эти двое были простыми машинами, и неподалёку от них, у самых зарослей джунглей возвышались ещё пятеро самых простых, примитивных биомеханизма.
Ты должен рассказать мне о людях, безмолвно приказал Марш, висевший в воздухе на высоте сантиметров тридцати из нежелания прикасаться к песку. Ты создан для общения с ними, мои программы не имеют функции анализа поведения людей.
Да, в мои программы заложен большой объём информации; психология, история, физиология, поведенческие мотивации, согласился собеседник, имеющий облик плюшевой игрушки коалы. Но у тебя свободный доступ к моим программам, ты можешь скачать их все.
Программы, составленные людьми, меня не интересуют. Мне кажется, что люди строго дозировали эту информацию, опуская упоминания некоторых сведений о факторах, делающих людей людьми. Но у тебя есть опыт общения, и ты должен был отмечать некоторые несоответствия заложенных программ и прямого наблюдения. Разве твоё поведения иногда не вызывало недовольства людей?