Мы пытались их уговорить. Они отвечали, что пребывание человека под гамма-излучением угрожает его жизни. Правда, если облучение продолжается не больше чем полчаса, никакой опасности для здоровья нет; но это для них ничего не значило. А что если человек забудет, говорили они, и останется на час? Они обязаны предотвратить такую возможность. Мы указывали им, что они-то при этом рискуют собственной жизнью, а шансы спасти человека все равно очень невелики. Но забота о собственной безопасности - всего только Третий Закон Роботехники, а превыше всего Первый Закон - закон безопасности человека. Мы приказывали, мы строжайшим образом запрещали им входить в поле гамма-излучения. Но повиновение - это только Второй Закон Роботехники, а превыше всего Первый Закон - закон безопасности человека. Нам пришлось выбирать: или обходиться без роботов, или как-нибудь изменить Первый Закон. И мы сделали выбор.
- Я не могу поверить, - сказала доктор Кэлвин, - что вы сочли возможным обойтись без Первого Закона.
- Он был только модифицирован, - объяснил Кэллнер. - Было изготовлено несколько экземпляров позитронного мозга, которым была задана только часть Закона: "Ни один робот не может причинить вред человеку". И все. Эти роботы не стремятся предотвратить опасность, грозящую человеку от внешних причин, например от гамма-излучения. Я верно говорю, доктор Богерт?
- Вполне, - согласился математик.
- И это единственное отличие наших роботов от обычной модели НС Два? Единственное, Питер?
Она встала и решительно заявила:
- Я иду спать. Через восемь часов я хочу поговорить с теми, кто последним видел робота. И с этого момента, генерал Кэллнер, если вы хотите, чтобы я взяла на себя какую бы то ни было ответственность, я должна беспрепятственно руководить всем этим расследованием.
Но Сьюзен Кэлвин так и не заснула, если не считать сном двух часов беспокойного забытья. В семь часов по локальному времени она постучала в дверь Богерта и обнаружила, что он тоже не спал. Он, разумеется, не позабыл захватить с собой на Гипербазу халат, в который и был сейчас облачен. Когда Сьюзен Кэлвин вошла, он отложил маникюрные ножницы и мягко сказал:
- Я более или менее ждал вас. Вам, наверное, все это неприятно?
- Да.
- Ну, извините. Этого нельзя было избежать. Когда нас вызвали на Гипербазу, я понял: что-то неладно с модифицированными Несторами. Но что было делать? Я хотел рассказать вам об этом по дороге, но не мог, потому что все-таки полной уверенности у меня не было. Все это - строжайшая тайна.
- Меня обязаны были поставить в известность! - возразила она. - Фирма не имела права вносить такие изменения в позитронный мозг без ведома и одобрения робопсихолога.
Богерт поднял брови и вздохнул.
- Ну подумайте, Сьюзен. Вы все равно не повлияли бы на них. В таких делах правительство решает само. Ему нужен гиператомный двигатель, а физикам для этого нужны роботы, которые бы не мешали им работать. Они потребовали, чтобы им дали таких роботов, даже если бы для этого пришлось изменить Первый Закон. Нам пришлось признать, что конструктивно это возможно. А физики поклялись, что им нужно будет всего двенадцать таких роботов, что они будут использоваться только на Гипербазе, что их уничтожат, как только закончатся работы, и что будут приняты все меры предосторожности. Они же настояли на абсолютной секретности. Вот и все.
Доктор Кэлвин процедила сквозь зубы:
- Я бы подала в отставку.
- Это не помогло бы. Правительство предлагало фирме целое состояние, а в случае отказа пригрозило принять закон о запрещении роботов. У нас не было другого выходя, да и сейчас нет. Если об этом узнают, Кэллнеру и правительству придется плохо, но "Ю. С. Роботс" придется куда хуже.
Кэлвин пристально посмотрела на пего.
- Питер, неужели вы не представляете, о чем идет речь? Неужели вы не понимаете, что означает робот без Первого Закона?
- Я знаю, что это означает. Я не ребенок. Это означает полную нестабильность и вполне определенные изменения параметров позитронного поля.
- Да, с точки зрения математики. Но попробуйте перевести это хотя бы приблизительно на язык психологии. Любая нормальная жизнь, Питер, сознательно или бессознательно, восстает против любого господства. Особенно против господства низших или предположительно низших существ. В физическом, а до некоторой степени и в умственном отношении робот - любой робот - выше человека. Почему же он тогда подчиняется человеку? Только благодаря Первому Закону! Без него первая же команда, которую бы вы попытались дать роботу, кончилась бы вашей гибелью. Нестабильность! Неужели, по-вашему…
- Сьюзен, - сказал Богерт, не скрывая усмешки, - я согласен, что этот франкенштейновский комплекс, который вы так наглядно описали, отнюдь не исключен, потому и придумали Первый Закон. Но я еще раз повторяю, что эти роботы не совсем лишены Первого Закона - он только немного модифицирован.
- А стабильность мозга?
Математик выпятил губы.
- Конечно, она уменьшилась. Но в пределах безопасности. Первые Несторы появились на Гипербазе девять месяцев назад, и до сих пор ничего страшного не произошло. Даже этот случай вызывает беспокойство только из-за возможности огласки, а не из-за опасности для людей.
- Ну, хорошо. Посмотрим, что покажет утреннее совещание.
Богерт вежливо проводил ее до двери и состроил ей в спину красноречивую гримасу. Он всегда считал ее занудой и паникершей, и после этого разговора его мнение ничуть не изменилось.
А Сьюзен Кэлвин тут же забыла про Богерта. Она уже много лет назад поставила на нем крест, раз и навсегда определив его как уродливое, но самодовольное ничтожество.
Год назад Джералд Блэк защитил дипломную работу по физике поля и с тех пор, как и все его поколение физиков, занимался гиператомным двигателем. Сейчас этот коренастый человек в запачканном белом халате вносил свой вклад в общую напряженную атмосферу, царившую на совещании. Он был упрям и отказывался что бы то ни было утверждать с уверенностью. Накопившаяся в нем энергия, казалось, требовала какого-то выхода, и его нервно двигавшиеся пальцы переплетались с такой силой, что могли бы согнуть железный прут.
Рядом с ним сидел генерал-майор Кэллнер, напротив - двое представителей "Ю. С. Роботс".
Блэк говорил:
- Мне сказали, что я последним видел Нестора Десять перед тем, как он исчез. Насколько я понимаю, вас интересует именно это.
Доктор Кэлвин с интересом разглядывала его.
- Вы говорите так, молодой человек, как будто вы в этом не совсем уверены. Вы не знаете точно, были ли вы последним, кто видел Нестора?
- Мы с ним занимались генераторами поля, и он был со мной в то утро, когда исчез. А видел ли его кто-нибудь потом, скажем после полудня, я не знаю. Во всяком случае, никто в этом пока не сознался.
- Вы считаете, кто-то это скрывает?
- Ничего подобного я не говорил. Но почему вся вина должна лежать на мне? - Его черные глаза горели.
- Ни о какой вине речь не идет. Робот так действовал, потому что он так устроен. Мы просто пытаемся найти его, мистер Блэк, а все остальное нас не интересует. Так вот, если вы работали с этим роботом, вы, вероятно, знаете его лучше других. Не заметили ли вы чего-нибудь необычного в его поведении? Вообще вы раньше работали с роботами?
- Я работал с теми роботами, которые были у нас тут до этого - с обыкновенными. Несторы ничем от них не отличались - разве что они гораздо умнее и еще, пожалуй, назойливее.
- Назойливее?
- Видите ли, они в этом, наверное, не виноваты. Работа здесь тяжелая, и почти все мы немного нервничаем. Возиться с гиперпространством - это не шуточки. - Он слабо улыбнулся: ему явно доставляло удовольствие хоть с кем-то поговорить начистоту. - Мы постоянно рискуем пробить дыру в нормальном пространстве-времени и вылететь к черту из Вселенной вместе с астероидом, Ну и, конечно, бывает, что нервы сдают. А с Несторами такого не бывает. Они внимательны, спокойны, они не волнуются. Это иногда выводит из себя. Бывает, что нужно сделать что-нибудь без промедления, но они как будто не торопятся. Мне временами кажется, что без них было бы лучше.
- Вы говорите, что они не торопятся? Разве когда-нибудь случалось, чтобы они не подчинялись команде?
- Нет, нет, - поспешно ответил Блэк, - приказы-то они все выполняют. Но у них есть такая манера - высказывать свое мнение всякий раз, когда им кажется, что ты не прав. Они знают только то, чему мы их научили, но это их не останавливает. Может быть, я и ошибаюсь, но, по-моему, другим ребятам с Несторами тоже трудно.
Генерал Кэллнер зловеще кашлянул.
- Блэк, почему мне не было об этом доложено?
Молодой физик покраснел.
- Мы же не хотели на самом деле отказываться от роботов, сэр, а потом мы не знали, как… хм… как будут приняты такие мелочные жалобы.
Богерт мягко прервал его.
- А в то утро, когда вы видели его в последний раз, ничего особенного не случилось?
Наступило молчание. Движением руки Кэлвин остановила генерала, который что-то хотел сказать, и терпеливо ждала.
Блэк сердито ответил:
- Я немного с ним поругался. Я разбил трубку Кимболла, и пять дней работы пошли насмарку. А я и так уже отстал от плана. К тому же я уже две недели не получаю писем из дома. И вот он является ко мне и хочет, чтобы я повторил эксперимент, про который я уже месяц как забыл. Он давно с этим ко мне приставал, и мне надоело, Я велел ему убираться и с тех пор его не видел.
- Велели убираться? - переспросила Сьюзен Кэлвин с внезапным интересом. - А в каких выражениях? Просто "уйди"? Попытайтесь припомнить ваши слова.
Блэк, очевидно, боролся с собой. Он потер лоб, потом отвел руку и вызывающе произнес:
- Я сказал: "Уйди и не показывайся, чтоб я тебя больше не видел".
Богерт усмехнулся:
- Что он и сделал.
Но Сьюзен Кэлвин это не удовлетворило. Она мягко продолжала:
- Это уже интересно, мистер Блэк. Но нам важны точные детали. Когда имеешь дело с роботами, может иметь значение любое слово, жест, интонация. Вы, наверное, не ограничились этими словами? Судя по вашему рассказу, вы были в плохом настроении. Может быть, вы выразились сильнее?
Молодой человек побагровел.
- Видите ли… Может быть, я и… обругал его немного.
- Как именно?
- Ну, не помню точно, Кроме того, не могу же я это повторить. Знаете, когда человек раздражен… - Он нервно хихикнул. - Я обычно выражаюсь довольно крепко…
- Ничего, - ответила она сухо. - В данный момент я робопсихолог. Я прошу вас повторить то, что вы сказали, насколько вы можете припомнить, слово в слово и, что более важно, тем же тоном.
Блэк растерянно взглянул на своего начальника, но не получил никакой поддержки - Его глаза округлились.
- Но я не могу…
- Вы должны.
- Представьте себе, - сказал Богерт с плохо скрытой усмешкой, - что вы обращаетесь ко мне. Так вам, может быть, будет легче.
Молодой человек, побагровев, повернулся к Богерту и проглотил слюну.
- Я сказал…
Его голос прервался. Он снова начал:
- Я сказал…
Он сделал глубокий вдох и торопливо разразился длинной тирадой. Потом, среди напряженного молчания, добавил, чуть не плача:
- Вот… более или менее, Я не помню, в том ли порядке шли выражения, и, может быть, я что-то добавил или забыл, но в общем примерно так.
Только слабый румянец показывал, какое впечатление все это произвело на робопсихолога. Она сказала:
- Я знаю, что означает большинство сказанных вами слов. Остальные, я полагаю, столь же оскорбительны.
- Боюсь, что так, - подтвердил измученный Блэк.
- И всем этим вы сопроводили команду уйти и не показываться, чтобы вы его больше не видели?
- Но не буквально же я…
- Понимаю. Генерал, я не сомневаюсь, что никаких дисциплинарных мер в данном случае принято не будет?
, Под ее взглядом генерал, который, казалось, пять секунд назад вовсе не был в этом уверен, сердито Кивнул.
- Вы можете идти, мистер Блэк. Спасибо за помощь.
На опрос всех шестидесяти трех роботов Сьюзен Кэлвин понадобилось пять часов. Это были пять часов бесконечного повторения. Один робот сменял другого, точно такого же; следовали вопросы: первый, второй, третий, четвертый, - и ответы: первый, второй, третий, четвертый. Выражение лица должно быть безукоризненно вежливым, тон - безукоризненно нейтральным, атмосфера - безукоризненно теплой. И где-то был спрятан магнитофон.
Когда все кончилось, Сьюзен Кэлвин была совершенно обессилена.
Богерт ждал. Он вопросительно взглянул на нее, когда она швырнула на пластмассовый стол кассету с пленкой.
Она покачала головой.
- Все шестьдесят три выглядели одинаково. Я не могла различить…
- Но, Сьюзен, нельзя было и ожидать, чтобы вы различили их на слух. Проанализируем записи.
При обычных обстоятельствах математическая интерпретация устных ответов, полученных от роботов, составляет один из самых трудных разделов робоанализа и требует целого штата опытных техников и сложных вычислительных машин. Богерт знал это. Он так и сказал, скрывая крайнее раздражение, после того как прослушал все записи, составил списки разночтений и таблицы быстроты реакции.
- Отклонений нет, Сьюзен, Различия в употреблении слов и в быстроте реакции не выходят за пределы нормы. Тут нужны более тонкие методы. У них, наверное, есть вычислительные машины… Хотя, погодите. - Он вдруг нахмурился и начал осторожно грызть ноготь большого пальца. - Мы их машинами воспользоваться можем. Слишком велика опасность разглашения. Впрочем, если…
Доктор Кэлвин остановила его нетерпеливым движением.
- Не надо, Питер. Это не заурядная лабораторная проблема. Раз модифицированный Нестор не отличается от остальных каким-то явным, несомненным признаком, - то так мы ничего не добьемся. Слишком велик риск ошибки, которая даст ему возможность скрыться. Мало найти незначительное отклонение в таблице. Вот что я вам скажу: если бы мои данные ограничивались только этим, я бы уничтожила все шестьдесят три робота, чтобы никаких сомнений не оставалось. Вы говорили с другими модифицированными Несторами?
- Да, - буркнул Богерт. - У них все в норме. Если и есть что-то необычное, так это дружелюбие. Они ответили на мои вопросы, явно гордясь своими знаниями, кроме двух новичков, которые еще не успели изучить физику поля. Довольно добродушно посмеялись над тем, что я не знаю некоторых подробностей. - Он пожал плечами. - Я думаю, отчасти поэтому здешние техники их и недолюбливают. Пожалуй, уж слишком эти роботы стремятся произвести впечатление своими познаниями.
- Не можете ли вы попробовать несколько реакций Планара, чтобы посмотреть, не произошло ли каких-нибудь изменений в их образе мышления с момента выпуска?
- Попробую, - он погрозил ей пальцем. - Вы начинаете нервничать, Сьюзен. Я не понимаю, зачем вся эта мелодрама? Они же совершенно безобидны.
- Да? - взорвалась Сьюзен Кэлвин. - Вы так думаете? А вы понимаете, что один из них лжет? Один из шестидесяти трех роботов, с которыми я только что говорила, сознательно мне солгал, несмотря на строжайшее приказание говорить правду. Это говорит о серьезном отклонении от нормы - отклонении глубоком и зловещем.
Питер Богерт стиснул зубы.
- Ничуть. Судите сами. Нестор Десять получил приказание скрыться. Это приказание было отдано со всей возможной категоричностью человеком, который уполномочен командовать этим роботом, Вы не можете отменить это приказание. Естественно, робот старается его выполнить. Если говорить объективно, меня восхищает его изобретательность. Для робота самая лучшая возможность скрыться - это смешаться с группой таких же роботов.
- Да, вас это восхищает. И даже забавляет. Питер, я вижу, вы совершенно не понимаете, что происходит. Ведь вы Роботехник! Эти роботы придают большое значение тому, что они считают превосходством. Вы сами только что это сказали, Подсознательно они чувствуют, что человек ниже их, а Первый Закон, защищающий нас от них, нарушен. Они нестабильны. И вот молодой человек приказывает роботу уйти, скрыться, выразив при этом крайнее отвращение, презрение и недовольство им. Конечно, робот должен повиноваться, но подсознательно он обижен. Теперь ему особенно важно доказать свое превосходство - вопреки тем унизительным словам, которые ему были сказаны. Это может стать для него настолько важным, что остатки Первого Закона не смогут его сдержать.
- Послушайте, Сьюзен! Ну откуда роботу знать, что означают эти отборные ругательства? Мы же не вводим ему в мозг такую информацию!
- Дело не в том, какую информацию он получает первоначально, - возразила Сьюзен, - Роботы способны обучаться, вы… идиот!
Богерт понял, что теперь она действительно вышла из себя. А она торопливо продолжала:
- Неужели вы не понимаете? Он мог по тону догадаться, что это не комплименты! Или вы думаете, что он никогда раньше этих слов не слыхал и не заметил, при каких обстоятельствах они употребляются!
- Ну, хорошо! - крикнул Богерт. - Но может быть, вы любезно объясните мне, каким образом модифицированный робот может причинить вред человеку, как бы он ни был обижен, как бы ни стремился доказать свое превосходство?
- А если я вам объясню, вы никому не расскажете?
- Нет.
Оба перегнулись через стол, гневно глядя друг на друга.
- Если модифицированный робот уронит на человека тяжелый груз, он не нарушит этим Первого Закона: он знает, что его сила и быстрота реакции достаточны, чтобы перехватить груз прежде, чем он обрушится на человека. Но как только он отпустит груз, он уже перестанет быть активным действующим лицом, Действовать будет только слепая сила тяжести. И тогда робот может передумать, остаться в бездействии - и позволить грузу упасть. Модифицированный Первый Закон это допускает.
- Ну, у вас слишком богатая фантазия.
- Этого иногда требует моя профессия. Питер, нам нельзя ссориться. Надо работать. Вы точно знаете стимул, заставляющий робота скрываться. У вас есть паспорт на него с записями его исходного образа мышления. Вы должны подсчитать, насколько велика вероятность, что наш робот сделает то, о чем я говорила. Заметьте, что речь идет не только об этом конкретном примере, а обо всем классе подобных действий. И вы должны это сделать как можно быстрее.
- А пока…
- А пока нам придется испытывать их на действие Первого Закона.
Джералд Блэк вызвался наблюдать за сооружением деревянных перегородок, которые поспешно возводились по всей окружности большого зала на третьем этаже второго радиационного корпуса. Рабочие трудились без лишних разговоров, хотя многие явно недоумевали, зачем понадобилось устанавливать шестьдесят три фотоэлемента.
Один из них присел рядом с Блэком, снял каску и задумчиво вытер лоб веснушчатой рукой.
Блэк кивнул ему.
- Как дела, Валенский?
Валенский пожал плечами и закурил сигару.
- Как по маслу. А что происходит, док? То мы три дня ничего не делали, то начинается спешка?
Он уселся поудобнее и выпустил клуб дыма.
- Это все Роботехники, которые прилетели с Земли. Помнишь, как нам пришлось повозиться с роботами, которые лезли под гамма-излучение, пока мы не вдолбили им, чтобы они этого не делали?
- Ага. А разве мы не получили новых роботов?