— Ты вправду сделал эту вещь, Эндрю?
— Да, Сэр.
— Ты ведь знаешь, что роботам не положено лгать.
— Это не совсем так, Сэр. Я могу солгать, если мне прикажут, или если необходимо солгать, чтобы уберечь человека от беды, или даже ради собственного спасения. — Он помолчал. — Но эту вещь я действительно изготовил сам для Маленькой Мисс.
— И придумал сам? Ты — его автор?
— Да, Сэр.
— С чего ты его скопировал?
— Скопировал, Сэр?
— Не с потолка же ты его взял. Ты нашел рисунок в какой-нибудь книге? Или воспользовался компьютером, или…
— Уверяю вас, Сэр, я всего лишь хорошо изучил необработанную деревяшку, пока не сообразил, в каких направлениях и как ее резать, чтобы угодить Маленькой Мисс. И потом я стал вырезать.
— Позволь спросить тебя, какими инструментами ты пользовался?
— Маленьким кухонным ножиком, Сэр, который мне любезно вручила Маленькая Мисс.
— Кухонным ножиком, — непривычно бесцветным тоном повторил Сэр. Медленно покачивая головой, он взвесил на руке кулон, как будто хотел понять, откуда такая красота. — Кухонным ножиком. Она дала тебе кусок дерева и обычный кухонный нож, и ты этим инструментом сумел создать это?
— Да, Сэр.
На следующий день Сэр принес с побережья другой кусок дерева, большой, искривленный и выцветший, весь в пятнах от долгого пребывания в море. Он снабдил Эндрю электрическим виброножом и показал, как им пользоваться.
— Сделай что-нибудь из этой чурки, Эндрю, — сказал Сэр. — Все, что захочешь. А я понаблюдаю за твоей работой.
— Конечно, Сэр.
Некоторое время Эндрю размышлял над деревяшкой, потом включил вибронож и, используя максимальное оптическое увеличение, исследовал, какие результаты могут быть получены с его помощью; после этого Эндрю приступил к работе. Сэр сидел рядом с ним, но стоило Эндрю начать вырезать, как он забыл о человеке рядом с собой. Он целиком сосредоточился на своей работе. Теперь для него имели значение лишь кусок дерева, вибронож и представление о том, что он собирался создать.
Когда он закончил, он протянул изделие Сэру, а сам отправился за пылесосом, чтобы убрать стружки. Возвратившись в комнату, Эндрю увидел, что Сэр неподвижно сидит и безмолвно и озадаченно рассматривает поделку.
— Я заказывал робота серии НДР для домашних услуг, — наконец тихо сказал он. — Не припомню, чтобы в инструкции что-нибудь говорилось о применении его в качестве мастерового.
— Вы правы, Сэр. Я и есть робот НДР для домашних услуг. И у меня нет никаких специальных ремесленных умений.
— Но ты же сделал эту вещь, я видел все своими глазами.
— Да, Сэр.
— А ты мог бы еще что-нибудь вырезать из дерева? Или смастерить шкаф, например? Или стол? Или светильник? Скульптуры больших размеров?
— Этого я не могу вам сказать, Сэр. Я никогда не пробовал делать их.
— Что ж, теперь попробуешь.
После этого события Эндрю очень редко прислуживал за столом или готовил еду, или выполнял другие домашние дела, которые прежде входили в его обязанности. Ему приказали читать книги по резьбе и по дизайну по дереву и все, что касалось производства мебели, а одну из пустующих комнат в мансарде приспособили ему под мастерскую.
По предложению Сэра Эндрю больше всего был занят производством столов и шкафов, но он не оставлял и работу над маленькими безделушками для Мисс, Маленькой Мисс, а иногда и для самой Мэм, делал браслеты, серьги, ожерелья, кулоны. Его композиции поражали своей неординарностью. Он работал с экзотическими, редкими породами деревьев, которые доставал ему Сэр, и украшал свои изделия инкрустациями со сложными и искусными узорами.
Чуть не каждый день Сэр поднимался в мастерскую посмотреть на новые работы Эндрю.
— Это потрясающие произведения, — не уставал он повторять. — Совершенно потрясающие. Ты, Эндрю, не ремесленник, понимаешь? Ты — настоящий художник. И созданные тобой предметы — это произведения искусства.
— Я наслаждаюсь, когда занимаюсь ими, Сэр, — сказал как-то Эндрю.
— Наслаждаешься?
— Я не должен был употреблять это слово?
— Довольно странно слышать, когда робот говорит, что он чем-то наслаждается. Я полагал, что роботы не способны на чувства такого рода.
— Возможно, я неправильно употребил термин.
— Возможно, — сказал Сэр. — Но я не уверен в этом. Ты сказал, что наслаждаешься, когда делаешь это. Что ты под этим подразумеваешь?
— Когда я занят работой по дереву, токи в моем мозгу текут как-то свободнее. И мне почему-то кажется, что человек испытывает что-то подобное, когда он наслаждается. Я слышал, как вы произносили слово «наслаждаюсь», и думаю, что я правильно понял его значение. То, что вы называете этим словом, соответствует тому, что я чувствую. Так что скорее всего я вправе говорить, что я наслаждаюсь, занимаясь своим делом, Сэр.
— А, ну да.
Сэр с минуту помолчал.
— А ведь ты не обычный робот, Эндрю, да?
— Я совершенно стандартен, Сэр. Я робот системы НДР, только и всего.
— Действительно.
— Вас тревожит, что я тут работаю со всеми этими шкафами, столами, Сэр?
— Нет-нет, Эндрю, наоборот.
— И все же я чувствую определенную озабоченность в вашем голосе. В нем слышится… как бы это сказать?.. В нем слышится удивление? Нет, удивление — это не совсем точно. Неуверенность? Сомнение?.. В общем, мне кажется, Сэр, что вы все время думаете о том, что я действую за пределами того уровня, на который был запрограммирован.
— Да, — сказал Сэр, — именно об этом я и думаю, Эндрю. Ты действительно перешагнул за рамки запрограммированных возможностей. Но беспокоит меня не то, что в тебе неожиданно проявились способности творить, пойми. Я очень хотел бы знать, как и почему это произошло.
Глава 4
Несколько дней спустя Джералд Мартин позвонил управляющему местного отделения «Ю. С. Роботс энд Мекэникл Мен Корпорейшн» и сказал:
— У меня возникли небольшие проблемы с домашним роботом НДР, которого я приобрел у вас.
Управляющего звали Эллиот Смайт. Как и большинство высших чинов «ЮСРММ», Смайт принадлежал к большому, богатому семейству Робертсонов, ведущему свое начало от Лоуренса Робертсона, основавшего «Ю. С. Роботс Корпорейшн» в конце двадцатого века.
К этому времени компания так разрослась, что, строго говоря, не могла рассматриваться как семейное предприятие Робертсонов: необходимость в притоке новых капиталов для расширения производства принуждала Робертсонов и Смайтов постоянно продавать значительные количества акций «ЮСРММ» посторонним инвесторам. Тем не менее человеку, не принадлежащему к их кругу, не так уж просто было поднять трубку и попросить к телефону Робертсона или Смайта. Но Джералд Мартин был председателем регионального Комитета по науке и технике, и как бы богаты и могущественны ни были Робертсоны и Смайты, они не посмели бы пренебречь звонком Джералда Мартина.
— Проблемы? — сказал Эллиот Смайт, и его лицо на телефонном экране выразило крайнее замешательство. — Чрезвычайно жаль, мистер Мартин. Должен признаться, меня это удивляет. Ваш НДР — это, знаете ли, произведение искусства, и перед тем, как быть отправленным к вам, он прошел всестороннее тестирование. Какие неисправности вы обнаружили в нем? Он в чем-то не оправдал ваших ожиданий?
— Я ничего не говорил о неисправностях.
— Но вы упомянули о возникших проблемах, мистер Мартин. НДР должен справляться с любой работой по дому, которую…
Сэр решительно прервал его:
— Я вовсе не имею в виду тех обязанностей, которые ему предписаны, мистер Смайт. НДР-113 прекрасно с ними справляется. Проблема в том, что у робота проявились не оговоренные в руководстве способности, в том руководстве, которое мы с вами обсуждали, когда впервые решили доставить в мой дом роботов-слуг.
Выражение замешательства на лице Смайта сменилось выражением мрачного предчувствия.
— Вы хотите сказать, что он преступил запрограммированный в его мозгу блок обязанностей и делает все, что ему вздумается, а не то, что ему приказывают?
— Нет, ничего подобного. Если бы происходило что-нибудь в этом роде, вы давно были бы осведомлены об этом, уверяю вас. Нет, мистер Смайт, дело в том, что совершенно неожиданно он занялся работами по дереву. Он делает из дерева украшения и мебель. Моя младшая дочь обратилась к нему как-то с просьбой сделать ей из дерева кулон, и он выполнил работу так превосходно, что превзошел все наши ожидания. И тогда я велел ему вырезать из дерева еще много разных вещиц. Он вырезает феноменально тонкие узоры и при этом никогда не повторяется. Его работы — это произведения искусства. Любой музей почел бы за честь выставить их у себя.
После того как Сэр кончил говорить, Смайт немного помолчал. Уголки его губ слегка подергивались, но никаких других проявлений эмоций он себе не позволил.
Потом он сказал:
— Роботы серии НДР довольно многосторонни, мистер Мартин. Нет ничего невозможного в том, что какой-то НДР оказался способен к столярным работам.
— Мне казалось, что я недвусмысленно сказал вам, что это далеко не обычные столярные работы, — возразил Сэр.
— Да, возможно, — сказал Смайт, и наступила новая, довольно продолжительная пауза. Затем Смайт произнес: — Я хотел бы посмотреть на его работы. И заодно посмотрел бы на вашего робота. Надеюсь, вы не будете против, если я прилечу к вам на побережье и быстренько обследую его?
— Но обследование потребует лабораторных условий, не так ли? Насколько я понимаю, вам нужны будут приборы для тестирования, а как вы доставите их сюда, в мой дом? Может быть, проще мне привезти к вам Эндрю, чтобы вы на месте хорошенько проверили его?
— Эндрю?
Сэр улыбнулся:
— Так его называют мои девочки. По созвучию с его серией НДР, знаете ли.
— Ах да. Да, понятно. Но не стоит вам утруждать себя этим полетом сюда, на восток, мистер Мартин. Я все равно давно должен был посетить наши предприятия на Западном побережье, это вполне оправдывает мой визит к вам. К тому же я не собираюсь подвергать вашего НДР сложному тестированию. Мне нужно всего лишь поговорить с ним и с вами и посмотреть его работы по дереву: и вообразить не могу, как это вы доставите сюда целый вагон его столов и шкафов.
— Вы, пожалуй, правы.
— Тогда в следующий вторник? Это удобно для вас?
— Думаю, что да, — сказал Сэр.
— Да, вот еще что. Если позволите, я захвачу с собой Мервина Менски. Он — наш главный робопсихолог. Наверное, доктору Менски тоже будет интересно взглянуть на поделки робота НДР-113. Я даже уверен в этом.
Сэр освободил вторник от всех дел, чтобы остаться дома. Смайт и Менски должны были прилететь в Сан-Франциско дневным рейсом, а потом еще в течение тридцати минут добираться местным шатлом до побережья.
Эндрю был предупрежден о том, что приедут гости, чтобы осмотреть его. Ему это показалось странным: кому может прийти в голову наносить светский визит роботу, — но разбираться в происходящем у него не возникло никакого желания. Тогда Эндрю еще редко интересовался делами людей и почти не анализировал их всерьез. Только спустя многие годы, когда он гораздо лучше осознал свое положение, он смог правильно оценить это уже давнее событие и понять его истинный смысл.
Роскошный лимузин с шофером-роботом доставил руководителя «Ю. С. Роботс» и главного робопсихолога в поместье Мартинов. Они представляли собой совершенно разнородную пару: Эллиот Смайт был стройный, высокого роста человек атлетического сложения, с огромной, пышной гривой седых волос; казалось, ему уместнее было бы находиться не в конторе корпорации, а на теннисном корте или на матче по водному поло; а Мервин Менски был низеньким толстяком, волос не имел вовсе и производил впечатление человека, который покинет свое рабочее место только под сильным нажимом.
— Это Эндрю, — сказал им Сэр. — Его мастерская находится наверху, но и здесь вы можете увидеть кое-какие его работы. Вот этот книжный шкаф, светильники и стол, на котором они стоят, люстра…
— Изумительная работа, — сказал Эллиот Смайт. — Без всяких преувеличений — это шедевры, каждый из них.
Мервин Менски едва взглянул на всю эту мебель. Его внимание было сосредоточено на Эндрю.
— Контрольный код Элиф-9, Эндрю, — резко бросил он.
Ответ Эндрю последовал незамедлительно. Так оно и должно было быть: кодовая проверка была сопряжена со Вторым Законом и требовала беспрекословного подчинения. Эндрю, сверкая красными фотоэлектрическими глазами, выдал все параметры системы Элиф-9; Менски слушал его, кивая головой.
— Прекрасно, Эндрю. Контрольный код Эпсилон-7.
Эндрю исполнил ему весь Эпсилон-7. Менски дал ему Омикрон-14. Потом Каппа-3 — самый каверзный контрольный код, в который входили все параметры Трех Законов.
— Хорошо, — сказал Менски. — Ну, еще один. Контрольный код Омега, вся группа.
Эндрю перечислил все коды Омеги, которые регулировали и корректировали все процессы при введении новых данных в программу. Их перечисление требовало немало времени. Сэр в растерянности наблюдал за долгим испытанием. Эллиот Смайт, казалось, не слушал ни Менски, ни Эндрю.
— Он в прекрасной форме, — сказал Менски. — Каждый параметр отвечает требованиям.
— Я говорил мистеру Смайту, что дело не в том, что Эндрю якобы не справляется со своими обязанностями. Он не только с ними справляется — его возможности оказались вопреки ожиданиям куда более широкими.
— Может, вопреки вашим ожиданиям, — сказал Менски.
Сэр резко повернулся к нему, как будто его ужалили:
— О чем это вы, позвольте вас спросить?
Менски наморщил лоб, переходящий в лысину. Морщины были такие глубокие, как будто их вырезал своим резцом Эндрю. Его заострившиеся черты, усталые глаза, глубоко запрятанные в глазницах, бледная кожа, казалось, говорили о его нездоровье. Эндрю подумал, что Менски, должно быть, моложе, чем выглядит.
— Роботехника, мистер Мартин, не такая уж точная наука. Я не могу объяснить это вам во всех деталях — может, и смог бы, но это займет слишком много времени, и я не уверен, что вы много почерпнули бы из моих объяснений; но вот что я вам скажу: математическая теория, на основании которой программируются позитронные связи, настолько сложна, что не дает иных решений, кроме приблизительных. Поэтому роботы того же уровня сложности, что и Эндрю, частенько имеют способности, выходящие за пределы предусмотренных спецификаций… Хочу заверить вас, однако: то, что Эндрю оказался великолепным плотником, ни в коей мере не грозит тем, что он станет вести себя непредсказуемо и тем самым подвергнет опасности вас или вашу семью. Как бы ни варьировалось поведение роботов, Три Закона для них неоспоримы и нерушимы. Они составляют сущность их позитронного мозга. Прежде чем Эндрю попытается нарушить Законы, он полностью перестанет функционировать.
— Он не просто превосходный плотник, доктор Менски, — сказал Сэр. — Мы ведь говорим не только о прекрасно сделанных столах и стульях.
— Да-да, я понимаю. Он еще делает всякие там штучки-дрючки.
Сэр улыбнулся, но улыбка вышла холодная как лед. Он открыл шкаф, где Маленькая Мисс хранила свои сокровища, которые сделал для нее Эндрю, и вынул кое-что оттуда.
— Судите сами, — холодно предложил он доктору Менски. — Вот один из его пустячков, одна из его «штучек-дрючек».
Сэр передал ему блестящий шарик из черного дерева, на котором была вырезана маленькая площадка для игр. Фигурки девочек и мальчиков были совсем крохотные, их трудно было разглядеть, но пропорции были прекрасно соблюдены и так естественно сочетались с фактурой дерева, что она становилась частью композиции. Казалось, еще чуть-чуть — и фигуры придут в движение. Два мальчика приготовились биться на кулачках; две девочки внимательно рассматривали микроскопическое ожерелье, которое показывала им третья; немного в стороне стояла учительница, наклонившись к маленькому мальчику и отвечая на его вопросы.
Робопсихолог довольно долго молча разглядывал изящную вещицу.
— Позвольте и мне взглянуть, доктор Менски, — попросил Эллиот Смайт.
— Да-да, конечно.
Рука Менски дрожала, когда он передавал это маленькое изделие руководителю «Ю. С. Роботс».
Теперь настала очередь Смайту замереть в восторженном молчании. Эндрю, наблюдая за ним, снова испытал эмоцию, которую он привык считать наслаждением. Эти два человека были явно поражены его работами. И поражены так сильно, что не находили слов, чтобы выразить свое восхищение.
Менски сказал наконец:
— И это сделал он?
Сэр кивнул:
— Он никогда не видел школьную площадку для игр. Но как-то раз моя дочь Аманда описала ему эту сцену, когда он попросил ее рассказать, что такое площадка для игр. Минут пять они поговорили на эту тему, потом он поднялся в мастерскую и сделал этот шарик.
— Поразительно, — произнес Смайт. — Феноменально.
— Да, феноменально, — согласился Сэр. — Теперь понимаете, почему я счел необходимым привлечь к этому ваше внимание? Этот вид работы никак не предусматривался стандартными способностями роботов вашей серии НДР, так ведь? Я терпеть не могу банальностей, но, господа, разве здесь мы не имеем дело с гениальным роботом? Что-то такое, что можно рассматривать как возможности на грани человеческих?
— Ничего человеческого в НДР-113 я не нахожу, — упрямо и с раздражением ответил Менски. — Пожалуйста, не будем заблуждаться на этот счет, мистер Мартин. Перед нами всего лишь машина, никогда не забывайте об этом. В какой-то мере разумная, но машина. А в данном случае машина, обладающая чем-то вроде творческой жилки. И все равно машина. Все мое рабочее время я посвящаю исследованию личностей роботов — а они по-своему тоже личности, — и уж у кого, как не у меня должно было появиться искушение поверить в то, что в роботах есть что-то человеческое. Но я так и не поверил, мистер Мартин, не должны верить этому и вы.