- И все же я чувствую определенную озабоченность в вашем голосе. В нем слышится... как бы это сказать?.. В нем слышится удивление? Нет, удивление - это не совсем точно. Неуверенность? Сомнение?.. В общем, мне кажется, Сэр, что вы все время думаете о том, что я действую за пределами того уровня, на который был запрограммирован.
- Да, - сказал Сэр, - именно об этом я и думаю, Эндрю. Ты действительно перешагнул за рамки запрограммированных возможностей. Но беспокоит меня не то, что в тебе неожиданно проявились способности творить, пойми. Я очень хотел бы знать, как и почему это произошло.
Глава 4
Несколько дней спустя Джералд Мартин позвонил управляющему местного отделения "Ю. С. Роботе энд Мекэникл Мен Корпорейшн" и сказал:
- У меня возникли небольшие проблемы с домашним роботом НДР, которого я приобрел у вас.
Управляющего звали Эллиот Смайт. Как и большинство высших чинов "ЮСРММ", Смайт принадлежал к большому, богатому семейству Робертсонов, ведущему свое начало от Лоуренса Робертсона, основавшего "Ю. С. Роботс Корпорейшн" в конце двадцатого века.
К этому времени компания так разрослась, что, строго говоря, не могла рассматриваться как семейное предприятие Робертсонов: необходимость в притоке новых капиталов для расширения производства принуждала Робертсонов и Смайтов постоянно продавать значительные количества акций "ЮСРММ" посторонним инвесторам. Тем не менее человеку, не принадлежащему к их кругу, не так уж просто было поднять трубку и попросить к телефону Робертсона или Смайта. Но Джералд Мартин был председателем регионального Комитета по науке и технике, и как бы богаты и могущественны ни были Робертсоны и Смайты, они не посмели бы принебречь звонком Джералда Мартина.
- Проблемы? - сказал Эллиот Смайт, и его лицо на телефонном экране выразило крайнее замешательство. - Чрезвычайно жаль, мистер Мартин. Должен признаться, меня это удивляет. Ваш НДР - это, знаете ли, произведение искусства, и перед тем, как быть отправленным к вам, он прошел всестороннее тестирование. Какие неисправности вы обнаружили в нем? Он в чем-то не оправдал ваших ожиданий?
- Я ничего не говорил о неисправностях.
- Но вы упомянули о возникших проблемах, мистер Мартин. НДР должен справляться с любой работой по дому, которую. .
Сэр решительно прервал его:
- Я вовсе не имею в виду тех обязанностей, которые ему предписаны, мистер Смайт. НДР-113 прекрасно с ними справляется. Проблема в том, что у робота проявились не оговоренные в руководстве способности, в том руководстве, которое мы с вами обсуждали, когда впервые решили доставить в мой дом роботов-слуг.
Выражение замешательства на лице Смайта сменилось выражением мрачного предчувствия.
- Вы хотите сказать, что он преступил запрограммированный в его мозгу блок обязанностей и делает все, что ему вздумается, а не то, что ему приказывают?
- Нет, ничего подобного. Если бы происходило что-нибудь в этом роде, вы давно были бы осведомлены об этом, уверяю вас. Нет, мистер Смайт, дело в том, что совершенно неожиданно он занялся работами по дереву. Он делает из дерева украшения и мебель. Моя младшая дочь обратилась к нему как-то с просьбой сделать ей из дерева кулон, и он выполнил работу так превосходно, что превзошел все наши ожидания. И тогда я велел ему вырезать из дерева еще много разных вещиц. Он вырезает феноменально тонкие узоры и при этом никогда не повторяется. Его работы - это произведения искусства. Любой музей почел бы за честь выставить их у себя.
После того как Сэр кончил говорить, Смайт немного помолчал. Уголки его губ слегка подергивались, но никаких других проявлений эмоций он себе не позволил.
Потом он сказал:
- Роботы серии НДР довольно многосторонни, мистер Мартин. Нет ничего невозможного в том, что какой-то НДР оказался способен к столярным работам.
- Мне казалось, что я недвусмысленно сказал вам, что это далеко не обычные столярные работы, - возразил Сэр.
- Да, возможно, - сказал Смайт, и наступила новая, довольно продолжительная пауза. Затем Смайт произнес: - Я хотел бы посмотреть на его работы. И заодно посмотрел бы на вашего робота. Надеюсь, вы не будете против, если я прилечу к вам на побережье и быстренько обследую его?
- Но обследование потребует лабораторных условий, не так ли? Насколько я понимаю, вам нужны будут приборы для тестирования, а как вы доставите их сюда, в мой дом? Может быть, проще мне привезти к вам Эндрю, чтобы вы на месте хорошенько проверили его?
- Эндрю?
Сэр улыбнулся:
- Так его называют мои девочки. По созвучию с его серией НДР, знаете ли.
- Ах да. Да, понятно. Но не стоит вам утруждать себя этим полетом сюда, на восток, мистер Мартин. Я все равно давно должен был посетить наши предприятия на Западном побережье, это вполне оправдывает мой визит к вам. К тому же я не собираюсь подвергать вашего НДР сложному тестированию. Мне нужно всего лишь поговорить с ним и с вами и посмотреть его работы по дереву и вообразить не могу, как это вы доставите сюда целый вагон его столов и шкафов.
- Вы, пожалуй, правы.
- Тогда в следующий вторник? Это удобно для вас?
- Думаю, что да, - сказал Сэр.
- Да, вот еще что. Если позволите, я захвачу с собой Мервина Менски. Он - наш главный робопсихолог. Наверное, доктору Менски тоже будет интересно взглянуть на поделки робота НДР-113. Я даже уверен в этом.
Сэр освободил вторник от всех дел, чтобы остаться дома. Смайт и Менски должны были прилететь в Сан-Франциско дневным рейсом, а потом еще в течение тридцати минут добираться местным шатлом до побережья.
Эндрю был предупрежден о том, что приедут гости, чтобы осмотреть его. Ему это показалось странным: кому может прийти в голову наносить светский визит роботу, - но разбираться в происходящем у него не возникло никакого желания. Тогда Эндрю еще редко интересовался делами людей и почти не анализировал их всерьез. Только спустя многие годы, когда он гораздо лучше осознал свое положение, он смог правильно оценить это уже давнее событие и понять его истинный смысл.
Роскошный лимузин с шофером-роботом доставил руководителя "Ю. С. Роботе" и главного робопсихолога в поместье Мартинов. Они представляли собой совершенно разнородную пару: Эллиот Смайт был стройный, высокого роста человек атлетического сложения, с огромной, пышной гривой седых волос; казалось, ему уместнее было бы находиться не в конторе корпорации, а на теннисном корте или на матче по водному поло; а Мервин Менски был низеньким толстяком, волос не имел вовсе и производил впечатление человека, который покинет свое рабочее место только под сильным нажимом.
- Это Эндрю, - сказал им Сэр. - Его мастерская находится наверху, но и здесь вы можете увидеть кое-какие его работы. Вот этот книжный шкаф, светильники и стол, на котором они стоят, люстра...
- Изумительная работа, - сказал Эллиот Смайт. - Без всяких преувеличений - это шедевры, каждый из них.
Мервин Менски едва взглянул на всю эту мебель. Его внимание было сосредоточено на Эндрю.
- Контрольный код Элиф-9, Эндрю, - резко бросил он.
Ответ Эндрю последовал незамедлительно. Так оно и должно
было быть: кодовая проверка была сопряжена со Вторым Законом и требовала беспрекословного подчинения. Эндрю, сверкая красными фотоэлектрическими глазами, выдал все параметры системы Элиф-9; Менски слушал его, кивая головой.
- Прекрасно, Эндрю. Контрольный код Эпсилон-7.
Эндрю исполнил ему весь Эпсилон-7. Менски дал ему Омикрон-14. Потом Каппа-3 - самый каверзный контрольный код в который входили все параметры Трех Законов.
- Хорошо, - сказал Менски. - Ну, еще один. Контрольный код Омега, вся группа.
Эндрю перечислил все коды Омеги, которые регулировали и корректировали все процессы при введении новых данных в программу. Их перечисление требовало немало времени. Сэр в растерянности наблюдал за долгим испытанием. Эллиот Смайт, казалось, не слушал ни Менски, ни Эндрю.
- Он в прекрасной форме, - сказал Менски. - Каждый параметр отвечает требованиям.
- Я говорил мистеру Смайту, что дело не в том, что Эндрю якобы не справляется со своими обязанностями. Он не только с ними справляется - его возможности оказались вопреки ожиданиям куда более широкими.
- Может, вопреки вашим ожиданиям, - сказал Менски.
Сэр резко повернулся к нему, как будто его ужалили:
- О чем это вы, позвольте вас спросить?
Менски наморщил лоб, переходящий в лысину. Морщины были такие глубокие, как будто их вырезал своим резцом Эндрю. Его заострившиеся черты, усталые глаза, глубоко запрятанные в глазницах, бледная кожа, казалось, говорили о его нездоровье. Эндрю подумал, что Менски, должно быть, моложе, чем выглядит.
- Роботехника, мистер Мартин, не такая уж точная наука. Я не могу объяснить это вам во всех деталях - может, и смог бы, но это займет слишком много времени, и я не уверен, что вы много почерпнули бы из моих объяснений; но вот что я вам скажу: математическая теория, на основании которой программируются позитронные связи, настолько сложна, что не дает иных решений, кроме приблизительных. Поэтому роботы того же уровня сложности, что и Эндрю, частенько имеют способности, выходящие за пределы предусмотренных спецификаций... Хочу заверить вас, однако: то, что Эндрю оказался великолепным плотником, ни в коей мере не грозит тем, что он станет вести себя непредсказуемо и тем самым подвергнет опасности вас или вашу семью. Как бы ни варьировалось поведение роботов, Три Закона для них неоспоримы и нерушимы. Они составляют сущность их позитронного мозга. Прежде чем Эндрю попытается нарушить Законы, он полностью перестанет функционировать.
- Он не просто превосходный плотник, доктор Менски, - сказал Сэр. - Мы ведь говорим не только о прекрасно сделанных столах и стульях.
- Да-да, я понимаю. Он еще делает всякие там штучки-дрючки.
Сэр улыбнулся, но улыбка вышла холодная как лед. Он открыл шкаф, где Маленькая Мисс хранила свои сокровища, которые сделал для нее Эндрю, и вынул кое-что оттуда.
- Судите сами, - холодно предложил он доктору Менски. - Вот один из его пустячков, одна из его "штучек-дрючек".
Сэр передал ему блестящий шарик из черного дерева, на котором была вырезана маленькая площадка для игр. Фигурки девочек и мальчиков были совсем крохотные, их трудно было разглядеть, но пропорции были прекрасно соблюдены и так естественно сочетались с фактурой дерева, что она становилась частью композиции. Казалось, еще чуть-чуть - и фигуры придут в движение. Два мальчика приготовились биться на кулачках; две девочки внимательно рассматривали микроскопическое ожерелье, которое показывала им третья; немного в стороне стояла учительница, наклонившись к маленькому мальчику и отвечая на его вопросы.
Робопсихолог довольно долго молча разглядывал изящную вещицу.
- Позвольте и мне взглянуть, доктор Менски, - попросил Эллиот Смайт.
- Да-да, конечно.
Рука Менски дрожала, когда он передавал это маленькое изделие руководителю "Ю. С. Роботс".
Теперь настала очередь Смайту замереть в восторженном молчании. Эндрю, наблюдая за ним, снова испытал эмоцию, которую он привык считать наслаждением. Эти два человека были явно поражены его работами. И поражены так сильно, что не находили слов, чтобы выразить свое восхищение.
Менски сказал наконец:
- И это сделал он?
Сэр кивнул:
- Он никогда не видел школьную площадку для игр. Но как-то раз моя дочь Аманда описала ему эту сцену, когда он попросил ее рассказать, что такое площадка для игр. Минут пять они поговорили на эту тему, потом он поднялся в мастерскую и сделал этот шарик.
- Поразительно, - произнес Смайт. - Феноменально.
- Да, феноменально, - согласился Сэр. - Теперь понимаете, почему я счел необходимым привлечь к этому ваше внимание? Этот вид работы никак не предусматривался стандартными способностями роботов вашей серии НДР, так ведь? Я терпеть не могу банальностей, но, господа, разве здесь мы не имеем дело с гениальным роботом? Что-то такое, что можно рассматривать как возможности на грани человеческих?
- Ничего человеческого в НДР-113 я не нахожу,-упрямо и с раздражением ответил Менски. - Пожалуйста, не будем заблуждаться на этот счет, мистер Мартин. Перед нами всего лишь машина, никогда не забывайте об этом. В какой-то мере разумная, но машина. А в данном случае машина, обладающая чем-то вроде творческой жилки. И все равно машина. Все мое рабочее время я посвящаю исследованию личностей роботов - а они по-своему тоже личности, - и уж у кого, как не у меня должно было появиться искушение поверить в то, что в роботах есть что-то человеческое. Но я так и не поверил, мистер Мартин, не должны верить этому и вы.
- Я и не рассматривал такую возможность всерьез. Но как вы объясняете его художественные способности?
- Счастливая случайность, - сказал Менски. - Что-то в его цепях... Некая флюктуация. Последние два года мы старались производить такие конструкции... то есть роботов, которые не ограничивались бы простым выполнением заложенных в них обязанностей, но расширяли бы свой кругозор чем-то вроде индуктивных заключений, и нет ничего удивительного в том, что в одном из роботов возникло это подобие творческого потенциала. Как я уже отмечал, роботехника - это не всегда точное искусство. Порой случаются необычные вещи.
- Вы могли бы повторить эту "случайность"? Могли бы создать другого такого робота с неординарными способностями Эндрю? А может быть, и целую серию таких роботов?
- Пожалуй, нет. Тут мы столкнулись со стахостическим процессом, мистер Мартин. Вы понимаете меня? У нас нет точных количественных показателей, благодаря которым мы сумели наделить Эндрю его способностями, так что у нас нет шансов повторить те отклонения, которые стали причиной творческих способностей Эндрю. Я хочу сказать, что Эндрю - порождение случая, что он уникален.
- Прекрасно! Меня совсем не огорчает уникальность Эндрю.
Смайт, который стоял у окна все это время и смотрел на
укрытый туманом океан, резко повернулся к ним и сказал:
- Мистер Мартин, я хотел бы вернуть Эндрю в наш центр для тщательнейшего обследования. Естественно, вместо него мы пришлем вам в качестве замены другого робота НДР и проследим, чтобы он был оптимально запрограммирован на выполнение домашних работ, которые возлагались на Эндрю, так что...
- Нет, - ответил Сэр с неожиданной жесткостью.
Смайт слегка приподнял бровь:
- Уж поскольку вы сами обратились к нам с данной проблемой, вы не можете не понимать всю важность исчерпывающего изучения феномена Эндрю, чтобы установить...
- Доктор Менски только что назвал Эндрю "простой флюктуацией" и признал, что представления не имеет, каким образом Эндрю обрел способность к творчеству, и что второго такого создать, даже если вы очень постараетесь, вы не сумеете. Так что я не вижу смысла в том, чтобы вернуть вам Эндрю и получить взамен другого робота.
- Может быть, доктор Менски слишком пессимистичен. Если мы сможем проследить нервные связи в мозгу Эндрю...
- Стоит вам начать, - сказал Сэр, - и, вполне возможно, тогда мало что уцелеет от Эндрю. Разве я не прав?
- Эти связи очень хрупки. Исследования часто сопряжены с риском разрушить их, тут вы правы, - признал Смайт.
- Мои дочери очень любят Эндрю, - сказал Сэр. - Особенно младшая, Аманда. Я даже смею утверждать, что Эндрю - ее лучший друг, что она любит его больше всего на свете. И сам Эндрю, кажется, любит ее не меньше. Я сообщил вам о способностях Эндрю, потому что подумал, что вам полезно будет знать о том, что вы производите, и еще потому, что будучи непрофессионалом, я предположил, что мастерство Эндрю - это нечто, случайно вмонтированное в него, и мне было интересно узнать, так ли это на самом деле; теперь это подтвердилось. Но если вы питаете хоть малейшую надежду на то, что я позволю вам забрать Эндрю с собой, раз уж нам обоим известно, что вам не удастся снова сделать его таким, какой он сейчас, выкиньте ее из головы. И забудем об этом.
- Я вполне отдаю должное той привязанности, которая может возникнуть между маленькой девочкой и ее домашним роботом. Но то, что вы, мистер Мартин, препятствуете развитию наших изысканий...
- Я могу воспрепятствовать и кое-чему более важному, чем ваши изыскания, - сказал Сэр. - Или вы забыли, кто проталкивал законы в защиту роботов в Собрании последние три года? Предлагаю пройти наверх и посмотреть другие работы Эндрю, думаю, они вас заинтересуют. А затем вы с доктором Менски должны будете позаботиться о том, чтобы вернуться в Сан-Франциско и посетить те предприятия на Западном побережье, о необходимости проинспектировать которые вы мне говорили. Эндрю остается здесь. Вам все ясно?
Искра ярости зажглась в глазах Смайта. Всего лишь искра, едва заметное изменение в выражении лица, которое даже
Эндрю, с его превосходной наблюдательностью, еле уследил. Потом Смайт пожал плечами:
- Как вам будет угодно, мистер Мартин. Даю вам слово - никакого вреда не будет причинено Эндрю.
- Хорошо.
- А мне и в самом деле не терпится посмотреть на его другие работы.
- С превеликим удовольствием, - сказал Сэр. - Я мог бы дать вам какую-нибудь из них, если вам понравится. Выбирайте что хотите, только не украшения, которые он сделал для моей жены и дочери, что-нибудь из мебели. Пожалуйста, выбирайте, я не шучу.
- Вы очень добры, - сказал Смайт.
Менски спросил:
- Можно, я повторю вам кое-что из того, что заметил тут, у вас, мистер Мартин?
- Если считаете нужным, доктор Менски.
- Вы сказали, что творчество Эндрю граничит с человеческими возможностями. Да, это так, даже я готов допустить это. Но "граничить" и "быть" человеком - это не одно и то же. И я хочу напомнить вам, что Эндрю - машина.
- Приму к сведению.
- Чем дальше, тем труднее вам будет иметь это в виду, раз уж Эндрю остается с вами. Но, пожалуйста, постарайтесь. Вы называете робота "другом" вашей дочери. Вы утверждаете, что она "любит" его. Это опасное отношение, опасное для нее. Друзья - это друзья, а машины - это машины, и нельзя путать одно с другим. Можно любить другого человека, но нельзя любить бытовые приборы, как бы привлекательны или полезны, или приятны они ни были. Эндрю - не более чем передвигающийся компьютер, мистер Мартин, компьютер, наделенный искусственным разумом и человекоподобной внешностью, что создает впечатление, что он не из тех компьютеров, которые управляют самолетами, ведают работой систем связи и помогают в домашнем хозяйстве. Личность, которую ваша дочь, как она считает, открыла в Эндрю, за что, по-вашему, и "полюбила" его, - это всего лишь эрзац личности, сконструированный намеренно, целиком из синтетики. Умоляю вас, мистер Мартин, не забывайте никогда, что компьютер с руками и ногами и с позитронным мозгом - это не более чем компьютер, хотя и более совершенный, но компьютер.
- Постараюсь иметь это в виду, - ледяным тоном сказал Сэр. - Знаете ли, доктор Менски, я привык мыслить четко и логично. Я никогда не приму руку за ногу, или запястье за лодыжку, или корову за лошадь и уж постараюсь не спутать робота с человеком, каким бы сильным ни было искушение. Так что весьма благодарен за ваш совет. А теперь, если хотите пройтись по мастерской Эндрю...