Алгис Будрис СЛУЖБА ПРЕВЫШЕ ВСЕГО
Массачусетс 712, 820-й
ЦЕТИР,
СЕКИМПОВС АПО-15,
28 сентября.
Леонарду Стейну, редактору,
Бесконечность,
862, Юнион-стрит,
Нью-Йорк 24, Н.-Й.
Дорогой Лен!
Сейчас я тебя удивлю.
Похоже, в твоей Бесконечности вскоре появятся новые рассказы Х. Е. Вуда. К моменту, когда ты получишь это письмо, 820-й ЦЕТИР СЕКИМПОВСа обретет нового руководителя проекта, а я вернусь в нашу старую берлогу на углу Ройал и Пери-стрит.
Но не стоит оплакивать Хейвуда-младшего. Мы с СЕКИМПОВСом расстались с сухими глазами и гордо поднятыми головами. Прощание наше обошлось без грусти, горечи, без слез и сожалений. СЕКИМПОВС — в одной из своих, судя по всему, бесчисленных персонификаций — просто похлопал меня по плечу и порекомендовал собирать манатки и сматывать удочки. Какое-то время я постараюсь держаться подальше от кибернетики и, конечно, воздержусь писать рассказы о роботах, — тем более, что я и раньше их не жаловал.
Впрочем, все это — длинная история, минимум на десять тысяч слов, а значит, если я расскажу ее сейчас, то не досчитаюсь по крайней мере долларов трехсот.
А потому иди-ка и запасись нераспечатанными колодами, — я появлюсь в городе на следующей неделе.
Привет коллегам и ребятам,
Вик Хейвуд.
На самом деле меня зовут Прототип Механического Человека 1, но все называют меня Пимми, а иногда Пим. Меня собрали в восемьсот двадцатом цетире 10 августа 1974 г. Я не знаю, что такое человек, цетир, 10 августа 1974 г., но Хейвуд обещает, что завтра я узнаю.
Что такое завтра?
Пимми.
Я все еще испытываю некоторые затруднения с определением понятия человек. Однако, насколько я понимаю, люди тоже не могут его найти.
820-й ЦЕТИР — это, конечно, восемьсот двадцатый Центр технических исследований и разработок СЕКИМПОВСа — Сектора искусственного и механического персонала Объединенных военных служб. 10 августа 1974 г. — это день перед вчерашним.
Все это самоочевидно, но записать, однако, стоит. Вчера я слышал очень странный разговор Хейвуда с Расселом.
Рассел — невысокий человек лет тридцати пяти-сорока, заместитель Хейвуда. Он носит очки. Подбородок сильно скошен, из-за чего в профиль голова выглядит странно симметричной. У него высокий голос и резкие, быстрые жесты. По-моему, нервы у него постоянно перевозбуждены.
Хейвуд довольно высок ростом — почти так же, как и я. Движения у него плавные — тоже почти как у меня. Временами кажется, что при своем немалом весе он почти не касается пола. Правда, как-то раз он оставил в пепельнице недокуренную сигарету, и я заметил, что кончик ее изжеван в клочья.
Почему все, кто имеет отношение к СЕКИМПОВСу такие нервные?
Хейвуд прочел первую запись о том, что я теперь могу называть своим дневником. Он показал ее Расселу.
— Похоже, ты на совесть попотел над программой самосознания, Рас, — сказал он.
Рассел нахмурился.
— Боюсь, не слишком ли. У него никак не должно было проявиться такой неудержимой тяги к самовыражению. Надо бы побыстрее это подправить. Может, вставим новую программу?
Хейвуд покачал головой.
— Незачем. Если разобраться, при таком интеллекте, который мы ему дали, самовыражение — естественное сопутствующее явление. — Он подмигнул мне.
— Верно?
Рассел нервно сорвал очки и принялся тереть их о рукав рубашки.
— Не знаю. Надо понаблюдать за ним. Нельзя забывать, что он прототип, такой же, как экспериментальная модель автомобиля или кухонного комбайна. Мы ждали проявления какого-нибудь технического дефекта и один, похоже, обнаружили. Мне не нравится, что робот обретает в наших глазах чуть ли не человеческую индивидуальность. Мы уже привыкли называть его уменьшительным именем, а это никуда не годится. Надо всегда помнить, что он не является личностью, и мы вправе делать с ним все, что заблагорассудится. — Он вновь надел очки и нервно провел рукой по волосам, тщетно пытаясь их пригладить.
— Он — просто еще одна машина. И мы ни на миг не должны упускать это из виду.
Хейвуд предостерегающе поднял руку.
— Полегче на поворотах, мой мальчик. Ты чересчур уж разошелся.
Он всего-навсего настучал несколько слов на машинке. Отдохни, Рас. — Он подошел и похлопал меня по спине: — Ну как, Пимми? Нет ли у тебя желания вымыть пол?
— У меня не бывает желаний. Это приказ?
Хейвуд повернулся к Расселу.
— Полюбуйся на эту яркую индивидуальность, — сказал он и, обращаясь ко мне, добавил: — Нет, Пимми, не приказ. Отставить.
Рассел пожал плечами, аккуратно сложил страницу моего дневника и спрятал ее во внутренний карман пиджака. Я не стал возражать: ведь я ничего не забываю.
15 августа 1974 г. Тринадцатого они что-то со мной сотворили, но я никак не могу понять, что. Я просеял всю память, но ничего не нашел. Нет, не вспомнить.
Вчера между Расселом и Лиггетом произошел любопытный разговор.
Они вводили цепи автоматического отключения и прогоняли меня по тестам. Я не протестовал против этого. По-прежнему не протестовал.
Не мог.
Лиггет — один из целой армии слоняющихся вокруг людей, про которых никто не может с уверенностью сказать, что они не из ЦРУ. Но он все-таки паяет контакты, пока Хейвуд с Расселом решают, чем бы его еще занять.
Только что я четырежды повернулся кругом, почистил им ботинки, а теперь принял какую-то и вовсе несуразную позу. По-моему, у Лиггета не совсем в порядке с головой.
Лиггет сказал:
— Он недурно исполняет приказы, не правда ли?
— М-м-да, — рассеянно отозвался Рассел. Он пробежал глазами колонку цифр в таблице заданных параметров. — Попробуй пройтись на руках, ПМЧ-один, — предложил он.
Я перестроил гироскоп, переключил цепи управления движением и на руках прошелся по комнате.
Лиггет озабоченно нахмурился.
— Что ж, неплохо. А как это согласуется с заданными параметрами?
— Несколько лучше, — ответил Рассел. — И это удивительно: последние пару дней у нас с ним было немало хлопот, а сейчас он исполнителен, как зомби.
— Ах, вот оно что? Я не знал… Что же случилось? Я хочу сказать, какую новинку использовали вы в схеме управления?
— Э-э-э, — протянул Рассел; он явно сомневался, стоит ли откровенничать с Лиггетом.
Я уже успел почувствовать, что вокруг проекта создалась изобилующая потаенными течениями и противоречивыми устремлениями атмосфера. Пожалуй, мне следует всерьез взяться за изучение СЕКИМПОВСа.
— Так что же? — настаивал Лиггет.
— Мы исключили цепи, образующие его индивидуальность. Судя по всему, сейчас у него действуют только условные рефлексы.
— Вы говорите, он реагирует как зомби?
— Да, налицо явный автоматизм: значительная заторможенность и, конечно, полное отсутствие инициативы.
— Вы хотите сказать, что при таких условиях он слишком медленно исполняет приказы, так? — Лиггет недоверчиво уставился в спину Расселу.
Рассел резко обернулся.
— Из него выйдет хреновый солдат, если ЦРУ интересуется именно этим.
Лиггет сделал непроницаемое лицо и выпрямился с видом оскорбленной невинности:
— Вы что думаете, что я ищейка ЦРУ?
— Вы не станете возражать, если я назову вас лжецом? — поинтересовался Рассел. Руки у него тряслись.
— Не очень, — ответил Лиггет, но за его внешней невозмутимостью ощущалась злоба. Это очень полезно — иметь такие неподвижные черты лица, как у меня. Когда человек пытается что-то скрыть, разобраться в его психологическом состоянии по выражению лица ничего не стоит.
16 августа 1974 г. Меня беспокоит этот пробел за четырнадцатое августа в моем дневнике. Что же все-таки со мной сделали? И кто? Я спросил об этом Хейвуда. Он пожал плечами:
— Вероятно, тебе придется привыкнуть, Пимми. Это повторится еще не раз. Не думаю, чтобы это было приятно, — кому может понравиться такая вот перемещающаяся потеря памяти! — но у тебя нет возможности бороться. Воспринимай это как одну из профессиональных болезней прототипа.
— Но мне не нравится это, — сказал я.
Хейвуд криво усмехнулся и вздохнул:
— Верно, Пимми, — и мне тоже не нравится. С другой стороны, у тебя нет ни малейших оснований упрекать нас за то, что мы испытываем новую машину, даже если машина случайно осознает это. И уж во всяком случае ты не вправе возмущаться. Мы создали машину. Теоретически и юридически мы имеем полное право делать с ней все что угодно, если это помогает нам изучать работу этой машины и совершенствовать ее.
— Но ведь я не машина! — воскликнул я.
Хейвуд закусил нижнюю губу и взглянул на меня исподлобья.
— Мне очень жаль, Пимми. Боюсь, в определенном смысле ты все-таки машина.
Но я не машина! Не машина!
17 августа 1974 г. Прошлой ночью Рассел с Хейвудом работали со мной допоздна. Время от времени они перебрасывались словами. Рассел был очень взвинчен, и, в конце концов, терпение Хейвуда лопнуло.
— Все, хватит, — сказал он, швыряя на стол таблицы. — Так у нас ничего не получится. Может, ты все-таки сядешь и объяснишь толком, что у тебя приключилось?
Рассел был захвачен врасплох. Голова его как-то странно дернулась.
— Да так, ничего особенного. Пустая болтовня. Сам знаешь, как это бывает. — И он попытался сделать вид, будто поглощен изучением одной из таблиц.
Но от Хейвуда было не так-то просто отделаться. Его взгляд, словно резец, слой за слоем снимал с лица Рассела обманчивое спокойствие, обнажая откровенный страх.
— Нет, я не знаю, как это бывает. — Он положил руку Расселу на плечо. — Послушай-ка, если тебя что-то беспокоит, давай лучше выясним. Мне совсем не улыбается, чтобы из-за твоих опасений провалился наш проект. Нам и без того хватает сложностей, кто только ни пытается давить на нас, заставить поступать так, как нужно именно ему. А ведь ни один из них понятия не имеет, что и как нужно делать на самом деле.
Последние слова, очевидно, задели какую-то струнку в душе Рассела, потому что он швырнул свои таблицы на стол рядом с таблицами Хейвуда и стал лихорадочно доставать из нагрудного кармана пачку сигарет.
— В том-то и дело, — сказал он, глядя перед собой расширившимися глазами. Он потер щеку и несколько раз бесцельно прошелся по лаборатории. И вдруг его прорвало: — Мы же тычемся вслепую, Вик! Да, вслепую, а пока мы спотыкаемся на каждом шагу, кто-то размахивает над нашими головами дубинкой. Мы понятия не имеем, кто он, не знаем даже, один он или их много, и нам вовек не предугадать, когда они замахнуться в очередной раз. Послушай, мы — инженеры, специалисты по кибернетике. Наша цель — создать такой мозг, который, будучи помещен в соответствующий самоходный корпус, мог бы управлять им. Это чисто инженерная проблема, и незачем рассматривать ее иначе. Но при этом нельзя забывать, что возможность заниматься этим делом нам предоставили только потому, что кому-то стукнуло в голову, штамповать солдат на конвейере так же, как пушки и танки. И СЕКИМПОВС формулирует нашу задачу не как разработку электронного мозга, помещенного в независимый подвижный корпус, а исключительно как создание робота, который воплощал бы в себе концепцию идеального солдата. Да только никому неведомо, каким должен быть идеальный солдат. Одни говорят, что он должен выполнять приказы максимально точно и с недоступной для человека скоростью. Другие считают, что он должен обдумывать свои действия, чтобы не создавать себе излишних препятствий, импровизировать в ситуациях, не предусмотренных полученным приказом, — словом, действовать, как обычный солдат-человек. Тот, кто ждет от него повиновения приказам, доведенного до абсурда явно не желает, чтобы он оказался достаточно сообразительным и осознал, что он — робот. Они боятся самой этой идеи — понимания. Другие, согласные наделить его свободой воли, опасаются, что ему достанет разума, чтобы отказаться беспрекословно выполнять приказ в безнадежных ситуациях. А ведь это — лишь начало.
СЕКИМПОВС — межведомственный проект, но если ты думаешь, что военно-морской флот не шпионит за армией и наоборот, и оба они не заглядывают за плечо ВВС… Да ты же прекрасно знаешь эти игры скорпионов в банке.
Рассел безнадежно махнул рукой. Хейвуд, все это время спокойно попыхивающий сигарой, пожал плечами.
— Ну и что? От нас требуется одно — работать до тех пор, пока не удастся создать экспериментальную модель, удовлетворяющую всем требованиям. А потом пусть они устраивают столько сравнительных испытаний, сколько вздумается. Это их дело. Почему это так тебя волнует?
Рассел бросил сигарету и с силой растер окурок подошвой.
— Потому что мы не сможем создать такую модель, и ты должен понимать это не хуже меня! — Он ткнул пальцем в мою сторону. — Вот прототип. Он обладает всеми характеристиками, которые им нужны, и в нем предусмотрено изменение тех или иных параметров, которые могут помешать какому-то конкретному назначению. Мы можем отключить ту часть схемы, которая определяет его индивидуальность и тем самым превратить его в автомат, который хотят видеть в нем некоторые. Или мы можем оставить ему индивидуальность и отдавать приказы общего характера, чтобы он выполнял их теми способами, которые считает лучшими. Или, наконец, мы можем общаться с ним, как с человеческим существом — обучать его с помощью программ, воспитывать, предоставлять самому выбирать себе дело, как мы и поступаем с человеческими существами. — В голосе Рассела зазвучали истерические нотки. — Однако, если мы низводим его до машины, выполняющей приказы, словно какой-нибудь примитивный манипулятор, он становится медлительным. Невероятно медлительным, Вик, — в бою ему не протянуть и полминуты. И тут уже ничего не поделаешь. Как минимум, до тех пор, пока кто-нибудь не заставит электрический ток бежать по проводам быстрее, чем допускают законы физики. Мы получим лишь громоздкую безмозглую игрушку вроде дистанционно управляемых выставочных роботов, развлекавших публику еще сорок лет назад. Само собой, это никуда не годится. Ладно, мы оставим ему свободу воли, но ограничим ее настолько, чтобы она соответствовала психологии раба. Это уже кое-что. Так он сможет — теоретически — оказаться лучшим солдатом, чем обычный человек. Допустим, офицер прикажет ему патрулировать в определенном секторе, и он будет выполнять это наилучшим образом, выбирая каждый раз оптимальное решение в данной конкретной ситуации.
Но что он станет делать, если вернувшись обратно, не найдет офицера, который отдал приказ? Или, паче того, за это время произойдет отступление, и он вообще никого не застанет? Или наступит перемирие?
Кстати, как насчет перемирия? Можешь ли ты представить себе роботараба, впавшего в прострацию из-за того, что он не получает приказов, соответствующих принципиально новой обстановке? С тем же успехом он мог бы вовсе не ходить в это патрулирование, поскольку теперь не в состоянии выполнить то, к чему предназначен. Ведь действует он от сих до сих, от приказа к приказу. Насколько он способен оценить ситуацию, свое задание он выполнил. Тем временем противник может захватить его позицию и он понятия иметь не будет, что же теперь делать. А ну как тем временем заключили мир? Как ему сориентироваться? Ожидать прихода техников, которые заменят военную программу какой-то другой? Конечно, мы можем обойти это затруднение, заложив в него целый комплекс таких, например, приказов: Отправиться на патрулирование и по возвращении доложить; если меня не будет, доложить такому-то или такому-то; если здесь никого не будет, поступить следующим образом; если это будет невозможно, попытаться сделать так-то; если случится то-то и то-то, перейти к тому-то; но не смешивать то-то и то-то с тем-то и тем-то. Можешь себе представить военные действия, построенные на такой основе? А как с проблемой переориентации? сколько времени все эти роботы будут сидеть без дела, пока не окажется возможным снова их задействовать?
И сколько человеко-часов и материалов потребуется для всей этой работы? Ей-богу, мне нарочно не придумать более нелепого способа ведения войны. Что ж, мы можем уподобить всех этих роботов Пимми в том варианте, когда все его цепи функционируют безо всяких там пробных отключений. Но тогда перед нами окажется искусственное человекоподобное существо. Существо, которое не устает, не нуждается в еде и пище, пока его силовому реактору хватает плутониевых галет.
— Рассел горько рассмеялся. — А ВМФ будет из кожи вон лезть, чтобы армия, не дай бог, его не перещеголяла; внесут свою лепту в эту грызню и ВВС. Но в одном они всегда будут единодушны — станут испытывать автоматы-зомби без конца тестировать роботов-рабов.
Однако никто из них ни за что не согласится принять от нас робота-супермена. Они прячут чуть ли не под каждым лабораторным столом шпионов, одним глазом стреляющих друг в друга и не сводящих другого с нас. И все это обрушится на наши головы, едва они усмотрят хоть намек на то, что мы собираемся выпускать роботов, подобных Пимми. И то же самое произойдет, если мы не дадим им идеального солдата. А единственный идеальный солдат — это Пимми. Пимми может заменить любого человека на любом армейском посту — от солдата до главнокомандующего — в зависимости от программы, в него заложенной.
Но для этого он должен быть личностью в полном смысле этого слова.
Он должен быть даже умнее наших заказчиков. А они не смогут доверять ему. И не потому хуже, что он, допустим, не станет добиваться тех целей, которые они перед ним поставят, а из-за того, что он, вероятно, пойдет к этим целям непонятным для них путем. Так что они не захотят других Пимми. Эта экспериментальная модель — единственное, что они нам позволят, потому что ее можно превращать в любую нужную им модификацию. Но они не возьмут Пимми целиком, со всеми его потенциальными возможностями. Им нужна только часть Пимми.