Друга? Лена, уже допившая свой чай и теперь рассматривавшая фотографии, удивлённо подняла взгляд на учёного. Друга сделать нельзя! И кто согласится на такого друга? Что с вами? Вам плохо?
Ничего. Учёный перевёл дыхание. Просто возраст. Всё уже прошло.
Девушка с тревогой вгляделась в лицо старшего друга и, немного успокоенная его тоном, осмелилась спросить:
Простите, я слишком любопытная, но сколько вам лет? И почему вы до сих пор работаете вот так, на износ?
Я не знаю, сколько мне лет, около девяноста примерно. Учёный налил себе ещё чая. Я параллельщик. Я оказался здесь в две тысячи двадцать первом году.
Параллельщик? Лена неверяще взглянула на него. Я не думала Простите.
Всё нормально. Он успокаивающе улыбнулся и начал рассказывать задумчивым и немного грустным голосом:
Именно потому я и работаю здесь слишком хорошо знаю, что такое одиночество. И из-за сына. Я попал в этот мир во время одного из последних нападений, подростком, ничего о себе не помнил, как почти все параллельщики, и долго привыкал, с трудом приняв то, что я единственный в своём роде. Поэтому я и хотел создать друга, хотел, чтобы никто не знал одиночества. Выучился на программиста, женился, но жена вскоре погибла в катастрофе, а Лёша, наш сын, заболел лейкемией. Её тогда ещё плохо умели лечить. Он не дожил до десяти лет, половину жизни провёл в больнице, не зная, что такое играть с друзьями. Именно из-за данного ему слова я и работаю здесь. Я хочу создать друга.
Разве робот может быть другом? Лена, хотя и потрясённая рассказом учёного, понимала, что соболезнования прозвучат фальшиво, да и успокоилась за его здоровье и поэтому не скрывала своего отношения к идее, незаметно для себя говоря всё громче и возмущённее:
Сколько их придумывали электронных собак, говорящих кукол, сиделок. Остались лишь сиделки для стариков, да и то с ограниченными функциями. Люди не хотят общаться с программой, это ненормально и или забавляет ненадолго, а потом забывается, или приводит к психическому расстройству, вы же знаете. Мода на эти игрушки давно прошла, сейчас даже автоответчиками мало кто пользуется.
Я говорю не о примитивной игрушке, а об искусственно созданном разуме всесторонне развитом, с эмоциями, полноценными реакциями на окружающее, настоящем друге, понимаете? спокойно, словно ребёнку, объяснил Лев Борисович.
Он не будет настоящим другом! Это всего лишь хорошо запрограммированный робот, и чем лучше вы его запрограммируете, тем больше будет чувствоваться обман. Нельзя сделать идеальную программу, упрямо возразила Лена.
А что вы понимаете под «идеальной программой»? Учёный сотни раз участвовал в подобных спорах, и теперь не думал над тем, что сказать слова приходили сами, заученные, как таблица умножения. Он наслаждался самой возможностью поговорить, любуясь всё более горячящейся девушкой. Беспрекословное выполнение приказов хозяина? Я имею в виду не это, а создание личности, полностью учитывающей эмоциональное и физическое состояние друга-человека, и тогда такой компаньон станет вести себя соответственно характеру человека, даже перечить ему иногда.
Но человек будет знать, что это программа! Лена собирала со стола посуду, и та звенела от резких, сердитых движений девушки. Это вызовет ещё большее отвращение. Когда кто-то буквально читает твои мысли, высчитывая: «если ты ведёшь себя так, надо сделать так», это противно!
Все мы делаем именно так: оцениваем поведение человека и подстраиваемся под него. Лев Борисович невольно улыбнулся горячности девушки.
Но не для того, чтобы угождать другим! Мы это делаем, чтобы нам было хорошо. И тем, кого любим.
И он тоже. Учёный примиряюще смягчил голос. В том и задача, чтобы компаньону было хорошо, когда хорошо его другу-человеку. Компаньон будет личностью, но личностью, искренне любящей своего друга, это его суть, основа его природы.
Нет! Это не дружба, не спасение от одиночества. Идеально только осознанное равенство, самостоятельный выбор: «я с тобой, потому что сам захотел этого, сам связал с тобой жизнь». Программа в лучшем случае всего лишь программа.
Это не программа, поймите. Учёный кинул странный взгляд на фигуру в центре комнаты. Компаньон не запрограммированная машина, а личность. Идеальный друг.
Идеальный раб! резко бросила Лена. Безответный, даже если станет перечить, то тоже в угоду хозяину. Не другу хозяину. Нормальный человек не захочет такого друга. Если это просто робот он останется игрушкой без мыслей, чувств. Пустая кукла. А если он хотя бы отчасти будет личностью, то мы вернёмся к рабству!
Он будет личностью! Самостоятельной, имеющей право выбора! Учёный тоже распалялся, удивляясь давно забытому чувству азарта, словно возвращавшего его во времена молодости.
И у него будет право уйти? Право не только любить, но и ненавидеть? Тогда он станет таким же, как мы, он станет человеком. И зачем тогда всё это? В голосе Лены зазвучала горечь. Может, лучше уметь общаться друг с другом? Любить и ненавидеть самим? Людей сейчас десять миллиардов, разве этого мало?
Он не может ненавидеть, вспомните этические законы робототехники. Учёный улыбнулся: эти правила, забытые на полвека, стали важны как раз во времена его молодости. Хотя простите, вы не читали Азимова.
Читала, у бабушки огромная библиотека. Лена нервно листала стопку фотографий только чтобы занять руки. Законы робототехники? Это не этические законы, это кредо идеального рабовладельца!
Почему? Лев Борисович удивлённо взглянул на Лену. Это по сути этические нормы человеческого общества!
Вы серьёзно думаете, что эти законы этические нормы? Это бред! Простите Она смутилась, осознав, что грубит тому, кто в четыре раза старше её, но учёный заинтересовался, потому что подобную мысль слышал впервые. И радовался, что девушка говорит на одном с ним языке. Если она в детстве много читала, то понятно, откуда у неё такая развитая речь.
Почему вы считаете, что это кредо рабовладельца?
Почему? Судите сами! Лена схватила лист бумаги. Первый закон помните? «Робот не может причинить вред человеку или своим бездействием допустить, чтобы этот вред был причинён». Так? А что такое вред? Это не только физическая травма, это всё, что может расстроить человека или повредить его имуществу. Из Первого вытекает Второй закон: «Робот должен повиноваться всем приказам человека, если они не противоречат Первому закону». Повиноваться! Что бы хозяин ни приказал, робот обязан это выполнить, какое бы насилие над ним не чинил человек. А насилие будет вспомните истории с секс-куклами и роботами-сиделками! Выродки среди людей будут всегда. И робот не сможет даже убить себя, потому что это противоречит Третьему закону: «Робот должен заботиться о своей безопасности в той мере, какая не противоречит Первому и Второму законам». Сложите всё вместе и полу́чите идеального, беспрекословно подчиняющегося раба, запертого в пыточной этих законов! Он полностью во власти хозяина, и есть только одно ограничение он не может по приказу хозяина причинить кому-то вред. Но это опять же правило рабовладельца: «Чужой раб не должен быть мне опасен, как бы ни был опасен его владелец». Вы же к этому добавляете свою «безусловную любовь к человеку»! Знаете, что означает ваша «свобода выбора»? «Или ты полностью подчиняешься мне, любишь, боготворишь меня, или будешь уничтожен»! Закон древнего божка! Хотите стать таким «богом»? Я думала, вы умный человек!..
Последние слова Лена произнесла с такой горечью, что Лев Борисович вздрогнул. Он впервые видел её в подобном состоянии. Милая, всегда весёлая девушка, полудетским голоском напевавшая песенки, вдруг сказала то, что не говорил никто из его друзей или оппонентов. И тут же с ней произошла ещё одна перемена. Теперь перед учёным стоял спокойный, всё взвесивший и принявший решение человек:
Я выполняю то, что прописано в договоре, и ухожу! Я не хочу иметь с вашим центром ничего общего!
И со мной? Эти слова вырвались у него непроизвольно, прозвучав с полудетской-полустарческой обидой и страхом остаться в полном одиночестве. Лена резко обернулась к учёному и сникла:
Не знаю. Я считала считаю вас другом. И говорю о центре, а не о вас. Если вы хотите Её губы задрожали как у ребёнка.
Ну что ты, девочка, успокойся, не надо плакать. Он впервые обратился к ней на «ты», поняв вдруг, что привязался к девушке как к родной. Не надо.
Хорошо. Она, так и не заплакав, резко тряхнула головой, стараясь совладать со звеневшим от сдерживаемых слёз голосом. Я, наверное, глупо себя веду. Но я не выношу, когда кто-то ставит себя выше других!
3
Он знал, что он есть. Это была не мысль: он ещё не мог думать, для этого нужны слова, образы, а у него пока были только чувства. Всего два приятно и неприятно. И всегда они шли в паре.
Первая пара была с ним постоянно. Ему вдруг начинало чего-то не хватать, и это было плохо, тревожило его, пугало. А потом это что-то появлялось, и становилось хорошо.
Вторая пара ощущений возникла позже и была другой. Ему становилось плохо, когда что-то было, и хорошо, когда это что-то исчезало. И тогда он засыпал. Он спал всегда, когда не было плохо.
Постепенно мир перестал сводиться к «плохо-хорошо», в него начали проникать другие ощущения. Первым из них было прикосновение. Вскоре он уже знал, что состоит из нескольких частей больших и маленьких, и кто-то эти части гладил, давил, мял. Это тоже бывало хорошо или плохо, но чаще хорошо, тепло ещё одно новое ощущение.
Следующими в его мир ворвались звуки непонятные, мешавшие спать или отдаваться «приятно-неприятно» прикосновений, но не бывшие плохими. Просто это было не так. Не плохо, не хорошо, а иначе. Постепенно звуки стали складываться в слова, фразы. И он откуда-то знал, что это слова. Вскоре он начал различать говоривших. Их, как и всего в этом мире, было двое, но почему-то оба приятные. Пришлось разделять их иначе, что он сумел сделать: откуда-то пришли слова Он и Она.
Он говорил много, очень много. Говорил понятно и в то же время непонятно. О работе мозга, о запоминании информации, о каких-то «базовых знаниях». Он часто сердился он это ощущал как «плохо», и хотел, чтобы говорившему стало хорошо, и тогда ему тоже будет хорошо.
Она говорила тоже много, но меньше, чем Он, и другое. У Неё даже голос был иной. Она говорила с ним, словно ждала ответа и, не дождавшись, отвечала за него сама. И ещё Она пела он откуда-то знал, что собранные так слова называются песней. Когда Она говорила, он чувствовал прикосновения, и вскоре понял, что это Она касается его.
Но прикасались к нему и другие, и всё более грубо и больно. Теперь он знал, что то плохо, когда оно есть это боль. И понимал, что его касаются другие. Она касалась его в определённое время вот ещё одно новое знание, а другие в другое. Но другие не говорили, а Он и Она говорили. И часто друг с другом. Тогда ему было хорошо. Именно тогда он понял слово «интересно». Ему было интересно слушать их разговоры. Он многое узнавал. Или вспоминал? Он не знал этого, но единожды услышанное слово запоминалось сразу и было понятно. Только понимание было странным: он знал, что слово обозначает, но знание оставалось абстрактным. Ещё одно слово чужое, непривычное, сложное. Он для себя определил его так: «Что есть помимо меня; слово "боль" абстрактное, пока я не связал его с тем плохим, что есть; значит, и другие слова можно будет связать, потом».
Он и Она любили говорить друг с другом, и тогда ему было хорошо. Но однажды они говорили так, что ему стало плохо, страшно, и почему-то вспомнилось слово «боль», хотя на самом деле боли не было. И всё же она была. Они спорили опять новое слово, возникшее будто из ниоткуда. Говорили, что такое «друг». Это абстрактное слово, надо его запомнить. И ещё что такое «раб». О «рабе» говорила Она, а Он говорил о «друге». «Друг» было приятно, «раб» плохо. Почему? Почему Она говорит плохо? Она ведь делала хорошо касалась его, пела, говорила. А теперь говорит плохо. А Он хорошо. «Друг» это хорошо.
Он ушёл, а Она снова стала касаться его и вскоре опять запела, только почему-то не такую песню, как обычно. А он вдруг понял, что такое «ладони»: Она касалась именно их. Но почему Она их делает? Они у него уже есть.
Прошло время странное сочетание слов, хотя и не абстрактное, и Они снова заговорили друг с другом. И больше не говорили так плохо, как в тот раз. Это хорошо.
Теперь Она почти не касалась его тела он понял и это слово. И всё больше касалась лица. И говорила с ним, рассказывала то, что называла «историями о прошлом». Истории эти были о других, которых называют «люди». Иногда рассказы были хорошими: о тех, кто «дружит». Значит, и Она может говорить о «друге» хорошо? Другие рассказы были плохими: о том, как «люди» «убивали» друг друга. Эти слова были абстрактные, но плохие. И всё-таки когда Она говорила, было хорошо, так же, как когда говорил Он.
А всё вообще становилось плохо. Появлялись новые знания. Теперь его тело «бегало», «прыгало», «ездило на велосипеде» и даже «дралось». Он не понимал, что это означает, он знал только то, что в определённое время до него дотронутся, что-то сделают, и его тело окажется другим. И тогда надо будет думать, что нужно делать так. Его другое тело ставили на ноги (теперь он понимал, чувствовал, что это такое) и заставляли их передвигать, сначала медленно, подчиняясь кому-то, потом самому, и всё быстрее. Или «крутить педали» тоже двигать ногами, но иначе. «Качать руки» опускать их вниз, когда что-то тянет их вверх, или наоборот. «Давать сдачи» это было самое сложное: когда чувствуешь прикосновение, то должен двигать руками и ногами, быстро и сильно, и во что-то ударяться. А зачем? Но если не выполнишь или выполнишь не так, будет больно. И говорить будут плохо не Он и Она, а другие. Он называл его «другом», а с некоторых пор «Лёшей», Она «големом» и тоже «другом», а иногда «дурачком». А эти «болваном», «куклой» или «образцом». И постоянно повторяли: «Этот урод ничего не видит, так что можно бить как хочешь». Что значит «урод»? Он чувствовал, что это плохо, но не мог понять, почему. И что такое «видеть»? Только одно было понятно: если он правильно двигал руками и ногами, ему давали отдохнуть, а если ошибался, то делали больно. И ещё было обидно. Это слово он тоже узнал-вспомнил. Обидно, потому что тогда те, другие, смеялись над ним. И ещё одному пришлось научиться: по звукам, по движению воздуха, по непонятному ощущению внутри себя понимать, когда можно на прикосновение «дать сдачи», а когда нельзя.
Его мир расширялся, становился всё разнообразнее и противоречивее. И всё опаснее. Только когда говорил Он, было хорошо, спокойно. Он никогда не говорил плохого. И пришло понимание: «Он верит в него».
4
После тяжёлого разговора с Львом Борисовичем Лена долго приходила в себя. Однажды в семилетнем возрасте она откопала в бабушкиной библиотеке старинную книгу давно забытого писателя и засиделась допоздна, с любопытством и страхом читая непонятную и притягательную историю со странным названием «R. U. R.».5 За этим занятием её и застали зашедшие в комнату бабушка и её подруга. Гостья, увидев в руках девочки старую книгу, возмутилась: «Разве можно детям читать такие вещи?» Бабушка тогда ласково улыбнулась Лене:
Пусть она знает, что такое рабство.
Потом Лена узнала, что та книга была первой, в которой появилось слово «робот», навсегда связанное для неё со словом «раб». И вот теперь она стала соучастницей создания новых рабов тех самых думающих, чувствующих и ощущающих своё положение роботов из книжки. Стала соучастницей преступления, которое никто не назвал бы преступлением, ведь это просто разработка машины, облегчающей жизнь людей.