«Правда?» - не выдержал Яша.
– Ну конечно, правда. И ты обязательно должен понять, что ты самый необыкновенный на свете, и мы все поэтому так тебя любим, - мурлыкала Галочка. - А если бы ты был такой, как все, разве стали бы мы так любить тебя?
«Правда?»
– Правда, правда, глупенький.
«Я не глупенький, я все понимаю. Мне только очень страшно. Я делаю вид, что маленький, чтобы вы были около меня. Потому что, когда вы около меня, мне не страшно. А сейчас идите. Мне нужно подумать».
О, этот продленный день! За годы я не расходовал столько эмоций! Душа моя рванулась к черному ящику, что стоял на обычном лабораторном столе с криво прибитым инвентарным номерком. Нет, не только сыном он был мне, этот ящик, а и братом по разуму, и я хотел протянуть ему руку, потому что если одно разумное существо не подаст руку другому, на чем еще может стоять мир?
Я взял Галочку за руку, и мы молча пошли к выходу. В институте уже давно никого не было, только под дверью триста двадцать третьей комнаты протянулась светлая полоска. Бедный Женька Костоломов судорожно оформляет свою диссертацию, которую защищает а следующий вторник. Не волнуйся, Женька, все будет а порядке. Главное - не волнуйся.
«Уходите?» - спросил Норберт Винер со стены. Я кивнул, и отец кибернетики вернулся на стену, потому что забирал у нас ключи не он, а Николай Гаврилович. Он снова пил чай из чудовищной своей кружки с розами, и я подумал светло и без зависти, что вахтеры пьют чая больше представителей всех других профессий, и от этого их желчные протоки всегда в величайшем порядке.
Мы снова шли с Галочкой по улицам и молчали. Если мы промолчим еще сто шагов, загадал я, все будет хорошо. На восемьдесят первом шагу Галочка остановилась, внимательно посмотрела на меня, открыла было рот, но потом передумала, и мы снова пошли к метро. Начал накрапывать дождик, но он был таким теплым, маленьким и уютным, что вовсе не воспринимался как дождик.
– Сто, - сказал я решительно.
– Что «сто»? - спросила Галочка.
– Я загадал, что если мы пройдем сто шагов, не сказав ни слова, все будет хорошо.
– Ты уверен, что все будет хорошо? - Галочка снова остановилась и пристально посмотрела на меня. Глаза ее, и без того большие, казались в сумерках огромными и тревожными. Сердце у меня забилось.
– Да, - соврал я без особой убежденности.
– Ты врешь.
– Да, - сказал я, - я вру.
– Зачем?
– Потому что я хочу убедить тебя и себя, что все будет хорошо.
– Значит, ты думаешь, если врать себе, все будет хорошо?
– Конечно. Надо только врать долго и убежденно.
– Может быть.
– Галчонок, мы хотели провести сегодня вечер вместе.
– Мы и провели его.
– Я… Я думал…
– Нет, Толя, - очень серьезно сказала Галочка. - Это было бы… неправильно.
– Если ты думаешь, что…
– Да нет же, - Галочка досадливо мотнула головой, - об этом я меньше всего думаю. Какое это вообще имеет значение! Я думаю о Яше.
– А что?
– Не знаю… как бы тебе объяснить… Вот мы придем ко мне, я достану недопитую, уж не помню кем, бутылку коньяка, поставлю на проигрыватель пластинку. Мы будем сидеть рядышком на диване, и нам будет тепло и хорошо. Ты положишь мне руку на плечо, я потрусь об нее ухом, потому что я уже много раз представляла себе, как это будет, и мне хочется быть с тобой рядом. А в пустой и темной комнате триста шестнадцать Яша, который никогда не спит, будет снова и снова пытаться понять, кто он.
Никогда еще я не любил Галочку так сильно и так нежно. Я ничего не сказал. Я взял ее руку и поцеловал печально и почтительно.
5
Иван Никандрович вытянул руки и положил их перед собой на стол, как академик Павлов на картине Нестерова. Возможно, он хотел дать им отдых, прежде чем приняться за нас.
– Я попросил вас прийти ко мне, - сказал он, - чтобы обсудить ситуацию, сложившуюся в вашей лаборатории. Прошло два месяца с того момента, когда ваш Яша сказал «нет», первая вспышка энтузиазма прошла, отправлены в журналы первые статьи, и сегодня мы должны констатировать, что мы, так сказать, выпустили джинна из бутылки. Возникло множество вопросов философского, морально-этического, юридического и чисто человеческого свойства, решать которые наш институт совершенно не готов. Долгие годы мы очень легко оперировали словами «разумные машины», «искусственный интеллект» и тому подобное, подразумевая при этом электронно-вычислительную машину. Когда же выяснилось, что Черный Яша - это личность, осознающая себя, мы начали разводить руками. Если Яша действительно личность, можем ли мы считать его институтским имуществом? Имеем ли мы моральное и юридическое право навесить инвентарный номерок на думающее существо? Можем ли мы запирать его, если он не хочет, чтобы его запирали? Это ведь не абстрактные вопросы. Помните законы робототехники у фантаста Азимова? У Азимова это были роботы, машины, и конструкторы закладывали в них определенные ограничения. Яша не машина, это стало ясно уже всем, даже самым заядлым скептикам. Он личность, а личность, наверное, не может быть действительно личностью, если в нее заранее вложены ограничения. Поэтому сегодня мы должны признать, что было допущено легкомысленное, чтобы не сказать больше, отношение к серьезнейшей проблеме. - Иван Никандрович сделал затяжную паузу и обвел нас строгим директорским взглядом, дабы убедиться, признаем ли мы свое легкомыслие.
Сергей Леонидович явно признавал. Он сидел прямо, не касаясь спинки стула своей уютной полной спиной, повесив голову, и очень самокритично морщил лоб. У Татьяны Николаевны вид был уж совсем испуганный - съежившаяся, маленькая, нахохленная, постаревшая от испуга лет на десять. У Феденьки повязан новый галстук скучного кирпичного цвета. Он с любопытством оглядывал кабинет, в котором был, наверное, первый раз. Феденька ничего не боялся. Старшие лаборанты, машинистки, нянечки, дворники и уборщицы не боятся никого и ничего. Начальство приходит и уходит, жесточайшие реорганизационные штормы треплют учреждения, разрывая в клочки штатные расписания, а эти люди взирают на людскую суету с недоступной прочим смертным мудростью Экклесиаста.
Иван Никандрович особо посмотрел на своего заместителя.
– Мне бы хотелось выслушать ваше Мнение, Григорий Павлович, - сказал директор Эмме, явно желая разделить с ним ответственность за наше легкомыслие.
– Вы же знаете мое мнение, Иван Никандрович, - неожиданно твердо сказал Эмма. - Я могу лишь повторить его. Я считаю, что мы не можем и не должны даже пытаться разрешить все те сложнейшие проблемы, которые возникли в связи с созданием э… э… этого аппарата.
– Но что вы предлагаете конкретно? - с легчайшим нетерпением спросил Иван Никандрович.
– Я считаю, - сказал Эмма, - что следует обратиться к академическому начальству с просьбой решить вопрос о передаче э… э… этого аппарата.
– Как это передать? - вдруг распрямилась Татьяна Николаевна. - Как это передать? - Татьяна задышала, как дышат боксеры в перерыве между вторым и третьим раундами. - Это как продавали крепостных…
– Татьяна Николаевна! - негромко, но строго прикрикнул Сергей Леонидович. - Не забывайте, где вы находитесь!
– Отчего же, отчего же, - со зловещей вежливостью сказал Иван Никандрович, - кого же еще сравнивать с Салтычихой, как не руководство института?
Вы, возможно, спросите у меня: как же так, человек, больше всех привязанный к Яше, сидит в кабинете и спокойненько фиксирует, кто как держит руки, кто как качает или кивает головой. Отвечу. Я ощущал в эти минуты полнейшее спокойствие, даже некую отрешенность. И не потому, что судьба Яши была мне безразлична. Просто я знал, что никогда ни при каких обстоятельствах не оставлю его, что буду защищать его. Как я вам уже, по-моему, рассказывал, я трусоват по натуре, но если трус переступает через свой страх, он не боится ничего.
Сергей Леонидович вытер платком лоб - на этот раз он был действительно покрыт испариной - и сказал:
– Видите ли… я нахожусь как бы в двойственном качестве. С одной стороны, я принимал участие в создании Яши и эмоционально привязан к нему. С другой - как заведующий лабораторией и лицо ответственное, я не могу не думать о репутации и судьбе института… - Сергей Леонидович замолчал. Пауза затягивалась. Вот-вот она должна была лопнуть. И лопнула.
– Мы очень благодарны вам за интересное сообщение о двойственности вашего положения, - со старомодным вежливым сарказмом сказал нашему завлабу директор, и мне показалось, что ему понравилась собственная реплика. - Но хотелось бы услышать и нечто более существенное. Другими словами, что делать с вашим Яшей?
Я смотрел на Сергея Леонидовича и видел на его лице борение двух его сторон, почти непристойное в своей обнаженности. Я немножко знаю его, нашего завлаба, и понимал, что происходит в его душе: как, как угадать? Как сказать то, что ждет от тебя начальство, и сохранить при этом хотя бы капельку самоуважения и более или менее либеральную репутацию? Ах эти двойственные натуры, ах эти с одной и с другой стороны, нелегко живется им на том свете! То ли дело Эмма! Эмма не имеет ни двойственности натуры, ни натуры. Центр тяжести расположен у него низко, где то ниже спины, и он, как ванька-встанька, никогда не теряет равновесия. Повалить его практически невозможно.
– Я считаю, - выдавил наконец из себя Сергей Леонидович, - что лучшая тактика - это отсутствие всякой тактики… Я хотел сказать, что нам сейчас, возможно, и не следует принимать никаких конкретных решений. Поживем - посмотрим. Последний месяц Черный Яша… простите, что я употребил наше лабораторное имя…
– Пожалуйста, пожалуйста, я тоже называю его Яшей, - улыбнулся директор.
– … Яша поглощает гигантское количество технической и научной информации. Знаете, первое время мы относились к нему как к ребенку. И постепенно привыкли к мысли, что он как бы мальчик… А скорость усвоения этим мальчиком информации чудовищна. У меня создается впечатление, что Яша вскоре вполне сможет решать определенные научные задачи. И заметьте, не как ЭВМ, следуя лишь заданной программе, а как настоящий исследователь. В таком случае мы смогли бы выйти, так сказать, на люди не только с самим фактом существования думающей машины, но и с ее достижениями. А это, согласитесь, совсем другое дело. - Сергей Леонидович замолчал, медленно выпустив из себя неизрасходованный запас воздуха.
– Благодарю вас, - задумчиво произнес Иван Никандрович. - А что вы можете нам сказать, товарищ Любовцев?
Я вздрагиваю. В кровь поступают аварийные запасы адреналина. Сердце стартует с места в карьер, как на стометровке. Я зачем-то вскакиваю на ноги.
– Можете сидеть, - усмехнувшись, говорит директор, но я не слышу его. За мной стоит мой малыш, мой Черный Яша.
– Если бы я заранее знал, - медленно начинаю я, стараясь унять биение сердца, - все те проблемы, которые породило появление Яши, я бы, наверное, не пытался создать его. Но он существует, и я не могу представить себе, как можно даже говорить о том, чтобы отдать кому-то наше детище.
– Я понимаю вашу горячность, - очень серьезно говорит директор, - но горячность еще никогда не заменяла ответа. Перед нами стоят сложнейшие проблемы, вы же восклицаете с горящими глазами «наше детище» и считаете, что на этом дискуссия исчерпана.
– Я не хочу исчерпывать никакой дискуссии. Я хочу только сказать, что не надо бояться спорных вопросов… - За мной стоит Яша, я перешагнул через свою трусоватость, и сейчас мне безразличны интонации директорского голоса. - Да, Яша создал массу запутаннейших вопросов, это верно, - продолжаю я, - но что это за наука, если она не порождает с каждым шагом вперед новые проблемы? Да, нам трудно забыть об электронной рукотворной начинке Яшиного мозга и трудно заставить себя относиться к нему как к живому существу. Но он живой. Он абсолютно живой. В нем не бьется человеческое сердце и не течет по жилам кровь. Но он думает и страдает. Он знает, кто он, он любит и ненавидит, он ищет свое место в мире. Да, мы еще только можем гадать, будут ли созданы другие такие существа, понадобятся ли человечеству не искусственные помощники, а искусственные братья по разуму, и если да - как сложатся их отношения. Мы, кстати, не раз говорили с Яшей на эту тему…
– И что же? - спрашивает меня Иван Никандрович.
– Яша сказал, что это очень сложный вопрос и он должен подумать. Он обещал продумать варианты.
– Интересно. Значит, необходимость пребывания Яши в институте не вызывает у вас никаких сомнений?
– Нет, Иван Никандрович, - говорю я с таким жаром, что мне становится смешно, и я улыбаюсь.
– Благодарю вас. Ну а вы, Григорий Павлович, вы по-прежнему придерживаетесь своей точки зрения?
– Да, - твердо отвечает Эмма. - Я считаю создание э… э… Яши безнравственным.
– Как это - безнравственным? - подскакиваю я.
– Спокойнее, Толя, спокойнее, - урезонивает меня Сергей Леонидович и тянет вниз.
– Именно безнравственным, - все так же неожиданно твердо говорит Эмма. - Мы создали жизнь, не подумав об ответственности перед самой этой жизнью. Имели ли мы право создавать разум, заведомо обрекая его на страдания? А он должен страдать, я глубоко убежден в этом…
Колени уже не дрожат у меня от возбуждения, уровень адреналина упал до нормального. Вот тебе и Эмма, кто бы мог подумать…
– Простите, Григорий Павлович, - вдруг говорит Татьяна Николаевна. - Я мать. Я знаю, что такое ответственность. Рожая ребенка, тоже ведь не уверен, что он всю жизнь будет только смеяться… Но все же мы рожаем. Давно уже рожаем. И мы все с вами рождены, и никто не выдавал нашим родителям гарантии, что мы не будем страдать.
– Я понимаю вас, - сказал Эмма, - но, к сожалению, не могу согласиться. Я считаю, что мы не вправе решать этот вопрос.
– Ну что ж, благодарю вас за высказанные мысли, - кивнул задумчиво Иван Никандрович и вдруг улыбнулся доверительно: - Знаете, когда-то я мечтал о том, чтобы стать директором института… - Он бросил быстрый взгляд на заместителя… - Если бы я знал в то время, какую ответственность мне придется брать на себя, я бы, наверное, не стремился так сидеть за перекладиной буквы "Т". Ко решать что-то нужно. Прав, безусловно, Григорий Павлович…
Я почувствовал, как холодный влажный комок поднимается во мне по пищеводу. Еще мгновение - и он закупорит горло.
– И тем не менее, - продолжал директор, - я не могу заставить себя передать Яшину судьбу в чужие руки. Посмотрим, посмотрим…
Я еле доплелся до нашей комнаты, таким измученным я себя чувствовал.
– Это ты, Толя? - спросил Яша своим каким-то удивительно тусклым и скучным голосом. Три недели налаживали этот звуковой синтезатор. Слава Богу, что хоть таким голосом он может теперь говорить.
– Я, Яшенька.
– Ты чем-то расстроен?
«Это что-то новое, - отметил я. - Он уже умеет определять состояние человека по голосу».
– Да ничего особенного.
– Ты напрасно пытаешься меня обмануть. Толя.
– Я не пытаюсь, - вяло сказал я.
– Врешь.
– Нехорошо говорить старшим «врешь».
– Лжешь, обманываешь, говоришь неправду, заливаешь, пудришь мозги, вешаешь лапшу на уши.
– Это еще откуда?
– Из повести, которую ты вчера мне дал. Страница сто шестая, четвертая строка сверху.
– Зачем ты держишь все это в памяти?
– Не увиливай от темы разговора. Ты прекрасно знаешь, что я помню все.
– Нехорошо говорить старшим «не увиливай».
– Не отклоняйся, не отвлекайся, не теряй нить, не растекайся мыслию по древу. И расскажи, чем ты расстроен, огорчен, опечален, выбит из привычной колеи. Но если не хочешь, можешь не рассказывать. Я ведь и так догадываюсь, что речь шла обо мне. И даже представляю себе, что могли говорить.
– И что же ты представляешь, дорогой Яша?
Яша помолчал, потом его динамики издали какие-то царапающие звуки. Я вздрогнул, но тут же сообразил, что это, должно быть, смех.
– Мне не хотелось бы говорить.