- Не знаю, поэтому и спрашиваю. Чего бы вам хотелось? Если не можете ответить сразу, подумайте. Но постарайтесь быть честным.
- Мне? - майор Кротов задумался. - Вспомнил. Хочу, чтобы в моем полном распоряжении оказался большой дом, все комнаты которого нельзя было обойти за целый месяц. Первая комната должна быть фиолетовой. Не люблю обои, предпочитаю, чтобы стены были выкрашены масляной краской, в первой комнате фиолетовой. И мебель должна быть фиолетовой. Ну, это не трудно. Стол, кресла, комод и все, что там еще будет. Я буду приходить в эту комнату только, когда захочу погрустить. Врачи говорят, что печаль, если она кратковременна, очень полезна для здоровья. Мне кажется, что фиолетовый цвет поможет моему организму выделять омолаживающие ферменты. Вторая комната будет зеленой. Стены выкрасить зеленой масляной краской не трудно. И мебель должна быть зеленой. Я буду приходить в зеленую комнату, когда у меня устанут глаза. Слышал, что зеленый цвет способствует отдыху глаз.
Потом майор Кротов рассказал о том, какой будет в его воображаемом доме-мечте третья комната, четвертая, пятая и еще многие-многие другие. Трудно было представить, что он продумает детали будущего дома с такой пугающей скрупулезностью, однако оказалось, что Кротов относится к своей мечте очень серьезно.
Пришлось Зимину сидеть и слушать. Толку от подобной информации не было никакой, но встать и уйти, прервав на полуслове разговорившегося Кротова, не хватало духу.
В кабинет вошла Марго и села рядом с Зиминым.
- Давно слушаешь? - спросила она шепотом.
- Минут десять, - признался Зимин.
- Подожди, Кротов, - сказала Марго решительно. - Запомни, что прервался на описании тридцать четвертой комнаты. Потом продолжишь. А сейчас выслушай меня. Тебе еще рано становиться бессмертным, ты еще не пожил в Усадьбе среди избранных.
- Кто это такие - избранные?
- Это очень богатые люди.
- У меня много денег.
- Они обладают властью.
- И я руководитель. Сейчас прикажу что-нибудь Зимину, и он выполнит.
- Разница в том, что они могут его убить, а ты нет.
- Не хочу убивать Зимина, мне он еще понадобится. От него можно получить прибыль.
- Это правда.
- Я уверен.
- Но почему ты не хочешь жить в Усадьбе?
- Мне и здесь хорошо.
- Скучно с тобой, Кротов, - сказала Марго сердито и направилась к выходу.
- Будешь еще говорить с ним? - спросил Зимин.
- Нет, он твой.
12. Майор Кротов и сознание
Давно пора было бы привыкнуть к тому, что люди по природе своей существа странные. Но одно дело знать эту простую истину теоретически, философски осмысливать первопричины возникновения этой странности, и совсем другое, встретить живого человека, абсолютно лишенного способности мечтать и не умеющего строить планы на будущее, которому недоступны простейшие человеческие чувства. Самое смешное, что, скорее всего, именно эти особенности позволили Кротову стать начальником. Надо полагать, что способность при необходимости внезапно ограничивать чувства и интеллект помогает руководить. Зимин никогда не думал о майоре Кротове, как о человеке с ограниченной человечностью. И вдруг оказалось, что это простое предположение помогает многое понять в его поведении. Зимин мог только догадываться о том, как Кротов поступает в других жизненных ситуациях, когда не строит из себя начальника. Об этом, наверняка, можно будет расспросить Марго. Но что-то подсказывало ему, что рассказы эти человечности Кротову не добавят.
Принцип ограниченной человечности должен быть обязательно учтен при записи сознания Кротова. Горский лучше знает, как это сделать. Самому Зимину не хотелось заниматься Кротовым. Он не знал правильного ответа на вопрос - почему? Имелось три правдоподобных догадки, но выбрать из них самую главную было очень трудно. Ему надоело заниматься наукой. Не было желания тестировать внешнюю копию Кротова. И главное, ему хотелось стать писателем. Проще всего было развернуться и уйти. Зимин не мог так поступить, этому мешало врожденное чувство ответственности, которое ему в раннем детстве привили родители.
Пришлось выполнять работу до конца. Он отправился к Горскому и подробно пересказал ему про предположение Марго о том, что Кротов не способен чего-то желать, так как уверен, что у него уже все есть. Потом поделился своим открытием принципа ограниченной человечности. Зимин был уверен, что его рассказ пользы не принесет, только запутает ситуацию, но Горский остался доволен.
- Отлично! Чем меньше работы, тем качественнее мы ее сможем сделать.
- Мы должны будем придумывать мечты за него?
- Нет. Кротову не нужны эстетские выкрутасы, нам - тем более! Надо привыкать быть проще.
- Но мы не сможем смоделировать индивидуальные особенности работы его мозга.
- Это и не нужно. У нас есть квантовый компьютер. Хороший. Качественный. Есть набор программ, с помощью которых программисты моделируют работу головного мозга. На самом деле это не очень сложно. Ключевых реакций не так много. Алгоритм получения необходимой энергии, поиск еды или использование другого способа. Алгоритм выполнения текущих обязанностей работника. Алгоритм общения. Алгоритм использования доступных развлечений. Алгоритм благоразумного любопытства, как замена якобы присущего людям стремления к познанию. Обязательные алгоритмы стремления к доминированию и жадности. Для правдоподобия функционирования. Еще некоторые наиболее распространенные эмоции. Вот и все. Этого достаточно для создания модели типового сознания.
- Сознания, одинакового для всех?
- Да. Поведение людей, как правило, стандартно.
- Но люди такие разные, - удивился Зимин.
- Это только видимость. Мозг их работает одинаково. Задачи, которые перед ним стоят, довольно ограничены.
- Да ладно!
- Послушай, ты же не удивляешься, когда слышишь про искусственные почки, сердце или печень? Мозг точно такой же орган, выполняющий для всех без исключения людей одинаковые действия. У кого-то лучше, у кого-то хуже, сейчас речь не об этом. Людей отличает воспитание, моральные принципы и ограничения, жизненный опыт, привычки, воспоминания. Для нас это вспомогательные программы, которые мы должны написать и отладить.
- Слишком упрощенный подход, - возразил Зимин. Он попробовал четко сформулировать свои претензии. - Такой подход делает невозможной запись индивидуального сознания.
- Вовсе нет. Мы получим удовлетворительную копию. Она будет отличаться от объекта. Ну и что?
- Наши пациенты ждут от нас именно идентичности.
- Это их проблемы. Мы им ничего такого не обещали.
- Неужели?
- Можно под присягой утверждать, что компьютерная копия будет уверена в том, что она является тем самым первоначальным человеком, сознание которого перенесли на внешний носитель. Если удастся убедить в этом самого пациента, можно будет утверждать, что работа успешно выполнена.
- Но это невозможно, - сказал Зимин.
- Ошибаешься. В некоторых случаях это сделать очень легко. Скажем, когда имеешь дело с майором Кротовым. Достаточно сообщить, что отныне источником мыслей, возникающих в его мозгу, является внешнее сознание, и он нам поверит. Не думаю, что он сумеет самостоятельно опровергнуть это утверждение. Мы не дадим. Интерфейс мозг – компьютер давно создан и работает без сбоев.
- Достаточно отключить компьютер, чтобы понять, что все мысли, посещающие его, связаны с биологическим мозгом.
- Это тебе понятно, а не создателю теории сферической логики. Я умею быть убедительным, когда это нужно для дела, - твердо сказал Горский. - Уверяю, что он мне поверит. С майором Кротовым проблем не возникнет.
- Майор человек упрямый. С исключительно жесткой системой представлений. Доказать ему что-либо очень трудно. Поверь, я пробовал.
- Значит, подправим ему представления.
- Не кажется ли тебе, что мы заигрались? Люди ведь не игрушки. Не пора ли нам остановиться?
- Поздно, Зимин, поздно. Назад дороги нет. Наука нам не простит, если мы упустим свой шанс.
13. Внешний майор Кротов
События стали развиваться с устрашающей скоростью. Надо сказать, что Горский был человеком решительным, он не стал забивать себе голову лишними сомнениями, и к концу недели копия мозга майора Кротова была готова в первом приближении.
- Полученный мыслик не имеет к Кротову никакого отношения, - возмутился Зимин.
- Он об этом не знает, и это хорошо, - рассмеявшись, сказал Горский.
- Итак, ты взял стандартную модель человеческого сознания, добавил типовой набор человеческих реакций и назвал это "майором Кротовым"?
- Можно и так сказать.
- Научил свое искусственное сознание пользоваться Интернетом, сделал главными побудительными мотивами жадность и тщеславие, и это все?
- Мы не обидели майора Кротова, сняли, обработали и добавили в память наиболее яркие его воспоминания. Он будет доволен.
- Остаточные следы воспоминаний, - уточнил Зимин укоризненно. - Всего лишь следы.
- Для задачи, которую мы решаем, этого достаточно. Потом доработаем.
- Ты говорил, что личность человека создают желания и воспоминания. Современная аппаратура пока не может точно обрабатывать весь комплекс воспоминаний. Потери неминуемы.
- Наши программисты эту проблему решили.
- Вы научились программировать воспоминания? - удивился Зимин.
- Воспоминания программировать нетрудно. Скажем, Кротов помнил, что в прошлом году сходил на футбольный матч. Что кроме счета он мог запомнить? Поток людей, вместе с которыми он направлялся к стадиону? Фанатов, неистово размахивающих флагами и вопящих кричалки? Зеленое поле, освещенное мощными прожекторами, и мельтешащие взад-вперед маленькие фигурки игроков, радость от забитого его командой гола и огорчение от пропущенного? Распитое после игры с друзьями пиво? Как это ни обидно, но воспоминания людей удивительно похожи. Особенно, когда пройдет достаточно времени. Если заменить воспоминания человека А. о футбольном матче на воспоминания человека Б., никто подмены не заметит, если специально не ковыряться в деталях. Наши программисты написали сотни типовых подпрограмм таких воспоминаний, годных для использования в памяти любых людей.
- А посещение музеев?
- Это программируется еще легче. Добавляется сущий пустяк: при перечислении "увиденных" картин вводится параметр "нравится – не нравится", "0" или "1".
- Если я правильно понял, майор Кротов у тебя ничем не будет отличаться от других копий?
- А разве он сейчас отличается?
- Ну, он такой грозный, настоящий начальник.
- Эта функция будет задействована.
- И все?
- Разве не ты рассказал мне о том, что у него нет ни одной внятной мечты?
- Как-то это обидно звучит.
- Ерунда, - ухмыльнулся Горский. - Попечительский совет потребовал, чтобы майор Кротов написал подробную автобиографию. Если там обнаружится содержательная информация, она будет изучена и запрограммирована нашими специалистами. Прелесть работы с мысликами заключается в том, что мы можем активно работать с их воспоминаниями в любое удобное для нас время. Скажу больше: нас с тобой уже не будет, но и через пятьсот лет неведомые потомки будут работать с записью сознания майора Кротова, добавляя свои, невообразимые нашему пониманию, измышления.
- Это и позволяет считать его бессмертным?
- Да.
- Но почему модель будет считать себя Кротовым?
- Так мы ему об этом скажем. Внешний майор Кротов поверит. Как и положено модели типового начальника, он обучен доверять своим подчиненным. Для этого написана полезная подпрограмма. Не волнуйся, все под контролем.
Потом Зимин часто вспоминал этот разговор. В меру откровенный, он перевернул его жизнь. Наверное, давно следовало научиться относиться к окружающему миру с легкой иронией, принимая его несовершенство, понимая, что ему не дано исправить даже самые очевидные ляпы. Зимин, в принципе, так и поступал. Роль наблюдателя его устраивала. А вот светиться в сомнительных программах в качестве действующего лица Зимин не желал. Заниматься тем, что Горский называл наукой, было выше его сил.
Не исключено, что это наивно, но Зимин согласился бы написать книгу о том, как Горский создает макет сознания под названием "майор Кротов". А вот самим макетом ему заниматься было скучно. Такой текст мог быть полезен, пора было обратить внимание людей на то, что наука в последнее время перестала быть наукой, разменявшись на показушные проекты вроде записи сознаний на внешние носители.
Надо было прямо сказать об этом Горскому, но нужные слова не приходили. Его успокаивало то, что он все еще мог быть полезным. С порученной работой он справлялся. Честно говоря, Зимин думал, что макет сознания майора Кротова удастся создать года через два, а за это время он найдет себе место лучше. Было еще одно объяснение тому, что он медлил, чисто эгоистическое. Зимин рассчитывал, что пристальное наблюдение за поведением Горского поможет написать повесть об ученом психофизике. Он стал записывать в коммуникатор замеченные мелкие детали поведения Горского: как он скрещивает руки, когда у него что-то получается, как тускнеет его взгляд при малейшей неудаче, при этом он забавно ковыряет носком ботинка паркет и злобно подкашливает. С особым удовольствием Зимин записывал анекдоты, которые любил рассказывать Горский, и его типичные шуточки. Чувство юмора у Горского было своеобразным, что было особенно ценно при написании текста о настоящем психофизике, поскольку позволяло сделать его книжный образ более выпуклым и понятным будущему читателю.
Но отсидеться два года не удалось. Наступил день, когда Горский похлопал Зимина по спине и сказал:
- Пора тебе поговорить с майором Кротовым номер два!
Они отправились на восьмой этаж, где располагался кабинет для общения с мысликами. Проникнуть туда было непросто: многочисленная вооруженная охрана, тяжелые, через каждые пятнадцать метров, металлические двери и решетки, как в тюрьмах. Горскому и Зимину не нужны были пропуски или ключи, охранники знали их в лицо. При таком подходе посторонние не могли проникнуть в охраняемые помещения, даже если бы сумели раздобыть необходимые документы, поскольку таких документов не существовало. Функционирование мысликов нельзя было подвергать даже самой минимальной опасности. Это касалось, естественно, и информационной безопасности. Вмешательство чужих людей могло стать для записанного сознания катастрофой. Выход во внешние сети был ограничен и контролировался командой проверенных профессионалов. Считалось, что хакеры не в состоянии прорвать автоматизированную антивирусную защиту, разработанную в отделе комплектации.
В кабинете было темно, только в углу в кресле под тусклой лампой сидел человек. Зимин узнал его, это был уполномоченный Комитета охраны эстетики Семенов.
- Я узнал вас, - сказал Семенов. - Можете приступать к работе.
- Я вас тоже узнал, - сказал Зимин.
- Это не обязательно.
- Как посмотреть. Если бы не узнал, то вынужден был бы нажать тревожную кнопку и оповестить охрану.
- Вы не знаете, где расположена тревожная кнопка, - Семенов подошел к Зимину и зачем-то дотронулся до него пальцем.
- Хочу знать, что уполномоченный Семенов делает в нашем секретном кабинете? - спросил Зимин.
- Исполняю долг.
- Какой долг?
- Отстань от человека, - вмешался Горский. - Пусть себе исполняет, тебе-то какое дело?
- Нет, я скажу - возмутился Семенов. - Мне поручено проследить, чтобы вы злонамеренно не засорили сознание майора каким-нибудь стихам. За вами эта провинность числится, не увиливайте.
- Я больше не читаю стихи, - признался Зимин.
- Почему? - удивился Семенов.
- Зимин переключился на прозу, - сказал Горский и включил в кабинете свет.
- Это правда?
- Правда, - подтвердил Зимин.
- Ведете блог? Если про футбол, я бы подписался.
- Увы. Футболом не интересуюсь.
- Может быть, потом поговорите? - сказал Горский зло. - Мы пришли работать.
- Да, конечно. Не смею вас задерживать.
Семенов вернулся на свое место.
Горский включил компьютер. На мониторе появилось лицо майора Кротова, его губы причудливо шевелились. Горский покрутил ручку настройки на динамике. С этой минуты Кротова можно было услышать. Он рассказывал о себе:
- … так я стал академиком.
- Вы уверены? - удивился Зимин.
- Конечно. С памятью у меня полный порядок. Я - всемирно известный ученый, академик ряда академий, один из трех создателей методики переноса сознания на внешний носитель. Потомкам еще только предстоит оценить мой персональный вклад в решении проблемы электронного бессмертия. Не исключаю, что я сам найду время, чтобы дать разъяснение по этому вопросу.
- Горский! Как ты мог? - возмутился Зимин.
- А что такое? По-моему, получилось прикольно. Одна маленькая подпрограмма, а сколько радости она принесла слушателям.
- Мерзавец!
- Не придирайся.
- Наверное, сначала следовало испробовать методику на заместителе, - продолжал макет майора Кротова, не обратив внимания на реплики посетителей. - А потом я подумал: зачем? Мои подчиненные могли бы расценить такое решение, как проявление нерешительности или слабости, что при моей должности недопустимо. Нужно было недвусмысленно заявить, что я настолько уверен в своей методике, что просто обязан первым записать свое сознание, воспользовавшись служебным положением, так сказать, правом первородства.
- Складно излагает, - признал Зимин.
- А ты думал! Это и есть искусственный интеллект!
- Впечатляет.