Неудивительно, что футурологические истории о сращивании человека и компьютера, а пуще человеческого и искусственного интеллектов, занимают в сборнике особое место. Пусть и невеликое, но ведь аугментация только началась, вполне возможно, она станет доминантным способом создания нового человека. И первые результаты, видимые сейчас, охотно исследуются авторами сборника, подвергаются всестороннему анализу, а после получают продолжение в виде весьма любопытных исследований, которые вы, уважаемый читатель, можете изучить во второй части этой антологии. Каким может стать человек в недалеком уже будущем, насколько изменится внешне и внутренне. Сохранит ли он прежний вид или станет более похож на робота? А что произойдет с его вместилищем разума? Возможно, иные люди и вовсе уподобятся приложениям к программам, продадут себя для подобного служения или уйдут добровольно в цифровое изгнание. Возможно, вовсе исчезнут, смешаются с матрицей. Или покорят ее. А может, что-то еще?
Авторы «Механического чуда» пытаются дать ответы на все эти вопросы, каждый по-своему рассматривая будущее нас и потомков наших. А иногда заглядывая еще дальше и предвосхищая историю, развернувшуюся уже после исчезновения человека. Конечно, нам сложно представить мир без людей, населенный исключительно роботами, переживших своих создателей, но кто знает, возможно, именно этого нам и следует опасаться. Нашей гордыни, безответственности, сомнительных достижений и пустых побед. Как бы то ни было, стоит внимательнее присмотреться к отчасти пророческим, отчасти ерническим рассказам, составляющим основу этого сборника. И помнить: в каждой, даже самой немыслимой истории всегда найдется зерно подлинного пророчества, еще не свершившегося.
Надеюсь, авторы этой антологии заставят задуматься и вас, уважаемый читатель. Отложить книгу и вздохнуть над проблемами, затронутыми на страницах «Механического чуда». Право же, тексты, представленные здесь, того заслуживают.
Приятного вам чтения!
Ваш составитель,
Кирилл Берендеев
Часть первая. Почти как люди
Дэн Шорин. Три закона боготехники
Ответственный директор компании «Рашен Роботс» Сергей Березин, щурясь, смотрел на ведущего эксперта отдела программирования Ирвина К. Доулинга. Взгляд его то и дело соскальзывал в лежащую на столе бумагу.
– Какого черта вы себе позволяете?
– Я хочу уволиться.
Березин улыбнулся, аккуратно разорвал бумагу на множество мелких клочков и гневно произнёс:
– Вы думаете, я пойду на поводу у ваших прихотей? Продолжайте работать!
– Наша работа – мартышкин труд. Поставленная перед отделом задача не имеет решения! Подпишите заявление и катитесь к черту вместе со своей ГРО.
Березин встал из-за стола, нависая над Ирвином всем своим двухметровым ростом.
– Вы понимаете, что после этого вас не возьмет на работу ни одна приличная компания?! Ни российская, ни западная! Я вам это устрою!
– Буду писать прикладные программы для восточных партнеров. Как-нибудь проживу.
– Ирвин, побойтесь бога. Вы срываете огромный контракт, в результате вашего своеволия пострадают многие люди. А Россия будет отброшена в роботехнике на двадцать-тридцать лет.
– Я не верю в Бога, – покачав головой, ответил Ирвин.
– Скажите прямо, вам платит «Ю. С. Роботс»? Мы готовы перебить их ставку. Сколько вы хотите?
– Нет, – твердо сказал программист.
Березин понимал, что Ирвин уйдёт, и никто его не сможет остановить. Россия – не Северная Корея и даже не США с их долгосрочными контрактами, по существу заключающими работника в кабалу. Если специалист хочет уволиться, его ничто не способно удержать. Особенно если это иностранный специалист. Ирвин К. Доулинг был последним из восьми заокеанских специалистов, работавших в отделе программирования «Рашен Роботс». Остальные семеро оставили компанию в течение прошедшего месяца, мотивировав своё увольнение невозможностью решения поставленной руководством задачи. Увольнение последнего специалиста такого уровня на корню подрубало текущую программу корпорации и ставило на карьере Березина жирный крест.
– Я не уволю вас! – заявил Березин.
– В России существует трудовой кодекс, согласно которому вы обязаны меня отпустить. Я могу дать вам телефон моего юриста, пообщайтесь с ним на досуге.
– Согласно трудовому кодексу вы обязаны сообщить об увольнении за две недели, чтобы руководство компании имело возможность нанять на ваше место другого специалиста.
– Господин Березин, вы же прекрасно понимаете что специалистов, способных адекватно описать поставленную задачу в России просто не существует. Что толку держать меня ещё две недели, когда сама концепция ГРО – маразм.
Березин уселся в своё кресло и глубоко вздохнул. Сейчас он был на грани. Он умел контролировать свой гнев, загоняя его вглубь. Он посмотрел на Ирвина и тихим голосом произнёс:
– Мистер Доулинг, хотите пари?
– Пари? – переспросил Ирвин, и в этом была его ошибка.
Если бы он чуть лучше знал Березина, то в этот момент пулей вылетел бы за дверь и постарался бы убраться как можно дальше из города. Потому что прищур Березина не предвещал ничего хорошего.
– Да, пари. Как я понял, вы считаете поставленную перед вами задачу не имеющей решения. Я приглашу специалиста с улицы… Нет, более того. Я приглашу студента одного из десяти российских ВУЗов, готовящих системных программистов. ВУЗ вы выберете сами, господин Доулинг. Если этот студент в течение оставшихся у нас двух недель сможет построить алгоритм решения нашей задачи, то вы продолжите работать на «Рашен Роботс». А конкретно – подпишете десятилетний контракт, без права увольнения до его окончания.
– А если ваш студент не справится? – хмыкнул Доулинг.
– В таком случае «Рашен Роботс» выплатит вам премию в размере годового оклада и не будет препятствовать вашему дальнейшему трудоустройству.
Ирвин К. Доулинг отчетливо хмыкнул. И сделал два шага вперёд.
– По рукам, мистер Березин. Деньги никогда не бывают лишними.
Они скрепили пари рукопожатием. Доулинг широко улыбнулся. Этой сделкой западный специалист был доволен. Березин, как обычно был невозмутим, по его лицу эмоции абсолютно не читались.
Спустя двое суток в кабинет Березина вошёл молодой человек весьма стандартной для российского студента наружности. Худощавый, какой-то измученный, но, тем не менее, с огоньком в глазах. Студента звали Олег.
– Добрый день, господин Березин, – произнес Олег, осматриваясь в шикарном директорском кабинете.
– Добрый день, господин Бондарев, – ответил Березин, оценивающе глядя на студента. – Я буду говорить с вами от имени руководства компании «Рашен Роботс». Совсем недавно компанию, к нашему глубокому сожалению, покинул целый ряд иностранных специалистов. В связи с этим некоторые направления нашей деятельности оказались оголены. В частности, это относится к отделу программирования. В данный момент мы проводим конкурс на замещение вакантных мест среди студентов ведущих ВУЗов России. Вы прошли первичный отбор и на данный момент являетесь соискателем на место в нашей компании. Для того чтобы попасть в штат «Рашен Роботс», вы должны решить предложенное тестовое задание – некоторую проблему, связанную со спецификой деятельности «Рашен Роботс». Само по себе задание несложное, но оно требует умения творчески мыслить и реализовывать эти мысли в виде работающих алгоритмов. На решение задания вам будет дана одна неделя. Если есть организационные вопросы, задавайте их сейчас, перед тем, как мы перейдём к технической части тестового задания.
– Можно поинтересоваться размером моей предполагаемой заработной платы? – первым делом спросил Олег.
– Окончательный размер заработной платы зависит от результатов решения вами тестового задания. Он может колебаться от пяти до тридцати тысяч евро. Вас устраивает такой вариант?
Олег сглотнул слюну и машинально кивнул.
– А тестовое задание оплачивается?
– Нет, но если указанное вами решение нам понравится, возможна разовая премия. Ещё вопросы есть? Не стесняйтесь, спрашивайте.
– Вроде нет.
– Тогда перейдём, собственно, к заданию, от которого будет зависеть ваше трудоустройство.
Березин нажал кнопку телефона и внятно произнёс:
– Пригласите, пожалуйста, мистера Доулинга.
Ирвин К. Доулинг вошёл в кабинет и без приглашения уселся в кресло напротив директора.
– Ведущий эксперт отдела программирования мистер Доулинг, – представил его Березин. – А это соискатель вакантной должности в отделе программирования господин Бондарев. Пожалуйста, господин Бондарев, присаживайтесь. Мистер Доулинг сформулирует техническую сторону тестового задания.
Олег опустился в кресло. Ирвин К. Доулинг тщательно спрятал усмешку и перевёл взгляд на Березина.
– Компания «Рашен Роботс» в данный момент разрабатывает программу ГРО – глобальной роботизации общества, – продолжил Березин. – У нас имеется оригинальный концепт робота, способного взять на свои плечи всю физическую работу и обеспечить россиян массой свободного времени. По проекту каждый робот будет обладать саморазвивающимся псевдоинтеллектом. Кроме того, роботы должны быть надежно защищены от случайной порчи, абсолютно послушны и безвредны для человека. С какими трудностями нам пришлось столкнуться в ходе решения этой задачи, сейчас расскажет мистер Доулинг.
Ирвин К. Доулинг широко улыбнулся.
– Изобретать велосипед в этом вопросе нам не пришлось. За основу были взяты три закона роботехники известного учёного и фантаста Азимова. «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен какой-либо вред», «робот должен повиноваться приказам человека, если выполнение этих приказов не противоречит первому закону» и «робот должен защищать себя, если эта защита не противоречит первому и второму законам».
– А в чём возникла проблема? – спросил Олег.
– Третий закон реализовать было проще всего. Хотя изначально роботы просто отказывались работать. По их мнению, физический труд ведёт к износу составляющих робота деталей. Но мы ввели ограничение на срок, через который возможно полное нарушение работоспособности механизма, и всё нормализовалось. Со вторым законом было гораздо сложнее. Требовалось в доступных для псевдоинтеллекта терминах объяснить что такое «человек».
– Двуногое прямоходящее животное, обладающее разумом? – предположил Олег.
– А если этот человек – инвалид. И у него только одна нога. Или вообще ни одной? А если он поступает с точки зрения робота неразумно? К тому же под выданное вами определение попадают сами роботы. Что будет, если один робот станет считать другого робота человеком?
– Кх-кх, – Олег пристыжено опустил голову. – Как я понимаю, это и есть моё тестовое задание?
– Нет, – Ирвин К. Доулинг задумчиво постучал пальцами по подлокотнику кресла. – Это достаточно простая задача. Нудная, но всё-таки простая. Нами написана программа, выявляющая на основании семидесяти трёх показателей, человек находится перед роботом или нет. Максимальные проблемы возникли, когда мы попытались программно реализовать первый закон роботехники.
– Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен какой-либо вред? – спросил Олег.
– Именно. Здесь имеются два подводных камня, с которыми мы уже сталкивались при решении предыдущих задач. Термин «человек» и понятие «вреда».
– А как же программа, которая «на основании семидесяти трёх показателей…"? – ехидно заметил Олег.
– Одно дело, когда человек находится прямо перед тобой и пытается отдавать тебе приказы. И совсем другое дело, когда он находится, например, около строящегося дома, а робот с пятнадцатого этажа выбрасывает строительный мусор. Дистанционно распознать человек это или вовсе не человек за короткий отрезок времени крайне затруднительно.
– Понятно, – тяжело вздохнул Олег. – А с вредом-то что вышло?
– Вред, наносимый роботом самому себе, и вред, наносимый роботом человеку, несопоставимы. Идеальный вариант – когда робот вообще не наносит никакого вреда человеку, но это, увы, невозможно. В нашем обществе достаточно людей, которым само существование роботов может нанести моральный вред. Концепция вреда для человека так и не сформулирована. Представьте себе робота, который препятствует альпинистам, так как подъём в горы на его взгляд напрямую связан с риском для жизни. Или робота, который громит табачную лавку, потому что курение вредит человеческому здоровью. Представили?
– В общих чертах, – ответил Олег.
– Так вот, это ещё не всё. При полевых испытаниях выяснилось, что концепции трёх законов роботехники и саморазвивающегося псевдоинтеллекта несовместимы.
– А это ещё почему? – не понял Олег.
– Самостоятельное развитие интеллекта подразумевает динамические приоритеты, зависящие от опыта данного индивида. Если наш псевдоинтеллект сделать полностью динамическим, то рано или поздно три закона уйдут в историю, как не соответствующие изменившимся приоритетам робота. Если же три закона жестко привязать к основам мотивации псевдоинтеллекта, то это затормозит развитие робота, некоторые ситуации, связанные с риском для жизни человека не будут рассматриваться, что обесценит роботов в ряде специальностей. Например, такой робот не сможет работать спасателем или инструктором экстремальных видов спорта.
– Господин Бондарев, ваше задание состоит в создании концепции алгоритма, который мог бы реализовать три закона роботехники в программном коде российского робота, – сказал Березин. – В вашем распоряжении все наработки мистера Доулинга и других программистов компании. Единственное ограничение – вы не можете снимать с этих материалов копии или выносить их за проходные – вы понимаете, эти материалы стоят денег.
– Естественно, господин Березин, – ответил Олег.
– Ещё вопросы есть? Если нет, можете идти работать.
– Хорошо, господин Березин.
– И удачи вам!
Когда Олег вышел за дверь, Ирвин К. Доулинг расхохотался.
– Думаете, у него получится?
– Это называется «свежий взгляд», – ответил Березин. – Человек со стороны способен объективно увидеть картину в целом, её слабые и сильные места.
– Этот «свежий взгляд» будет работать ровно двадцать минут, до тех пор, пока он не откроет наши наработки.
– Мистер Доулинг, как вы думаете, сколько времени необходимо, чтобы прийти к концепции глобального открытия?
– Вся жизнь, – не задумываясь, ответил Ирвин К. Доулинг.
– А чтобы осуществить его, когда вся база уже имеется?
– В некоторых случаях несколько минут. Господин Березин, вы полагаете, это тот случай?
– Очень хочется на это надеяться.
В течение недели Олег деловито шарил по архивам компании, пытаясь разобраться в наработках «Рашен Роботс». Они касались программного кода, компоновочных решений, дизайна роботов, а так же многих вещей, отношение которых к роботехнике казалось весьма отдаленным. Роботы оказались классическими – с двумя ногами, двумя руками и головой; вот только в высоту они не превышали пятидесяти сантиметров. Питался робот от автономного генератора, заряжаемого от электрической сети. Погружаясь в детали, Олег день за днем все более приходил к мысли, что для того, чтобы просто разобраться в текущих делах, потребуется гораздо больше времени, чем неделя. Олег уже был морально готов признать поражение, но на третий день Березин пригласил его к себе.
– Как движется дело?
– Пока глухо. Чтобы изучить и систематизировать тематические разработки, нужно не меньше года.
– Полагаю, даже больше. – Березин достал из бара коньяк, разлил по стаканам и пододвинул один Олегу. – Только этого от вас не требуется. Ваша задача, молодой человек, предложить концепцию решения, а вникать в детали будут другие сотрудники. Они за это деньги получают.
Олег залпом выпил коньяк и закусил протянутой Березиным долькой лимона.
– Вы полагаете, общей концепции будет достаточно?
– Да. Если это будет красивым решением. Хотите, я вам расскажу, как появилась «Рашен Роботс»?
– С удовольствием послушаю.
– В начале XXI века мы назывались «РосГазТранзит» и занимались продажей российского газа в страны Европы. Небольшая дочерняя компания Газпрома, о которой мало кто слышал. Помимо продажи газа нас интересовали всякие сопутствующие дела – компания была маленькая, надо было как-то крутиться. И вот в один прекрасный день мы выиграли тендер на обслуживание нескольких секций российского газопровода в Восточной Европе. А это очень неплохие деньги. Единственная беда – приходилось много платить рабочим; стоимость трудодней в ту пору была немаленькой. И тут у одного сотрудника возникла красивая идея – заменить обслуживающих газопровод рабочих примитивными роботами.