Но мой метод не будет подобен естественному отбору. Не такой слепой, не такой жестокий, не такой расточительный. И вы будете вольны вмешиваться в него, когда пожелаетечтобы ввести те смягчающие меры, которые сочтете подходящими.
Смягчающие меры? Джули встретила его взгляд, и он увидел, как неверие в ее глазах мгновенно сменилось чем-то более мрачным. Она встала и взглянула на телефон у себя на запястье. У меня здесь не ловится сигнал. Вы не могли бы вызвать мне такси?
Пожалуйста, выслушайте меня. Дайте мне еще десять минут, а потом вертолет доставит вас в аэропорт.
Я предпочла бы добраться домой самостоятельно. Она бросила на Дэниела взгляд, ясно показывающий, что ее решение окончательное.
Он вызвал ей такси и проводил к лифту.
Я знаю, что вы сочли это морально вызывающим, и я уважаю ваше мнение, сказал он. Я и не мечтал нанять того, кто считает подобные темы мелкими и тривиальными. Но если я этого не сделаю, то сделает кто-то другой. Тот, чьи намерения намного хуже моих.
В самом деле? Теперь в ее тоне прозвучал неприкрытый сарказм. А как именно само существование вашего проекта помешает этому гипотетическому бин Ладену от ИИ осуществить свой?
Дэниел был разочарованон ожидал, что она хотя бы поймет, что стоит на кону.
Это гонка, в которой предстоит сделать выбор между богоравностью и порабощением, сказал он. Того, кто добьется успеха первым, остановить будет невозможно. А я не собираюсь быть чьим-то рабом.
Джули вошла в лифт. Он вошел следом.
Знаете, как звучит современная версия «пари Паскаля»? Подлизывайся к как можно большему числу трансгуманистова вдруг кто-нибудь из них превратится в бога? Наверное, вам подошел бы такой девиз: «Будь добр к каждому говорящему роботу, он может оказаться дядюшкой божества».
Мы будем добры, насколько это возможно, сказал Дэниел. И не забывайте, что мы сможем выбрать природу этих существ. Они будут счастливы тому, что существуют, и благодарны своему создателю. Мы можем делать отбор по этим признакам.
Значит, вы намерены создать недочеловеков,которые станут махать хвостами, когда вы почешете их между ушей? Вы можете обнаружить, что получите от этого что-то в обмен.
Лифт прибыл в вестибюль.
Подумайте о моем предложении, не принимайте решение сгоряча, попросил Дэниел. Может звонить мне в любое время.
Сегодня вечером коммерческого рейса в Торонто не было, она застрянет в гостинице, тратя на это деньги, которые у нее далеко не лишние, и думая о зарплате, которую сможет потребовать от него теперь, после столь тяжелого торга. Если она переосмыслит все это твердолобое морализаторство, взглянув на него как на осознанную стратегию переговоров, то без труда проглотит свою гордость.
Джули протянула руку, он пожал ее.
Спасибо за обед, поблагодарила она.
Такси уже ждало. Он прошел с ней через вестибюль.
Если хотите увидеть ИИ до конца своей жизни, сказал он, то это единственная возможность осуществить такое желание.
Она повернулась в нему:
Может быть, и так. Посмотрим. Но лучше потратить тысячу лет и сделать все правильно, чем десятилетие и добиться успеха вашими методами.
Глядя вслед уезжающему в туман такси, Дэниел заставил себя принять реальность: она никогда не передумает. Джули Дехгани была первой в его списке, идеальным сотрудником. И он не мог сделать вид, что не потерпел неудачу.
Но все же незаменимых нет. В какой бы восторг ни привело бы его согласие Джули, в его списке еще много других имен.
2
Запястье Дэниела защекоталопришло сообщение. Он взглянул на циферблат часов и увидел зависшее над ним слово «УСПЕХ!»
Собрание совета директоров почти закончилось. Он вспомнил о самодисциплине и не позволил себе отвлечься еще десять минут. С помощью WiddulHands.com он заработал свой первый миллиард, и это все еще был превосходящий другие сайт социальной сети для детей возрастной группы до 3 лет. Прошло уже пятнадцать лет с тех пор, как он основал свою компанию, и ее деятельность развилась во многих направлениях, однако он не намеревался снять руки с рычагов управления.
Когда собрание закончилось, он выключил настенный экран и с полминуты расхаживал по пустой комнате для совещаний, поворачивая голову в стороны и разминая плечи. Затем произнес: «Люсьен».
На экране появился Люсьен Грейс.
Значительный успех? спросил Дэниел.
Несомненно. Люсьен пытался вежливо смотреть Дэниелу в глаза, но что-то упорно заставляло его отводить взгляд. Не дожидаясь объяснений, Дэниел сделал жест в сторону экрана и вывел на него то, что видел Люсьен.
Пустынный и каменистый ландшафт тянулся до самого горизонта. Среди камней ползали десятки крабообразных существнекоторые темно-синие, другие кораллово-розовые, хотя сами существа эти цвета бы не увидели, то были просто маркеры видов, добавленные к изображению для его более легкой интерпретации. Пока Дэниел разглядывал пиджак, из пролетающего облака посыпались крупные капли едкого дождя. Здесь наверняка была самая унылая окружающая среда во всем Сапфире.
Во вложенном окне все еще виднелся Люсьен.
Видишь тех синих возле кратерного озера? спросил он и обвел нужный участок изображения, чтобы указать его Дэниелу.
Да.
Пятеро синих собрались вокруг одинокого розового. Дэниел снова сделал жест, и нужный участок приблизился. Синие вскрыли тело своего пленника, но тот не был мертв; Дэниел был в этом уверен, потому что розовые недавно обрели способность превращать свои тела в кашу сразу после «смерти».
Они нашли способ его изучать, пояснил Люсьен. Поддерживать его живым и изучать.
С самого начала проекта они с Дэниелом решили наделить «фитов»обитателей Сапфираспособностью изучать свои тела и максимально ими манипулировать. В мире ДНК глубокое знание анатомии и понимание работы наследственности стали доступны только после изобретения сложных технологий. В Сапфире эти барьеры были спроектированы намного более низкими. Здесь базовыми единицами биологии стали «бусины»шарики, обладающие горсткой простых свойств, но без сложной внутренней биохимии. Они были крупнее клеток в мире ДНК, а лишенная дифракции оптика на Сапфире делала их видимыми для невооруженного глаза нужной конструкции. Животные усваивали бусины из пищи, а в растениях они воспроизводились на солнечном свету, но, в отличие от клеток, в бусинах не возникали мутации. Бусины в теле фита можно было перетасовать с минимальными усилиями, что обеспечивало такой уровень самомодификации, о котором человек-хирург или конструктор протезов не мог даже мечтать. И это умение было чрезвычайно важным как минимум однажды в жизни каждого фита: в процессе размножения два фита смешивали свои лишние бусины и даже совместно «лепили» из них младенца, частично путем прямого копирования текущей структуры тела каждого из родителей.
Разумеется, эти крабы ничего не знали об абстрактных принципах конструирования и проектирования, но суммарные выгоды метода проб и ошибок, экспериментирования на себе и межвидового плагиата довели их до эскалации войны за инновации. Розовые первыми прекратили грабеж своих трупов ради секретов, наткнувшись на способ заставлять мертвые тела буквально рассыпаться на составляющие, зато теперь синие, похоже, нашли метод, как это обойти, и теперь пировали на месте вивисекции, приравненной к промышленному шпионажу.
Дэниел ощутил симпатию к все еще сопротивляющемуся розовому, но сразу же отмел ее. Он не только сомневался, что по уровню сознания фиты превосходят обычных крабов, у них наверняка было и радикально иное отношение к целостности тела. Розовый сопротивлялся, потому что его расчленители принадлежали к другому виду, а будь на их месте его сородичи, он вполне мог и не сопротивляться. Когда что-то происходит наперекор твоим желаниям, это неприятно по определению, но было бы абсурдом вообразить, что розовый сейчас испытывает такие же мучения, какие испытывала бы антилопа, раздираемая стаей шакаловне говоря уже об экзистенциальном ужасе человека, пойманного и искалеченного враждебным племенем.
Это даст им огромное преимущество, с восторгом произнес Люсьен.
Синим?
Люсьен покачал головой:
Не синим над розовыми, а фитам над традиционной жизнью. Бактерии могут обмениваться генами, но такой вид активной мимикрии беспрецедентен без культурной поддержки. Да Винчи мог наблюдать за полетом птиц и делать чертежи планеров, но ни один лемур никогда не расчленил тело орла и не украл его секреты. Со временем у них появятся прирожденные умения, столь же мощные, как целые отрасли человеческой технологии. И все это происходит еще до того, как у них появился язык.
Гмм-м. Дэниелу тоже хотелось быть оптимистом, но его насторожили расхваливания Люсьена. У того имелась докторская степень по генетическому программированию, но имя он себе сделал, работая на FoodExcuses.com. Этот сетевой сервис прочесывал медицинскую литературу, чтобы лепить квазинаучные оправдания для потакания вашим любимым кулинарным порокам. Он умел выдавать технотреп, способный выдоить деньги из рисковых предпринимателей, и хотя Дэниел восхищался этим умением, примененным в должном месте, он ожидал от Люсьена более высокого соотношения проницательности к чепухе, раз тот теперь получает он него зарплату.
Синие начали расползаться от пленника. Тот заживил раны и поковылял к группе соплеменников. Синие теперь подробно разглядели структуру дыхательной системы, которая давала розовым преимущество в разреженном воздухе этого горного плато. Несколько синих ее испробуют, и если она для них сработает, то ее скопирует все племя.
Так что ты думаешь? спросил Люсьен.
Выбери их.
Только синих?
Нет, оба вида. Синие и сами по себе могли со временем разделиться на несколько конкурирующих подвидов, но наличие рядом старых соперников не даст им расслабиться.
Готово, сообщил Люсьен. В одно мгновение десять миллионов фитов были стерты, оставив всю планету в наследство нескольким тысячам синих и розовых фитов из этой горной пустыни. Сожаления Дэниел не испыталуничтожение, которое он приказал сделать, было наверняка самым безболезненным в истории.
Теперь, когда мир больше не требовал человеческого наблюдения, Люсьен запустил кристалл процессора, а вместе с ним и симуляцию, на полную скорость. Автоматические приборы дадут им знать, когда возникнет следующее интересное достижение. Дэниел наблюдал, как растет цифра количества населенияизбранные им виды распространялись и заново колонизировали Сапфир.
Станут ли их далекие потомки гневаться на него за этот акт «геноцида», создавший пространство, на котором они смогли преуспевать и процветать? Вряд ли. В любом случае, какой у него имелся выбор? Он не мог изготовлять новые кристаллы для каждой бесполезной боковой ветки эволюционного дерева. Ни у кого не хватит денег, чтобы потешить себя экспоненциально растущим количеством виртуальных приютов для животныхпо пятьсот миллионов долларов каждый.
Он всего лишь творец, но не всемогущий. И его единственный путьаккуратная обрезка всего лишнего.
3
В последующие месяцы продвижение шло рывками. Несколько раз Дэниел «отматывал» историю назад, менял прежние решения и испытывал новый путь. Поддерживать каждый вариант фитов живым было непрактично, но он сохранял достаточно информации, чтобы при желании воскресить утраченный вид.
Лабиринт создания искусственного интеллекта все еще оставался лабиринтом, но скорость работы процессора служила им хорошо. Всего через восемнадцать месяцев после начала проекта «Сапфир», фиты уже демонстрировали базовые признаки разума: их действия показывали, что они могут делать выводы о том, что другим известно о мирев отличие от того, что известно им. Другие исследователи ИИ вставляли подобные вещи в программы вручную, но Дэниел был убежден, что его версия более интегрированная и прочная. Созданные людьми программы были хрупкими и жесткими, его же фиты были выкованы в пламени изменений.
Дэниел пристально следил за конкурентами, но ничто из увиденного не дало ему повод усомниться в собственном подходе к решению проблемы. Сунил Гупта купался в деньгах, заработанных на программе сетевого поиска, способной «понимать» все виды текста, аудио и видео, используя методы «нечеткой логики», известные уже как минимум лет сорок. Дэниел уважал деловую хватку Гупты, но в маловероятном случае, если его программа когда-либо обретет сознание, откровенная жестокость ее творца, заставлявшего ее просеивать бесконечные горы блогореи наверняка обратит ее против него и подтолкнет к мести, по сравнению с которой «Терминатор» покажется пикником. Анжела Линдстром добилась некоторых успехов своего убогого проекта «ПослеЖизнь», в котором умирающие клиенты давали откровенные интервью программе, создававшей затем аватары, способные общаться с пока еще живыми родственниками. А Джули Дехгани все еще транжирила свой талантписала программы для роботов, которые играли разноцветными кубиками вместе с малышами и учились языкам у взрослых добровольцев, имитируя для взаимодействия с ними детский лепет. Ее предсказание о том, что понадобится тысяча лет, чтобы «сделать это правильно», кажется, постепенно сбывалось.
Когда второй год проекта подходил к концу, Люсьен связывался с Дэниелом один-два раза в месяц, чтобы объявить о новом прорыве. Конструируя различные виды окружающей среды, обеспечивающие подходящие уровни давления естественного отбора, Люсьен генерировал последовательности новых видов, которые использовали простые инструменты, строили грубые жилища и даже одомашнивали растения. Они все еще выглядели более или менее наподобие крабов, зато по разуму как минимум не уступали шимпанзе.
Фиты работали совместно за счет взаимного наблюдения и имитации, при этом они направляли и ускоряли друг друга, пользуясь ограниченным набором жестов и криков, но пока не имели того, что можно было бы назвать языком. Дэниела все больше охватывало нетерпениечтобы продвинуться дальше горстки специализированных навыков, его созданиям требовалось умение обозначить любой предмет, любое действие и все, с чем они могут столкнуться в мире, с помощью речи, а через нееи в мыслях.
Дэниел вызвал Люсьена, и они принялись искать путь вперед. Не составляло труда немного изменить анатомию фитов, чтобы наделить их способностью к более тонкой вокализации, но в одном только этом смысла было не больше, чем вручить шимпанзе дирижерскую палочку. Им требовался способ, как сделать долгосрочное планирование и навыки общения средствами выживания.
В конце концов, они с Люсьеном запустили серии модификаций окружающей среды, предоставляющие существам возможность на них реагировать. Большинство таких сценариев начиналось с голода. Люсьен губил основные пищевые растения, затем предлагал ощутимую награду за прогресс, подвешивая какой-нибудь соблазнительный новый фрукт на ветку, к которой нужно было лишь руку протянуть. Иногда эту метафору можно было воспринять почти буквально: он вводил растение со сложным циклом развития, требующее быстрой обработки, чтобы сделать его съедобным, или новое хищное животноеумное и злобное, но с точки зрения питательности весьма достойное, чтобы научиться на него охотиться.
Снова и снова фиты не выдерживали испытаниелокализированные виды постепенно вымирали. Дэниел наблюдал за этим с тревогой. Он не стал сентиментальным, но всегда внутренне гордился тем, что задал свои стандарты выше, чем экстравагантные жестокости природы. Он подумывал об изменении физиологии своих существ, чтобы голод приносил им более скорую и менее мучительную смерть, но Люсьен указал ему на то, что он начнет обрезать шансы на успех, если сократит этот период напряженной мотивации. Всякий раз, когда группа вымирала, из праха возрождалась новая группа ее мутировавших родственников, чтобы занять их место. Без такого вмешательства Сапфир превратился бы в пустыню уже в течение нескольких дней в реальном времени.
Дэниел закрыл глаза на эту бойню и полностью доверился времени и количествам. В конце концов, именно такую возможность и предоставил ему кристалл: когда все остальное потерпело неудачу, он мог отбросить всякие претензии на то, будто знает, как достичь цели, и просто испытывать одну случайную мутацию за другой.
Шли месяцы, посылая сотни миллионов голодающих племен в могилу. Но какой у него имелся выбор? Если он станет кормить этих существ молоком и медом, они останутся жирными и тупыми, пока сам Дэниел не умрет. Голод же не давал им покоя, заставлял искать и бороться, и хотя у любого человека-наблюдателя возникло бы искушение окрасить такое поведение в цвета собственной палитры эмоций, Дэниел убедил себя, что страдание фитане более чем пустяк, и лишь чуть выше инстинкта, заставляющего его отдергивать руку от пламени еще до того, как сознание оценит опасность.