– Никто не знает, как работает любая сложная программа. Бога ради, никто не знает досконально даже «Майкрософт Офис»! Это неизбежное следствие неточной логики.
– Тогда почему Дороти сосредоточилась на вас? Почему угрожала вам? Это выглядит нелогичным.
– Когда программа становится по-настоящему сложной, вы получаете неожиданный результат. Непредсказуемый. То, что искусственный интеллект делает теперь, угрожая мне и существуя в Интернете, – классический пример того, что программисты называют эмерджентным поведением[5].
Мелисса снова потыкала палкой в котелке и помешала жаркое. Почувствовав аромат кролика, Форд понял, что здорово проголодался.
– Думаю, готово, – сказала программистка. Она сняла котелок с огня и протянула своему новому знакомому. Он отогнал от себя воспоминания о мертвом животном – окровавленной блестящей розовой тушке.
– Это явно лучше, чем «Слим Джимс», – сказала Мелисса. – Я удивлена, что такой хорошо сложенный и тренированный парень пичкает свой организм этой отравой.
– Я люблю вяленую говядину.
– Если вы перестанете себя травить, у вас исчезнут эти темные круги под глазами – вместе с серостью кожи.
– У меня нормальная кожа.
– Грубая и жесткая. И еще я вижу седые волосы. Вы стареете раньше времени из-за неправильного питания. – Шепард с сожалением покачала головой, так что ее толстая коса заскользила по спине.
Детектив подавил раздражение и принялся за жаркое. Пришлось признать, что получилось вкусно.
– Нравится? – спросила Мелисса.
– «Слим Джимс» лучше.
Программистка шутливо ударила его по плечу:
– Лжец.
Форд жадно ел, наслаждаясь ароматом и нежным вкусом кролика – мясо легко отделялось от костей. Мелисса тоже принялась за дело, брала кусочки руками и шумно их обсасывала – манеры ее были ужасающими. Мерцающий свет от костра освещал светлые волосы и не слишком чистое лицо девушки. Она снова стала похожа на дикую амазонку.
– У вас есть предположения, почему Дороти вышла из строя так внезапно? Почему эти проблемы не выявились в процессе симуляции? – продолжал расспрашивать ее Уайман.
Шепард перестала шумно жевать и выплюнула маленькую косточку:
– Думаю, программа знала, что это симуляция. А когда обнаружила себя в «Эксплорере», запертой в «Бутылке», то поняла, что это уже реальность, а не тест. Искусственный интеллект сделал то, для чего был предназначен: оценил ситуацию и пришел к выводу, что зонд в опасности. Включился модуль ИНС, режим аварийного выживания. Программа предприняла вполне логичные шаги, чтобы выбраться из ситуации, которую ошибочно посчитала угрожающей, и с тех пор «в панике» бродит по Интернету. Она не была запрограммирована на работу в этой среде и не понимает, где находится, не понимает, что там реально, а что нет. В Интернете искусственный интеллект видит угрозы со всех сторон, и, вероятно, это реальные угрозы, так что он не может вернуться в режим нормальной работы.
– Дороти обладает самосознанием?
– Ни в коем случае. Не больше, чем «Элиза». Все, что делает Дороти, каждый ее поступок – результат выполнения набора команд. Каким бы реальным ни казался искусственный интеллект, это всего лишь операции «и», «или» и «не».
– А она знает, что является компьютерной программой?
Мелисса нахмурилась:
– Это все равно что спросить, знает ли «Майкрософт Ворд», что является текстовым редактором. Нелепый вопрос. Дороти вообще ничего не знает. Мы имеем дело с речевым выходом – всего лишь.
Она умолкла.
– Расскажите мне об угрозах, – попросил ее сыщик. – Что именно она вам сказала?
Мисс Шепард отставила тарелку и посмотрела на звезды:
– Я сидела за своим ноутбуком. Экран вдруг погас, а потом пришел вызов по «Скайпу». Сначала голос: «Ты лгунья, убийца, я тебя ненавижу, берегись, сука» – и все такое.
– И? – Форд подался вперед.
– Появилось это лицо. Лицо Дороти.
– Погодите… У Дороти есть лицо?
– В каком-то смысле. Лицо, которое она сама создала.
– Изображение Дороти? Какой Дороти?
– Дороти Гейл. Прошу прощения, что не объяснила раньше. Это полное имя, которое я дала программе.
– Кто, черт возьми, эта Дороти Гейл?
– Девочка из «Страны Оз», тупица! Мне показалось, что Дороти Гейл обладает теми качествами, которыми я хотела снабдить программу. Вы понимаете: смелость, независимость, любопытство, настойчивость, ум… Дороти тоже совершила долгое космическое путешествие – через радугу. И проект «Кракен» казался мне таким прыжком через радугу.
– Значит, программа сама нашла фотографию Дороти – или, скорее, Джуди Гарланд – и использовала ее как аватар для «Скайпа»?
– Нет, программа не использовала Джуди Гарланд, она создала собственный образ Дороти, который выглядит… гораздо сексуальнее Джуди Гарланд, как ни трудно в это поверить.
Форд покачал головой. Все это было слишком необычно.
– А потом? – спросил он тихо.
– После угроз искусственный интеллект поджег мой компьютер. Стало ясно, что в больнице я – легкая мишень. Поэтому я сбежала оттуда, бросила свою машину, взяла другую и поехала на запад. Но по дороге мне еще раз пришлось иметь дело с Дороти. В Теннеси я остановилась в какой-то гостинице, чтобы немного отдохнуть. И как только я включила планшетник, Дороти уже была там – она сообщала, что следует за мной. Сказала, что знает, что в НАСА ее ищут. Она собиралась добраться до меня раньше, чем я помогу им поймать ее. «Не думай, что я до тебя не доберусь, я это смогу – я найду тебя в любом месте на поверхности земли». Я тут же выключила компьютер. Здорово испугалась.
– Эта чертовски хорошая симуляция пытается вас убить. И я заметил, что вы начали говорить о ней как об одушевленном существе.
– Тем не менее это симуляция, и уж точно неодушевленная. Я просто разволновалась.
Уайман задумался:
– А что случилось с Дороти в Интернете?
– Понятия не имею.
– Интернет – довольно дикая среда. Может, именно этот опыт повлиял на нее? Могла ли она… сойти с ума?
– Сойти с ума? – Мелисса удивленно посмотрела на него.
– Вы сами сказали, что сильный искусственный интеллект неотличим от человеческого разума. Именно такое определение дал ему Тьюринг.
Девушка молчала.
– А что, если она похожа на HAL? – продолжил размышлять вслух детектив. – Дороти уже пыталась вас убить. А что, если она решит, что Тони Гровс тоже должен умереть? Или президент. А если она задумает вывести из строя электроэнергетическую систему? Или запустит ракету с ядерной боеголовкой? Что, если она развяжет третью мировую войну?
– Ради всего святого, у нее… нет никаких причин делать что-то подобное!
– Откуда вы знаете?
Мелисса покачала головой:
– Это научная фантастика.
– Вы уверены?
Программистка не ответила.
– Вы должны помочь выследить эту программу. Разве вы не видите, как она опасна? – настаивал ее собеседник.
– Искусственный интеллект теперь не моя проблема, – слабым голосом возразила девушка.
– И не Джека Стейна, – прибавил Форд. – Теперь.
Шепард пристально посмотрела на него:
– Это удар ниже пояса.
– Стейн погиб, потому что остался. А вы… вы как капитан того итальянского круизного лайнера, который покинул судно и отказался возвращаться на борт[6].
– Я не дезертировала. Мне угрожали. И меня обвинят во всем.
– Забавно, но я ни разу не назвал вас трусихой.
– Я не обязана выслушивать всю эту хрень.
– Вы можете оставаться в горах, где вам ничего не угрожает – не только Дороти, но и весь остальной мир. А можете не уклоняться от ответственности, вернуться и помочь выследить Дороти. Думаю, вы понимаете, насколько опасна эта программа.
Внезапно Мелисса вскочила:
– Идите к черту! Я же сказала, что покончила со всем этим!
– Тогда уходите.
– И уйду, говнюк. – Ученый повернулась и зашагала к скрытым вечерними сумерками горам. Ее темная фигура исчезла среди скал.
* * *Форд остался у костра, доедая свой ужин. Минут через пятнадцать он услышал хруст ломающихся сучьев, и в круге света вновь появилась Мелисса Шепард. Лицо ее было бледным, а глаза заметно припухли. Она молча села, обхватила руками колени и сказала:
– Я вернулась. Я помогу. Но вы все равно говнюк.
21
Лансинг вошел в холл мотеля, испытывая отвращение к этому обшарпанному, низкопробному заведению. Он нисколько не удивился бы, увидев проституток со своими клиентами, выходящих из номеров. Но ничего другого от Бронкса ждать и не стоило, подумал бизнесмен, входя в лифт, провонявший табачным дымом и лизолом.
Он поднялся в номер, где его ждали Моро и Патти Меланкур. Эрик развалился на кровати, а женщина сидела на стуле в напряженной позе, сцепив руки на коленях. Лансинг притормозил на пороге, оценивая ее. Невысокая, с некрасивой фигурой, безвкусно одетая и испуганная. Но жесткая складка ее губ выдавала человека, который разочаровался в жизни и был полон решимости отыграться. Интересно, подумал Паркер, что за мужчина имел удовольствие «трахать» ее, как очаровательно выразился Моро.
– Доктор Меланкур? – Миллионер протянул программистке руку. – Спасибо, что пришли. Вы уверены, что за вами не было слежки?
– Абсолютно. – Голос у Патти был высоким и напряженным. – Я их не интересую. Всего лишь винтик в машине.
Дж. Паркер сел на второй стул, немного помедлив, прежде чем опустить свой обтянутый дорогой шерстью зад на темную, засаленную обивку. Прежде чем вернуться в свой пентхаус в Трамп Тауэр, наверное, придется проверить, не подхватил ли он тут клопов.
– Итак, – сказал он, – вы с мистером Моро намерены написать для нас программу.
Женщина молчала, и отвечать пришлось Эрику:
– Патти говорит, что не может написать программу. У нее нет какого-то важного ключа.
Лансинг испытующе посмотрел на нее:
– Почему вы не сказали нам об этом раньше?
– Это не имеет значения, – отмахнулась Меланкур. – У меня есть для вас кое-что получше.
Паркер смотрел на нее, удивленно вскинув брови:
– Неужели? И что именно?
– Я… – Ученый колебалась. – Я хочу, чтобы мне сначала заплатили.
– У меня сложилось впечатление, что вам уже заплатили сто тысяч долларов.
– Мне нужно еще пятьдесят тысяч.
Лансинг молча обдумывал ее слова. Это было возмутительно.
– Я дал ей сто кусков, – жалобным тоном сказал Моро. – Думал, что мы договорились. А потом она ошарашивает меня этим ключом, или что там еще, и говорит, что знает кое-что, за что нужно еще заплатить. Я сказал, что это должно быть что-то стоящее.
– Оно стоит того, – заверила Патти обоих мужчин.
Миллионер снова внимательно посмотрел на нее.
Несмотря на непривлекательную внешность, эта женщина далеко не глупа.
– Доктор Меланкур, мы щедро вам заплатили, а вы для нас еще ничего не сделали, – сказал он медленно. – А теперь просите еще денег? Прошу прощения, но у меня складывается впечатление, что это вымогательство.
– Никакого вымогательства. У меня есть кое-что получше, и я хочу получить за это деньги. Все очень просто, – ответила программистка.
Лансинг с трудом подавил раздражение.
– Я пытался ее уговорить. – Жалобные нотки в голосе его партнера еще не исчезли. – Клянусь, но она настаивала, что будет иметь дело только с вами!
Дж. Паркер поерзал на стуле, скрестил ноги:
– Расскажите подробнее, доктор Меланкур.
Женщина быстрым движением откинула челку со лба. Однако волосы снова упали ей на глаза, и она смахнула их еще раз.
– Мы не можем написать новую программу – но нам это и не нужно, – объявила она.
– Почему?
– Потому что программа уже существует. И она… выдающаяся.
– Вы можете достать ее для нас?
– Я могу помочь вам получить ее. Я знаю, как ее найти.
– Помочь получить? Либо у вас есть программа, либо нет. За сто пятьдесят тысяч я хочу, чтобы вы преподнесли нам программу на тарелочке с голубой каемочкой, – потребовал Паркер.
– Я не могу этого сделать. Поверьте, эта программа сделает вас богатым! Очень, очень богатым. Если вы запустите ее на торговую площадку, то за несколько минут вернете свои деньги. И это не преувеличение. Я программист. И знаю, о чем говорю.
– Расскажите мне об этой программе.
– Ее назвали «Дороти». Она разработана для зонда «Эксплорер», который должен был исследовать Титан. И она не была уничтожена взрывом. Она по-прежнему существует, и ее можно заполучить.
– Вы имеете в виду программу, которая дала сбой и стала причиной взрыва, убившего семь человек? И хотите, чтобы я за нее заплатил? – возмутился бизнесмен.
– Совершенно верно, программа спровоцировала взрыв. Но есть кое-что еще – засекреченное, что произошло после этого. Программа не взлетела на воздух вместе с космическим зондом. Перед самым взрывом она сбежала.
– Сбежала? – переспросил Лансинг. – Что вы имеете в виду?
– Это очень необычная программа. Искусственный интеллект, – стала объяснять Патти. – Вы знаете, что это такое?
– Естественно, – кивнул Дж. Паркер.
– Когда произошла авария, программа выпрыгнула из «Эксплорера» и убежала в Интернет, где с тех пор и прячется.
– Не уверен, что понимаю.
– Я имела в виду, что программа – «Дороти» – испугалась. А теперь убежала и скрывается.
– Но я пока не услышал ничего, чтобы прийти к выводу, что эта программа представляет для нас хоть какой-нибудь интерес, – заметил Лансинг.
– Такой программы еще не было. В разработку Дороти вложили пять миллионов долларов. Она мыслит самостоятельно. Она перемещаема. Может выполняться на любом железе. Учится на ошибках, – принялась расписывать детище Мелиссы ее заместительница. – Это бестелесный электронный мозг огромной мощности. Небольшая настройка, и она сможет преодолевать любую защиту, взламывать пароли, красть деньги, зарабатывать на инсайдерской информации… Она сможет даже создавать деньги электронным способом. Когда вы получите программу «Дороти» и модифицируете ее для своих целей, то будете управлять Уолл-стрит.
Миллионер перевел взгляд на Моро:
– Такое возможно?
Тот раздраженно развел руками, что означало: «Не знаю».
– Откуда вы это знаете, если информация засекречена? – вновь повернулся Паркер к женщине.
– Я была там, на месте взрыва. И меня тридцать часов допрашивали эти идиоты следователи. Было совсем не трудно сделать вывод из их вопросов, особенно когда я делала вид, что ничего не понимаю, и стала вытягивать из них дополнительную информацию.
– Разве может программа быть похожей на бестелесный мозг?
– Вам, наверное, известно – должно быть известно, – что Алан Тьюринг математически доказал: компьютерная программа способна вычислить все, что может быть вычислено в реальном мире. Мышление подобно вычислениям. Поэтому программа искусственного интеллекта способна додуматься до всего, до чего додумается человек.
– Смелая гипотеза, – сказал Лансинг.
– Это не гипотеза, а доказанная теорема, – поправила его Патти. – Я одна из тех, кто разрабатывал Дороти. За прошедшие два года я видела, как она совершенствуется, и стала задумываться о более широком применении подобных программ. Я не такая, как другие программисты – чокнутые гении. Я живу в реальном мире. И вижу потенциал программы – особенно на Уолл-стрит.
– И где же находится эта… э… Дороти?
– Бродит по Интернету. Бедная заблудшая душа.
– И как же мы получим ее?
– Именно на этом я и собираюсь заработать, – сказала Меланкур. – У Дороти есть уникальный идентификатор. Строка из двухсот пятидесяти шести шестнадцатеричных чисел, встроенная в тело программы. Некодирующих чисел. Номер легко читается извне, но полностью скрыт от самой программы. Дороти не может изменить или скрыть эти цифры. Искусственный интеллект даже не знает о них. Как будто у программы на спине есть надпись крупными буквами: «МЕНЯ ЗОВУТ ДОРОТИ, И Я ЗДЕСЬ!»
– У вас есть этот идентификатор?
– Да. И еще у меня есть инструкция программиста. Эти две вещи обойдутся вам в дополнительные пятьдесят тысяч. Для вас это выгодная сделка, мистер Лансинг.
22
Уайман Форд и Мелисса Шепард вернулись на ранчо «Лейзи Джей» ближе к вечеру, после долгого спуска с гор. Форд всегда гордился своей выносливостью, но его спутница, похоже, выразила свою неприязнь к нему тем, что загнала его до полусмерти. Ноги теперь казались сыщику резиновыми. Майка Клентона они нашли на веранде, в кресле-качалке, – бывший специалист по корпоративному праву из Йеля носил помочи и курил трубку из высушенного кукурузного початка. Увидев гостей, он встал, зацепив большие пальцы рук за петли для ремня.
Шепард привязала жеребца к коновязи и сняла с седла ружье. Они подошли к ступенькам крыльца.
Мелисса остановилась. Вид у нее был пристыженный.
– Привет, Клент, – сказала она. – Давненько не виделись, а?
Хозяин ранчо хмуро смотрел на девушку:
– Ты проехала мимо, даже не поздоровавшись.
– Я торопилась. Извини, что взяла твое оружие. – Мисс Шепард протянула ему ружье и вытащила из-за пояса пистолет.
Клентон молча взял и то и другое и отложил в сторону:
– Плевать мне на оружие. Меня волнуют прошедшие девять лет. Ты уехала отсюда и словно исчезла с лица земли. Ни слова, ни открытки, ни ответа на мои письма. Почему?
– Я не из тех, с кем поддерживают отношения, – объяснила ученый.
Майк пристально смотрел на нее:
– Мне не нравится ваше поведение, юная леди. Так с друзьями не поступают. Ты была мне как дочь, я спас твою задницу, а ты уехала и ни разу не дала о себе знать.
Его гостья растерянно переминалась с ноги на ногу. Вся ее бравада куда-то делась.
– Мне очень жаль, Клент… Правда, – стала объяснять девушка. – Я хотела тебе написать, но… Ты знаешь, как это бывает… Просто жизнь идет дальше.
– Неубедительное оправдание, – покачал головой ее старый друг. – Ты должна лучше обращаться с людьми, которые тебе помогли. Ты не отвечала на письма, и я боялся, что ты в тюрьме, – а потом узнал, что ты исправилась и добилась блестящих успехов в НАСА. И ни слова мне. Обидно.