— Наверняка.
— Исследования в этой области чрезвычайно обширны, и хотя большинство прямо не говорит о стремлении достичь AGI, конкуренция нас к этому подталкивает. Никто не может позволить себе не создавать максимально умные прикладные программы или сдерживать развитие этой области. Подумайте только, что нами уже создано на данный момент. Подумайте, например, о том, что имелось в вашем телефоне пять лет назад — и что имеется сегодня.
— Да.
— Раньше, до того, как он стал так скрытен, Франс прикидывал, что мы сможем достичь AGI в ближайшие тридцать-сорок лет, и это звучит глобально. Но лично я думаю, не проявлял ли он излишнюю осторожность. Мощность компьютеров удваивается каждые восемнадцать месяцев, и нашему мозгу не уловить, что означает такое экспоненциальное развитие. Знаете, это немного напоминает зернышко риса на шахматной доске. Вы кладете одно зернышко на первую клеточку, два — на вторую, четыре — на третью, восемь — на четвертую…
— И вскоре зернышки риса заполоняют весь мир.
— Темпы прироста только увеличиваются и в конце концов выходят из-под нашего контроля. Самое интересное, однако, не когда мы достигнем AGI, а что произойдет потом. Тут существует много сценариев, в зависимости от того, каким путем мы туда доберемся. Но мы точно будем пользоваться программами, которые обновляют и улучшают нас самих, и при этом нельзя забывать, что у нас появится новое представление о времени.
— Что вы имеете в виду?
— Что мы выйдем за человеческие ограничения. Нас забросит в новый порядок, где механизмы обновляют себя круглые сутки. Всего через несколько дней после достижения AGI мы получим ASI.
— А это что такое?
— Artificial Superintelligence[48], нечто более интеллектуальное, чем мы. Дальше все пойдет быстрее и быстрее. Компьютеры начнут улучшаться в нарастающем темпе, возможно, с коэффициентом десять, — и станут в сто, в тысячу, в десять тысяч раз умнее нас; и что случится тогда?
— Скажите.
— Вот именно. Сам по себе интеллект непредсказуем. Мы не знаем, куда нас заведет человеческий интеллект. И еще меньше знаем о том, что произойдет с суперинтеллектом.
— В худшем случае мы станем не больше интересны для компьютера, чем белые мыши, — вставил Микаэль, подумав о том, что написал Лисбет.
— В худшем случае? Девяносто процентов нашей ДНК одинаковы с мышами, и мы считаемся примерно в сто раз умнее, в сто раз, не больше. Здесь же мы стоим перед чем-то совершенно новым, не имеющим, согласно математическим моделям, подобных ограничений и, возможно, способным стать в миллионы раз интеллектуальнее. Вы можете себе это представить?
— Я пытаюсь, — осторожно улыбаясь, ответил Микаэль.
— Я хочу сказать вот что, — продолжала Фарах Шариф. — Как, по-вашему, почувствует себя компьютер, очнувшись и обнаружив, что он взят в плен и контролируется такими примитивными тварями, как мы? Почему он должен терпеть такую ситуацию? Зачем ему вообще проявлять к нам повышенное уважение или, тем более, позволять нам копаться в его внутренностях, чтобы остановить процесс? Мы рискуем оказаться перед интеллектуальным взрывом, технологической сингулярностью, как назвал это Вернор Виндж[49]. Все, что произойдет после этого, находится за пределами нашего горизонта событий.
— Значит, в тот миг, когда мы создадим суперинтеллект, мы утратим контроль над всем?
— Есть риск, что все наши знания о нашем мире окажутся недействительными, и это станет концом человеческого существования.
— Вы шутите?
— Я знаю, что для не посвященного в данную проблематику человека это звучит идиотизмом. Но вопрос этот в высшей степени реален. Сегодня тысячи людей по всему миру работают над тем, чтобы воспрепятствовать подобному развитию. Многие проявляют оптимизм или даже впадают в утопию. Говорят о friendly ASI, о дружелюбных суперинтеллектах, которые с самого начала программируются так, что будут нам помогать. Представляют себе нечто в духе описанного Азимовым в книге «Я, Робот», встроенные законы, запрещающие механизмам причинять нам вред. Изобретатель и писатель Рэй Курцвейл[50] видит перед собой чудесный мир, где мы с помощью нанотехнологий объединимся с компьютерами в единое целое и разделим с ними будущее. Но, разумеется, никаких гарантий этого нет. Законы могут прекращать свое действие. Значение изначального программирования может меняться — и невероятно легко совершить антропоморфические ошибки, приписать машинам человеческие черты и неверно истолковать их внутренние движущие силы. Франс был одержим этими вопросами и, как я сказала, раздираем противоречиями. Он мечтал об интеллектуальных компьютерах — и в то же время волновался из-за них.
— Он не мог прекратить строить своих монстров…
— Приблизительно так, выражаясь рационально.
— Как далеко он продвинулся?
— Думаю, дальше, чем кто-либо мог себе даже представить, и, вероятно, это являлось еще одной причиной того, что Франс так скрытничал в отношении своей работы в «Солифоне». Он боялся, что его программа попадет в неправильные руки. Боялся даже того, что программа вступит в контакт с Интернетом и объединится с ним. Он назвал ее «Август», в честь сына.
— А где она сейчас?
— Он никогда шагу не ступал, не имея ее при себе. Наверное, когда его застрелили, она находилась у него возле кровати. Но самое ужасное, что полиция утверждает, будто там не было никакого компьютера.
— Я его тоже не видел. Правда, я был, в общем-то, сосредоточен на другом…
— Это наверняка было жутко.
— Возможно, вы знаете, что я еще видел преступника, — продолжил Микаэль. — Он нес на спине большой рюкзак.
— Звучит нехорошо… Если немного повезет, окажется, что компьютер всплыл где-нибудь в доме. Я разговаривала с полицией, только очень коротко, и у меня сложилось впечатление, что они пока еще не владеют ситуацией.
— Будем надеяться на лучшее. Вы имеете представление о том, кто похитил у него технологию в первый раз?
— Да, имею.
— Меня это очень интересует.
— Понимаю. Но самое печальное для меня в этой истории то, что я отчасти несу личную ответственность за заварившуюся кашу. Знаете, Франс работал на износ, и я волновалась, что он просто сломается. Он как раз тогда утратил право опеки над Августом…
— Когда это было?
— Два года назад, Франс бродил вокруг, как тень, и винил самого себя. Тем не менее бросить научную деятельность он не мог. Он набросился на работу так, будто кроме нее у него в жизни ничего не осталось, и поэтому я организовала ему нескольких ассистентов, чтобы они его немного разгрузили. Я выделила своих лучших студентов, хотя, конечно, знала, что они не святые. Однако они были амбициозны, талантливы и буквально боготворили Бальдера, и все казалось обнадеживающим. Но потом…
— Его обокрали.
— Он получил доказательство черным по белому, когда в августе прошлого года в американское патентное бюро поступила заявка на патент от «TrueGames». Там были скопированы и записаны все уникальные части его технологии, и поначалу ребята, разумеется, подозревали, что их компьютеры хакнули. Сама я сразу отнеслась к этому скептически. Я ведь знала, на каком высоком уровне Бальдер все зашифровывал. Но поскольку любые другие объяснения казались невозможными, это стало отправной точкой, и какое-то время в хакерское вторжение, пожалуй, верил даже Франс. Но это, конечно, были глупости.
— Что вы говорите? — взволнованно воскликнул Микаэль. — Ведь вторжение в компьютеры подтвердили эксперты.
— Подтвердил какой-то идиот из Радиотехнического центра, которому хотелось показать свою значительность. Для Франса же это был лишь способ защитить своих парней, хотя боюсь, что на самом деле не только это. Я подозреваю, что ему к тому же хотелось поиграть в детектива. Как он мог быть так глуп! Понимаете…
Фарах поглубже вдохнула.
— Да? — произнес Микаэль.
— Недели две назад я обо всем узнала. Франс с маленьким Августом ужинали у меня, и я сразу почувствовала, что Франс хочет поделиться чем-то важным. Это прямо висело в воздухе, и уже после первых бокалов он попросил меня убрать мобильный телефон и говорить шепотом. Должна признаться, что поначалу я в основном возмущалась. Он снова завел песню о гениальном молодом хакере…
— О гениальном хакере? — уточнил Микаэль, стараясь, чтобы голос его звучал бесстрастно.
— О некоей девице. Он говорил о ней так много, что буквально просверлил мне в голове дырку. Не стану вас этим утомлять, но речь идет о девице, которая откуда ни возьмись появилась у него на лекции и болтала там о понятии сингулярности.
— Каким образом?
Фарах погрузилась в свои мысли.
— Ну… собственно говоря, это не имеет никакого отношения к делу, — ответила она наконец. — Но понятие «технологическая сингулярность» заимствовано из гравитационной сингулярности.
Фарах погрузилась в свои мысли.
— Ну… собственно говоря, это не имеет никакого отношения к делу, — ответила она наконец. — Но понятие «технологическая сингулярность» заимствовано из гравитационной сингулярности.
— А что это такое?
— Как я обычно говорю, сердце тьмы — то, что находится в глубине черных дыр и является конечной станцией всех наших познаний о Вселенной. Возможно, оттуда даже есть выходы в другие миры и эпохи. Многие рассматривают сингулярность как нечто совершенно иррациональное и полагают, что она обязательно должна быть защищена горизонтом событий. А эта девица искала квантово-механический подход и утверждала, что вполне могут существовать голые сингулярности, без горизонтов событий… В общем, позвольте мне в это не углубляться. Однако она произвела на Франса большое впечатление, и он начал ей открываться, что, пожалуй, можно понять. Франсу редко доводилось встречать таких суперфанатов, с которыми он мог разговаривать на своем уровне; а поняв, что девушка является еще и хакером, Бальдер попросил ее исследовать их компьютеры. Все оборудование стояло тогда дома у одного из ассистентов, у парня по имени Линус Брандель.
Микаэль снова решил не рассказывать того, что ему известно.
— Линус Брандель, — лишь повторил он.
— Точно, — продолжила Фарах. — Девушка пришла к нему и выставила его из дому. Затем спокойно занялась компьютерами. Она не обнаружила абсолютно никаких признаков вторжения, но не удовольствовалась этим. У нее имелся список ассистентов Франса, и с компьютера Линуса она всех их хакнула и довольно быстро установила, что один из них продал его именно «Солифону».
— Кто?
— Франс не хотел рассказывать, как я на него ни давила. Но девушка явно позвонила ему прямо из квартиры Линуса. Франс тогда находился в Сан-Франциско… Можете себе представить: предан своими же! Я ожидала, что он сразу заявит на парня, лишит его чести и достоинства и устроит ему «красивую жизнь». Но у него возникла другая идея. Он попросил девушку сделать вид, будто действительно произошло вторжение.
— Зачем?
— Он не хотел, чтобы уничтожили какие-нибудь следы или доказательства. Ему хотелось подробнее разобраться в происшедшем, и, пожалуй, это можно понять, невзирая ни на что. Если одно из ведущих мировых предприятий по созданию программного обеспечения похитило и продало его технологию, это, конечно, серьезнее, чем если просто какой-то аморальный студент-говнюк действовал у него за спиною. «Солифон» ведь не только один из самых уважаемых исследовательских концернов США. К тому же люди оттуда год за годом пытались уговорить Франса поработать у них. «Эти подлецы обхаживали меня — и одновременно обкрадывали», — прошипел он.
— Подождите минутку, — попросил Микаэль. — Мне надо убедиться, что я все правильно понимаю. Значит, вы считаете, что он согласился работать в «Солифоне», чтобы узнать, зачем и как они его обокрали?
— Если я чему и научилась за прошедшие годы, так это тому, что понять мотивы людей не так-то легко. Зарплата, свобода и ресурсы наверняка тоже имели определенное значение. Но в целом — да! Так, вероятно, и было. Еще до того, как эта девица исследовала его компьютеры, Франс сообразил, что в краже замешан «Солифон». Но девушка дала ему более детальную информацию, и тогда он начал всерьез копаться в этом дерьме. Конечно, это оказалось гораздо труднее, чем ему представлялось, он вызывал массу подозрений, и вскоре к нему стали на удивление плохо относиться, а он все больше сторонился остальных. Но Бальдер действительно кое-что нашел.
— Что?
— Тут ситуация становится чрезвычайно деликатной, и мне вообще-то не следовало бы вам об этом рассказывать.
— И тем не менее мы с вами беседуем.
— Да, тем не менее, — и не только потому, что я всегда очень уважала ваш журналистский труд. Утром меня осенило, что, возможно, Франс не случайно позвонил ночью вам, а не в Отдел промышленной защиты СЭПО, с которым тоже имел контакт. Думаю, он начал подозревать, что там существует утечка информации. Разумеется, это могла быть чистейшая паранойя — Франс проявлял все признаки мании преследования. Но все-таки позвонил он вам, и теперь я надеюсь, что в случае удачи сумею выполнить его волю.
— Понимаю.
— В «Солифоне» существует отдел, именуемый просто-напросто «Y», — продолжала Фарах. — Прообразом является «Google Х», отдел «Гугла», где они занимаются тем, что называют moonshots[51], безумными нереалистичными идеями, — например, поисками вечной жизни или соединением поисковых машин с нейронами мозга. Если где-нибудь и достигнут AGI или ASI, то именно там, и Франса определили именно в отдел Y. Но все оказалось не так здорово, как звучало.
— Почему?
— Потому что от своей хакерши Франс узнал, что в отделе Y существует секретная группа аналитиков, исследующих внешнюю ситуацию, и руководит ею человек по имени Зигмунд Экервальд.
— Зигмунд Экервальд?
— Да, его еще называют Зеке.
— А кто это?
— Как раз тот человек, с которым общался предавший Франса ассистент.
— Значит, вором является Экервальд.
— Так вполне можно сказать. Вором на высоком уровне. Внешне работа в группе Экервальда велась совершенно легитимно. Они обобщали данные о работе ведущих ученых и о многообещающих научных проектах. Подобной деятельностью занимаются все крупные компании, работающие с ультрасовременными технологиями. Всем хочется знать, что происходит и кого следует пригласить к себе. Но Бальдер понял, что эта группа идет дальше. Они не только исследовали, но и крали — при помощи хакерских атак, шпионажа, «подсадных уток» и взяток.
— Почему он на них не заявил?
— Не хватало доказательств. Они, естественно, действовали осторожно. Но под конец Франс все-таки пошел к владельцу, Николасу Гранту. Тот страшно возмутился и, по словам Бальдера, велел провести внутреннее расследование. Однако расследование ничего не дало, либо потому что Экервальд уничтожил доказательства, либо потому что расследование было просто игрой на публику. Франс оказался в жуткой ситуации. Вся злость обратилась на него. Думаю, роль движущей силы сыграл Экервальд, а втянуть остальных ему, вероятно, было нетрудно. Франса уже и так считали параноиком и вообще подозрительным типом, а теперь все начали от него постепенно отворачиваться. Я прямо вижу его в этой ситуации, — как он сидит там, проявляет все больше неприязни, действует наперекор всему и отказывается с кем-либо разговаривать.
— Значит, по-вашему, у него не было никаких веских доказательств?
— Ну, во всяком случае, у него имелось доказательство, полученное от хакерши: что Экервальд похитил его собственную технологию и продал ее дальше.
— Значит, это он знал наверняка?
— Похоже, вне всяких сомнений. Кроме того, он понял, что группа Экервальда работает не в одиночку. Группа пользовалась поддержкой извне — по всей видимости, американских служб безопасности, и еще…
Фарах остановилась.
— Да?
— Тут Франс проявлял бóльшую скрытность, а может, просто довольно мало знал. Он говорил, что наткнулся на кодовое слово, обозначавшее человека, который являлся истинным руководителем, за пределами «Солифона». Кодовое слово было Танос.
— Танос?
— Именно. Франс сказал, что этого типа все очень боятся. Больше он ничего говорить не захотел. Утверждал, что когда до него доберутся адвокаты, ему, Франсу, потребуется страховка жизни.
— Вы сказали, что не знаете, кто из ассистентов его продал. Но вы наверняка над этим размышляли, — поинтересовался Микаэль.
— Конечно, размышляла. И иногда… даже не знаю…
— Что?
— Мне думалось, не все ли вместе.
— Почему вы так говорите?
— Когда эти ребята начали работать у Франса, они были молодыми, талантливыми и амбициозными. А закончили нервными и уставшими от жизни. Возможно, Франс их просто загнал, или же их что-то мучило.
— У вас есть все имена?
— Конечно. Это же мои мальчики, хотя приходится говорить «к сожалению». Первым идет Линус Брандель, которого я уже упоминала. Ему сейчас двадцать четыре, и он просто болтается без дела, играет в компьютерные игры и слишком много пьет. Какое-то время у него была хорошая работа — разработчик игр в «CrossFire». Но он лишился ее, когда начал регулярно брать больничные и обвинять коллег в том, что они за ним шпионят. Дальше — Арвид Вранге, о котором вы, возможно, слышали. Он был когда-то многообещающим шахматистом. Его отец давил на него просто нечеловечески, и в конце концов Арвиду надоело, и он начал учиться у меня. Я надеялась, что он давно защитится. Но вместо этого парень болтается по питейным заведениям вокруг Стуреплан[52] и производит впечатление человека неприкаянного. У Франса он, правда, на какое-то время ожил. Но между мальчиками разгорелась дурацкая конкуренция, и Арвид с Басимом, третьим парнем, возненавидели друг друга — во всяком случае, Арвид ненавидел Басима. Басим Малик, пожалуй, на ненависть не способен, он чувствительный и талантливый человек. Год назад его приняли на работу в «Солифон Норден», но долго он там не выдержал. Сейчас Басим лежит в больнице в связи с депрессией. Кстати, сегодня утром мне звонила его мать, с которой я немного знакома, и рассказала, что его погрузили в сон. Узнав, что произошло с Франсом, он вскрыл себе вены, из-за чего я, конечно, очень переживаю. Вместе с тем меня, естественно, интересует: только ли от горя? Или еще от чувства вины?