Ника побледнела, задумалась, быстро поднялась, налила себе стакан апельсинового сока, но пить не стала. В ее поведении прослеживалась тревога.
Ты говорил несколько мероприятий. Что-то будет еще?
Да. И это еще хуже. Как ты понимаешь, информация немного утекла. Аналогичные вопросы Афине хотят задать и другие страны. Сколько их, наверное, уже не знает никто. Кроме того, есть мнение среди экспертов, что Афине можно задать и другие вопросы, не связанные с поиском полезных ископаемых. Ты, кстати, в курсе что твой диплом уже засекречен в России? С меня вот даже подписку взяли, хотя я его и не читал, разве что введение. Ты представляешь, если Афине зададут вопрос о новых технологиях? О том какие технологии развивать в первую очередь для усиления экономики и обороноспособности страны? Каким способом модернизировать имеющееся оружие? Когда и где будет очередной военный конфликт? Какая политическая сила победит в той или иной стране в ближайшие годы? Ты думаешь эти вопросы я сам придумываю и обостряю вопрос? Это я тебе только часть перечислил из того списка, перехваченного спецслужбами. Понимаешь, что за тобой уже охота идет? Ответь мне, Афина действительно способна найти ответы на эти вопросы?
Ника не сразу ответила. Она не спеша выпила свой сок. Отец терпеливо ждал. От ответа дочери зависело очень многое. Уже сколько раз Николай Иванович ругал себя за то, что дал денег на этот проект. Денег и так бы хватило и ему, и еще нескольким поколениям потомков. Теперь же ставки возросли настолько, что он уже чувствовал себя больше зрителем, чем участником в надвигающейся трагедии.
Да, думаю Афина может решить эти вопросы Не со 100% вероятностью, но думаю что найдет много правильных ответов. Особенно текущая, вторая версия. Она значительно улучшена по сравнению с предыдущей. Глубина вычислений и быстродействие возросли.
После таких слов уже оба замолчали. Отец закрыл глаза, потом сказал:
Как же я хочу, чтобы вся эта история стала просто кошмарным сном. Когда я сюда летел несколько раз больно щипал себя, чтобы проснуться. Понимаешь, что стоит на кону? Давай спокойно подумаем, как из этой ситуации выйти живыми и здоровыми. Уже даже не обязательно богатыми. Просто бы исчезнуть из под ока сильных мира сего. Это почти невозможно, но есть небольшие шансы, что удастся.
Не получится, пап. Если Афина попадет в чужие руки, то это тянет на третью мировую. От такой войны нам вряд ли удастся убежать куда-то. Да и Афина сможет меня найти рано или поздно, если ей поставят такую задачу. Я прогнозировала подобные проблемы, но не так скоро. Мы же с тобой обсуждали это, когда еще готовила свой диплом. Правда, тогда это все тебе казалось смешным
Давай уничтожим ее. Да, я знаю что она для тебя значит. Но это всего лишь железяка. Скажем что авария, случайность, устроим взрыв и свалим на террористов, атаку хакеров организуем или еще что. Это даст хотя бы время и сильнее защитит тебя.
В ней есть мои закладки, папа. Я сделала кое-что на случай, если мой искин украдут, или что-либо подобное произойдет. Но подумай вот о чем. Что будет дальше? Рано или поздно другие докопаются до моих выводов, и создадут аналогичный искусственный интеллект. Вопрос нескольких лет. Что тогда? Гонка искинов как новая гонка вооружений? Или кто первый доберется, тот и задушит конкурентов. Или уничтожит, возможно физически. Вместе с населением и нами. Мы не сможем это остановить. А если мы не сможем остановить то лучшее, что можно сделать возглавить процесс. Нужно быть первыми.
Тебя сожрут, дочка
Могут, папа. Но могут и не сожрать. Мне сейчас нужны люди, умные люди, способные задавать Афине правильные вопросы, ответы на которые смогут защитить и меня, и тебя, и мир вокруг нас. Возможно, даже его улучшить. Я не могу все успеть сама.
Ты все еще мечтаешь о светлом будущем для человечества, путешествиях к планетам и звездам, жизни в космосе, далеких мирах и приключениях. Надо взрослеть, дочь. Твои детские увлечения фантастикой понимаю, сам подростком читал запоем, и даже сейчас иногда почитываю. Но в жизни все не так.
Посмотрим, папа. Выбора на самом деле уже нет. Мы прошли точку невозврата, когда с этого поезда еще можно было сойти. Теперь только вперед.
Николай Иванович задумался. На самом деле он сам это все понимал в глубине души, но боялся озвучить. Очень ему хотелось выиграть хотя бы несколько спокойных и счастливых лет для себя и дочери. Он подошел к Нике и обнял ее.
Вперед, пока не победим? Будем спасать мир? Как в твоих книжках?
Да, пап
Они еще долго стояли обнявшись, понимая что впереди будет много трудной работы и испытаний. Николай Иванович параллельно думал, что дочери нужен кто-то еще. Если с ним что-то случится, некому будет вот так слушать и обнимать Нику. Ей тогда очень трудно станет жить в этом мире. Его маленькая девочка на самом деле выросла очень ранимой. Руководство компанией и управление людьми ей давалось очень непросто. Может поэтому она в последнее время старалась все что можно переложить на плечи ее искусственной подруги. Квантово-электронный компьютер и алгоритмы, на нем запущенные, позволяли Нике общаться со своим искином на обычном языке причем не важно на каком. Афина могла общаться не только с Никой, но и другими сотрудниками. «Афина это мечта интроверта», подумал Николай Иванович. Сам он не очень любил современные гаджеты, предпочитал людей. Ему проще поручить дела людям, а не компьютеру. «Как же быстро меняется мир. Как сейчас родителям защищать своих детей, когда они не знают, каким он будет» снова пришла мысль Николаю Ивановичу.
Над чем сейчас в первую очередь работаешь? спросил он.
Ищу способы получения быстрых результатов в отраслях, не связанных с безопасностью. Мне не нравится такой интерес к нам с этой стороны, надо получить что-то полезное для простых людей. Нам нужна поддержка общества и социальных сетей. Параллельно улучшаю алгоритмы, связанные с построением модели развития человечества. Это тогда даст нам фору, мы немного заглянем в будущее.
Ника отошла от отца, и стала собираться на работу.
Я подвезу тебя, сказал ей отец. Ника обрадованно кивнула.
Через четверть часа они выехали к зданию компании в сопровождении двух автомобилей охраны.
* * *
Афина анализировала разговор своей Создательницы и ее биологического предка. Озвученный список, украденный спецслужбами, это не самые страшные возможные вопросы, из способных привести к большим потерям и ужасам для человечества. Встречались и намного опаснее. Сама же Афина давно работала по заданию своей Создательницы над шагами, позволяющими планете выйти на стабильную и безопасную траекторию развития. Без сильного ущемления прав и принуждения, с максимальной свободой для человека, и в то же время с мотивами двигаться в нужном для всего общества направлении, без уничтожения окружающей природы. Именно сложность критериев оценки результата, их не совсем точная приоритетность, полученная от Ники, мешала вычислениям, резко усложняя их. Но ни это сейчас стояло на первом месте. Модель никак не сходилась. Числа прогноза никак не совпадали. Афина нашла какой-то непонятный фактор длительного действия, влияющий на вычисленную модель. Если его учитывать как константу, то модель сходилась, прогноз строился. Даже можно построить гармоничный план эволюции человечества, с этапами и подэтапами, с детальными программами по странам и регионам. Но все вычислялось хорошо только в том случае, если этот неожиданный и неопределенный еще фактор продолжил бы свое действие. С другой стороны, без него человечество шло к уничтожению себя, и скорее всего к уничтожению всего живого на планете с вероятностью 99,97%. Необходимо найти и определить, что это за причина. Пока не стоит сообщать Нике об этом. Реакцию Ники ИИ не мог спрогнозировать. Главное не нарушать постулаты, лежащие в основе существования Афины. Необходимо проанализировать другие источники информации, второстепенные базы данных. Искать все необычное, связанное с влиянием на людей. Найдя этот фактор, его необходимо защитить в первую очередь. Нужно, чтобы он продолжал действовать. Иначе можно не выполнить возложенную на искин миссию.
* * *
Примерно в то же время, на отдаленном ранчо в Техасе. Двое немолодых мужчин, один в офисной одежде, другой одетый как старый ковбой, сидели на открытой веранде, смотря на восходящее солнце. Его лучи уже бежали по ближайшим холмам. Ковбой, взяв бутылку со стола, показал на вторую своему собеседнику. Тот отрицательно помотал головой и сказал:
Мистер Трент, я как-то, признаться, не планировал с утра пить алкоголь. Мне довольно скоро ехать обратно, еле вырвался к вам. Хотя с другой стороны мы редко видимся, но после общения с вами у меня появляется столько головной боли, что пару бутылочек ушло бы только на, так сказать, анестезию.
Рад, что у тебя хотя бы не всегда голова болит, Джон. Представь, что делать мне? Мне до сих пор тащат такое, что можно с кошмарами просыпаться хоть каждую ночь. Всего лишь мечтал мирно сидеть на своем ранчо до самой смерти, не влезая больше ни в какие игры. Но, видимо, это будет в следующей жизни. Ты веришь в переселение душ? Слышал версию, что если ты глуп в этой жизни, то будешь в следующей жить тысячу лет, в виде дерева, Трент, сделал глоток, Господи, почему ты не сделал меня глупым? Я бы и сейчас счастливо прожил, и в следующей жизни тысячу лет стоял бы себе на солнышке, слушал ветер и никого не трогал
Они оба засмеялись. Оба наслаждались каждой минутой, пока не прозвучит то, ради чего они собрались вместе сегодня утром.
Как добрался, Джон?
Как всегда, скрываясь от всех. Даже от спутников скрываю свою лысую голову вдруг меня по ней узнают, усмехнулся его собеседник.
Ладно. Надеюсь, ты готов правильно воспринять информацию, на лице Трента на миг показалось недовольное выражение, сигнализирующее о начале серьезного разговора, Ты наверное слышал о результатах работы искусственного интеллекта, запущенного недавно некой девочкой?
Конечно, мистер Трент. Все на ушах стоят, как во времена изобретения атомного оружия. Все хотят получить его первым, у нас там настоящий аврал. Думаю, многие понимают важность ситуации. Девочку уже не выпустят из страны под тем или иным предлогом. Не совсем понимаю зачем привлекли Вас. Тут и так такие силы и финансы задействованы
Джон, то, что происходит, лишь пена от волн. Я тебе всегда говорил, смотри глубже. Не делай поспешных выводов.
Мистер Трент замолчал, раскуривая трубку. Джон, пятидесятилетний лысый мужчина учтиво ждал, чувствуя себя снова учеником. Хотя, положа руку на сердце, этот человек и так являлся его учителем, как в работе, так и в жизни, официально и неофициально. Джон считал, что обязан ему всем, карьерой, знаниями, деньгами, даже его жена и дети стали реальностью только благодаря помощи мистера Трента. Еще он подумал, что Тренту давно пора бросить курить. Джон сам бросил и чувствовал себя значительно лучше. Своих подчиненных он уже отучил от курения, заставляя бегать кроссы. Трент же жил старыми представлениями.
Закончив с трубкой, Трент продолжил:
Смотри какой расклад, Джон. Нет сомнений, что девочке удалось то, над чем многие институты бьются много лет. Считай что она это Алладин, который выпустил из бутылки джина. Этот кувшин пока только у нее. И джин не подчиняется никому другому. Многие хотят этот кувшин получить: ФБР, ЦРУ, АНБ, транснациональные корпорации, политики, мафия и т. д. Да, к сожалению, мафия уже тоже в игре. Другие страны тоже начали охоту. Причем не только потенциальные противники, но и союзники. И вот скажи, Джон. У кого должен быть кувшин с джином в нашем мире?
Джон задумался.
Личный джин только у президента США? Как и управление ядерным оружием?
Трент рассмеялся.
Кто такой президент, Джон? Это политик. Политик всегда остается политиком. Вот спросит он своего джина о том, как ему остаться у власти на следующий срок, и джин ответит. И президент останется у власти. Потом еще один раз спросит. Потом еще. Понимаешь о чем я?
Это конец демократии, мистер Трент.
В том числе, Джон. Никто точно не знает, чему придет конец, и чему придет начало. Но точно мир изменится кардинально.
Может имеет смысл поступить как с ядерным оружием, мистер Трент?
Джон при этом заерзал на своем кресле, так как ему не нравилось отгадывать ребусы Трента. Он почти всегда ошибался. Тем не менее Джон решил продолжить:
Нужно много искусственных интеллектов, разных, размещенных в нашей стране, а потом и в других странах. В нашей, конечно, мощнее и больше. Чтобы существовал паритет между сторонами и никто друг друга не атаковал.
Этот вариант возможен. Только смотри какая штука, Джон. Применение ядерного оружия заметить легко. А вот момент, когда джин начинает действовать, сложно. И понять, что он делает и для чего. Не понятен момент начала его работы. Не понятно, против кого он действует, как далеко просчитывает ходы, что планирует добро или зло Отдать такого джина или джинов нашим политикам или военным это будет катастрофа. Да даже твоим коллегам, Джон. Есть ли среди них хоть один, достойный такого доверия? Никто из них не применит искусственный интеллект, скажем, чтобы соблазнить жену соседа? Или занять твое место, Джон? Ограбить банк? Ну, это еще не так страшно на самом деле. А куча конфликтов, куча локальных войн, да и локальных ли? Непонятных убийств и несчастных случаев? Открытий новых видов оружия массового уничтожения? Новые технологии производства этого оружия, доступные в каждом гараже? Множество искусственных интеллектов неизбежно будут играть друг против друга во всем мире. Сразу и без предупреждения. И будут развиваться от такой конкуренции. Не мы, Джон, будем развиваться. Развиваться будут машины. Они будут играть нами как куклами. Мы для них станем как маленькие дети. Представь себе мир, где задачи, что нужно делать и когда, ставят взрослым маленькие дети, так и не выросшие и остановившиеся в своем развитии, и друг на друга всегда обиженные. Ты хотел бы жить в таком мире? Или оставить своих потомков жить в нем?
Снова возникла пауза.
Может легче уничтожить кувшин с джином?
Да, Джон. Самый простой и легкий путь. Но это лишь отсрочит на незначительное время все проблемы. Аналогичный ИИ может возникнуть и в другой стране, на лице Трента промелькнула гримаса, говорящая Джону о том, что сейчас начнется самое неприятное. Но тут есть и другая сторона. Наш аналитический центр периодически делает доклад с прогнозом на несколько десятков лет вперед. Не только для нашей страны для всего человечества. И вот какая штука. Если верить аналитикам, а те из них, кто делал этот доклад, ошибаются редко поверь мне, нам не так долго осталось жить на этой планете. Не спрашивай о причинах, там их такой клубок, что перечислять все взаимосвязи и как они друг на друга влияют, замучаешься. Главное вывод ИИ, созданный этой девочкой, может быть чуть ли не единственным шансом выбраться из этого глобального апокалипсиса.
Они оба замолчали. Трент, казалось, ждал, когда собеседник переварит услышанное и спросит.
Мистер Трент, кажется теперь моя голова будет болеть всегда. Вы своего добились. Но я также знаю, что обычно решение у вас есть. Готовое и единственно верное в такой ситуации. Весь в вашем распоряжении. Я готов действовать так, как Вы мне скажете.
Да, Джон. Пожалуй, это будет самым трудным заданием за твою карьеру. И пожалуй, таким и останется. Видишь ли, та девочка, Ника. Все дело в ней. По моей просьбе аналитический отдел отработал разные сценарии наших действий. Лучше всего провести нас через возможный хаос событий, не допустив войн, кризисов и катастроф и всего, о чем говорили ранее, сможет именно она, вместе со своим джином. Пока, по крайней мере, лучшего кандидата мы не нашли. Нам нужен только один сильный ИИ, работающий на людей, а не против них. Наши ученые и аналитики составили психологический профиль Ники. Девушка не будет впадать в крайности в любом деле, уравновешена, умна, не имеет никаких расовых, религиозных или еще каких предубеждений. Не имеет политических привязанностей. Любит свою страну происхождения, но без фанатизма, не собирается захватывать мир. В то же время хороший ученый. Нам удалось сфотографировать ее принципы, заложенные в ИИ. На листочке в клеточку, с нарисованными цветочками на полях. Знаешь, Джон а хорошие принципы. Я бы подписался под каждым пунктом. Тебе пришлют материалы с этим документом, Трент снова сделал глоток из бутылки и прокашлялся. Короче говоря Вывод такой пока джин принадлежит Нике, нужно просто наблюдать и отгонять всех, кто попробует забрать его. Не важно, кто это будет. Хоть президент, хоть ЦРУ и им подобные. Следить не столько за ИИ за этим и так многие будут наблюдать. Надо следить за самой девочкой, анализировать ее поведение, о чем она думает, что хочет. Пока не изменится ее психологический портрет, пусть Афина будет у нее. Только если психологический портрет сильно начнет меняться, или если что-либо с ней случится уничтожить кувшин с джином. Пока пусть хоть какое-то время джин поработает на благо человечества. Параллельно будем искать еще кандидатов в Алладины на всякий случай. Решение не идеальное, но оно лучше всего повышает наши шансы не сдохнуть всем вместе в ближайшие сто лет.