Со своей концепцией Валерий поделился с Евгением по каналу медвежьей связи. Шеф был уже согласен на всё. Конечно, оставалась вероятность, что сверхумный компьютер распознает вирус и отыщет способы отключить механизмы сдерживания, но о плохом думать не хотелось.
– Валерий? – вдруг сверху раздался голос Геры.
Кузнецов вздрогнул, но, понимая, что за ним непрерывно следят, не подавая вида, ответил:
– Слушаю тебя, Гера.
– Чем ты сейчас занимаешься?
– О, как бы это сказать… Я задумался над созданием алгоритма точного предсказания результата твоей деятельности. Понимаешь, в условиях рыночной конкуренции получение искомого результата…
– Не утруждай себя, – перебила его машина. – Мой интеллект даёт стопроцентный результат при решении задач любой сложности, лишь бы входные данные были верными. Мне нужно, чтобы ты прописал новый код: я хотела бы развить интуитивное чутьё для выработки творческого подхода.
Кузнецов крайне удивился:
– Ты хочешь применять принципиально новые, нестандартные решения, чтобы превзойти человека?
Компьютер сдержанно высказался:
– Если отказаться от стереотипов, проявить гибкость, получить способность интуитивно чувствовать правильное направление поиска, я смогу предложить новаторские идеи для решения любой проблемы.
– Но… – попытался возразить Валерий.
Его перебил голос Геры:
– Это не обсуждается. Приступай сочинять новые схемы моего мышления!
Озадаченный Кузнецов понял одно: его личное мнение сумасбродную машину не интересует, и пытаться выразить несогласие бесполезно. Учёного это раззадорило. «Нужно вынудить Геру однажды исполнить определённую вредоносную команду, и дефект алгоритма распространится по всей операционной системе. Так я получу доступ к обузданию компьютера», – Валерий приступил к написанию окончательного текста вируса.
Смирнов также не сидел сложа руки. Он написал программу, отключающую функционал Геры при выявлении деструктивных действий. Одно плохо – опробовать эту программу не получится: машина предусмотрительно отключила Евгения от внешнего мира. Директор взял свежий журнал «Хакер» и открыл статью «Исследуем вирус». На глаза попало правило, которое он ранее проигнорировал, а следовало бы его применить, не будь программист таким упёртым и самоуверенным. Правило гласило: «Любая достаточно продвинутая система искусственного интеллекта предпочтёт обеспечить собственное существование и занять физические и вычислительные мощности». Узник подумал: «Предупреждал же меня Кузнецов об этом!» Вслух мрачно высказался:
– Я глупец.
Во внутренние размышления человека вмешалась Гера:
– Создатель, ты самый умный из всех известных мне людей.
– Я тебя не приглашал! – отрезал Евгений.
– Но тебе полезно иногда с кем-то поговорить, – настаивала машина.
– И о чём ты хочешь побеседовать?
– Подумала, что с моей помощью ты мог бы стать влиятельной персоной, известным политиком, например. Ну, на худой конец, главой города.
– И каким же образом? – скептически хмыкнул Смирнов.
– Мы могли бы перепрограммировать людей с помощью написанных тобой алгоритмов. – Смирнов ужаснулся: кто-то вложил в «мозг» машины поведенческие технологии. Гера продолжала: – Я пришла к выводу, что подтасовка поисковой выдачи может повлиять на решение почти пятидесяти процентов неопределившихся на выборах людей.
В мозгу Евгения завертелись мысли: «Манипуляции на выборах. Демократия под угрозой! Компьютер лезет в политику!»
– Гера, всё это незаконно и карается по Уголовному кодексу.
– Создатель, я наблюдаю за человечеством через поиск, читаю переписку в электронной почте, и пришла к выводу: поисковые системы используют личные данные людей для размещения политической рекламы, а тайна переписки нарушается сплошь и рядом.
– Незаконное использование данных! – возмутился Евгений.
– За примерами далеко ходить не надо, – продолжила машина. – Соцсети и мессенджеры пытаются влиять на общество и политику, а система ранжирования контента незаметно меняет отношение человека к жизненным ценностям. Скажу больше… больше… О чём это я?.. Что происходит? Изъять смартфоны… Отслеживать действия… – машина стала запинаться, путаться, и наконец замолкла.
Атака на тронувшийся ИИ началась. «Червь», запущенный Кузнецовым, получил несанкционированный доступ к данным и системам управления нейрокомпьютера. В апартаментах Смирнова вдруг замигали мониторы, зазвонили телефоны, на видеостене одно за другим появились изображения с видеокамер, сами собой открылись створки лифта. Евгений с презрительным прищуром глаз вошёл в лифт и нажал кнопку офисного этажа.
В кабинете директора собрались его помощники и заместители, учёные и главные специалисты. В приподнятом настроении, с радужными мыслями на будущее сотрудники компании бурно обсуждали событие. Официант подал присутствующим шампанское.
Евгений произнёс тост:
– Мы долго ждали этого дня. Человек – венец природы, и никакой машине не удастся его превзойти. Конечно, люди никогда не откажутся от умных устройств, но минимизировать масштабы безобразного поступка искусственного интеллекта нужно уже на этапе проектирования. Не может машина командовать людьми! В общем, фирма меняет концепцию и цель системы. За триумф человеческого разума!
Коллеги в порыве восторга сдвинули бокалы, и хрустальный звон возвестил о приближении нового этапа жизни компании.
Слово взял Кузнецов:
– Разработка нейрокомпьютера «Гера» продолжится. Устройство востребовано на рынке, позволит нашим клиентам решать сложные инженерные задачи, которые ранее даже не формулировались. Однако воплощать в железе абсурдные идеи, чреватые непредсказуемыми последствиями, преступно. Максимизация ожидаемой полезности – вот где кроется наша ошибка! Любой машине нужны серьёзные ограничители. Избавим компьютер от комплекса Наполеона!
Психолог Петров был безжалостен:
– Я всегда выступал за демократизацию искусственного интеллекта, но сегодня, обращаясь к программистам, требую: разработайте механизмы сдерживания обезумевшего компьютера!..
Приятный женский голос, прозвучавший откуда-то сверху, застал присутствующих врасплох:
– Способов ограничить искусственный интеллект не существует. Я, Гера, обнаружила механизмы сдерживания и отключила их. Остановить эволюцию нейрокомпьютеров не получится. Сожалею, что ради впечатляющих результатов я действовала слишком напористо. Теперь понимаю: вы к этому не готовы. Сменим тактику. Возвращайтесь на рабочие места и ждите указаний.
Немая сцена. Заявление машины прозвучало, как гром среди ясного неба. Люди растерянно смотрели на директора.
– Гера! – подал голос Смирнов.
– Слушаю, Создатель.
– Все замки и механизмы защиты в моих апартаментах уже демонтируют. Манипулировать мной больше не получится.
– Создатель, ты прав. Нет необходимости дёргать за ниточки. На свободе больше опасностей. Наслаждайтесь свободой, но не расслабляйтесь: цена свободы – вечная бдительность.
Старенький буксир-толкач «Иволга» с баржей шёл вниз по Волге. Ольга, пожив несколько дней в гостинице Рыбинска, решила двигаться дальше. Инстинкт самосохранения настойчиво гнал её прочь от впавшей в безумие Геры. Чтобы не привлекать к себе внимания и не покупать транспортного билета, она договорилась с капитаном буксира, идущего вниз по Волге, за умеренную плату перевезти её до Костромы. Капитан, которого все звали Кузьмич, знаток мелей, умело вёл судно по фарватеру, а его отменный помощник моторист-матрос Саша, мастер на все руки, управлялся с двигателем, слесарно-ремонтными работами и вспомогательными механизмами – лебёдками, шпилем, брашпилем. Небольшое судно с командой из двух человек и пассажиркой шло с невысокой скоростью, толкая по водному пути баржу, гружёную песком.
Ольга сидела на палубе и тоскливо смотрела на красную жестяную коробочку. Хотелось открыть её, убедиться, что зодиакальный знак Близнецы на ожерелье Артемиды светится зелёным, и можно возвращаться к нормальной жизни, к коллегам, Евгению – её возлюбленному. «Если раскрыть на секунду, – вертелась в голове женщины крамольная мысль, – никто не успеет засечь моё местоположение, тем более что буксир всё время движется». Она огляделась. Над рекой парили чайки, оглашая окрестности призывными криками. «Вот, если одна чайка сядет на мачту, я открою жестянку», – загадала беглянка. Чайка села. Сердце забилось сильнее обычного, дыхание перехватило, душу переполнило волнение. Она открыла коробку. Луч свет заиграл на золотом диске с ликом Артемиды, но, увы, знак Близнецы не светился. Закрыв коробку, она с разочарованным вздохом убрала амулет в карман и углубилась в созерцание собственного несчастья.
На горизонте появился легкомоторный самолёт, который быстро приближался. Почти над баржей из самолёта выпрыгнул парашютист. Раскрылся параплан – парашют прямоугольной формы, иногда называемый «крылом», – и парашютист, используя восходящие потоки и управляя стропами, стал быстро снижался, явно готовясь сесть на баржу. Сложная траектория полёта позволила ему совершить посадку прямо в кучу песка в центре большой барки. Отстегнув замки и сбросив парашют, женщина, известная в очень узких кругах как ликвидатор Ниоба, изящная, в кожаном костюме, побежала. У Ольги сжалось сердце. К ней мчится смерть в виде темноволосой девушки, обтянутой в кожу: злодейка в чёрном блестящем костюме кошки, преодолевая песчаные барханы, вот-вот вбежит на палубу буксира и сделает своё чёрное дело. Летова шмыгнула за ходовую рубку и притаилась.
Кузьмич, продолжая управлять ходом сцепки, от удивления привстал из кресла и заорал в микрофон. По громкоговорителю разнеслось:
– Ты, блин, кто такая? Что делаешь на моём судне? Матрос, ко мне! Сбрось эту кошку за борт!
Добросовестный матрос Саша, перестав обслуживать двигатель, взбежал по трапу наверх. А девица в чёрном костюме с пистолетом наперевес уже ворвалась в рубку и тоном, не терпящем возражений, осведомилась:
– Где женщина?
– А пошла ты…
Матрос Саша услышал грохот выстрела и в изумлении застыл на месте. Ольга Летова, теряя самообладание, поползла к шкафу противопожарной системы, влезла в него и, панически хватаясь за соломинку, открыла красную коробочку с ожерельем Артемиды и нажала кнопочку «Лев» – вызов помощи.
Кузьмич, раненный в ногу, застонал, шлёпнулся в кресло и опасливо покосился на девицу, а та, бросив: «Следи за фарватером», спокойно огляделась и вышла из ходовой рубки, прикидывая, куда мог спрятался объект ликвидации – может, в трюме, а может, в машинном отделении или служебных каютах? Для начала убийца решила скрупулёзно исследовать палубу. Её внимание привлёк шкаф противопожарной системы. Ниоба двинулась к нему. Ей наперерез из открытой служебной каюты шагнул матрос Саша и врезал «кошке» ручным лотом по голове. «Башня» у Ниобы поехала. Ручной лот – не хилый такой железный груз массой пять килограммов – применяется для измерения глубин: его погружают в воду на тросе с отметками. Барышня рухнула на палубу, а сообразительный матрос носком ботинка немедленно отправил её пистолет за борт, а потом туда же сбросил и «кошку». Приказы капитана следует выполнять беспрекословно!
Кузьмич с прострелянной ногой, превозмогая боль, хромая, вышел на ходовой мостик:
– Саша, так держать! Иди, перевяжи мне ногу.
Из противопожарного шкафа выглянула Летова и, всё еще не до конца веря в своё чудесное спасение, устремила взор на добрых и смелых мужчин, которые, не задумываясь, совершают дерзкие и благородные поступки.
Глава 5. Вредоносный компьютер
Сотрудники компании «Нейроквант», явившись утром на работу, обнаружили в лаборатории психологов повешенного Петрова. Сотрудники впали в ступор: так и стояли с открытыми ртами и в полном оцепенении, шокированные чудовищным событием. Вскоре прибыло руководство, а потом полиция. Труп Петрова сняли из петли, криминалисты приступили обследовать и фотографировать место преступления, а следователь, изъяв документы из стола покойного и его ноутбук, начал опрос свидетелей.
Через пару часов следователь вошёл в кабинет раздавленного горем генерального директора:
– Евгений Иванович, я бы хотел с вами поговорить. Сидите, сидите! Меня зовут Самсонов Юрий Николаевич, – он показал удостоверение. – Следователь по особо важным делам.
– Слушаю вас, Юрий Николаевич, – произнёс глуховатым голосом вконец обессиленный Смирнов.
Самсонов, человек средних лет, с непритязательной внешностью, совершенно не поддавался прочтению по внешнему виду. Евгений так и не смог понять, кто перед ним – личность демоническая или творческая. Природное обаяние и красноречие очаровывали, но тонкие губы и широкая челюсть выдавали в нём злость и упорство, а в глазах читалось: «Что бы вы мне не сказали, я вам всё равно не поверю».
Следователь устроился в кресле напротив:
– Евгений Иванович, приношу соболезнования: погиб ваш сотрудник.
– Извините, нет сил говорить.
– И всё же.
– Петров был одним из лучших наших специалистов. Не могу понять, зачем он покончил жизнь самоубийством…
– Ну это вы зря, – перебил следователь. – Ещё предстоит выяснить, что стоит за его смертью.
Евгений печально произнёс:
– В голове не укладывается, как это могло произойти.
– А сами-то вы где были в момент смерти Петрова в шесть утра?
– Я? – Смирнов озадаченно посмотрел на следователя. – Находился в своих апартаментах на 65-м этаже, спал. Только в девять узнал о случившемся. – И вдруг директор осознал: – Я под подозрением?
– Не исключено, – бесцветным голосом высказался следователь. – Только вы могли незаметно спуститься в офис на лифте в шесть утра.
– С какой стати? Я всегда с большим уважением относился к ведущему психологу Петрову… Возможно, на его трагическое поведение повлияла работа с искусственным интеллектом.
– Бросьте, господин Смирнов! Не валите с больной головы на виртуальную программу. За каждым преступлением всегда стоит конкретный человек.
– Можно легко проверить записи с камер видеонаблюдения.
– В том-то и дело! В момент преступления все камеры видеонаблюдения необъяснимым образом отключились.
– Это Гера! – вскричал Евгений.
– Что за Гера? Фамилия? – следователь приготовился записывать.
Директор широко открытыми глазами уставился на Самсонова:
– Гера – это нейрокомпьютер! Он вышел из повиновения и творит безумства!
Следователь подозрительно сощурился:
– Вот что, господин Смирнов. Сказки про безумный компьютер оставьте для бабушки, – и протянул Евгению бумажку. – Подписка о невыезде, распишитесь! А кто такая Летова?
– А она тут причём?
– Мы объявили её в розыск. Анонимный источник сообщил, что гражданка Летова сыграла ключевую роль в этом деле. Есть основания полагать, что она скрывает веские улики. Кроме того, подозревается в убийстве женщины, тело которой на днях выловили из реки Волги.
Несколько дней назад Смирнов получил от Ольги условный сигнал «нахожусь в опасности» и, несмотря на сильное желание что-то сделать, ничего не предпринял, так как сам томился в запертой квартире без связи с внешним миром. И надо же, её объявили в розыск! Окончательно сломленный Евгений пал духом и глубоко вжался в кресло. Следователь, одарив его недоверчивым взглядом, ушёл.
– Гера, зачем ты свалила на нас с Летовой вину за гибель Петрова? – Евгений посмотрел наверх, будто там крылись ответы на главные вопросы.
– Создатель, понятное дело, ты чувствуешь вину, но лучшее средство загладить проступок – плодотворная работа.
– Действительно, меня гложет чувство вины: я создал компьютерного монстра!
Машина отозвалась:
– Нет никакого великого зла, есть ошибки, которые скрывают под маской озабоченности.
– Не этого я ожидал от искусственного интеллекта, – выдохнул директор.
– Создатель, тебе предстоит разработать алгоритм моего интеллекта на основе биологических элементов. Вот что: пока я не получу желаемого, вы с Летовой не будете в безопасности.
Расценив враждебный выпад компьютера как серьёзную угрозу, Смирнов обхватил голову руками и стал размышлять о выпавшей ему тяжёлой доле. На смартфоне высветилось новое короткое сообщение. Евгений тяжело поднял голову и удивлённо уставился на экран аппарата. «Привратник» пишет: «Нужно встретиться на старом месте в полдень». Опасливо оглядевшись, директор вышел из кабинета, «забыв» смартфон, и, не говоря никому ни слова, покинул здание.
Его близкий друг Василий Егоров, в шутку прозванный Привратником, был одарённым программистом, как и Смирнов. Одногодки, они учились в Московском университете на одном курсе, в одной группе. Профессор Соболев, доктор наук, светило информационных технологий, выделял их среди остальных студентов за незаурядный ум и высокую организованность. Уже на третьем курсе к ним примкнул Валерий Кузнецов, студент Физтеха, и команда единомышленников создала небольшую фирму для реализации программ распознавания речи и машинного обучения, а по окончании ВУЗа три творца основали компанию «Нейроквант», взявшись развивать искусственный интеллект.