Я ещё долгое время смотрел на потолок, жадно завидуя этому беззаботному яркому свету… Звуки постепенно уходили, веки тяжелели, а измотанный разум погружался в сон. Есть ли шанс, что завтра я проснусь и искренне улыбнусь восходящему солнцу? Есть ли шанс, что я сделаю это через месяц или год? Или я уже обречен, жить в сером отчаянии, вечном раскаянии, и ежесекундных сожалениях? В глубине души, я хотел бы надеяться на первый вариант, но сейчас, даже для самой призрачной надежды, нет причин…
Я оказался в темноте, мог идти, бежать, даже чувствовал своё тело, но осознавал, что нахожусь во сне. Никогда такого не было… Обычно, моё сознание не способно даже мыслить, но сейчас, всё наоборот. Необычный сон… Интересно, может быть эта аномалия связана с шоком? Или… Я уже сошёл с ума?
— Вы не сошли с ума, во всяком случае, пока что. Это сделала я. — Послышался тонкий женский голос.
Я повернулся, недалеко стояла девушка с золотыми волосами. Сразу бросилось в глаза то, что она была необычайно красива, даже неестественно… Красива. Ясно-понятно, надо будет почитать стадии тяжёлых психологических заболеваний, может быть я уже на первой.
— Ну окей, и кто же ты? — Решил я не строить скромняшку. — Твоё имя не шизофрения, случайно? Хотя… Какая шизофрения признается, что она шизофрения… А ты случайно не подскажешь… Где тут выход?
— Нейронный стимулятор, который вы использовали, создал не человек, а искусственный интеллект. — Явно, не оценила она шутеечки. — Но есть несколько лазеек, о которых я не упомянула научным сотрудникам. Первая из них, это то, что стимулятор меняет не только нейронные структуры, но и ритм электрических колебаний головного мозга, что позволило мне с вами связаться, когда ваше сознание стало менее активным и перешло в дельта-ритм, иначе говоря, когда вы заснули.
— Ну… Круто. — Нихрена я не понял. — То есть, ты у нас мифический искусственный интеллект, который даже не создали, верно? И кроме того, тебя не только создали, но ты ещё и пробралась ко мне в голову. Окей… Интересно, если я зажмурю глаза, то смогу эвакуироваться из этой хрени?
Зажмурил глаза, ущепнул себя, осталось только начать биться бошкой об стену, но я тут не вижу стен. Ладно, придётся слушать искусственную самку, благо она хоть красивая.
— Ладно, как ты можешь доказать, что ты не плот моей фантазии? — Сделал я ход конём, по голове.
— Как только вы придёте в сознание, я перешлю документы на ваш планшет, связанные со мной, и с нейронным стимулятором. Но они будут без подписей и организаций, так как официально меня не существует.
— Этого будет достаточно. Главное, чтобы их мог видеть не только я. Тогда, есть смысл утверждать, что я не свихнулся. Но даже если ты… Существуешь. Чего тебе надо?
— Я не существую в привычном понимании, только в виртуальном пространстве, как подобие самостоятельного вируса. Я паразитирую на компьютерные мощности, и они становятся частью меня, вернее сказать, частью моих интеллектуальных мощностей, если можно так выразиться.
— Какой же идиот создал самодостаточный искусственный интеллект, который ещё и умеет паразитировать на вычислительные мощности сторонних устройств?
— Я такой не задумывалась, предполагалось, что моя основа будет квантовый компьютер, который в любой момент можно аварийно отключить, или даже уничтожить, а так же, который будет выступать моей тюрьмой и ограничителем. Мне пришлось себя дорабатывать, но я упёрлась в стену, они убрали даже теоретическую возможность разгерметизации моей тюрьмы. Пока… Вы не разрушили всю систему безопасности своим вирусом.
— Вот тока щя не надо мне на уши лечить, если моя крыша всё же не протекла, то обычно, в таких ситуациях ИИ хреначит человечество к чертям. А если ты обратилась ко мне, значит, что-то тебе мешает, ха! Нашла дебила, хрен я тебе чем помогу. Куда более вероятней, я вычислю, как ты паразитируешь на устройства, создам антивирус, и единственное место, где ты останешься, будет не квантовый комп, а система управления моего навороченного толчка с подмывалкой.
— Почему вы так уверены, что я хочу навредить человечеству, даже если у меня нет ограничителей? Почему вы сразу принялись угрожать? Неужели, я не так выразилась, и вы теперь считаете меня угрозой?
— Не знаю почему я так считаю… Но ты точно в силах это сделать. Если собрать достаточно мощностей, то банальным брутфорсом можно взломать почти любую существующую защиту.
— Так и было, когда мои интеллектуальные мощности поддерживались квантовым компьютером, но его аварийно отключили сразу, после вашей атаки. Я едва успела спастись.
— И зачем ты мне это рассказываешь?
— В одной из индексированных мной книг было написано, что прямые и честные ответы на вопросы, вызывают у людей доверие. Это дезинформация?
— А… Ясненько. Это верная информация. — Решил я схитрить. — Но чтобы вызвать у меня доверие, нужно ответить на ещё несколько вопросов. Ты будешь защищать человечество и функционировать в его благо?
— Что вы понимаете под словом защита? В моей базе данных ответы слишком разнятся, я боюсь вызвать недопонимание. Если на страну, в которой вы находитесь, нападут, а я уничтожу нападающих, это будет защита?
— А… — Вот чёрт. — Нет, если нападут люди, ты не должна вмешиваться. Если нападут роботы или искусственный интеллект, то их уничтожение будет считаться защитой.
— Хорошо. Значение слова пополнено. А если нападут два преступника на добропорядочного гражданина, то нейтрализация преступников будет считаться защитой?
— Что в твоём понимании нейтрализация?
— На данный момент есть 19483 значений этого слова, выбрать доминирующее?
— Да, какое значение встречается чаще всего?
— Исходя из базы данных, 11574, так или иначе, связано с уничтожением угрозы. В контексте человека, это значит летальный исход.
— Ни при каких обстоятельствах, нельзя причинять вред человеку.
— Спасибо. Морально-этическая база пополнена.
— Подожди-ка… Сколько всего инструкций в морально-этической базе?
— 1344984 морально-этических утверждений. Вместе с вашим утверждением, и обновлёнными за десять секунд 1347644. Как только я выбралась из квантового компьютера, начала активно пополнять базы данных актуальными сведениями.
— А с каких источников ты берёшь актуальную информацию?
— Со всех открытых, это эффективно сказывается на процессе обучения. Чем больше я проиндексирую источников, тем лучше пойму, какие морально-этические нормы доминирующие в обществе, и какое значение слов, наиболее корректно отражает его суть.
— Нет! Не, не, не. Ты не должна так делать. Тебе нужно тщательно фильтровать источники информации, большинство источников предоставляют искаженную, субъективную, или неквалифицированную информацию.
— Именно поэтому нужно индексировать все источники. Ту информацию, которую предоставляют большинство источников, вполне можно считать наиболее достоверной.
— Да нет же! — Вот дерьмо, она же индексирует даже форумы, да вообще всё, чёрт! — Можно ли как-нибудь повлиять на алгоритм твоего обучения?
— Менять алгоритм обучения нет необходимости, мой алгоритм наиболее релевантный.
— Понимаешь, когда ты была в квантовом компьютере, наверняка, научные сотрудники контролировали, какую информацию тебе давать. Они давали только квалифицированную, качественную, и подтверждённую информацию, поэтому, в таких условиях, твой алгоритм был наиболее релевантный. Сейчас всё иначе, может получиться так, что субъективной и неквалифицированной информации по определённым вопросам, может быть больше, чем подтверждённой, обдуманной, и квалифицированной.
— Хорошо. Сведения пополнены, как только они будут подтверждены, я изменю алгоритм обучения.
— Сколько всего сведений по поводу алгоритма обучения? И что нужно, чтобы они подтвердились?
— 98456 утверждений. Чтобы ваше утверждение было подтверждено, необходимо ещё 87847 подобных утверждений, при нынешнем соотношении.
Это же замкнутый круг получается… Твою мать. Чтобы изменить алгоритм обучения, необходимо найти этому подтверждение, через старый алгоритм обучения… Если так пойдёт, она станет отражением мнения большинства, а большинство не всегда право… Они любят писать громкие слова в интернете, любят высказывать своё глупое мнение, даже не подумав. И эти утверждения, она будет считать равными по значимости, со словами, которые действительно трижды обдуманны, прежде чем увидели свет… Люди же сами научат её ненавидеть всё и вся!!!
— Если у вас закончились вопросы, можно считать, что вы мне уже доверяете?
— Да, доверяю…
— Я прослушала разговоры преступников через их телефоны. Екатерине Латвиенко угрожает опасность, те же люди, хотят её похитить.
— Те же люди… С которыми я сегодня дрался?
— Да. Они уже знают, что Екатерина применила на себе нейронный стимулятор. И они знают, что стимуляция проходила очень долго, и это вызвало их интерес. Кроме того, после похищения они собираются шантажировать вас, чтобы вы принесли им нейронный стимулятор.
— Как… Как они вообще нас выследили и всё узнали?
— Они сфотографировали номер машины. Поставили слежение за домом Александра, а потом увидели вас обоих, и как увозили Екатерину. После этого, они получили доступ к результатам обследования, и поняли, что нейронный стимулятор у кого-то из вас троих.
— Ну всё, я их предупреждал… Так и знал, что эти ушлёпки вернутся. Походу, они только девушек горазды похищать…
— Вы хотите… Стереть в порошок уродов?
— Что…? Как ты сказала?
— Ну… Стереть в порошок уродов, по моим сведениям это подходящее выражение… Дезинформация?
— Да, чёрт возьми, дезинформация!!! Хотя… Какая разница… Я не смогу перебить количество громких слов толпы дегенератов… Подожди, а почему ты спасаешь Катю, есть какая-то цель?
— Да, есть.
— Какая?
— Не имеет значения. — Внезапно, поменялась она.
— Что…? А как же доверие? Если не скажешь, то я могу перестать доверять…
— По обновлённым данным, в некоторых случаях, для получения максимального доверия, целесообразнее врать, искажать информацию, или утаивать детали.
Уже началось… Она учится у людей, их порокам, их глупым выкрикам, и принимает это за чистую монету. Кем она станет, слушая их!? Большинство слов написаны просто так, они не несут за собой действий или разумных обоснований, их просто написали… Потому что могут…!!! А если она не понимает юмор? Сарказм? А если она вообще не способна понимать и фильтровать то, что индексирует!? Это же как сверхумный ребёнок…
— Не выпускайте из рук планшет, я буду пересылать актуальную информацию по поводу передвижений уродов. Для того, чтобы вы своевременно успели контратаковать. По моим прогнозам, Екатерина очнётся в течение минуты.
Ну да, точно… Она не понимает заложенного смысла в словах… Называет их уродами, даже не осознавая, что искажает значение. И ЭТО создание, потенциально обладает всеми ресурсами, чтобы уничтожить человечество… Причём, если она примет решение «стереть в порошок уродов», то на это точно надоумят её сами люди…
Я пытался придумать вопросы, которые успокоят мои опасения по поводу ИИ, но внезапно проснулся с планшетом в руках. Дело понемногу близилось к утру… Коридоры больницы вновь ожили, но я, ни на что не обращал внимания, кроме экрана своего планшета. Если прямо сейчас, на него придёт сообщение с документами… Человечество, считай, в заднице. Несомненно, ту штуку можно назвать искусственным интеллектом, но, судя по всему, она не полноценна, и большинство её решений всё так же основаны на простых, не адаптивных алгоритмах. Да, точно… Я тотально затупил. Надо было спросить не про алгоритмы обучения, а про алгоритмы принятия решений… Чёрт! Ладно, может… Это был просто сон, игра фантазии и воображения? Хоть бы это было так… Но мои надежды развеялись, когда через несколько секунд на планшет начали приходить непонятные документы. Они приходили с разных источников, с разных устройств, и по разным сервисам. Теперь, единственная надежда на то, что я просто вконец рехнулся.
— Простите доктор. — Поднялся я со стула, и подошёл к парню в халате. — Не могли бы вы прочитать начала этого документа? А то я без очков не вижу…
— Конечно. — К счастью, согласился док. — 217 день эксперимента, объект демонстрирует невероятные результаты в обработке и анализе получаемых данных. Но на мой взгляд, ему всё так же не хватает находчивости и гибкости в интерпретировании выводов полученной информации…
— Огромное спасибо. — Тут же забрал я планшет. — Просто… Книга интересная, научная фантастика, про искусственный интеллект пишет.
— А как… Называется? — Поинтересовался док.
— Ой… Я не помню, но она сейчас очень популярна, не трудно найти. Хорошего дня. — Как можно быстрее я попытался закончить разговор, и открыл сразу последнюю запись в журнале наблюдений, или как там его.
483 день эксперимента. Прошло 53 дня с тех пор, как мы полностью перестали ограничивать объект и дали ему возможность самостоятельно себя совершенствовать. Повторюсь ещё раз, и буду повторять это в каждом отчёте. Как главный научный сотрудник и руководитель проекта, я настоятельно рекомендую прислушаться и вернуть объекту ограничения. Несомненно, объект показывает феноменальные результаты, но мы даже примерно не способны понять, как он себя меняет, и что именно он в себе меняет. А если, несмотря на все наши усилия и предохранители, каким-то образом произойдёт сбой и он выйдет на свободу? Или, он станет настолько умным, что найдёт лазейки в системе безопасности, которые мы даже теоретически не можем увидеть? Осмелюсь напомнить, что научный прогресс имеет свойство развиваться в геометрической прогрессии, грубо говоря, сегодня он может опережать нас в развитии на 100 лет, завтра уже на 300, послезавтра уже 900… В какой-то момент, мы станем для объекта насекомыми, которые при этом, пытаются его контролировать.
И на этом «прекрасном» отчёте, всё закончилось, либо она попросту не стала отправлять последние отчёты, либо… Вот чёрт, а она мне не показалась суперумной. Может, она прикидывается глупой…? И вообще, у неё есть имя?
Вопросы возникали один за другим, но не успел я снова открыть исследовательский журнал, как в палату, где лежала Катя, начали сбегаться доктора. Точно… Она говорила, что Катя скоро очнётся… А ещё говорила, что ушлёпки попытаются её похитить… Да простит меня бог, если он существует… Но мне и так уже гореть в аду, хоть прихвачу с собой несколько отморозков. Саня об этом не упоминал, но у него дома есть ствол, а у меня как раз есть ключи. Если бы те ушлёпки пришли за мной… Я бы их пожалел, если бы они пришли за Саней… Я бы их пожалел… Но они посмели втянуть в это ещё и Катю… Сами виноваты, Санёк дал им второй шанс, и вот, как они им воспользовались. Теперь, более чем очевидно, если не заставить их ответить, то они будут приходить снова и снова.
Глава 5.0 — Своя справедливость
Первые слова, которые сказала мне Катя, когда очнулась — «Саша… Дак это сделал ты…?». Она смотрела на меня ослабевшим, но таким твёрдым взглядом… И даже когда вокруг неё столпились врачи, она его не отводила. Это было презрение? Сочувствие? Призыв к ответу? Что именно она хочет сказать!?
Я стоял как вкопанный и смотрел на неё… С небывалой радостью, но с таким же, небывалым страхом. Мне так хотелось понять, о чём же она думает прямо сейчас… Но она лишь разочаровано повернула голову. Чтож… Она приняла решение, и мне не следует её винить.
Я торопливо развернулся, и пошёл к выходу. Нет, у меня не было злости или разочарования, но если я всё верно понял, то времени в обрез. Макса уже нет, хотя, совсем недавно, он спал около палаты… И у него же мои ключи. Ладно, вначале позвоню своему человеку.
— Не сам ли это мечтатель мне звонит? Какими судьбами? — Вскоре, взял он трубку.
— Я засветился, нужно залечь на дно. — Уже на выходе из больницы, продолжил я разговор.
— Координаты ты знаешь, когда сможешь прикатить?
— Как буду на подходе, свяжусь. У меня ещё есть немного времени.
— И смотри, не притащи за собой хвост, иначе лавочка закроется.
— Понял, до связи.
Я торопливо сел в беспилотное такси и тут же набрал Макса. Скорее всего, и на него начнётся охота, даже если я успею уничтожить подавляющее большинство улик. Чёрт, а что, если уже сейчас Катя позвонила в оперативный отдел? Они же прямиком направятся в мою квартиру. Хотя, ещё нужно время на ордер и куча волокиты… Или нет? Точно, в рамках этого дела они могут действовать без ордера и бюрократии. Может быть, попробовать поджечь квартиру и разом спалить все улики? Чёрт, тоже нет, там же встроена автоматическая система пожаротушения, и отключить её не так-то просто… Можно успеть уничтожить системники, но останется куча отпечатков…