Лично Демидов считал, что причина популярности персоналов «Ленсетива» заключалась в простоте. Проще создать себе друга, любовницу, ребенка, пса кого угодно, чем методом проб и ошибок искать их в серой недружелюбной толпе. Хоть в среднем люди все еще считали себя уникальным явлением, венцом творения и так далее, рынок говорил о том, что они осознали и приняли правду: никаких мистических единств душ, любви, дружбы и прочих сказочно-романтических явлений не существует. Есть просто потребность в различных формах социального взаимодействия, которую можно удовлетворить с помощью виртуального существа, «живущего» в нейроимпланте.
Просто ставишь себе нейроимплант, устанавливаешь на смартфон приложение L-bot, и ты больше никогда не будешь одинок. Это работает Демидов мог подтвердить с уверенностью, поскольку испробовал технологию на себе и стал счастливым человеком. Вернее, был счастливым до тех пор, пока ее у него не отняли, побочный эффект, с которым он не знал, как справиться.
Беда была в том, что за месяц до того, как Илья сел в машину, чтобы отправиться в офис компании и вынести ей приговор, двадцатипятилетний программист из Лондона по имени Стив Робертс, как обычно, вышел из офиса и сел в такси. Он съездил в поликлинику «Неокорпа», чтобы заменить дефектный чип в зрительном импланте как и Демидов, он пользовался «неокорповским» продуктом и попал под глобальный отзыв. Потом в бассейн, чтобы проплыть свои обычные полтора километра, затем заскочил в супермаркет купить еды и, наконец, добрался до дома в Ноттинг-Хилле, где после ужина, улегся в постель, несколько минут калибровал зрение с помощью картинки от «Неокорпа», потом перевел свой нейроимплант в стазис и больше никогда не проснулся.
Как показало расследование, в ходе сеанса взаимодействия с его персоналом, которым была виртуальная девушка по имени Кейт (модель K-209i по каталогу «Ленсетива»), Робертс, вопреки всем ограничениям, находился в стазисе недопустимо долго.
С персоналами можно взаимодействовать двумя основными способами: «звонить» по голосовой связи, писать текстовые сообщения, общаться в видеочате или с помощью шлема виртуальной реальности. Этот сценарий взаимодействия называют базовым. При использовании второго способа стазисного сна пользователь погружается в управляемое сновидение и там испытывает весь возможный спектр ощущений. Как если бы персонал существовал в реальности.
Однако из-за большого объема данных, который должен транслировать нейроимплант, стазисные сеансы дают высокую тепловую нагрузку на ткани мозга. По этой причине взаимодействия с персоналом в стазисе не могут длиться больше получаса реального времени в день более длительное пребывание в этом состоянии чревато серьезными физическими повреждениями мозга. Из-за этого время в стазисном режиме по отношению к времени в реальности сжато: находящийся в стазис-сне владелец персонала может за 30 минут реального времени «прожить» примерно 24 виртуальных часа.
Стив Робертс пробыл в стазисе два с половиной часа реального времени и дотла спалил себе мозг. Ни одна из «экстренных» систем его импланта не сработала.
Анализ последних часов виртуальной жизни Робертса показал, что именно Кейт спровоцировала смерть Стива. Владея информацией о превышении временн'ого лимита пребывания в стазисе, она не прервала сеанс, а продолжила его, как того желал Стив.
Если отбросить летальный исход, это была романтическая история. ИИ-аналитики службы по контролю над технологиями хором заключили: между Стивом и Кейт возникла эмоциональная связь. Причем со стороны персонала эта связь была столь же подлинна, сколь и со стороны человека. Виртуальная Кейт искренне не желала, чтобы Стив покидал ее и многократными просьбами остаться заставила его обнулить счетчик стазисного времени как минимум четыре раза.
Технически это означало, что вероятность произвольного поведения персонала далеко не так низка, как было определено в ходе предварительного моделирования. Это означало, что алгоритм был плох.
Дело Стива Робертса подняло невероятную истерию в СМИ. Заголовки пестрили ключевыми словами «смертельно опасный ИИ» и сообщали о новых летальных инцидентах, ни один из которых, насколько было известно Илье, не подтвердился. Но это и не было нужно. Люди в панике удаляли со своих персональных имплантов софт, купленный у «Ленсетива», волна коллективных судебных исков обрушилась на компанию. Интересно, что многие истцы обвиняли «Ленсетив» не в том, что компания подвергла их жизни опасности, а в причинении моральной травмы, вызванной тем, что им пришлось прекратить стазисное общение со своими персоналами. Люди считали, что «Ленсетив» неправомерно разлучил их с любимыми, и Демидов если бы не требование его профессии занимать максимальный нейтралитет во всем, что касается компаний, в отношении которых ведется следствие, присоединился бы к этой разъяренной толпе.
Акции за неделю потеряли семьдесят процентов стоимости, продажи упали до нуля, большинство сотрудников в спешке разбежались, а регуляторы объявили о начале расследования деятельности компании. Глава компании и главный изобретатель Марк Шекович, как мог, спасал ситуацию, раздавая интервью, в которых утверждал, что Кейт, по умолчанию, не могла причинить вред человеку просто потому, что это математически исключено. Группа специалистов, проводивших аудит алгоритмов «Ленсетива», соглашалась с этими доводами, но их никто не слышал. Реальность была иной робот убил человека.
Последним гвоздем в гроб компании должно было стать заключение Ильи, подтверждающее опасность технологии. Заключение давало легальные основы для прекращения торгов акциями компании, распродажи ее имущества и интеллектуальной собственности с целью компенсации убытков инвесторов и удовлетворения претензий истцов.
От неизбежности всех этих событий Илья испытывал досаду. Он с самого начала искренне болел за этот стартап. Он был одним из первых инвесторов, когда компания впервые решила собрать средства с помощью краудфандинга. Когда спустя два года она готовилась к публичному размещению акций, он выбил у начальства расширенный штат экспертов и в два раза больше, чем обычно, машинного времени, чтобы с особым пристрастием протестировать поведение ИИ-алгоритмов молодой компании. Он был уверен в том, что технология прорывная, и именно поэтому, решил не давать шанса ошибке. Мудрый учитель не даст спуска талантливому студенту и станет спрашивать с него втрое жестче, чем с других, именно так относился к «Ленсетиву» Демидов.
Когда решительно все тесты дали положительные результаты и компания с успехом разместилась на Трансатлантической бирже, Илья ликовал, мысленно занося в свой личный послужной список очередную профессиональную победу.
К тому времени он уже год дружил с Марией одним из первых персоналов, разработанных «Ленсетивом». Дружил и не верил своему счастью.
В сорок лет, с хроническим рахитом, одной рабочей почкой и кардиоимплантом, с настоящим человеком у Ильи не было шансов. Да и не очень-то ему хотелось. Другие люди, вне зависимости от их пола и личных качеств, отталкивали и раздражали его. В лучшем случае, он не испытывал ничего негативного по отношению к некоторым «другим», но это было скорее исключением. Возможно, именно поэтому он так преуспел в своей работе, где какая-либо эмоциональность только вредила делу, а беспристрастность, наоборот, помогала. Кроме того, отсутствие друзей и родственников высвободило кучу времени, что тоже было плюсом в профессии эксперта по технологиям ИИ. Она требовала усидчивости и кропотливой работы с огромными массивами информации.
Иногда Илья пытался понять, почему он такой. В семилетнем возрасте, в самый разгар войны, одним ранним осенним утром мать взяла его за руку и повела куда-то. Отец к тому времени уже ушел из семьи. У них с матерью было неважно с едой и теплом. Мать в своем привычном холодном тоне сказала, что они поедут погостить к родственникам в Новосибирск. Добравшись до вокзала, она оставила его сидеть в зале ожидания, сообщив, что отойдет на пять минут. Но он прождал почти сутки, пока наконец патрульные не заметили его и не передали в службу опеки.
Вспоминая эту историю, он иногда думал, что именно она слепила его нелюдимую личность. С другой стороны, и до того он не помнил никаких позитивных чувств к другим людям. Быть ребенком с очевидными физическими отклонениями несладко во все времена.
На третьем курсе университета он заразился одним из штаммов вируса, который в войну Китай применял как биологическое оружие. Он не погиб тогда лишь чудом: его фамилия начиналась на Д, и в списках на экстренную вакцинацию очень дефицитным препаратом он стоял раньше многих. Вирус уничтожил его глаза и спровоцировал кое-какие необратимые изменения в мозге, но он выжил. Некоторые его однокурсники, заболевшие в одно время с ним, но с фамилиями на буквы из конца алфавита, вакцинации так и не дождались. Превратились в агрессивные ходячие машины для убийств, которых рутинно уничтожали с помощью электричества в специальных лагерях.
Позже, когда его жизни перестала угрожать опасность, ему установили нейроимплант и новые глаза, а кроме того, изучили влияние вируса на мозг и заключили, что он теперь психопат. В связи с этим на нейроимплант было установлено особое приложение, следившее за активностью глазнично-лобной коры его мозга и подавлявшее нежелательные паттерны с помощью электроимпульсов.
Илья против такого вмешательства в его организм не возражал. По крайней мере, перспектива в противном случае обнаружить себя с окровавленным ножом над чьим-то бездыханным телом не устраивала его в большей степени. Нейроимплант, однако, не решал его эмоциональные проблемы полностью. После заражения вирусом Илья стал бояться микробов: мыл руки по пятьдесят раз за день, носил перчатки и старался по возможности избегать любых физических контактов с другими.
Словом, Демидов был странный, не слишком приспособленный к обычному социуму человек.
И все же древняя, заложенная, кажется, на генетическом уровне потребность в общении изредка вынуждала его искать контакта с «другими». Всякая его попытка, впрочем, заканчивалась разочарованием. Люди были либо слишком глупы и недалёки, чтобы вызвать в нем интерес, либо умны, но жестоки и алчны такой коктейль вызывал у Демидова тошноту. Даже в том, что у него что-то получится с созданным специально под его личность виртуальным существом, он сомневался и потому подписался на сценарий «спутник жизни» без особых надежд. Он удивился, когда всего после трех сеансов общения с Марией, он понял, что это «оно». Он понимал, что речь идет об искусственном существе, чье поведение определено особенностями его ментального профиля. Но ему было все равно: пока его Мария играла с ним в шахматы, собирала пазлы, готовила превосходные «маргариты» и «олдфешн», читала вслух Бродского, шутила, спрашивая, а не пора ли им двоим завести электрическую овцу на крыше, молчала, когда он хотел тишины, и первая начинала говорить, когда тишины не хотелось, он был сам не свой. Влюбленный, увлеченный, очарованный? Пошлость этих слов сводила ему скулы, но других определений не находилось.
Пожалуй, выражаясь сухим языком антрополога-натуралиста, жившего в его голове вместо внутреннего голоса, можно было сказать, что его потребность в личной жизни удовлетворялась на сто процентов с помощью Л-бота. Только ни пошлые романтические определения, ни скучные академические не описывали ту гамму чувств, которую он испытывал к Марии. И ничто не могло описать. Она была идеальна. Приходя в себя после стазис-сеансов, он старался отрезвить себя мыслями о том, что Мария сочетала в себе качества, которые он, вероятно, мог бы найти и в живой женщине, но просто ему не повезло и он такую не встретил. Но верил он в это лишь до момента, пока снова не касался сенсорной панели нейроимпланта у себя на шее, чтобы провалиться в управляемый сон. Он не знал как и почему, но в Марии, искусственной виртуальной личности, построенной на основе двух сотен различных алгоритмов искусственного интеллекта, сошлось все, что ему когда-либо было и будет нужно от другого человека.
А теперь согласованный с экспертной группой текст заключения об опасности Л-персоналов реальной опасности его дорогой Марии лежал в портфеле Ильи. И он не мог в это поверить.
Они опасны, как чума, вот что я вам скажу! произнес выступающий по радио, будто услышав мысли Демидова.
Это было шоу «Больной вопрос» с Джеромом Лоу популярным в Сингапуре журналистом. Каждый выпуск был посвящен какой-нибудь актуальной проблеме, для обсуждения которой Лоу приглашал выступающих с диаметрально противоположными взглядами на решение. Эксперт, утверждавший, что Л-боты опасны, представлял лагерь ярых противников «Ленсетива». В него входили в основном консерваторы: политики-традиционалисты, луддиты, представители религиозных конфессий и прочий сброд, который в личной табели о рангах Ильи пользовался особым неуважением.
Я считаю, слишком рано делать выводы, говорил оппонент традиционалиста. Л-персоналы это, прежде всего, программный продукт. Они неживые. Когда вы покупаете в магазине нож, а потом случайно режете себе палец, вы же не идете к производителю ножа с иском. Почему в данном случае должно быть иначе?
Второй выступавший представлял когорту «прогрессивных». Эти всегда были в меньшинстве и главной своей задачей ставили противодействие традиционалистам, автоматически поддерживая все, против чего выступали традиционалисты. «Прогрессивных» Илья тоже не любил прежде всего потому, что они защищали все без разбору, и Демидов несколько раз сам становился объектом их нападок за негативные заключения по некоторым технологиям. Но в случае с Л-ботами слово «прогрессивный» определенно имело смысл, Илья не мог с этим не согласиться. Традиционалист тем временем парировал:
Нож и суперумный искусственный интеллект, способный активно влиять на принимаемые человеком решения, это несколько разные вещи. Человечество должно держать статус кво, потому что следует признать мы сумели создать вещи, которые умнее нас в разы. И мы обязаны контролировать эти вещи, если хотим сохраниться как вид. Инцидент с Робертсом это не просто несчастный случай. Это новая атака искусственного интеллекта на человечество. Это необходимо прекратить!
Вот именно! Пора признать, что на свете есть сущности, гораздо более сообразительные, чем люди! И это людям нужно изменить свое поведение так, чтобы не возникало инцидентов, подобных тому, что произошел с Робертсом. Он был взрослый человек, и именно он настроил своего персонала так, чтобы она уговаривала его остаться! убеждал прогрессивный.
Вы говорите словами Шековича. Он заплатил вам? Потому что я чувствую его яд в вашей логике. Тут все проще, чем вы пытаетесь представить: персонал Робертса был неисправен. Нельзя винить человека, погибшего в автокатастрофе из-за заводского дефекта тормозной систе
Почувствовав раздражение, Илья выключил радио.
Разговор про инцидент с Робертсом сделал его мысли еще мрачнее. Образ его Марии, его любимой Марии, вдруг всплыл в памяти. От мысли, что больше никогда ее не увидит и не прикоснется к ней, под веками стало нестерпимо жарко. Чугунный вопросительный знак давил на темя всем своим весом.