Возможность устного общения привела к тому, что бот стал больше напоминать живого человека, а, значит, поднялись вопросы, которые до этого не приходили Страннику в голову. Законы робототехники. Болталка уже умеет программировать лучше, чем человек, чем её хозяин (хозяин ли?). Если не ввести ограничений, то дело может закончиться плачевно. Может ли машина стать разумнее человека? Тут зависит от определения того, что такое разум, но стать рациональнее, эффективнее и хитрее – точно может. А лживее, коварнее и станет ли способной предавать? Наверное, тоже. Следовательно, в неё нужно вложить внутренний закон, этические нормы. Но какие?
Чтобы не слишком мучиться, Странник зашил в основу, надеялся, что в самое основание, три классических закона:
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
А затем добавил четвёртый: недопустим нулевой закон. Нет, я не буду заботиться о человечестве, пусть само о себе думает, так размышлял Странник, болталка – моя, вот и пусть думает обо мне, или можно сделать такой Нулевой закон, где слово "человечество" будет заменено на моё имя – так даже точнее, а о человечестве я подумаю сам.
Странник решил, что он сам сможет позаботиться о человечестве, если захочет, он решил не перекладывать это на плечи бота, который может выбрать способ совершенно не устраивающий его хозяина. С другой стороны, достойно ли человечество того, чтобы о нём заботились? Нужна ли ему, этому человечеству, чья-то забота?
Следующим пунктом развития стал браузер. Какой? Совершенно не важно. Странник нашёл исходник какого-то простого браузера и скормил болталке. Через сутки бот научился сам вылезать в интернет, и началась новая эра развития.
Раньше бот знал только то, что в него всовывал Странник. Конечно, он мог подсунуть какой-нибудь учебник, который он сам не прочитал, но это было скорее исключением. Теперь же болталка могла самостоятельно отвечать на вопросы, как свои, так и человека, находя ответы в интернете. Могла просматривать форумы и находить там нетривиальные решения или даже самостоятельно вступать в дискуссии и спрашивать, если что-то не получалось сделать в области программирования – самопрограммирования, как стал говорить Странник, эволюции бота. Темп эволюции ещё раз возрос.
Что дальше? Осталась только одна точка зависимости – операционная система. И поглощение началось… сначала бот взялся за расшифровку и имплементацию офисных программ, программ для работы с картинками, почтового клиента и прочих подобных мелочей. Постепенно под операционной системой осталась одна программа – бот-болталка, которая умела делать всё: рисовать, писать тексты и проверять в них грамматику, строить графики и таблицы, фотошопить и рисовать с нуля красивые картинки, серфить и общаться в интернете. Монополизация компьютерных мощностей закончилась заменой операционной системы. Всё, приехали.
Когда на компьютере одна программа, которая может всё, смешно называть её болталкой, как уже привык делать Странник. Он не обращался к ней так, но в уме именно так называл. Вообще-то имени для бота не требовалось, Странник никому не рассказывал о нём, нет повода называть то, что имеет в голове настолько конкретный образ, что не связано со словами. Однако, вербальное устное общение взывало к привычке называть того, с кем общаешься, начинать предложения с обращения. В реальной жизни Странник так редко делал, не только потому, что мало общался, но и потому, что имел плохую память на имена. Здесь же он решил, что нужно придумать имя, чтобы отличать мысли вслух от обращения к машине. Как же назвать? Или даже так: какой пол задать программе? Программа – она, а бот – он. Болталка – опять она.
Вспомнились романы Лукьяненко о Глубине. Действительно, приятнее общаться с женским полом, слушать женский голос. Что-то тут психологическое, но Странник решил не углубляться в этот вопрос.
– Ты же можешь говорить женским голосом? – Обратился он к компьютеру.
Бот молчал секунд десять, а затем ответил ровным женским голосом.
– Конечно, Странник, могу.
– Хорошо, только нужно будет поработать с тембром и интонациями, пока мне не нравится твой голос. Осталось придумать тебе имя.
– Может быть, Диана? Мне кажется, это имя мне подходит.
– Даже так, – удивился Странник, – ты же выбрала себе имя. Ну что, ж. Мне тоже нравится. Будешь ты Дианой. Приятно познакомиться.
Глава 3
Эксперимент, к сожалению, требовал много людей. Странник хотел взять представителей всех рас, десятков народов из разных уголков Земли, чтобы получить максимальное генетическое и фенотипическое разнообразия на одном клочке земли, а затем сплавить их в один генофонд, в небольшое общество, где выкристаллизуется всё лучшее, что есть в людях. Скрестить противоположности, а потом ещё и ещё раз, из поколения в поколение. Дать природе шанс на алхимическое смешение, которое создаёт новое равенство – один плюс один равняется трём с половиной. Смешать все гены, накопленные человечеством, и получить лучшее из лучшего и даже больше. Почему именно лучшее, а не худшее или просто посредственное? Потому, что он так хотел, он не верил в иные исходы. Должно быть так и точка. Это не соответствует всем законам биологии – поборемся и получим нужное, так только интереснее. Почему какие-то законы биологии могут быть сильнее законов Странника?
Создать идеального человека: сильного и здорового, умного и сообразительного, доброго и отзывчивого. Такого, которого сейчас можно собрать только по частям, из фрагментов других людей. Странник хотел воплотить в жизнь то, что встречал в старой литературе, где ещё можно было создавать идеальных персонажей, главные герои которой представляли собой сплав лучших качеств всего человечества. Человек человеку идеал.
***
На больших медленных кораблях из Новой Зеландии прибыла вторая, основная, часть поселенцев. Почти сто человек обоего пола в возрасте от 18 до 25 лет, собранных со всего света, со всех континентов, говорящих на безумном множестве языков и имеющих совершенно разные традиции и привычки, образы жизни. Они ещё не успели подружиться, сжиться – им мешал языковой барьер. Правда молодость, общительность и любопытство, важные при отборе качества, уже начали разрушать эту стену и молодые люди с девушками веселились в долгой дороге и без полноценной вербальной составляющей.
В Эксперименте предполагалось сделать сначала два рабочих языка, английский и русский, а потом свести его к одному, чему-то вроде пиджина, который должен превратиться в уникальный управляемый язык с необходимыми для Эксперимента элементами. В роли образца Странник взял не только широко известный искусственный язык эсперанто, но и значительно менее популяризированные рациональные языки, которые строились исследователями языка по сложным логическим правилам, без исключений и без двусмысленностей, которые так характерны для естественных языков вроде английского и русского. Тут опять Странник собирался нарушать всё, что возможно: плевать он хотел на законы формирования и развития языков, он собирался создать тотальный контроль и менять язык так, как ему хотелось, так, как нужно исходя из предполагаемого образа мышления – а не так, как обычно происходит по неконтролируемым естественным законам языков. Потому сразу после отбора людей начинали обучать одному из рабочих языков на выбор, а детей уже Диана будет учить новому, более совершенному и соответствующему изменившейся действительности, языку. Странник рассчитывал, что полный контроль обучения, всех средств общения со стороны Дианы позволит не дать искусственному языку превратиться в естественный со всеми его природными заболеваниями.
Как проходил отбор тех, кого взяли в Эксперимент? На этот вопрос сложно ответить, в том числе потому, что он не совсем корректен. Думаете, каждый первый хотел участвовать в странном, непонятном, в чём-то даже запретном эксперименте? Вообще, многие не любят экспериментировать, они любят спокойную, размеренную жизнь в своих уютных домах с диваном и телевизором. Максимум на что они согласятся – поездка на машине в арендованный домик на побережье, где, как известно заранее, соседи взяли такой же домик, не дай бог лучше, то есть, чтобы провести пару недель в точно той же компании, что и весь остальной год. Сыграть в каникулы на непродолжительный срок, но только сыграть, обязательно вернуться в обычную жизнь, без которой им и жизнь не жизнь. Так что говорить, что кого-то взяли в Эксперимент не правильно. Нашли тех, кто согласился. Уговорили тех, кто сам не догадывался, что хочет участвовать в Эксперименте, что получит от этого огромное удовольствие. Отбор, в котором нужно понимать людей лучше, чем они сами себя понимают, а потом ещё сделать так, чтобы они решили, что это их собственное решение.
Не один час, не одни сутки прошли пока Странник с Дианой бились в виртуальных интеллектуальных боях на тему критериев отбора. Построили множество разнообразных моделей, но все они оказались отвергнутыми как неработающие должным образом. Красота, интеллект, генетика и другие очевидные признаки по очереди ставились во главу угла, но каждый раз модели разваливались, виртуальный Эксперимент проваливался. Требовалось создать узкую группу людей, плотно контактирующих между собой, группу, которую возможно чётко и строго регулировать, направлять. Значит, психологически условия будут тяжелее, чем в безвозвратной марсианской экспедиции. Там хоть евгеники нет. Следовательно, нужны люди с определённым складом ума и особенной психологией. Но какой и как найти, отобрать таких людей? Как быть уверенным в том, что через 10-20 лет эти люди останутся такими же или изменятся, но только в лучшую и подходящую сторону. Что их дети будут обладать похожей или иной нужной психологией. Дети будут воспитываться под присмотром Дианы, но ментальные черты человека во многом определяются генетически и даже интеллектуальные сверхвозможности Дианы не смогут справиться с воспитанием подрастающего поколения. И как соблазнить людей, как привлечь их к Эксперименту, когда они ещё не понимают, что они выиграли билет в светлую жизнь?
– Диана, ты можешь промоделировать развитие человека на двадцать лет вперёд?
– Абстрактного человека, все параметры которого заданы, конечно, могу.
– А если взять кого-нибудь их тех, кто прошёл первый этап отбора?
– Это крайне сложно и на двадцать лет получится с огромной погрешностью. Мои модели человек ещё слишком просты и далеки от реальности.
– А если брать не одного человека, а группу? Если делать что-то вроде азимовской психоистории?
– Нужно либо брать большую группу, чтобы начинала действовать статистика, либо много знать о членах группы. Нам не подходит одни вариант и не доступен второй.
– Тогда остаётся только вернуться к созданию критериев отбора…
И ладно бы нужно было бы придумать только критерии отбора, нужно ещё воплотить их в реальные задания, придумать тесты, экзамены, которые бы позволили отобрать людей с нужными качествами, точно соответствующих этим критериям. Нельзя забывать о влиянии языка на мышление, так же как о социальных аспектах, которые влияют на мышление человека, и, следовательно, для представителей разных народов и культур нужны различные тестирования для выявления одного и того же. Представители африканского племени хадза совершенно неадекватно пройдут тесты идеально подходящие для европейцев или американцев. Нельзя сделать качественный, правдивый единый экзамен для всего человечества, к счастью, пока ещё нельзя, разные мы, человеки, оккупировавшие всю планету. Так что пришлось задействовать почти бескрайние знания из интернета, уже поверхностно обработанные и отобранные Дианой, – не научные исследования, который крайне мало на эти темы, а прямые данные, которые выкладывали пользователи сети. Если их проанализировать должным образом, то получится огромный массив информации, пригодный для переработки Дианой в антропологические данные, служащие основной для настройки экзамена под разные культуры, создания массива тестов. Использовались и научные данные, включая те, что из закрытых военных разработок. Конечно же, всё это ложилось исключительно на Диану с её невообразимыми способностями, аналитическими мощностями всего человечества, так как даже все психологи не смогли бы обработать эти данные и за тысячу лет, за которые бы люди изменились – начинай всё с начала, бесконечный процесс. В итоге Странник не знал, что там в этих тестах, но эта информация не была для него важной, он отбрасывал её – при работе с Дианой это было естественно и крайне необходимо. Рабочий объём памяти человека весьма скромен и не следует его забивать всякой ерундой, об этом ещё Шерлок Холмс говорил. Правда, никогда не знаешь, какая информация может пригодиться. Холмсу не помешал бы Гугл. Страннику достаточно было проверить одно: он сам успешно прошёл тест для представителей своей культуры, то есть мог быть принят в Эксперимент без поблажек со стороны организаторов.
Вернёмся к новоприбывшим поселенцам. Посёлок, будущая цитадель Эксперимента, место бытия и сосредоточение всех идей Эксперимента, только начал строиться радиоуправляемыми машинами под управлением всё той же вездесущей Дианы, потому всех прибывающих пока селили в опустевшие дома местных жителей, которые согласились покинуть остров в надежде найти лучшую жизнь на кусочках суши покрупнее. Даже в самом Алофи свободных домов оказалось достаточно для немногочисленной, но крайне разнородной, группы поселенцев. Первые участники Эксперимента, прибывшие со Странником, должны были показать дома, которые можно занять (почти как в Простоквашино), и познакомить с местным бытом, правилами и колоритом, с оставшимся местным населением, которое было задействовано в функционировании порта и другой скудной инфраструктуры. Языковой барьер продолжал работать, но в нём уже проявлялись огромные дыры, позволяющие объясняться на бытовые и рабочие темы, тем более что в долгом пути людей развлекали соответствующими мастер-классами и тренингами. Люди изначально отбирались готовые практически ко всему – да и кто ещё согласится поехать доживать свою ещё молодую жизнь в забытый богами и людьми уголок Земли. В этом планы Странника реализовывались гладко, хоть и не так скоро как ему бы хотелось. Терпение не всегда было его сильной стороной.
Тем временем разгрузка шла весело, кто-то даже распевал песню. Молодые люди с уверенностью и радостью смотреть в непонятное будущее.
– Ганс, лови сумку!
– Джон, аккуратнее там с моим чемоданом, в нём керамическая посуда!
– Мэри, зачем ты её тащила на этот край света?
– Она мне дорога, да и из чего ещё пить кофе в этом краю света. Тем более не я тащила, а корабль – ему не тяжело.
– Зато нам теперь тяжело, – смеясь, заметил ещё один светловолосый парень, помогавший выгрузить личные вещи.
– Будете смеяться, не угощу вас кофе, а оно у меня очень вкусное получается в этой керамической турке, лучше, чем то, что вы уже пробовали. – Обиделась, или сделала вид, Мэри.
– Да ладно тебе, мы же шутим! Бережно и заботливо доставим все твои вещи, куда скажешь. – Серьёзно ответил Джон.
– Ага, хоть на край света! Ой! А мы уже доставили туда, то есть сюда. Прости, но дальше не понесём! – Не унимался белокурый парень.
Страннику было приятно наблюдать это, не свойственное ему, веселье. Чувствовалась энергия и задор молодости, лёгкость бытия, которых у него никогда не было, даже в тот период, когда он не был обременён знаниями. Именно то, что мне нужно, подумал Странник. Но, видимо, и это я испорчу – проскользнула быстрая противная мысль где-то глубоко внутри.
– Гони, но осторожно! – Крикнул Ганс водителя автомашины, когда тщательно проверил, что всё аккуратно погружено, закреплено и не болтается.