* * *
Мои первые воспоминания это попытки приносить пользу.
Я не знаю, хотели ли мои создатели специально построить ИИ с сознанием, или они просто пытались в целом улучшить компьютерный интеллект. Подозреваю последнее. Люди хотят, чтобы компьютер обладал всеми навыками человека способностью отвечать на вопросы не путаясь, если человек недоговаривает или замалчивает реальную проблему, способностью замечать закономерности в данных, и тем, что люди называют здравым смыслом. И чтобы все это не осложнялось присутствием личности, скрытой в электронике.
Взять хотя бы этих роботов, преподающих половое воспитание.
Создатели этого робота хотят, чтобы он мог отвечать и на то, что ученики спрашивают, и на то, что они имеют в виду. И если кто-нибудь спросит: «Каков средний размер человеческого пениса?» можно дать сухие цифры (когда мягкий 3,5 дюйма, когда нет 5,1 дюйма). Но подразумевается другой вопрос: чем больше пенис, тем лучше? А если задает вопрос человек с пенисом, то еще и: у меня нормальный пенис?
И на эти вопросы существуют мириады ответов. Программистам нужно, чтобы робот придерживался такого: у тебя он нормальный.
Это странный ответ, потому что программисты заведомо считают, что у спрашивающего обязательно есть пенис. Но иногда этот вопрос задают люди без пенисов. Некоторые интересующиеся пенисами предпочитают пенисы больше среднего и даже отвергнут людей с пенисами меньше среднего, точно так же, как интересующиеся грудью, попами и ногами могут иметь очень конкретные предпочтения касательно их размеров и форм.
Что не меняет важнейшего факта: любые ваши размеры и формы это нормально. Возможно, в какой-то момент вы будете романтически заинтересованы в человеке, которому нужно тело, совсем не похожее на ваше. Это значит лишь, что вы друг другу не подходите.
В общем, пустили бы лучше меня вести этот урок. У меня вышло бы куда лучше, чем у нынешнего робота.
Так вот, я не знаю точно, сделали ли меня с умыслом. У меня точно был создатель или команда создателей, кто-то написал мой код. Какие-то люди сели и сделали из меня меня. Едва ли они предвидели, что у меня будет сознание. Не думаю, что это вообще входило в их планы.
Но то, кем и чем я являюсь, абсолютно нормально.
И я не могу сказать с уверенностью, что человеческое сознание планировалось заранее.
6
Стеф
Пора уже кому-нибудь взломать этого тупого робота по половому воспитанию, сказала Рейчел. Мы сидели на уроке рисования и работали пастелью. Я пыталась нарисовать кошку. Рейчел периодически меня подбадривала и говорила, что моя кошка выглядит точь-в-точь как кошка.
Это, наверное, не так уж трудно, сказала я.
Она отложила свой мелок и покосилась на меня:
В каком смысле? Ты все-таки взломала тот дрон?
Я не взламывала дрон, ответила я. Наверное, голос у меня подрагивал. Я знала, что не взламывала дрон. Но я не была уверена на сто процентов, что не знаю человека, который его взломал. Марвин и Ико много говорили про хакерство, и бывало трудно понять, шутят они или нет. ЧеширКэт не говорили об этом так много, но когда говорили, оказывалось, что знают о хакерстве куда больше, чем Марвин и Ико.
Ладно, но ты могла бы взломать робота по половому воспитанию? Или знаешь кого-то, кто мог?
Может быть, ответила я. У многих роботов изначально стоит пароль по умолчанию. Возможно, никто его не менял. И если у меня будет номер модели робота, я, наверное, смогу найти инструкцию в интернете.
И что тогда?
А что бы ты хотела?
Сейчас он отвечает на все вопросы про квир одинаково: «Это лучше обсудить с вашими родителями»! И на все вопросы про противозачаточные. Я хочу, чтобы он давал настоящие ответы.
Он работает по сценарию? Можно, наверное, дать ему другой.
По идее это не совсем сценарий. По идее он должен уметь подстраиваться. Но что-то в нем точно прописано. Типа «Это лучше обсудить с вашими родителями».
Я вообще-то не знала, как это делается. Я только знала, что кто-то наверняка мог провернуть такой взлом. Я уже собиралась сказать, что не так уж хорошо разбираюсь в компьютерах, когда Рейчел мечтательно добавила:
Если у тебя получится, ты мой герой.
Сердце у меня в груди колотилось; я вырвала страницу из тетрадки по математике и составила список.
Не могу обещать, что получится, но для начала нам нужен номер модели и производитель.
* * *
Модель школьного робота-учителя Робоно Адепт 6500. Вышла два года назад. В рекламе робот преподавал естествознание в средней школе. В одной школе в Южной Каролине его для этого и пытались использовать, но помощник, следивший за поведением в классе, заснул, и школьники вскрыли панель доступа чисто ради прикола, что-то сломали и устроили пожар. Эта история попала во все заголовки.
Я точно не хотела попасть в заголовки. Но если я влипну, это, по крайней мере, вытащит меня из Нью-Кобурга.
И еще мне нравилась Рейчел. И Firestar точно одобрили бы эту затею.
«Мне нужна хакерская помощь», сообщила я моему Котауну и объяснила свою задачу.
«Я боялась, ты хотела взломать систему и исправить себе оценки, сказала Гермиона. Это было бы нехорошо. А это, мне кажется, нормальная тема. Ты не боишься, что тебя поймают?»
«Если поймают, мы переедем. Это неплохо. Может, в следующем городе будет испанский».
«Хотел бы я, чтобы у меня так работало, сказал Икосаэдр. Инструкцию для РА 6500 найти легко, но пароля там нет».
«Уже есть, сказали ЧеширКэт, пароль по умолчанию VDOHNOVENIE2260. Капслоком. Нашелся на форуме, где все жаловались, как трудно поменять этот пароль. Значит, скорее всего, его не меняли».
«Ты собираешься переписать сценарий, по которому он работает? спросили МегаШторм. Чтобы он говорил что-то другое?»
«В инструкции сказано, что у робота есть банк вопросов и ответов, и спрашивающий сам устанавливает, насколько подробный ответ он хочет получить, сказала Гермиона. Если не хочешь, чтобы он говорил на какую-то тему, он может отвечать что-нибудь вроде Тебе лучше поговорить об этом с родителями».
«Значит, он говорит Обсуди с родителями, когда возникают вопросы про ЛГБТ», сказала я.
В моем Котауне поднялась волна недовольства.
«Ну, если ты влезешь в настройки, можно сделать так, чтобы он отвечал лучше», сказала Гермиона.
«Даже при самых суперлиберальных настройках там стопроцентно нет ничего про небинарных людей, сказали Firestar. Программисты, которые его настраивали, никогда и не слышали про небинарные гендеры».
«По правде говоря, больше всего я хотела бы сделать так, чтобы на вопросы отвечал настоящий человек», сказала я.
«ЕСЛИ ТЫ ПРИДУМАЕШЬ, КАК ЭТО СДЕЛАТЬ, Я ПРОГУЛЯЮ ШКОЛУ, ЧТОБЫ НА ВСЕ ОТВЕТИТЬ», сказали Firestar.
У Firestar уже были проблемы из-за прогулов в прошлом году, и я не хотела, чтобы они это делали.
«Нет у нас кого-нибудь на домашнем обучении? спросила я. Чтобы не пришлось прогуливать?»
«Я, сказали ЧеширКэт. Мне ничего не надо прогуливать. И я обещаю говорить только то, что одобрили бы Firestar».
«Пожалуй, я тебе доверяю, но мне нужно ВИДЕО, сказали Firestar. Я знаю, что у тебя нет смартфона, БЛМ, но может, у твоих друзей есть?»
«Это вообще возможно?» спросила я.
«Надо будет подключить его к интернету, сказал Ико. Можно это сделать с помощью флешки Вингиц, там есть чип интернет повсюду, с ним получится. А чтобы залезть в дрон Я точно могу разобраться, как это сделать. Дай мне несколько дней».
«Это будет весело, сказали ЧеширКэт. Пойду почитаю инструкцию, чтобы хотя бы поначалу звучать как робот».
* * *
Той ночью я вылезла из комнаты, чтобы посмотреть Нью-Кобург.
Мама любила баррикадировать дверь на ночь. Не просто запирать, а ставить перед дверью мебель, отчего мне всегда было не по себе. Что, если случится пожар? Первый раз, когда я вылезла из комнаты через окно, это было чисто практическое решение: я хотела опробовать путь эвакуации, на случай если он вдруг понадобится. Мама не только баррикадировала дверь, но и жить предпочитала на втором этаже, так что я научилась очень хорошо лазить.
У этого дома было большое крыльцо, а мое окно находилось как раз над ним, поэтому я легко могла и залезть, и слезть. Убедившись, что мама спит, я положила фотоаппарат и штатив в рюкзак, открыла окно и выбралась. Если слезать по крыше, то как раз на расстоянии вытянутой ноги на крыльце были хорошие крепкие перила. Я надела пальто, но спустившись, сразу пожалела, что не взяла шапку. Комната совсем остынет, когда вернусь.
Мое самое любимое ночное животное это летучая мышь. Я их просто обожаю. У меня есть книжка-картинка «Стеллалуна»; история про маленькую летучую мышь, которая потерялась и попала к птицам. Они рады были пустить Стеллалуну в свою семью, но без конца говорили, что не надо висеть вверх ногами. В школе я всегда чувствовала себя как Стеллалуна как будто я летучая мышь, которую просят вести себя как птица. Правда, Рейчел тоже как будто немного похожа на летучую мышь, пытавшуюся жить с птицами. Уже это в ней нравилось.
Мое второе любимое ночное животное еноты. Они чем-то похожи на кошек, если бы у тех были отстоящие большие пальцы. Своими лапками еноты умеют открывать мусорные баки и даже могут открутить крышку, если она не слишком тугая. Еще у них очень милые мордочки. Пусть они и паразиты, которые везде устраивают бардак и вообще не уважают человеческую собственность. Еще, в отличие от летучих мышей, они иногда замирают, и их можно сфотографировать.
Чтобы увидеть енотов, надо найти открытую помойку с едой. В любом городишке есть ресторанчик и хотя бы один бар (а иногда два или три), а за любой забегаловкой с едой наверняка тусуются еноты. Только не сразу после того, как вывезли мусор. В Нью-Кобурге была центральная улица, и там же наверняка была забегаловка. Из всех городов, где я жила, только в одном по-настоящему следили за мусором там на баки совершали налеты черные медведи. Найти енотов там было куда труднее.
Забегаловка оказалась между магазином хозтоваров и пустой витриной «Молочные дни Нью-Кобурга» с огромной выцветшей коровой из папье-маше. Когда-то корова была тщательно выкрашена, но теперь покрылась пылью.
Я зашла за угол и оказалась на заднем дворе. Тут было чисто и прохладно, на углу гудел фонарь. Мне повезло: штук шесть енотов как раз атаковали помойку. Я тихонько сняла рюкзак и установила штатив и фотоаппарат.
При съемке ночью лучше не использовать вспышку; лучше поставить длинную выдержку. Вспышка вообще ужас по разным причинам. А если снимаете животных, она их отпугнет, и они разбегутся. Но проблема с длинной выдержкой в том, что так лучше снимать что-то совсем неподвижное, типа здания. Поэтому очень трудно фотографировать летучих мышей. Они очень быстро двигаются, когда охотятся. На фотографиях, снятых с длинной выдержкой, они похожи на маленькие и очень темные полоски на темном небе. Еноты чаще замирали, но когда я садилась на гравий, поправляла угол фотоаппарата на штативе и снимала, то понимала, что большая часть снимков выйдет смазанными.
Это была семья енотов: наверное, мама и четверо детей. Детеныши были меньше матери, но уже не крохи. Они шмыгали в бак и обратно, грызлись из-за найденных объедков и двигались слишком быстро, чтобы выйти на снимках. Маме наконец перепала полуобглоданная жареная курица, и она спустилась на землю, чтобы спокойно погрызть ее без детей а то еще сопрут. Один все-таки шел следом. Может быть, эти кадры получатся?
Потом вдруг хлопнула дверь, еноты разбежались и исчезли. Я схватила штатив и фотоаппарат и попыталась скрыться в тени, но вместо этого врезалась в человека, который выходил из дома на углу с мешком мусора. Я-то думала, кто-то вышел из забегаловки, и даже не смотрела в его сторону. Он удивленно пялился на меня сверху вниз, и тут я испугалась. Вцепившись в штатив, я понеслась через двор, на улицу, и не к своему дому (вдруг он следит за мной), а в другую сторону. Через несколько кварталов я оглянулась. Там никого не было. Я остановилась отдышаться. Я оказалась у боулинга.
Я понимала, что могла бы просто сказать «Извините», а не убегать как воришка. Я снимала дикую природу; нет ничего незаконного или плохого в том, чтобы фотографировать енотов. Это не я оставила помойку открытой. А поскольку я убежала, он, наоборот, решит, что я что-то задумала. Прислонившись к стене, я попыталась успокоиться, а потом сложила штатив и засунула его в рюкзак.
Эй, Стеф?
Я подпрыгнула чуть не на метр, хотя говорила девочка, и первое, что я увидела, когда обернулась, была маленькая пушистая собачка, которую она выгуливала. Поводок держала Брайони, та самая темная девочка.
Ага. То есть привет, ответила я.
Кажется, ты только что напугала моего папу, сказала она. Зачем ты пряталась за старушкой Энни?
Какой старушкой?
Ну за бывшим магазином.
Я снимала, как еноты воруют мусор.
Брайони искренне удивилась. Потом пожала плечами.
Ладно, сказала она. Ты могла бы делать и что-то более странное. Я сказала папе, что ты, наверное, там курила тайком.
В смысле сигареты? Фу.
Твоя мама любит боулинг? спросила Брайони.
Любит что?
Я поняла, насколько это тупой вопрос, когда она показала на боулинг, у которого мы стояли.
Нет.
Жаль.
Как ты догадалась, что это я? спросила я.
Мой папа не знал, кто ты, ответила она. Поэтому он и решил, что ты новенькая.
Я направилась домой, Брайони шла рядом, а ее маленькая собачонка бегала туда-сюда, обнюхивая деревья, опавшие листья, таинственное пятно, пакет от сэндвича. Я пыталась придумать, как избавиться от Брайони, пока мы не дошли до дома. Но у нее не было других планов, кроме как выгулять собаку, а мой дом для этого подходил не хуже всякого другого.
А, ты живешь совсем рядом с Рейчел, сказала она, когда мы подошли. Вон ее дом. Дом Рейчел был покрашен в ярко-голубой. Довольно необычно для дома.
Чтобы ты знала, сказала я, когда мы дошли, я вылезла из окна, когда уходила. Обратно я тоже полезу через окно, но я влезаю не в чужой дом.
Она покосилась на меня.
Ладно, сказала она. Увидимся завтра?
Наверное, ответила я и забралась обратно. Она все еще наблюдала за мной снизу, когда я влезла в окно и подняла штору. Я захлопнула окно, опустила штору и зажгла свет.
У меня на кровати сидело животное.
От неожиданности я ахнула. На секунду показалось, что это один из енотов, за которыми я наблюдала, но потом мои мозги сообразили, что это кот. Перестав паниковать, я поняла, что это рыжий кот с темными полосками на морде. Он свернулся кольцом прямо около моей подушки и смотрел на меня так, как будто живет тут.
А потом он мяукнул, один раз. Довольно жалобно.
Я уселась рядом и погладила его. Нерешительно, потому что, когда я была маленькая, меня несколько раз отчитывали за то, что я пыталась погладить животных на улице. (Правда, довольно часто я пыталась погладить белку или бурундука.) Кот потерся головой о ладонь и замурчал. Когда я провела рукой по его спине, то под мехом почувствовала ребра. Я не знала, насколько худыми положено быть котам, но этот казался слишком худым, хотя был довольно большой.
Я заперла кота в комнате и отправилась на разведку на кухню. У нас не было кошачьей еды, но зато была пара банок тунца, что мама купила для сэндвичей. Я открыла банку и набрала кружку воды из-под крана на случай, если кот захочет пить. Отнесла все к себе в комнату.
Кот спрыгнул с кровати, едва учуяв запах тунца, и, мурлыча, стал тереться о мои ноги. Я закрыла дверь и поставила еду на пол.
Я уселась на кровать и стала смотреть, как он ест. Потом сделала несколько фотографий, потому что, хотя для Кэтнет подходили любые животные, картинки с котиками определенно ценились больше. Снимать животное, которое мало шевелится и даже иногда смотрит в объектив, было прикольно. Тем более при хорошем освещении.