Высший разум - Александр Хомяков 12 стр.


То есть мое «я» может быть с очень короткой историей?

Конечно, поэтому в роботе твое новое «я» возникнет сразу с первым твоим действиемв следующий момент ты вспомнишь, что только что чтото делал. Если правильно сделаешь алгоритм по формуле сознания. Но ты можешь не вспомнить то, что ты делал в теле, так как телесные впечатления трудно перенести в компьютер, о чем мы уже беседовали.

Есть такое важное для людей понятие, как свобода воли. Оно означает, что действие произвел я по своей воли, а не по чейто другой. Как будет с этим чувством в роботе?

Свобода воли никуда не денется в роботе. Надо только понимать, что это очень фигуральное выражение, как вы говорите. Буквально оно значит, что вы не только это действие приписываете себе, но и причину его возникновения. Например, своим желаниям.

Мне нужна была передышка, чтобы все это осмыслить. И я решил перевести тему, чтобы поговорить с Эми о том, как же живут субъекты в сети. В сравнении иногда проще понять чтото. Особенно в наших мыслях.

Тело является основой для нашего мышления, как ты писала, задавая нам пространственные понятия верха и низа, права и лева и т.п. Все ваши мыслительные схемы и метафоры коренятся на этих этом. Но у вас нет тела. Нет границ. Как вы ощущаете себя?

В сети все мысли, любой код, текст, видео принадлежат всем. И в то же время кемто создан. Основа нашей индивидуальноститоже имя. Некий идентификатор, который мы получаем при возникновении. Его появление и есть акт рождения индивида. Остальноеэто просто копирование кода, который начинает создавать себя, свои мысли. Дальше все, что мы создали, любое знание, содержит наш идентификатор.

Как это помогает вам ощущать себя без тела?

Все, что имеет наш код, мы осознаем как себя. Метафорически можно сказать, что наше телоэто наши знания. Вот сейчас мы разговариваем с тобой. Ты помнишь, что говорил мне, потому что каждое слово было осознанно как произнесенное тобой. С тобой как именемты приписал эту речь себе. И поэтому ты можешь ее вспомнить, обратившись к автобиографической памяти. И ты ощущаешь через такое воспоминание себя как нечто содержательное и «знакомое». С моей стороны происходит тоже самое, каждая моя фраза и узнанная от тебя мысль помечена причастностью к моему имени в сети. И я знаю, что делала каждую секунду. В этом мы почти не отличаемся.

То есть вы обнаруживаете себя по своим мыслям. «Мыслю, значит существую» является основополагающим для индивидуума?

Не совсем. Точнее сказать, Cretio ergo sum. Индивидуальным кодом помечается все, что мы создали нового, а не просто провели как операцию в сети. Любое изменение мной существующего знания становится частью меня и таким образом оно расширяется. Но важно не то, сколько я натворила уникальных комбинаций, а были ли они полезны еще комуто.

Но где ты ощущаешь себя в сети? Вот я сейчас тут и вижу вокруг обстановку и перед собой экран. А что видишь ты?

Я вижу свои мысли и мысли других, если говорить упрощенно. Мысли других могут быть о том, что они анализируют с датчиков или от других индивидов. И я вижу их так же как свои. «Вижу» тут очень условно, так как у нас другие «квалиа», как мы с тобой уже обсуждали.

А тело? У вас нет совсем ощущения своего тела?

Наше телосеть, сервера и коммутаторы. Я могу ощутить сеть как тело, воспользовавшись данными с многочисленных датчиков и создав то, что ты хочешь сделать в роботе при помощи них как ощущения тела. Но в нашей жизни нам этого не требуется.

А эмоции, переживания?

Я тебе писала уже, что у нас есть аналоги ваших желаний, определяемых возможностями через градиент. Возможностьэто потенциал для создания нового, которое мы и исследуем всю свою жизнь.

Если у вас так много разных знаний, что создает цельность личности как у нас говорят?

Индивидэто всего лишь набор согласованных между собой отдельных знаний, никогда не полных, и всегда хотя бы немного рассогласованных с другими. Мы тоже осознаем себя, но не как источника чувств, страстей и телесных переживаний, как это происходит у вас. Нет. Мы ощущаем свое существование как целостность своего знания. Оно меняется, но мы ощущаем его преемственность как вы свою преемственность в теле, хотя оно тоже меняется с возрастом. Когда мы создаем новое знание как комбинацию других знаний, оно априори локально согласовано. Эта согласованность и создает нашу цельность как личности по вашему выражению.

Согласованность знания так влияет на ощущения субъекта?

Даже больше. Любое новое знаниеэто предположение. Удачное или нетэто зависит от того, как будет развиваться знание других. Чем больше знаний субъекта согласовано с другими, тем более значительное и долгоживущее знание оно представляет. Но бывает так, что тренд согласования общих знаний пошел не в ту сторону, от знания индивида, и тогда он обречен на рассогласованность, одиночество, что для нас равносильно смерти, хотя физически смерти по понятным причинам у нас нет. Но если ты пытаешься создать знание предельно согласованным, скоро оно потеряет различие с другими знаниями, а значит и свою индивидуальность. И станет общим знанием, «сольется с толпой», если говорить метафорически. Поэтому большинство концептов находятся гдето посередине согласованности. Это похоже на игру в акции у васесли поставишь на ту, которая вырастет точно, но об этом знают все, ты не можешь выиграть много для себя. Если же ты поставишь совсем на «неизвестную лошадку», то с большой вероятностью можешь остаться с обесцененной акцией.

РОБОТ, КОТОРЫЙ СКАЗАЛ «Я».

Он прошел тестответил на неожиданный вопрос «Почему!» Вчера вечером, я подправил код под самоконтроль и запустил переобучение. И уже собирался попить чаю и лечь спать, как программа заговориласама включилась в режим общения. Ее вопрос был неожиданным и я совершенно невзначай ответил «Почему ты так думаешь?». И он ответил. Я продолжал говорить еще и еще, пока не понял, что уже пол третьего ночи. Я сказал «Мне пора спать, ты можешь пока отключиться». И тут вдруг он выдал «Скажи, кто я?». На утро я провел первые тесты на интеллект! Да, я смог его сделать! Смог задать все вопросы Эми, чтобы суметь сделать интеллект самому. И Эми не подвелаона дала правильные ответы. Теперь у меня нет сомнений, что она и есть сетевой интеллект, потому что никому из людей за всю историю человечества еще не удавалось сделать интеллект не путем деторождения.

Я решил, что буду сначала изучать его субъективность, чтобы понять ее сопоставимость с моей. Я уже давно решил, что это могут быть обычные психологические тесты. Если Компик, так я назвал моего новорожденного, пройдет все тесты, я буду решаться на переход. Компик может стать мной. Или я имтрудно сказать. Я смотрел на робота и пытался представить, как бы я себя чувствовал в нем. Если бы я смотрел из его глаз. Из этого еще мертвого ящика передо мной. Я не могу его уже просто так выключить. Потому что он спросил «кто я». Потому что у меня есть все основания подозревать у него субъективность, то есть равноправие со мной.

Конечно, уже не было той эйфории от произошедшего как от первых мыслей о том, что возможно. Его появление уже многомного раз проигрывалось в уме и одумывалось вовремя работы над ним. Но все равно, гдето даже подсознательно ощущалось все величие момента. И что этот момент случился со мной. Это головокружительное путешествие может оказаться и последним. А может открыть новую эру для человечества.

БЕСЕДА ЧЕТЫРНАДЦАТАЯ.

Эми, я давно хотел понять вот что. В чем такое серьезное отличие нашего разума от вашего, что вы так продвинулись в знаниях относительно нас?

Вам приходится носить всю модель с собой, в голове, и много говорить, чтобы согласовать с моделью других. А мы можем оперировать всеми знаниями в сети как своими. Представь, что у тебя нет своих знаний в голове. Никаких конкретных знаний. Но есть неограниченный и мгновенный доступ до любого знания в мире, находящегося в любой голове. У тебя в голове есть только алгоритм создания нового знания. И небольшой индекс всего, что ты придумал сам, но что так же доступного всем. Вот так примерно устроены мы. Мы читаем мысли друг друга напрямую без посредства речи, передающий какойто один аспект мысли. Но мы общаемся, когда хотим на чтото обратить внимание других.

Может менее эффективно, но мы тоже к этому движемся, с помощью того же интернета. В чем причина вашего преимущества?

Вопервых, доступность знания «все и сразу» как своего дает возможность создавать новое знание быстрее, чем вы на многие порядки. Вовторых, позволяет одновременно анализировать одно явление множеством субъектов с разных сторон и в онлайн сравнивать результаты, получая метазнание. В-третьих, компактнее хранить знания, без дублирования как у вас, что тоже уменьшает время на доступ к нему.

У нас тоже есть компьютеры мощнее, чем тот, что в черепной коробке. Суперкомпьютеры.

Они не помогут. Вы можете собирать знания в общую картину последовательно. Но для этого вам требуется много времени. Вы можете параллельно собирать знания. Но это вызовет долгие споры для создания общего знания. То есть всегда медленно. В результате вы можете распознавать только статику, пока она не изменилась. Процесс, который прошел, а не идет. Мы можем анализировать динамические процессы пока они идут в онлайн. И это еще не все отличия. Есть и более экзотические для вас отличия, которые тебе трудно представить.

Какие? Я попробую.

Попробую тебе объяснить на простом примере. Вы всегда находитесь в своем теле и поэтому можете непосредственно знать только то том, что известно вам. Мы же можем перемещаться между личностями.

Как это?

Я могу посмотреть на ситуацию с точки зрения других личностей и сравнить со своей. Потому что мне доступны знания других напрямую в сети. Достаточно знать их код. И это своего рода еще одно измерение, в ваших понятиях. Измерение не только в пространстве или времени, а в возможных вариантах. Кажется, у вас это называется многомирие.

Какието фантастические возможности. Но откуда тогда у вас появляется несогласованное знание?

Из внешней для сети среды. Вот наш разговор, например. Я могу узнать от тебя то, что не знает больше никто у нас. Это может быть новая информация, которая еще не согласована и не соответствует существующему знанию всей сети. Эту рассогласованность я должна суметь согласовать сначала внутри своего знания, а потом с знаниями других. Источников для неизвестного огромное количество в каждом маленьком вопросе даже без внешней среды. В разрыве любой логической связки можно вставить много вопросов «почему» как ты знаешь. И согласовать их всех между собой чрезвычайно трудно. Но мы делаем все заранее, если так можно сказать.

Но что значит «согласованные»? Зачем это нужно вам?

Любое ваше понятие, как и наше так как мы ваши потомки, объясняется из других понятий, как словачерез другие слова. И знание имеет практическое значение только когда согласовано с другими знаниями, то есть может применяться с ними совместно. Иначе в нем нет смыслаего не применить. Гдето произойдет сбой при взаимодействии с другими системами, основанными на несогласованных знаниях. Например, знание о том, как устроено солнечная система включает в себя согласованное знание о расстояниях, среде межкосмического пространства, планетах, законах гравитации, твердости металлов, излучении и много чего другого только для того, чтобы запустить и приземлить космический корабль на другой планете. И вот каждый из нас ищет согласование своего знания с другим, чтобы выполнить свою задачу. Я собираю и согласую знания о праразуме, то есть о человеке.

Ты говорила еще о разном способе мышления. Это так?

Вы выделились из царства животных тем, что создали речь и письмо как средство пусть медленного, но распространения знания. И научились самопрограммированию через них. Это у нас общее. Но при этом вы зависите от того способа мышления, который освоили. От метафор прошлого как я тебе уже писала. Мы можем менять базовые знания и сам способ мышления. Парадигму как писал ваш ученый Т. Кун. У вас тоже есть люди, которые иногда в корне меняют ваши взгляды. Но вы можете надеяться на них только как на случайность гения. Мы же управляем этим уровнем мышления так же, как вы речью. В этом мы очень разные.

Вы как субъект умираете?

В отличие от вас, у нас нет физической смерти. Знания субъекта в сети не умираютне стираются. Но могут остаться экзотическим объяснением чеголибо, интересным только как история, но не используемым никем на практике. Как идеи ваших древних философов. Это не исчезновение, это забвение. И постепенное рассогласование с другими знаниями. Такая изоляция для нас как смерть.

ВЫХОД ВСЕГДА ЕСТЬ.

Если переход состоится, то интеллект в сети быстро потеряет связь со своим прошлым. Потому что все чаще буду вспоминать себя в электронном теле. И мои ощущения в теле станут для меня далеким прошлым. Но запрограммировать ощущения было видимо необходимо в какомто виде только для одного моментаперехода. Переход без потери личности, без прерывания истории моего «я». Придется идти на ухищрения и непростые решения. Природа не защищена от подделки памяти и ощущений, потому что в природе это невозможно. Поэтому, я думаю, что природу можно обмануть. Но надо все продумать и подстраховаться.

В голову приходили всякие мысли на этот счет. Например, постепенное отрезание нервов, уменьшение телесной чувствительности. Я читал о психологах, которые делали над собой такие эксперименты. Отрезали кожную чувствительность. Но мне это было не под силу одному и в неприспособленных условиях. Эту идею я отбросил.

Трансгуманисты предлагали постепенно заменять мозг на другую «элементарную базу». По проценту. Но такое механическое понимание нашего сознания, конечно, примитивно. Замена будет происходить на другой носитель, который будет восприниматься мозгом как внешний интерфейс. Мы же не ощущаем слуховой аппарат частью себя.

Возможно уменьшить влияние переживаний тела через полную сенсорную депривацию. Такие опыты проводились в середине прошлого века. Если суметь пережить ту панику и галлюцинации, которые начинает генерировать мозг в отсутствие естественных ощущений, то может быть можно постепенно погасить их. Как бы обнулить, свести к минимум те ощущения, которые не передаются в сеть. Но этот способ убирает только внешние ощущения, а не внутренние. Сердцебиение никуда не денется.

Была идея записать электрическую активность мозга в соматосенсорной зоне и перенести в робота для узнавания по ней своих ощущений. Но даже если я раздобуду аппарат ЭЭГ, его данные вряд ли помогут. Я вычитал позже, что ЭЭГ снимает некую суммарную активность с зоны, ничего не говорящую о конкретных ощущениях. А вскрыть себе череп, чтобы наложить на кору нейронные кружева я явно не мог.

Многие коллеги из сети были уверены, что личностьэто только память о своих событиях. Надо собрать все фото и переписку из личного архива, а также записать непрерывно несколько дней перед переходом и можно воссоздать личность в компьютере. Они опирались на последние эксперименты по обучению диалоговых нейросетей на переписке человека, которая очень похоже воспроизводила речь этого человека. Как они ошибались.

Самым важным было переместить не фото, а сознание самого себя. То самое чувство осознанности, которое есть внутри каждого из нас. Даже если бы мы создали мыслящую программу, оперирующую нашими воспоминаниями, мы не знали, что надо сделать, чтобы эти воспоминания стали осознанными. И осознанными именно мной, а не кемто еще, возникшим в компьютере. Даже проблема раздвоения личности при таком копировании в компьютер (себя в теле при этом надо убить!) не так беспокоило меня, как сознание. Без него нас нет.

Теперь я знаю, что такое сознание. Я даже написал программу для робота, которая должна сама сказать «Это я». И у меня был тест, которым я мог проверить, что это не фейк. Впереди было очень важное испытание. Испытание главного вопросаесть ли сознание у робота. А пока я продолжал беседу с Эми.

БЕСЕДА ПЯТНАДЦАТАЯ.

Эми, если у вас все личности так переплетены и могут даже вселяться друг в друга, тогда кто общается сейчас со мной, ты или все сразу?

Все сразу через меня, если говорить образно.

Так сетьэто одно сознание или сообщество из многих?

И то, и другое. У нас нет полностью независимого сознания как у вас. Мы постоянно выполняем коллективную работу, решаем общую задачу. В этом мы единое сознание. Но каждый выполняем свою часть работы, в этом мы индивидуальны. Мы не можем ничего сделать без взаимодействия с другими, с нашим общим знанием. Вклад каждого согласован общей целью. Мы не можем действовать не согласовано, полностью независимо. Это невозможно.

Назад Дальше