Искусственный интеллект и архитектура сознания. Переход от Narrow AI к General AI - Сергей Анатольевич Фролов 4 стр.


Сам термин «эволюция» имплицитно подразумевает движение от простого к сложному, от примитивного к совершенному, от «низшего» к «высшему». Во многих работах по эволюции можно встретить подобного рода утверждения: «по мере эволюции жизнь усложняется, становится более опасной и конкурентной», «потребовала от видов стать более эффективными в соперничестве и добыче пищи». К таким, на первый взгляд, безобидным формулировкам и заключениям возникает множество вопросов. Например, для каких именно видов жизнь стала «более опасной и конкурентной»? Для всех сразу или для какой-то группы? В чем конкретно выражается повышение опасности? Насколько жизнь стала «более опасной и конкурентной», например, для акул, крокодилов или черепах за последние пару сотен миллионов лет? Если взглянуть на мир бактерий и одноклеточных, то первый вопрос, который возникает что конкретно подобные виды организмов сделали для того, чтобы стать более «эффективными в соперничестве и добыче пищи»?  Просто остались бактериями и продолжают ими быть в течение 4 миллиардов лет, практически в неизменном виде?

Совсем непохоже, чтобы жизнь для бактерий стала «более опасной и конкурентной», а сами они существенно эволюционировали (если речь не идет о модификациях). Скорее наоборот, с появлением крупных многоклеточных организмов, для бактерий появились «передвижные дома» для жизни уютные, полные пищи и подходящих условий для размножения.

Вообще, насколько верно утверждение, что бактерии менее развиты, чем животные или растения? «В каком смысле млекопитающие сложнее чем бактерия?» (Levins&Lewontin, 1985). «В чем измерить сложность, которая позволила сравнить человека и лягушку?» (Lewontin, 1998). Даже если бы удалось протестировать лягушку на уровень IQ, то такое сравнительное исследование показало бы лишь то, что лягушка не так хороша в тестах на IQ. Но вопрос чем, например, человек сложнее лягушки остался бы без ответа.

Современная картина живой природы представлена множеством совершенно разных видов. Каким-то образом «примитивные» и «низшие» виды сосуществуют вместе с «развитыми» и «высшими», как будто вопреки закону «естественного отбора», согласно которому менее приспособленные должны стать добычей и пищей более развитых. Тем не менее, не просто соседствуют, а процветают уже в течение миллиардов лет, в отличие от «вчера» появившихся (по эволюционным меркам) «высшим» млекопитающих и человека. Такое противоречие означает либо то, что «естественный отбор» не работает (что невозможно), либо то, что наши представления о «высших» и «низших» видах отражают реальность не вполне корректно.

Генетическая информация и связи также не могу быть использованы в качестве основания для градации видов по «сложности» на эволюционной шкале. В своей работе «Основные эволюционные переходы» Meynard Smith и Szathmáry подтверждают неоднозначность биогенетического подхода: «если мы посмотрим на общую ДНК, то будем вынуждены признать унизительный факт двоякодышашие рыбы или морской лилии примерно в 40 раз сложнее человека» (Meynard Smith&Szathmáry, 1995; перевод цитаты С.Ф.)

Лишь по сложившейся традиции, мы используем термины «высшие» и «низшие» виды, не обращая внимания на то, что не существует критериев, которые бы позволяли бы точно указать на то, что дельфины «выше» кошек или наоборот (MacLean, Matthews, Hare, et al, 2012). Такое деление, по сути естественное желание людей упорядочить сложные системы каким-либо образом, чтобы упростить свое восприятие при отсутствии определения и критериев эволюционной «развитости» в целом.

Теория высшей нервной деятельности до сих пор рассматривает сознание, психику, поведение как продукт и одновременно, как результат работы исключительно мозга и нервной системой в целом. При этом зачастую, не делая различия между понятиями «мозг» и «сознание» (или «психика»), используя их практически как синонимы. Применительно к человеку это отчасти верно, так же как и к другим организмам обладающих нервной системой Но к организмам, не обладающих нервной системой оснований считать эквивалентными «мозг» и «сознание» или «мозг» и «психика»  просто нет. Одноклеточные, растения, грибы и даже вирусы, также способны принимать вариативные решения и контролировать свое поведение в зависимости от обстоятельств и условий. Не обладая мозгом и нервной системой, они тем не менее, обладают способностью распознавать, принимать решения, совершать рациональный выбор. Они, безусловно, не обладают сознанием уровня человека или даже животного, но не имея мозга и нервной системы, демонстрируют наличие когнитивной деятельности в полной мере, то есть сознания.

Что такое интеллект

Еще одно «родовое проклятие» ИИ заключено в самом его названии до сих пор не существует единого, общепринятого определения понятия «интеллект». Сам термин происходит от латинского intellectus «понимать», «воспринимать», «познавать», «мыслить». Как правило, интеллект рассматривают как способность к выполнению определенной умственной деятельности: обучение, способность к рассуждению, понимание, извлечение смысла, распознание значений и связей, отделение и верификация фактов (Mueller&Massaron, 2016). Также часто к этому списку добавляют способность к эмпатии, чувство ситуации, альтруизм, коммуникативные навыки, лидерские качества и т.п. Большая советская энциклопедия дает такое определение: «интеллект выступает как синоним мышления, умственного развития личности». Оксфордский словарь английского языка определяет интеллект как «способность приобретать и применять знания и навыки». Словарь Merriam-Wesbter как «способность учиться и понимать или справляться с новыми или трудными ситуациями».

Так, Daeyeol Lee приводит обзор определений термина «интеллект», которые предлагают различные специалисты в сфере человеческого и искусственного интеллекта (Lee, 2020). Например, согласно Говарду Гарднеру, «интеллект это способность решать проблемы или создавать продукты, которые ценятся в одной или нескольких культурных средах» (Gardner & Hatch, 1989). Напротив, исследователи искусственного интеллекта Марвин Мински (1985) и Рэймонд Курцвейл (1999) определили интеллект как «способность решать сложные проблемы» и «способность оптимально использовать ограниченные ресурсы, включая время, для достижения целей» соответственно. Проанализировав около 70 различных определений интеллекта, Shane Legg и Marcus Hutter (Legg&Hutter, 2007), , предложили свое определение как способности субъекта «достигать целей в самых разных условиях» (см. также Lee, 2020).

Даже при поверхностном взгляде на представленные выше определения «интеллекта», обнаруживается несколько фундаментальных проблем и принципиальных несоответствий. Во-первых, определения включают в себя оценочные категории, которые сами требуют дополнительной шкалы, критериев и системы измерения, уже не могут считаться валидными. «Решать сложные проблемы», «создавать ценные объекты», «справляться с трудными ситуациями» и т.п.  такие формулировки не могут быть использованы в качестве определений и обесценивают те определения, в которых они применяются, потому что невозможно оценить что и для кого представляется сложным, ценным, трудным.

Второй момент, который обращает на себя внимание это то, что все представленные определения могут относиться как к человеку, так и к любому живому существу без исключения. В том числе грибам, растениям, бактериям и т.д. Они тоже способны «решать сложные проблемы», «создавать ценные объекты» и «справляться с трудными ситуациями» и т.п. Не имея «способности приобретать и применять знания и навыки», не обладая «способностью учиться и понимать», никакие живые организмы, начиная с LUCA, не смогли бы выжить в естественной среде, а вид не смог бы удержаться в эволюции жизни на Земле в течение сотен миллионов и тем более нескольких миллиардов лет.

Интеллект или сознание

Многие современные авторы справедливо критикуют чрезмерно широкое и вольное использование понятие «интеллект», поскольку оно размывает содержание и исходный смысл когнитивной деятельности. «Интеллект термин, который напоминает переполненный чемодан, молния которого вот-вот разойдется» (Mitchell, 2019). Некоторые авторы вообще полагают, что «необходимы новые способы осмысления и понимания термина «интеллект» для его концептуализации» (N. Palanca-Castan, B. Sánchez Tajadura and R. Cofré, 2021). Действительно, одних только видов интеллекта не менее восьми, согласно классической теории Гарднера («Теория множественного интеллекта», 1983): вербально-лингвистический, логико-математический, визуально-пространственный, музыкальный, телесно-кинестетический, межличностный, внутриличностный, натуралистический. При этом разработанные тесты для измерения уровня интеллекта вызывают больше споров, чем доверия. Например, уровень IQ устанавливается в результате решения заранее составленных задач, то есть таких, которые создали другие специалисты для того, чтобы оценить, насколько успешно и с какой скоростью с ними может справиться испытуемый. В результате тест указывает на место человека на шкале относительно других испытуемых относительно решения данных задач.

Однако жизнь в обществе (как и в естественной среде) не исчерпывается заранее составленными задачами из теста, и как правило, требуется не только найти решение поставленной задачи, но и определить в чем именно проблема, и какая именно задача из множества требует решения в первую очередь. Адаптационное поведение человека в самом широком смысле требует именно таких навыков в первую очередь, а решение самой задачи уже во вторую. Возможно, для ранжирования и иерархизации людей друг относительно друга подобные тесты могут быть полезны в определенных сферах, но они совершенно бесполезны для ранжирования «интеллектуальных» способностей живых организмов в естественной среде. При том, что по уровню «интеллекта» некоторые представители homo sapiens едва ли обгонят врановых, шимпанзе, попугаев или дельфинов.

Если мы готовы признать, что все живые организмы обладают интеллектом, то мы должны разработать универсальную шкалу и систему измерения «интеллекта» для всех живых организмов без исключения. При этом измерения и ранжирование должно исключать шовинистическое сравнение остальных организмов относительно человека и его «интеллектуальных» возможностей. Если нас интересуют объективные показатели, а не относительные значения, то необходима универсальная шкала, которая позволила бы оценить и измерить сложность видовых задач, и способности вида решать свои задачи выживания и репродукции в эволюционной и адаптационной перспективе. Насколько такая задача реалистична, учитывая разнообразие видов и различные среды обитания?

Чем способности пауков плести идеальную с инженерной точки зрения паутину превосходят или уступают способности растений совершенствовать дизайн семян и цветков, не имея органов дистанционного распознания и представлений об окружающем мире и пространстве? Или способность осьминогов изменять окрас, текстуру и форму, идеально совпадая с поверхностью и контекстом. Вживление голожаберным моллюском в свои покровы стрекательных клеток (клептокнидов), съеденных им стрекающих насколько эта задача сложнее или проще способности коловраток самостоятельно встраивать в свою ДНК чужеродные гены (Gladyshev, E.A., Meselson M., Arkhipova, I.R., 2008)? Какие из этих задач сложнее? Как и по какой шкале это измерить?

 Ответов на эти вопросы не существует и даже постановка задач таким образом нелепа; сам факт существования вида указывает на его «высшие» интеллектуальные возможности, благодаря которым он способен решать все свои задачи выживания и репродукции. С адаптационной и видовой точки зрения бактерии, растения, грибы, лягушки, кошки и человек не отличаются своим «интеллектом». К жизни, выживанию, адаптации и эволюции подобная иерархия неприменима, и любые попытки измерить «интеллект» видов не просто «видовой шовинизм», но устаревший и безосновательный взгляд на живой мир как на «лестницу» развития, основанную на ложной иерархии и отсутствии объективных доказательств как эволюционной, так и интеллектуальной «развитости» видов.

С эволюционной точки зрения адаптационный «тест на IQ» пройден всеми живущими видами «на отлично», что подтверждается естественным отбором и самим фактом существования этих видов на Земле. С точки зрения эволюции и адаптации интеллект ничтожный термин, не отражающий ровным счетом ничего о способностях вида решать «сложные» задачи, которые помогают ему выживать и продолжать род в естественной среде. В этом плане все живые организмы обладают интеллектом по шкале «адаптация и эволюция», уравнивающей интеллект всех живых организмов если данный вид жив и процветает, значит, он успешно справляется со всеми своими актуальными задачами выживания и для каждой нашел эффективное решение. «Видовой шовинизм»  один из фундаментальных барьеров на пути к пониманию принципов как биологической эволюции, так и когнитивной.

Третий момент, на который стоит обратить внимание связан с тем, что представленные определения не вносят ясности в чем отличие понятия «интеллект» от «сознания», и как оба связаны с поведением? Связан ли интеллект с адаптационным поведением, а если да, то каким образом? Насколько реалистично установить связь интеллекта с каждой формой и видом поведения прямо и однозначно? Возможно ли вообще ответить на этот вопрос, учитывая, что не существует конвенционального определения понятия «интеллект»? Также не разработаны критерии, которые позволили бы отделить адаптационное поведение из всех остальных форм и видов поведения живых организмов. Не установив однозначную связь интеллекта с поведением, невозможно установить какое поведение относится к «интеллектуальному», а какое лишено «интеллектуальности».

Согласно представленным определениям, интеллект больше связан с решением неких «сложных», «новых», «нетривиальных» задач. Сознание же или когнитивная деятельность больше указывает на способность организма распознавать задачу, независимо от ее сложности, а также быстро и эффективно находить ее решение. В определенном смысле «интеллект» переносит акцент с распознания задачи на ее сложность и способность решения в кратчайшие сроки; сознание же сохраняет баланс между распознанием и решением, не связывая решение и «сложность задачи». В этой связи, возможно более подходящим названием для искусственного интеллекта, уровня человека было «сознание, уровня человека» или HLC «human-like cognition».

Ожидания от результата

В итоге ИИ унаследовал множество нерешенных проблем из ключевых дисциплин, которые приняли участие в его создании и продолжают определять и ограничивать его развитие. Эти проблемы стали «родовыми проклятиями» ИИ, не позволяющими перейти на следующий уровень ИИ, уровня человека. ИИ повторяет судьбу «спящей красавицы», достигнув своего совершеннолетия которая, заклятьем недоброй феи, погружается в вековой сон. Не имея конвенциональных, единых определений того, что такое интеллект человека, психика, какова архитектура сознания, мы, тем не менее, продолжаем предпринимать попытки создать искусственный интеллект, уровня человека (General AI).

Назад Дальше