Во-вторых, для разговора о более приземленных вещах нужно разобраться с понятиями. В следующей истории пойдет речь о слабом искусственном интеллекте (ИИ) и связанных с ним последствиях. Последствиях масштабных и впечатляющих. И самое главное для нас – имеющих самое прямое отношение к сфере образования. В данной истории мы поговорим о сильном ИИ, который по возможностям будет сравним с человеческим интеллектом. А также о том, что будет после его создания.
Специалисты выделяют три принципиально разные категории искусственного интеллекта:
слабый ИИ, способный эффективно решать ограниченный класс задач (распознавать текст или речь, отличать на фото кошек от собак т.п.);
сильный ИИ, сравнимый с человеческим интеллектом, способный самообучаться и решать новые классы задач, не предусмотренные разработчиками;
сверхчеловеческий ИИ, который непредсказуемо превзойдет по своим возможностям человеческий интеллект.
Единства по поводу возможности создания сильного ИИ нет. Многие специалисты сомневаются, что это возможно в принципе. Многие уверены, что этого не избежать, что сильный ИИ – не за горами. Железных доказательств для сомнений одних и уверенности других нет. Есть более-менее правдоподобные обоснования.
Однако практически все сходятся в том, что после создания сильного ИИ (если это возможно), создание сверхчеловеческого ИИ неизбежно. Принципиальный порог сложности будет преодолен, остановить спектакль уже никто не сможет.
Как скептики, так и адепты сильного ИИ сходятся еще в одном. Если принципиальная возможность создания сильного ИИ существует – он будет создан. Человеческое любопытство и конкурентные преимущества, которое может дать сильный ИИ своим создателям, шансов избежать технологической сингулярности не оставят.
Термин «технологическая сингулярность» в своей знаменитой статье 1993 года ввел американский профессор математики, писатель-фантаст Вернор Виндж. Правда сам он дает отсылку на такие мысли одного из основателей кибернетики Джона фон Неймана:
Ускорение технологического прогресса и перемены в образе жизни людей свидетельствуют о приближении существенной сингулярности в истории рода человеческого, такой сингулярности, после которой дела людские в том виде, в котором они нам известны, продолжаться уже не смогут.
Это, на минуточку, 50-е годы.
Несколько слов о сингулярности как понятии. В переводе с латинского «сингулярный» – единственный, особенный. Иногда добавляют – уникальный. Соответственно сингулярность – это особое, единичное и уникальное событие, явление. Наиболее известный пример – момент зарождения Вселенной, Большой Взрыв. Космологическая сингулярность характеризует состояние Вселенной в начальный момент времени.
Единственность, особенность и уникальность не исчерпывают современное понимание сингулярности. Еще одной важнейшей характеристикой является непредсказуемость, принципиальная неопределенность. Явление, событие может быть уникальным, единственным в своем роде. Например, создание Джоконды. Но к сингулярности оно не имеет никакого отношения.
Речь не идет о той неопределенности, которая присутствует в VUCA-мире. Такая неопределенность – это просто невозможность определить, какой из известных сценариев развития событий произойдет. Неопределенность сингулярности вообще ничего не говорит о возможных сценариях или состояниях. Вещество в момент космологической сингулярности характеризуется бесконечной плотностью и бесконечной температурой, что противоречит всем известным законам и здравому смыслу.
Вводя термин «технологическая сингулярность», Вернор Виндж имел в виду следующее. Как только на Земле появится сверхчеловеческий интеллект, события начнут развиваться по сценарию, который мы не можем предсказать в принципе.
Еще одним критерием наступления технологической сингулярности считается первое создание сильного ИИ другим сильным ИИ. Как только это произойдет, ситуация также выйдет из-под контроля и станет полностью непредсказуемой. Моральные искусственные ограничения вроде трех законов робототехники Айзека Азимова, как обоснованно считает Виндж, не помогут. Стоит один раз из-за любопытства или по соображениям конкуренции от них отступить, и все пойдет по непредсказуемому сценарию.
При этом обычные люди, точнее люди с обычным интеллектом, влиять на события уже не смогут. Какую судьбу им назначит сверхчеловеческий разум – неизвестно. Виндж считает, что вряд ли она нас обрадует. Вот цитата из его статьи:
При всем моем безудержном технологическом оптимизме иногда я думаю, что мне спокойней было бы наблюдать эти переходные события с расстояния в тысячу лет… а не в двадцать.
В своей статье Виндж описывает несколько вариантов появления сверхразума:
разумный компьютер, который сначала сравнится с человеком, а потом практически мгновенно его превзойдет (это сильный ИИ в современной трактовке, наиболее вероятный вариант);
компьютерная сеть, которая в какой-то момент «осознает себя» как сущность, может стать сверхчеловеческим разумом (в настоящее время этот вариант пригоден в основном для сюжетов фантастических романов);
киборг, в котором сочетание биологических и компьютерных технологий даст новое качество (маловероятный вариант, человеческий интеллект, дополненный наборами слабых ИИ, вряд ли способен стать сверхразумом);
биологические исследования, например, в области генетики и нейрофизиологии, дадут средства качественного совершенствования природного человеческого интеллекта (наиболее благоприятный для человечества сценарий, если удастся преодолеть понятные социальные проблемы).
Итак, именно создание сильного ИИ является наиболее понятным направлением исследований. Насколько они далеки от реального практического результата? Мое мнение – пока еще очень далеки. Я не специалист и имею очень поверхностное представление о проблемах и достижениях в этой сфере. Но вот что интересно. С появлением первых ЭВМ футурологи (которых так еще и не называли) делали прогнозы о сроках создания искусственного разума. И каждый раз попадали пальцем в небо, а сроки приходилось переносить.
Вернор Виндж в своей статье 1993 года писал, что он сильно удивится, если сверхразум появится раньше 2005 и позже 2030 года. До 2030 года осталось 10 лет. Оптимисты сегодня называют 2045 год. Скорее всего – сроки опять придется переносить. И вряд ли мы все, обычные люди, по этому поводу расстроимся.
Есть, правда, несколько НО. Прошлые прогнозы заведомо делались без серьезных обоснований. Авторы нынешних прогнозов хорошо понимают, что для создания сильного ИИ нужно решить несколько проблем.
Во-первых, компьютерные вычислительные мощности должны сравниться с вычислительными мощностями человеческого мозга. Не буду приводить количественные оценки (они есть, например, в книге Клауса Швабе). Важно, что вычислительные мощности современных суперкомпьютеров уже можно сравнивать с нашим мозгом. Они пока занимают многие квадратные метры площади и расходуют огромное количество ресурсов и энергии. Но ведь современный смартфон по мощности тоже превосходит огромные шкафы первых ЭВМ. И квантовые вычисления – перспективная и набирающая обороты технология. Так что время, когда вычислительные мощности, сравнимые с человеческим мозгом, станут доступными, не так уж и далеко.
Во-вторых, нужно досконально разобраться, как функционирует человеческий мозг. Как при таком физическом объеме и при таком низком уровне энергопотребления он способен решать такое количество самых разнообразных задач. Такое понимание позволит перейти к моделированию его работы с помощью компьютерных технологий.
О том, что исследования в области функционирования мозга самое спонсируемое научное направление в мире, я уже писал в прошлой истории. Одна из задач таких исследований – выработка подходов, позволяющих улучшить функционирование мозга, как по качеству, так и по срокам. Но, возможно, главная задача – это как раз разработка модели, которую можно воплотить в жизнь технологическими средствами.
И вот здесь пока прорывных результатов нет. Ученые, участвующие в таких исследованиях, любят говорить, что человеческий мозг – самый сложный объект во Вселенной.
Однако цель понятна, продвижение к ней идет. Результатом будет либо модель для последующего воплощения, либо понимание, что модель невозможна. Например, по причине того, что человеческое сознание неведомыми пока способами подключено к информационному полю, выходящему за рамки материального мира. Не только эзотерические и религиозные учения, но и квантовая физика допускает такие возможности.
Что из всего вышесказанного можно связать со сферой образования, которую мы хотим уместным способом трансформировать в ближайшие 20 лет? Совсем немногое.
Во-первых, концепция технологической сингулярности должна стать объектом изучения в массовой школе. Есть такой спецкурс в некоторых университетах – «Концепции современного естествознания». Он на концептуальном уровне, без математической и иной специальной детализации, знакомит студентов с основными мировозренческими научными теориями, показывает их взаимосвязи. Отличная идея, которую очень правильно было бы перенести в школу. Технологическая сингулярность, искусственный интеллект и иные порождения цифрового мира должны найти свое отражение в таком спецкурсе.
Во-вторых, учеников неплохо было бы знакомить с более локальными проявлениями сингулярности в мире. Сингулярность часто связывают с процессами и явлениями, развивающимися по экспоненциальным законам. Историки считают, например, что по таким законам развивались и приходили к упадку великие империи.
В-третьих, страшилку «технологической сингулярности» хорошо было бы использовать для популяризации в молодежной среде тематики космических исследований. Вернор Виндж в своей статье рассматривал вариант космической экспансии как спасение человечества от наступающей технологической сингулярности. В 60-70 годы мальчишки и девчонки во многих странах мечтали стать космонавтами. Это была одна из самых романтических профессий. Сегодня, к сожалению, мечты у молодежи намного более приземленные.
В любом случае данная перспектива – это отдаленное будущее. Более приземленные угрозы и возможности человечеству стоит ждать от слабого искусственного интеллекта. О нем – следующая история.
История 8. Слабый ИИ, ущербный и всемогущий
Рутину – машинам, идеям – респект!
Не станет творцом цифровой интеллект!
В предыдущей истории мы заглянули в будущее достаточно далеко. Сильный ИИ, сравнимый с человеческим интеллектом, это очень круто, волнительно и опасно. Но пока где-то там, за горизонтом. Есть исследователи, пусть они занимаются своим делом. Здесь и сейчас происходят более прозаичные вещи, которые по своим последствиям для обычных людей опережают многие инновации.
В международных отчетах последних лет, описывающих рынок труда, утверждается, что в ближайшие 20 лет будут автоматизированы до 50% всех рабочих мест. И все это благодаря слабому искусственному интеллекту и нейронным сетям.
Исследованиям в области искусственного интеллекта уже более 50 лет. Очень долгое время они оставались на периферии общественной жизни. Исследователи с завидным постоянством собирались на свои симпозиумы, которые мало кого интересовали. Широкую общественность интересовал один вопрос – когда компьютер обыграет в шахматы чемпиона мира. Когда в 1997 году компьютер Deep Blue в шести партиях победил Гарри Каспарова, интерес снова угас.
В те годы более-менее широкое практическое применение получили экспертные системы, компьютерные системы распознавания естественного языка и перевода с одного языка на другой. Системы распознавания образов, построенные на сложнейшем математическом аппарате, давали слишком много ошибок. Разработка прикладных программных продуктов, способных делать логические выводы и решать задачи в рамках некоторой системы аксиом и правил вывода, оказалось чрезвычайно сложным и затратным делом.
В начале 2000-х я участвовал в попытке создания на языке Prolog автоматизированной системы, способной доказывать теоремы и решать задачи школьного курса планиметрии. Мы просто утонули в сложности задачи и от проекта отказались.
В традиционную классификацию систем искусственного интеллекта входят еще и гипертекстовые системы, базы знаний, системы контекстной помощи и некоторые другие. Хотя более точно их называть «интеллектуальные информационные системы» или «системы с интеллектуальным интерфейсом». Они широко применяются в современном цифровом мире. Тот же интернет – это огромная гипертекстовая распределенная система. Но даже к слабому искусственному интеллекту их можно отнести с очень большой натяжкой.
Вернемся к ходу событий. Равнодушие широкой общественности к тематике искусственного интеллекта наблюдалось до второго десятилетия XXI века. Потом оно вдруг сменилось взрывообразным ростом интереса. Все вокруг заговорили о том, что искусственный интеллект и нейронные сети не просто тренд. Это революция на рынке труда, это страшная угроза для многих профессий, это возможность наконец построить общество изобилия.
Что же это – реальная революция или очередной хайп, который любят и умеют создавать современные СМИ? Для ответа на этот вопрос нужно понять причины, почему интерес к теме возник именно сейчас. Что такого произошло около 10 лет назад, позволяющее сегодня трубить об эпохе искусственного интеллекта и нейронных сетей?
Произошло несколько событий.
Во-первых, к 2010 году ученые сделали прорыв в математическом обеспечении для обучения нейронных сетей. Они научились обучать все их слои, а не только последние. Это существенно повысило надежность принимаемых решений.
Во-вторых, в 2010 году появилась база данных ImageNet, содержащая 15 миллионов изображений в 22 тысячах категорий. ImageNet многократно превысила объем существовавших до этого баз данных изображений и стала доступна для любого исследователя. Распознавание и классификация изображений – одна из наиболее популярных задач для нейросетей. Появление ImageNet облегчило обучение нейросетей данного типа, позволило существенно улучшить качество распознавания. Путать кошку с собакой хорошо обученные нейросети перестали.
В-третьих, новые вычислительные мощности, облачные хранилища данных и наработанные типовые программные модули сделали работу с нейросетями доступными самым разным энтузиастам. Относительно несложный математический аппарат, вполне доступный студентам мехматов первых курсов, позволил привлечь значительные интеллектуальные ресурсы.
В проектирование и обучение новых нейросетей в самых разных отраслях оказалось втянуто достаточно много людей. Вот для примера несколько результатов, взятых из открытых источников.
Искусственный интеллект определяет риск кардиологических заболеваний эффективнее реальных врачей.
Искусственный интеллект хорошо помогает распознавать потенциальные случаи мошенничества в различных сферах жизни.
Искусственный интеллект, анализирующий естественный язык, используется для создания чат-ботов.
Искусственный интеллект существенно улучшил механизмы рекомендаций в онлайн-магазинах и сервисах.
Искусственный интеллект отвечает за распознавание окружающих объектов в беспилотных автомобилях.
Искусственный интеллект победил в соревновании по толкованию и анализу заключенных договоров лучших юристов США.
Искусственный интеллект наконец выиграл в Го у чемпиона мира из Кореи (игра Го считается намного сложнее шахмат).
Во всех примерах задействованы специальным образом обученные нейронные сети. Примеры их применения можно растянуть на несколько книг, даже если каждому уделять один абзац.
И здесь первый вывод для сферы образования, про которую мы немного подзабыли. Интеллектуальные навыки, которые ценились у работников во второй половине XX веке, стремительного устаревают. Найти им применение через 10 лет будет очень сложно.