Что-то не так?
Если я пойду с тобой, мама расстроится. Ходить в такие места потворствовать слабостям Это увеличит наш страховой взнос.
Ты имеешь в виду в голове Наяны вдруг щелкнуло все сошлось. Так твоя семья тоже на страховке GI?
Да. И мама сильно болеет. Нам здорово повезло, GI предлагает специальный страховой полис для таких, как мы, называется, «для социально незащищенных», иначе мы никогда бы не смогли позволить себе такую страховку
Это я поняла, кивнула Наяна. И перевела разговор на гораздо более важное. Но я совсем не поняла, почему ты подарил мне ворона, а не павлина, кролика или кого-то еще?
Ты задаешь много вопросов! Сахедж мягко улыбнулся. Пошли погуляем, раз уж мы не идем в это дурацкое кафе.
Улицы вечернего Мумбаи обычно заполнены машинами со всех сторон слышатся звуки клаксонов. Что поделать огромный город, 30 миллионов человек! Мумбаи не всегда был городом небоскребов, ярких огней и цифровых дисплеев, но перенаселен он уже давным-давно. Люди облюбовали это место еще в каменном веке.
На месте сегодняшнего Мумбаи поселились еще древние греки. Они назвали это место Гептанезия «семь островов». С тех пор город видел взлеты и падения многих династий и правителей. Он крещен кровью прежде чем Индия получила независимость, погибал и возрождался из пепла бесчисленное множество раз.
Но, конечно, совсем не об этом думали старшеклассники, неспешно прогуливаясь по ярко освещенным улицам. Наяна с удивлением обнаружила, что Сахедж старается держать и физическую дистанцию будто от случайного прикосновения его долбанет током.
Сахедж, почему ты отодвигаешься? Наяна старалась как можно тщательнее подобрать слова, опасаясь обидеть наконец-то обретенного друга.
Ты правда не знаешь? удивился Сахедж.
Чего не знаю?
Моей фамилии?
Нет. На занятиях, и в школе и онлайн, ее скрывают, будто ты отпрыск какой-то телезвезды или из какой-нибудь известной семьи.
Нет, наоборот. Это делают, чтобы вы не испытывали дискомфорта.
В смысле?
Ну, когда-то это описывали как ощущение оскверненности.
Ты о своей касте, что ли? Но ведь эту систему отменили давным-давно.
Сахедж горько усмехнулся.
Ее запретили законом, о ней не говорят в новостях, но она существует.
Но откуда об этом знает искусственный интеллект?!
А он не знает. Ему не нужно знать определение каст. Все, что ему требуется история пользователей. Как бы мы ни скрывались, не меняли фамилии, следы все равно остаются. Их стереть невозможно.
Наяна вспомнила: мама ведь говорила, что искусственный интеллект знает только то, чему его учат люди. Она немного поиграла с этой мыслью, а затем внимательно посмотрела на Сахеджа:
Так что, по-твоему, искусственный интеллект выявляет невидимую дискриминацию и оценивает ее количественно?
Сахедж посерьезнел, на миг задумался и фыркнул.
Чуть не забыл. Еще цвет моей кожи. Ты же знаешь, что на санскрите одно и то же слово означало и каста, и цвет?
Это же полный бред!
Нет, это реальность. Женщины из низшей касты могут встречаться с мужчинами из высшей касты и даже выходить за них замуж. Но наоборот ни в коем случае. Это вконец испортит репутацию семьи девушки.
Неужели искусственный интеллект действительно волнуют подобные глупости?
Ему наплевать на наши устаревшие социальные устои! Но он стремится уменьшить размер страхового взноса пользователей, и поэтому GI пытается помешать нам с тобой быть вместе.
Наяна услышала главное слово «вместе». Щеки у девушки вспыхнули.
«Максимизация целевой функции» так это называется.
Чего-чего?
Люди поставили перед искусственным интеллектом цель: снижать страховые взносы клиентов до минимально возможного уровня. И теперь он решает эту задачу. Он вообще не учитывает факторов, которые не влияют на снижение взноса, и ему уж точно без разницы, счастливы люди или нет. Машины недостаточно умны, чтобы интерпретировать ощущения поверх статистических данных. К тому же несправедливость и предрассудки по-прежнему вполне реальны. А искусственный интеллект только обнажает этот позор.
Откуда ты все это знаешь?
Сахедж улыбнулся.
Хочу поступить в Империал-колледж[19], стать специалистом по искусственному интеллекту. Хочу изменить эту дурацкую ситуацию.
За умными разговорами парочка незаметно дошла почти до дома Наяны на последнем перекрестке Сахедж остановился и приготовился прощаться. Расставаться не хотелось, и тут Наяну осенило.
А почему мы не можем изменить это прямо сейчас? Разве мы разрешили искусственному интеллекту распоряжаться нашей судьбой? Как предсказаниям на FateLeaf, написанным тысячи лет назад?
По лицу Сахеджа пробежала тень.
Ты заходила на FateLeaf после подключения к GI?
Ох, как мне надоел их золотой слоненок! А при чем тут FateLeaf?
FateLeaf входит в семейство приложений GI, как и MAGIComb, и Cheapon. Если принять условия совместного использования данных, то получишь более точное предсказание.
Точно! охнула Наяна. И как я раньше не додумалась? Выходит, судьбы с листьев Наади вовсе не подлинные! Я, как и все, хотела, чтобы все было по-настоящему, а прорицание просто говорило то, что мне хотелось услышать.
До Наяны наконец дошло: ее надурили. Только она еще не решила, обрадоваться или страдать и мучиться.
Сахедж внимательно посмотрел на Наяну, чуть помялся и указал на улицу, по которой собирался возвращаться домой.
Мы там живем. Дорога идет через строительную площадку Дхарави. Раньше там были трущобы. Представляешь, больше миллиона человек на пятачке 500 на 500 метров! Туристы приезжали фотографироваться, только жить там никто не хотел. Теперь Дхарави наконец-то станет нормальным местом, Сахедж как будто бы вел экскурсию, и Наяне было интересно она, конечно, слышала о Дхарави, но не подозревала о многих подробностях. Учти, я просто предупреждаю: если ты приблизишься к Дхарави, GI завалит тебя предупреждениями о болезнях, начнет писать, чтобы ты ни коем случае не пила там воду, будет умолять держаться подальше. Наяна, ты справедливая, но это дорога не для таких, как ты. Мир на вашей стороне, а не на стороне тех, кто живет там, Сахедж опять указал на дорогу к своему дому. Так что если уж говорить о судьбе то вот она, наша судьба.
А можно я с тобой? Наяна сама поразилась тому, как легко это выпалила, и шагнула вперед. Я Я не такая, как ты думаешь.
Сахедж с сомнением наклонил голову:
Уверена?
Наяна еще раз взглянула на дорогу к Дхарави, к запретной зоне в центре мегаполиса Мумбаи. Страшновато! Но в ушах вдруг зазвучал мамин голос: «Иногда стоит и рискнуть». Наяна поняла, что уверена и кивнула.
Сахедж просиял, галантно согнул руку в локте, предложив своей даме опереться:
Как пожелаете, мадемуазель.
И юная пара вновь отправилась в путь вглубь древнего города, где за столетия люди много раз обновили каждый уголок и каждый кирпичик. По краям дороги выстроились старые и новые башни словно переродившиеся души людей. Боги-машины завтрашнего дня со временем разрушат, а потом воссоздадут и эти души.
Ну, так почему ты вырезал для меня именно голову ворона?
Это мой тотем, мое астрологическое животное. Правда, в общении я гораздо более неуклюжий, чем большинство ворон.
Надо же, как все просто!
Да, так просто.
Завибрировал смартстрим сначала тихонько, потом быстрее, сильнее, настойчивее. Наяна знала: это «золотой слоненок», Сахедж предупредил ее еще на перекрестке. Искусственный интеллект пытался спасти ее; предостерегал, просил не приближаться к месту, которое когда-то считалось крупнейшими трущобами в мире; убеждал держаться подальше от бедности, болезней, дискриминации и неприкасаемых таких, как парень рядом с ней.
Наяна только потуже затянула капюшон толстовки и продолжала шагать рядом с Сахеджем.
Самый главный ответ ждал ее впереди, во тьме древних улиц.
Анализ. Глубокое обучение; большие данные; финансовые интернет-приложения, вредоносные проявления ИИ
Преимущества страховки Ganesh Insurance из рассказа «Золотой слон», работающей на базе ИИ, совершенно очевидны. Рия, мама Наяны, экономит семейный бюджет благодаря акционным приложениям. Папа Санджай бросает курить, пить крепкое спиртное и становится более ответственным водителем. Даже младший брат Рохан начинает правильнее питаться, когда под угрозой диабета ИИ забил во все колокола.
Такой набор приложений, работающих на смартстримах (вы, конечно, поняли, что это смартфоны 2041 года), и вправду мог бы помочь людям жить дольше, быть здоровее и богаче. Персонализированные ненавязчивые стимулы четко подсказывают, как жить более правильной жизнью.
В чем же тут подвох? В том, как и чем приходится за это расплачиваться. Вопрос лег в основу нашей первой истории, познакомившей читателя с основополагающей для ИИ концепцией глубокого обучения.
Глубокое обучение прорыв в области искусственного интеллекта. Среди многих подобластей ИИ машинное обучение это область, которая привела к наиболее успешным приложениям, а в машинном обучении самым большим достижением является направление под названием «глубокое обучение» настолько, что термины «ИИ», «машинное обучение» и «глубокое обучение» иногда используются взаимозаменяемо (хотя это и неточно). В 2016 году глубокое обучение вызвало ажиотаж после впечатляющей победы AlphaGo над конкурентом-человеком в игре го, самой популярной интеллектуальной настольной игре в Азии. После этого нашумевшего поворота глубокое обучение стало важной частью большинства коммерческих приложений ИИ, и оно фигурирует в большинстве историй в AI 2041.
В «Золотом слоне» описан потрясающий потенциал глубокого обучения и его ловушки вроде воспроизведения социальных предрассудков в цифровых технологиях.
Так что же такое глубокое обучение? Каковы его ограничения? Какую роль в нем играют данные? Почему интернет и финансы считаются наиболее перспективными отраслями для применения ИИ на ранних этапах? Какие условия оптимальны для глубокого обучения? И почему кажется, что это работает чертовски хорошо но только когда оно действительно работает? Каковы недостатки и недочеты ИИ?
ЧТО ТАКОЕ ГЛУБОКОЕ ОБУЧЕНИЕ?
Глубокое обучение вдохновлено сложнейшей сетью нейронов нашего мозга, оно строит программные многослойные искусственные нейронные сети с входными, скрытыми и выходными слоями. Данные поступают на входной слой вход, а результат, соответственно, появляется на выходном слое. Между ними могут находиться тысячи других скрытых слоев отсюда и «глубокое обучение».
Многие считают, что ИИ «программируется» или «обучается» людьми посредством указания конкретных правил и действий. Например, человек сообщает ИИ, что «у кошек заостренные уши и усы». Но на самом деле глубокое обучение работает лучше без внешних «человеческих» правил. Вместо того чтобы запоминать правила, данные людьми, на вход глубокой нейросети подается множество примеров, а на выход правильные ответы для каждого из них. Таким образом, сеть между входом и выходом может быть «обучена», чтобы максимизировать шансы получить правильный ответ на заданный вход.
Есть множество примеров, когда человек не подсказывает, а передает информацию на входной слой и «правильный ответ» на выходной слой.
Представим, что исследователи хотят, чтобы сеть глубокого обучения отличала фотографии кошек от любых других изображений. Для начала исследователь может подать на входной слой миллионы разных фото, маркированных «кошка» или «не кошка»; при этом на выходном слое метки «кошка» или «не кошка» уже должны быть заданы.
Сеть обучается определять, какие признаки в миллионах изображений наиболее информативны для отделения «кошек» от «не кошек». Это обучение представляет собой математический процесс, настраивающий в сети глубокого обучения миллионы (а иногда и миллиарды) параметров, для того чтобы максимизировать вероятность того, что для изображения кошки на входе будет выдана метка «кошки», а для другого изображения метка «не кошка». На рисунке ниже вы видите такую нейронную сеть глубокого обучения для «распознавания кошек».
Нейронная сеть глубокого обучения, обученная отличать фото кошек от фотографий, на которых изображено что-то другое
В ходе этого процесса глубокая нейросеть математически обучается (или «тренируется») максимизировать значение «целевой функции». В нашем примере с распознаванием кошки такой целевой функцией является вероятность правильного распознавания «кошка» «не кошка».
После такой тренировки сеть глубокого обучения, по сути, становится гигантским математическим уравнением; его можно протестировать на изображениях, которых она до этого не видела, и убедиться, что сеть путем «умозаключений» способна определить наличие или отсутствие в этих изображениях кошки.
С появлением глубокого обучения совершенно непрактичные ранее возможности ИИ стали пригодными для применения во многих областях и сферах. На следующей диаграмме наглядно показано, как резко сократилось число ошибок распознавания образов, когда начали использовать технологии глубокого обучения.
Глубокое обучение это технология универсального применения, ее можно использовать практически в любой области для распознавания образов, прогнозирования, классификации данных, принятия решений или синтеза. Возьмем сферу страхования, о которой идет речь в рассказе «Золотой слон».
ИИ в приложениях Ganesh Insurance предобучили оценивать вероятность развития у клиента компании серьезных проблем со здоровьем и соответствующим образом корректировать его страховой взнос.
Чтобы сеть научилась отделять тех, у кого с большой вероятностью возникнут такие проблемы, от тех, у кого они, скорее всего, не возникнут, ИИ «тренируют» на обучающих данных, включающих в себя информацию обо всех прошлых заявителях на получение страховки, обо всех их обращениях в медицинские учреждения с разными жалобами и об их семьях. Каждый случай маркируют на выходном слое меткой «обращался с серьезными медицинскими проблемами» или «не обращался с серьезными медицинскими проблемами».
Использование глубокого обучения привело к существенному снижению частоты ошибок при распознавании объектов компьютерным зрением
Впитав в себя в процессе предобучения весь этот набор данных, ИИ может делать предсказания вероятности возникновения у заявителя серьезных проблем со здоровьем и решать, одобрять заявку на страхование или нет, и если да, то каким при этом должен быть страховой взнос.
Обратите внимание: в данном сценарии ни одному человеку не придется маркировать претендента на оформление страховки как объект, имеющий риски с точки зрения здоровья или же не имеющий таковых. Эти метки основываются исключительно на «достоверной информации» (например, были ли у претендента на оформление страховки серьезные жалобы на здоровье в прошлом).
ГЛУБОКОЕ ОБУЧЕНИЕ: ПОТРЯСАЮЩИЕ ВОЗМОЖНОСТИ. НО С ОГРАНИЧЕНИЯМИ
Первая научная статья о глубоком обучении вышла еще в 1967 году. Потребовалось более полувека, чтобы эта технология проявила себя. Это заняло так много времени, потому что для обучения искусственной нейронной сети требуется огромное количество данных и вычислительных мощностей. И если вычислительные мощности двигатель ИИ, то данные его топливо.