Во-первых, компании, использующие ИИ, обязаны информировать общественность, где и с какой целью используются такие системы.
Во-вторых, инженеров по разработке ИИ следует готовить на основе набора стандартных принципов вроде адаптированной клятвы Гиппократа, которую дают врачи; эти специалисты должны понимать, что их профессия подразумевает элемент этики в продуктах, серьезно меняющих жизнь людей, и, следовательно, они должны поклясться защищать права пользователей.
В-третьих, необходимо ввести тщательное тестирование всех ИИ-продуктов; оно должно быть встроено в инструменты обучения ИИ и заблаговременно предупреждать о моделях, обученных на данных с несправедливым демографическим охватом. В противном случае использование ИИ-продукта должно быть запрещено.
В-четвертых, можно принять новые законы, требующие аудита ИИ. Скажем, если на компанию поступает определенное количество жалоб, ей следует обязать пройти такой аудит (на предмет справедливости, раскрытия информации и защиты конфиденциальности) точно так же, как фирма подпадает под налоговую проверку, если ее бухгалтерская отчетность выглядит подозрительно.
И, наконец, последняя проблема глубокого обучения объяснения и обоснования. Люди всегда могут растолковать, почему они приняли то или иное решение оно основано на в высшей степени конкретном опыте и правилах.
Но решения глубокого обучения базируются на сложных уравнениях с тысячами функций и миллионами параметров. «Резоном» для глубокого обучения, по сути, является многомерное уравнение, полученное на основе больших объемов данных. И вряд ли возможно как следует объяснить его людям оно слишком сложно. Тем не менее многие ключевые решения ИИ должны сопровождаться объяснением причин либо по закону, либо потому, что этого ожидают пользователи.
Поэтому в настоящее время проводится множество исследований, направленных на увеличение «прозрачности» ИИ, либо путем резюмирования его сложной логики, либо посредством введения новых ИИ-алгоритмов, которые изначально проще интерпретировать.
Описанные выше недостатки и ограничения глубокого обучения привели к тому, что в обществе появилось серьезное недоверие к ИИ. Но ведь все новые технологии имели свои недостатки. История показывает, что со временем многие ранние ошибки удается исправить, а технологии усовершенствовать.
Возьмем для примера предохранитель в любой электрической сети. Он оберегает людей от поражения током, а имущество от пожара. Или антивирусные программы они защищают от компьютерных вирусов. Я уверен, со временем появятся технологии и политические решения и для проблем, связанных с негативным влиянием ИИ, с предвзятостью и непрозрачностью его работы.
Но сначала нам придется пойти по стопам Наяны и Сахеджа и сообщить людям о серьезности проблем, а уж затем мобилизовать человечество на поиск их решений.
Глава 2. Боги под масками
И правда, и утро со временем проясняются.
Африканская пословица
РАССКАЗ ПЕРЕВЕДЕН ЭМИЛИ ДЖИН
Примечание Кай-Фу: В этой истории рассказывается о молодом нигерийском видеопродюсере, которого наняли для создания серьезного дипфейка[22]. Одним из основных направлений ИИ является так называемое компьютерное зрение оно учит машины «видеть», и недавние прорывы в этой сфере позволяют получать невиданные доселе результаты. Этот рассказ фантазия о мире будущего, характерной чертой которого стали беспрецедентные высокотехнологические игры в стиле «кошки-мышки» между мошенниками и их разоблачителями; между преступниками и потенциальными жертвами. Можем ли мы избежать такого мира, в котором все визуальные линии размыты и нечетки? Я исследую этот вопрос в своем комментарии: я опишу недавние и предстоящие открытия в области компьютерного зрения, биометрии и безопасности ИИ трех технологических сферах, которые позволяют создавать подделки-дипфейки и другие подобные технологии.
Поезд наземного метро подтягивался к станции Яба, и Амака нажал кнопку открытия дверей. Они с визгом разъехались; парень, не дожидаясь полной остановки, спрыгнул на перрон. Он больше не мог вынести в этом черепашьем поезде, в его спертом воздухе, ни одного мгновения. Почти прижавшись к какому-то пожилому мужчине, Амака ловко проскользнул через турникет на выходе из вокзала он опять проехался зайцем.
Система распознавания лиц автоматически списывала стоимость проезда со счета каждого проходящего мимо камер человека. Но Амака был в маске камеры его не увидели, и он опять прокатился бесплатно.
Маски давно стали обычным аксессуаром для молодежи Лагоса[23]. Для их родителей они были скорее ритуальными атрибутами, но для молодых людей, которых в последние десятилетия заметно прибавилось, маски стали модным трендом, а заодно и средством обмана камер наблюдения.
В Лагосе, крупнейшем городе Западной Африки, жило примерно от 27 до 33 миллионов человек каждый метод подсчета давал свою цифру. Пять лет назад государство строго ограничило число приезжих, считая мигрантами даже тех, кто родился в других частях Нигерии. И странствующим мечтателям вроде Амаки пришлось постоянно находиться в состоянии поиска убежища организовывать пристанище в нелегальных квартирах, в общежитиях, на рынках, на автобусных станциях или даже под эстакадами.
Сноски
1
Дартмутский летний исследовательский проект по искусственному интеллекту (1956) основополагающее событие в области ИИ как научной области. Прим. ред.
2
Британская компания, занимается искусственным интеллектом. Основана в Лондоне в 2010 году под названием DeepMind Technologies; в 2014-м приобретена Google. Прим. ред.
3
На момент этого матча Ли Седоль занимал 2-е место по количеству выигранных чемпионатов мира; считался 4-м игроком го в мире (официального рейтинга нет). Прим. ред.
4
Продолжение популярной игры DotA; киберспортивная дисциплина с миллионными призовыми фондами профессиональных турниров. Прим. ред.
5
Ли Кай-Фу. Сверхдержавы искусственного интеллекта. Китай, Кремниевая долина и новый мировой порядок. Москва: Манн, Иванов и Фербер, 2019. Прим. ред.
6
Способность компьютерной системы интерпретировать данные таким же образом, каким люди используют свои чувства для связи с окружающим миром. Прим. ред.
7
На английском книга вышла в сентябре 2021 года. Прим. ред.
8
Междисциплинарная группа «ультратехнологов». Создана в Токио в 2001 году. Состоит из художников, программистов, инженеров, компьютерных аниматоров, математиков и архитекторов, создает произведения искусства с использованием цифровых технологий. Прим. ред.
9
Роман М. Шелли «Франкенштейн, или Современный Прометей» (1818). Прим. ред.
10
«Звездные войны» (с 1979 года по настоящее время), «Звездный путь» (с 1966 года по настоящее время) медиафраншизы; «Космическая одиссея 2001 года» культовый научно-фантастический фильм (режиссер С. Кубрик, 1968). Прим. ред.
11
«Нейромант» (1984) каноническое произведение У. Гибсона в жанре киберпанк. Первый роман трилогии «Киберпространство». Прим. ред.
12
X Development LLC. (ранее Google X) американская компания в составе холдинга Alphabet, основана в 2010 году. С 2015 года независимая компания X в составе холдинга Alphabet. Hyperloop проект вакуумного поезда Илона Маска (2013), до конца не реализован. Прим. ред.
13
Все рассказы в этой книге Чэнь Цюфань написал на китайском, и для англоязычного издания их пришлось переводить. Примечания и комментарии Кай-Фу Ли изначально были на английском. Прим. ред.
14
Индийская соцсеть, основана в 2015 году; более 250 миллионов активных пользователей в месяц. Для сравнения: у российской сети «ВКонтакте» 73 миллиона в месяц (на весну 2021 года). Прим. ред.
15
Художница индийского происхождения, родилась в 1969 году в Лондоне, в 1993-м, получив степень бакалавра, переехала в Индию. В 2041 году ей исполнится 72 года. Прим. ред.
16
Ganesh Insurance («Страхование Ганеша») реально существующая низкорейтинговая (сегодня) страховая компания; Life Insurance Corporation of India («Корпорация страхования жизни Индии») крупная страховая компания, на рынке с 1956 года. Прим. ред.
17
Aadhaar реально существующая сегодня и крупнейшая в мире система биометрического удостоверения личности. Граждане Индии и иностранцы-резиденты (при соблюдении некоторых условий) сейчас могут добровольно получить 12-значный уникальный идентификационный номер на основе биометрических и демографических данных. Проект запущен в 2009 году. Прим. ред.
18
Национализированная компания общего страхования, основана в 1919 году. Прим. ред.
19
Имперский колледж Лондона, до 2007 года входил в состав Лондонского университета. Основан в 1907 году путем слияния нескольких еще более старых учебных заведений. Прим. ред.
20
Страховая компания Lemonade основана в 2015 году в США; компания Waterdrop, представляющая онлайн-рынок страхования и связанную с ним платформу медицинского краудфандинга, в 2016 году в Китае. Прим. ред.
21
Документальный фильм с элементами игрового кино (режиссер Дж. Орловски, 2020). Прим. ред.
22
Дипфейк (от deep learning [глубокое обучение] + фейк) методика синтеза изображения, основанная на искусственном интеллекте. В видеороликах-дипфейках лицо одного человека подменяют лицом другого. Прим. ред.
23
Столица Нигерии до 1991 года. Крупнейший город страны и Африки. Население (в агломерации) около 21 миллиона человек. Прим. ред.