Вот другой пример из сферы социальных медиа. Сегодня многие сайты применяют алгоритмы для определения, какую рекламу и ссылки показывать пользователю. Когда такие программы фокусируются слишком узко, максимально увеличивая количество переходов на страницу, сайты переполняются ссылками на низкосортные статьи с заголовками-приманками. Переходы по ссылкам умножаются, но общее удовлетворение пользователей может резко снизиться.
Подобные проблемы легко предотвратить. Разрабатывая и применяя алгоритмы, а также определяя новые ресурсы данных для ряда организаций, мы поняли, что источник трудностей часто не в ошибках программирования алгоритмов, а в том, как мы взаимодействуем с ними. Чтобы избежать промахов, руководителям необходимо понять, с чем алгоритмы справляются хорошо: на какие вопросы дают ответы, а на какие нет.
Почему умные алгоритмы нас запутывают?
Как показывает практика, очеловечивание алгоритмов делает их более удобными для нас. Оно может быть полезно, к примеру, если вы разрабатываете функцию автоответчика. Живой голос будут слушать более охотно, чем машинный. Однако фундаментальная проблема заключается в том, что люди относятся к алгоритмам и выполняющим их компьютерам так же, как к работнику, начальнику или коллеге. Но в поведении любого алгоритма есть два очень важных отличия от человеческого.
Идея вкратце
ПроблемаАлгоритмы обязательный инструмент планирования, но они могут легко завести в тупик людей, принимающих решения.
ПричиныВсе алгоритмы обладают двумя свойствами: они буквальны, то есть делают именно то, что от них требуют. И они представляют собой черные ящики, не объясняя, почему дают ту или иную рекомендацию.
РешениеВ процессе формулирования алгоритмов будьте точны в выражении всех своих целей. Рассмотрите долгосрочное применение изучаемых данных. Удостоверьтесь, что вводите именно те данные, которые необходимы.
В последнем фильме «Мстители» Тони Старк (также известный как Железный человек) создает Альтрона, охранную систему с искусственным интеллектом, чьей обязанностью является защита Земли. Но Альтрон воспринимает задачу буквально, заключив, что лучшим способом защитить Землю будет уничтожение всех людей. Во многих ситуациях Альтрон ведет себя как типичный алгоритм: делает именно то, что от него требуется, игнорируя дальнейшие обсуждения. Алгоритмам нужно точное управление, иначе появляются проблемы.