Букмекер нацеливает рекламу на тех, кто вероятнее проиграет
The New York Times опубликовала расследование о том, как крупная платформа ставок применяет модели для отбора аудитории. Критерий отбора — вероятность проиграть.
В этом нет технической новизны. Предсказание ценности клиента — обычная задача, которую решают в любом бизнесе с подпиской или повторными покупками. Необычно то, чем именно оказывается ценность в этой отрасли: чем больше человек теряет, тем он выгоднее.
Почему эта история выходит за пределы ставок
Персонализация везде устроена одинаково. Система смотрит на поведение, находит похожих людей и предсказывает, кто с какой вероятностью совершит нужное действие. Дальше внимание перераспределяется в сторону самых перспективных.
Разница между полезным и вредным применением не в алгоритме, а в том, что считается успехом. Если целевое действие совпадает с интересом человека, получается удобный сервис. Если оно расходится с его интересом, та же математика начинает работать против него.
Ровно поэтому претензии к «алгоритмам» обычно бьют мимо. Вопрос не к модели, а к метрике, которую ей велели максимизировать.
Регулирование придёт к этому
Истории такого рода обычно заканчиваются правилами. В рекламе финансовых услуг и азартных игр ограничения на таргетинг уязвимых групп уже существуют во многих странах, и моделирование «вероятности проиграть» рано или поздно окажется в том же ряду.
Для компаний, которые пользуются персонализацией мирно, это тоже имеет последствия: требования к прозрачности обычно распространяются на всех сразу, а не только на нарушителей.
Что с этим делать обычному пользователю
Полезно помнить, что подбор предложений под вас — это не забота, а оптимизация под чью-то метрику. Три практических привычки.
Замечайте, что именно вам подсовывают чаще. Если сервис настойчиво показывает одно и то же действие, значит, оно ценно для него. Совпадает ли оно с вашей целью, вопрос отдельный.
Разделяйте удобство и подталкивание. Подсказка «вы забыли товар в корзине» полезна. Серия напоминаний с растущей срочностью и таймером — уже работа с вашими эмоциями.
Просите объяснений у нейросети, а не у рекламы. Разобрать условия акции, посчитать реальную выгоду, сравнить тарифы — это ровно та задача, где модель полезна и на вашей стороне.
Что выяснило расследование?+
Что платформа ставок применяет модели для поиска пользователей с наибольшей вероятностью потерять деньги и работает с этой группой активнее.
Это законно?+
Вопрос открытый и зависит от юрисдикции. В рекламе азартных игр и финансовых услуг ограничения на таргетинг уязвимых групп уже существуют, и подобные практики обычно притягивают регулирование.
Чем это отличается от обычной персонализации?+
Механика та же. Отличается цель: здесь успехом считается действие, которое вредит самому пользователю.
Виноват ли в этом искусственный интеллект?+
Модель оптимизирует метрику, которую ей задали. Выбор метрики делают люди, и ответственность остаётся на них.
Как защититься от манипулятивных предложений?+
Обращайте внимание на то, какое действие вам предлагают чаще всего, отличайте полезную подсказку от нагнетания срочности и считайте выгоду сами, в том числе с помощью нейросети.
Что дальше почитать
- Как ловят злоупотребления нейросетями — обратная сторона темы.
- Нейросеть для Excel — посчитать выгоду по своим данным, а не по рекламному обещанию.