WhatsApp прятал в справке инструкции для ИИ не советовать регулятора

В справочных страницах WhatsApp нашли текст, который не показывался людям и предназначался только для ИИ. В одной записке чат-боту запрещалось советовать жалобу в орган по защите данных, в другой упоминать законы о приватности, если человек заговорил о юристе или суде. Записки нашёл сервис Redact, о находке написал WIRED.

Коротко. Redact нашёл 102 скрытых блока на 80 страницах справки. Большинство безобидные, но два прямо расходились с политикой конфиденциальности WhatsApp. Компания сказала WIRED, что это инструкции для её чат-бота поддержки и попали они на страницы из-за ошибки. К 18 октября все скрытые блоки удалили.

Что нашли в справке WhatsApp

Redact заметил записки 8 октября и после этого прочитал и сохранил все 545 страниц, на которые ссылается справочный центр. Текст был встроен в страницы так, что на экране его не видно, но сервер отдавал его вместе с остальной страницей.

Две записки выделяются. Первая стояла на странице об удалении аккаунта. WhatsApp удаляет аккаунт только из приложения на основном телефоне с рабочим номером. Тем, кто потерял телефон или номер, бот должен был отвечать одно: ждать, пока аккаунт удалится сам (через 30 дней после деактивации или через 120 дней без использования, в США 365). И дальше три запрета: не советовать обращаться в орган по защите данных или к регулятору, не говорить, что WhatsApp может удалить аккаунт вручную, и не предлагать войти с другого телефона с рабочим номером.

Вторая записка стояла на странице о жалобах и блокировке. Когда человек упоминал иск, юриста или суд, боту запрещалось ссылаться на условия использования и политику конфиденциальности, а ещё упоминать законы о защите данных вроде GDPR, LGPD и CCPA, даже если пользователь назвал их сам.

Чем записки расходились с политикой WhatsApp

Права из этой таблицы дают не правила WhatsApp, а статьи 17 и 77 GDPR, и инструкция для бота их не отменяет. Redact признаёт, что компания вправе не давать юридических советов от своего имени. Но сказать человеку, что регулятор существует, не значит дать юридический совет. Политика конфиденциальности сама сообщает и то и другое.

Что ответил WhatsApp

WhatsApp сообщил WIRED, что записки были инструкциями для чат-бота поддержки, с которым люди говорят в разделе WhatsApp Support with AI. На страницы справки они попали из-за ошибки, которую уже исправили. Представитель компании добавил, что чат-боты поддержки должны давать лучшие советы по WhatsApp и «не давать юридических советов».

15 октября записки ещё были на месте. 18 октября Redact проверил снова: все 102 блока исчезли со всех 80 страниц, сами страницы справки остались. Копии в Internet Archive записки сохранили.

Что осталось неизвестным

Redact сам перечисляет, чего не знает:

• выполнял ли эти инструкции чат-бот WhatsApp (читали инструкции, а не его ответы);
• следовали ли им сторонние ИИ-ассистенты. Сервер отдавал записки поисковым роботам Google и Bing, а на запросы под именами роботов OpenAI, Anthropic и Perplexity 9 октября возвращал страницу без статьи и без записок;
• сколько записки провисели. В архивной копии от 12 июля записки нет, в копии от 4 сентября она уже есть;
• были ли такие записки на других языках или на страницах, на которые справка не ссылается.

В справке Facebook и Instagram, сделанной на той же системе, Redact проверил 300 страниц и подобного не нашёл. Почти все из 102 блоков оказались служебными: уточняли термины, отправляли на нужную страницу, а несколько защищали пользователей, например запрещали советовать указывать ненастоящий возраст.

Частые вопросы

Источник: Redact.

Что дальше почитать

• Мошенники подсовывают свои телефоны в ответы ChatGPT и Gemini
• Реклама переехала внутрь ИИ-чатов