Объяснение: как WhatsApp убирает массовые автоматические сообщения

WhatsApp начал использовать машинное обучение для борьбы с массовыми рассылками и автоматическим поведением на своей платформе. Он утверждает, что удаляет 2 миллиона таких учетных записей в месяц, 75 процентов из них - еще до того, как пользователь сообщит об этом.

WhatsApp заметила, что для автоматизации массовой рассылки сообщений на платформе используются как программные, так и аппаратные методы.

В рамках своих постоянных усилий по предотвращению распространения фейковых новостей WhatsApp начал использовать машинное обучение для борьбы с массовыми рассылками и автоматическим поведением на своей платформе. WhatsApp, у которого более 1,5 миллиарда активных пользователей в месяц, утверждает, что удаляет 2 миллиона таких аккаунтов в месяц , 75 процентов из них - еще до того, как против них поступит жалоба от пользователей.

Как WhatsApp использует машинное обучение?
Он собирает признаки о действии и использует их для обучения классификатора. Часто эти данные основаны на поведении предыдущих преступников. Машины обучаются клеймить поведение как оскорбительное или пропагандистское.

Какие индикаторы используются?
Некоторые виды поведения вызывают тревогу. Например, если устройство находится в одной стране, но использует сети в другом месте. Или, если новый номер используется для рассылки только массовых сообщений и не ведет беседы один на один.

Еще одно интересное поведение - отсутствие индикатора набора в автоматических сообщениях. (Отсутствие) индикатора набора текста - раздача. Те, кто использует эмуляторы, забывают добавить это в свой код. По словам Мэтта Джонса из WhatsApp, если учетная запись никогда не отправляла индикатор набора текста, ее можно пометить как автоматизированную учетную запись.

Какие проблемы возникают при выявлении автоматизированного поведения?
Даже обычные учетные записи могут получить отчет, если они будут демонстрировать то, что иногда может быть ошибочно принято за автоматическое поведение. Например, пользователь получает новый номер телефона и отправляет сообщения людям, которые в то время кажутся чужими. Поэтому WhatsApp утверждает, что обучил свои системы принимать решения на основе более чем одного фактора.

Что делает WhatsApp после обнаружения автоматического поведения?
Как только пользователь помечается как автоматизированный, этот номер удаляется с платформы. Но хотя этот номер нельзя использовать для повторного входа в WhatsApp, пользователь всегда может использовать другой номер для возврата. WhatsApp заметила, что для автоматизации массовой рассылки сообщений на платформе используются как программные, так и аппаратные методы.

Какие элементы управления есть у пользователей, когда они видят автоматическое поведение?
Пользователи имеют возможность заблокировать пользователя и пожаловаться на него. У них также есть возможность выйти из группы. И теперь есть проверки, чтобы предотвратить их повторное добавление.

ПОДЕЛИТЕСЬ С ДРУЗЬЯМИ: