MWS AI: спам-боты в Telegram обходят модерацию редактированием
В Telegram и других мессенджерах спам-боты начали обходить автомодерацию: сначала публикуют нейтральные комментарии, а затем редактируют их, заменяя на рекламу или фишинг. Об этом сообщили в компании MWS AI, отметив, что систему необходимо менять.
Спам-боты в мессенджерах начали обходить автоматические системы модерации при помощи редактирования уже опубликованных комментариев. Об этом ТАСС сообщили в компании MWS AI, входящей в состав МТС Web Services.
В организации уточнили, что метод, основанный на использовании искусственного интеллекта, был обнаружен в Telegram, однако применяется и на других площадках — в иных мессенджерах и социальных сетях. Если ранее боты, предназначенные для массового спама, сразу размещали готовый рекламный или фишинговый текст, то теперь их действия похожи на обычных пользователей.
Они используют нейтральные и позитивные формулировки, чтобы пройти первичную проверку, а затем редактируют свои сообщения.
Раньше случаи редактирования сообщений встречались точечно - это вручную делали живые пользователи, — отметил глава направления социальных медиа в MWS AI Алексей Макеенко.
Он признал, что автоматической модерации уже недостаточно для защиты от подобной схемы. После внесения правок пользователи видят рекламу ставок, фишинговые ссылки и иные нежелательные материалы, добавили в MWS AI.
Теперь администраторам сообществ и системам нужно отслеживать не только новые сообщения, но и последующие правки уже опубликованных комментариев, — резюмировал Макеенко.