Исследователи разработали автоматизированную систему машинного обучения — один из видов искусственного интеллекта (ИИ), которая может находить сообщения от интернет-троллей, основываясь на их содержании. Для ее работы не нужно вмешательство человека.

Команда отмечает, что их подход отличается от простого обнаружения ботов — эта операция намного сложнее. Модель учитывает объемы постов, их содержание и ключевые слова. Со временем она составляет образец шаблона троллей и находит публикации эффективнее.

В журнале Science Advances ученые отметили, что тестировали свою модель в четырех социальных сетях. Они анализировали публикации с декабря 2015 года по декабрь 2018, а также с июля 2015 года по декабрь 2016 года — периодами, когда «тролли пытались воздействовать на результаты выборов в США».

После обучения системы по подмножеству данных, команда заметила, что ИИ может не только находить посты троллей, но и определять их иерархию, а также вычислить аккаунты в других социальных сетях. Однако в некоторых случаях, когда тролли не используют единый скрипт, модель не смогла их найти.

Команда также обнаружила различия в работе в зависимости от языка — например, активность китайских троллей обнаружить легче, чем троллей из России. Модель смогла определить венесуэльских троллей с точностью в 99%.

Средний результат ИИ же составил 90-91%. Однако исследователи уверены, что улучшат этот результат в ближайшие месяцы.

Источник: sprotyv.info