Дослідники демонструють, як легко маніпулювати алгоритмом Twitter
Дослідники зі Швейцарського федерального технологічного інституту (EPFL) у Лозанні, Швейцарія, виявили вразливість в алгоритмі Twitter, яка дозволяє йому маніпулювати популярними темами платформи. Недолік дозволяє користувачам штучно розміщувати теми в списку тем, що зараз обговорюються, і, таким чином, створювати хибне уявлення про актуальність тем, що цікавлять.
Напад під назвою «ефемерний астротурфінг» (або «ефемерний астротурфінг») є цифровою формою Астротурфінг — це коли реальні люди, зацікавлені в поширенні повідомлення, приховані, створюючи враження, ніби воно походить від реальних людей і груп. Ефемерна частина пов’язана з тим, як працює шахрайство: шляхом масового твітування теми, а потім її видалення, алгоритми продовжують виявляти тему, незалежно від того, чи твіт більше не в ефірі.
Дослідники виявили наявність ефемерних атак астротурфінгу в період з червня 2015 року по вересень 2019 року, двічі повідомивши Twitter про можливість маніпулювання алгоритмом, яка існує й донині. Дослідження виявило, що тільки в Туреччині щонайменше 49% із п’яти найпопулярніших тем були порушені цим шахрайством. Дослідження також підрахувало, що двом із кожних десяти найпопулярніших тем на платформі штучно надавали актуальності.
Щоб застосувати схему, шахраї використовують як ботів, так і реальні облікові записи, які є жертвами віртуальної атаки, щоб створити помилкові тенденції. Теми часто містили шкідливі цілі, як-от фішингові програми, кампанії дезінформації, мова ворожнечі, але дослідження виявило навіть вірусні мови для пропозицій шлюбу.
Війна за вплив
Ризики ефемерних атак астротурфінгу полягають у маніпулюванні увагою громадськості, оскільки багато новинних видань і громадських організацій покладаються на алгоритми Twitter для отримання інформації. Дослідники виявили, як приклад, що один із хештегів у трендових темах, який заохочував виключення сирійців, був створений за допомогою цієї техніки та нібито висвітлений у пресі того часу, що призвело до неправдивого поширення ідеї.
Попереджений у 2019 та 2020 роках, Twitter відповів, що вже знає про недолік у своїх алгоритмах і готовий його усунути. Проте жодних практичних заходів з цього приводу вжито не було. Враховуючи, що платформа представила низку оновлень проти дезінформації Останнім часом позиція, м’яко кажучи, невтішна.
через The Next Web
Зображення: gguy44/iStock
