Tutkijat osoittavat, kuinka helppoa Twitter-algoritmin manipulointi on
Sveitsin liittovaltion teknologiainstituutin (EPFL) tutkijat Lausannessa, Sveitsissä, löysivät Twitter-algoritmissa haavoittuvuuden, jonka avulla se voi manipuloida alustan trendikkäitä aiheita. Virhe antaa käyttäjille mahdollisuuden sijoittaa aiheita keinotekoisesti parhaillaan keskusteltujen aiheiden luetteloon ja luoda siten väärän käsityksen kiinnostavien aiheiden merkityksestä.
Hyökkäys, nimeltään "lyhytaikainen astroturffaus" (tai "efemeraalinen astroturfing") on digitaalinen muoto astroturfing – jolloin viestin levittämisestä kiinnostuneet todelliset ihmiset piilotetaan, jolloin se näyttää siltä kuin se olisi peräisin oikeilta ihmisiltä ja ryhmiltä. Väliaikainen osa johtuu huijauksen toimintatavasta: twiittaamalla aihetta massiivisesti ja poistamalla sen, algoritmit jatkavat aiheen havaitsemista riippumatta siitä, eikö twiitti ole enää lähetyksessä.
Tutkijat havaitsivat lyhytaikaisten astroturfing-hyökkäysten esiintymisen kesäkuun 2015 ja syyskuun 2019 välisenä aikana ja ilmoittivat Twitterille kahdesti mahdollisuudesta manipuloida algoritmia, joka on edelleen olemassa tähän päivään asti. Tutkimus osoitti, että pelkästään Türkiyessä vähintään 49 prosenttia viidestä suosituimmasta aiheesta nostettiin tämän huijauksen vuoksi. Tutkimus arvioi myös, että kahdelle kymmenestä alustan suosituimmasta maailmanlaajuisesta trendiaiheesta annettiin keinotekoisesti merkitystä.
Järjestelmän hyödyntämiseksi huijarit käyttävät sekä botteja että oikeita tilejä, jotka ovat joutuneet virtuaalisen hyökkäyksen uhriksi väärien trendien luomiseksi. Aiheet sisälsivät usein haitallisia kohteita, kuten tietojenkalastelusovelluksia, disinformaatiokampanjoita, vihapuhetta, mutta tutkimus löysi jopa viruksia avioliittoehdotuksille.
Vaikutussota
Ohimenevien astroturfing-hyökkäysten riskit piilevät yleisön huomion manipuloinnissa, koska monet uutiskanavat ja mielipiteentekijät luottavat Twitter-algoritmeihin tiedon tuottamisessa. Tutkijat havaitsivat esimerkiksi, että yksi syyrialaisten syrjäytymiseen kannustavista trendaavien aiheiden hashtageista on luotu tällä tekniikalla ja ilmeisesti käsitelty silloin lehdistössä, mikä johti idean väärään levittämiseen.
Vuosina 2019 ja 2020 hälytetty Twitter vastasi, että se oli jo tietoinen virheestä algoritmeissaan ja oli valmis korjaamaan sen. Asian suhteen ei kuitenkaan ryhdytty käytännön toimenpiteisiin. Ottaen huomioon, että alusta on esittänyt sarjan päivityksiä väärää tietoa vastaan Viime aikoina asenne on ollut vähintäänkin pettymys.
kautta Next Web
Kuva: gguy44/iStock
