Kinesisk versjon av TikTok prøvde å lage en algoritme for å sensurere uiguriske liv
En tidligere ansatt i ByteDance, TikToks morselskap, rapporterte at utviklingsteamet hos Douyin, appens kinesiske søsken, prøvde å lage verktøy for å sensurere uigurer. Ifølge rapporter var selskapet på utkikk etter et slags filter for levende innhold som bruker språket til den muslimske minoriteten.
Ifølge utviklingsteknikeren ba appens modereringsteam gjentatte ganger om algoritmer som automatisk kunne oppdage når en Douyin-bruker snakket uigurisk. På denne måten ville det være mulig å avbryte, det vil si sensurere, en direktesendingsøkt av uigurene på TikToks søsken.
Forespørslene gikk ut på utvikling av verktøy med denne utførelsesmodellen for å filtrere ut alle etniske språk eller dialekter utenom mandarin. Hver gang en live blir utført på forskjellige språk, vises advarsler til brukere som krever at innholdet endres til mandarin. I tilfeller av ulydighet ville moderatorer manuelt kutte overføringen, uavhengig av innholdet i det som ble overført.
Detaljen, i forhold til uigurene, var imidlertid at det ble bedt om en algoritme for automatisk å kutte overføringen, så snart språket til den muslimske minoriteten ble snakket. Med dette vil moderatorer ikke bli ansett som ansvarlige for innhold som anses som ulovlig av kinesiske myndigheter.
Den kinesiske regjeringen og uigurene
Situasjonen mellom uigurer og den kinesiske regjeringen er en av de mest delikate i dag og er et av de mest kontroversielle temaene i landet. USA er en av hovedanklagerne mot måten Kina behandler denne muslimske minoriteten på sitt territorium, og påpeker at det de kaller en Uigur folkemord.
Bare for å gi tre eksempler på dette, i januar, Twitter suspendert den offisielle profilen til den kinesiske ambassaden i USA etter kontoen kalte den muslimske minoriteten en babymaskin. Et annet nylig tilfelle skjedde i desember 2020, da Huawei innrømmet at de testet en teknologi ansiktsgjenkjenning for å identifisere individer fra den uiguriske minoriteten i Kina. Forrige uke, appen Klubbhuset er forbudt av landet etter at kinesiske sensurer fanget opp samtaler i chatterom som omhandlet situasjonen i territoriet til Xinjiang, der den uiguriske minoriteten bor.
Den tidligere ByteDance-ansatte rapporterte at et slikt automatisk uigurisk språkidentifikasjons- og sensurverktøy aldri ble utviklet på TikToks kinesiske bror. Til tross for dette, ifølge teknikeren, er kinesiske borgere allerede engasjert i "selvsensur", og forhindrer alltid at emner som anses som forbudt i Kina blir diskutert på nettet.
Likevel er det alltid mye bekymring når det er et avbrudd, uansett hvor lite det er, i ByteDances interne moderering av innhold på nettverkene i Kina. I tillegg til Douyin, eier selskapet appene Toutiao, Xigua og Huoshan, hovedsakelig rettet mot underholdning. Teamet sensurerer hovedsakelig innhold som den kinesiske regjeringen anser som moralsk farlig, for eksempel pornografi, obskøne samtaler, nakenhet og banning. I tillegg til uautorisert salg av direktestrømming og innhold som bryter med opphavsretten overvåkes nøye. Til tross for dette er det politisk innhold som forårsaker mest rystelser for ByteDance, ifølge den tidligere ansatte, da det er et nytt selskap uten mange bånd til myndighetene.
En talsperson for Douyin-appen uttalte at det sosiale nettverket fortsetter å øke sin moderasjonskapasitet for plattformens sikkerhet, spesielt i liv. Faktisk, ifølge talspersonen, er det fortsatt flere språk og dialekter som ikke kan modereres effektivt på grunn av mangel på personellressurser, men selskapet jobber med å løse denne situasjonen.
via Business Insider e Protokoll
Bilde: Christian Ader / iStock
