TikTok bestemmer seg for å etablere nye moderasjonspolitikker i et forsøk på å bekjempe villedende informasjon

I begynnelsen av denne uken kunngjorde Microsoft sin forberedelse mot fortsatte diskusjoner for kjøp av TikTok i USA, etter forbudstrusler i landet. Dette tiltaket er som svar på bekymringer fra president Trump angående dets personvernpraksis og mulige forbindelser til kinesiske myndigheter.

Nylig har TikTok bestemt seg for å etablere ny moderasjonspolitikk for bedre beskyttelse av plattformen mot feil informasjon, valginnblanding og annet manipulerende innhold foran årets valg. Selskapet sier nå at det forbyr alle ‘deepfakes’ eksplisitt. Deepfakes er AI-drevne manipulasjoner av video og lyd designet for å villede folk om noe en person kan ha sagt eller gjort.

I et blogginnlegg publisert av Vanessa Pappas onsdag ble det nevnt at selskapet legger til en policy som vil forby manipulert eller syntetisk innhold som villeder brukere ved forvrengning av sannheten ‘på en måte som kan forårsake skade’. Hun utdypet videre at deres hensikt er å beskytte brukere mot dype eller grunne forfalskninger.

Deepfakes i TikTok har ofte blitt assosiert med ansiktsbyttende videoer som brukes til å lage pornografisk innhold. Til nå har de ikke blitt brukt av en større politisk kampanje, selv om president Trumps gjenvalgskampanje og Det hvite hus har delt eller opprettet mindre sofistikerte redigeringer og annet lignende villedende innhold som er blitt merket som veldig misvisende.

De siste årene har vi observert en økning i teknikker for sofistikering og brukervennlighet når det gjelder å skape disse dype forfalskningene. Denne teknologien har i stor grad gitt bekymring for hvordan deepfakes på et eller annet tidspunkt kan brukes til å gjøre villedende redigeringer av politikere som uttrykker støtte eller sier ting som kan skade deres omdømme eller miskreditt dem. Flere store sosiale medieplattformer og noen stater har derfor fullstendig forbudt dypfakes i politiske annonser.

TikTok tillater ikke noen politiske annonser allerede. Selskapet legger til at dens dype falske forbud er ment å gjøre det vanskeligere å bruke plattformen mot å presse villedende medier for politisk gevinst. I henhold til sin nye moderasjonspolitikk forbyder Tiktok bruk av bot- og falske kontoer som villeder folk angående kontoinnehaverens identitet med den hensikt å svinge den offentlige mening eller utøve andre former for innflytelse. Det utvider også partnerskap med faktasjekk med Lead Stories og PolitiFact for faktasjekk av potensiell feilinformasjon knyttet til USAs valg 2020. Det legger også til et valg av feilinformasjonsalternativ til rapporteringsmekanismen i appen for å la brukerne flagge mistenkelige kontoer eller innhold. . Appen vil også inneholde et nytt ‘valginformasjonssenter’ for å peke brukere mot autentisk informasjon om stemmegivning, rase og andre relaterte emner.