Hoe TikTok zijn regels heeft verbogen voor zijn beste makers

TikTok heeft een tweeledig moderatiesysteem gebruikt dat een voorkeursbehandeling geeft aan influencers, beroemdheden en andere VIP’s, volgens gelekte audio-opnames van interne TikTok-bijeenkomsten uit de herfst van 2021. Dit soepelere systeem voor beleidshandhaving heeft speciale wachtrijen gebruikt om de berichten te prioriteren en te beschermen van mensen met meer dan 5 miljoen volgers wanneer ze de inhoudsregels van TikTok overtreden.

Binnen de interne systemen van TikTok zijn deze spraakmakende accounts aangeduid met zogenaamde ‘creatorlabels’. Tijdens een bijeenkomst van eind september 2021 legde een lid van TikTok’s Trust & Safety-team uit dat de labels waren gereserveerd voor “speciale gebruikers” wiens inhoud afzonderlijk en anders moest worden gemodereerd dan inhoud van tweederangs gebruikers, volgens een opname van de vergadering. “We willen deze gebruikers niet behandelen als, eh, andere accounts. Er is een beetje meer clementie, zou ik zeggen’, zei een medewerker van het Trust & Safety-team.

Een andere deelnemer aan die bijeenkomst, een consultant van Booz Allen Hamilton, zei dat dit bevestigde wat hij eerder had gehoord van een andere TikTok-medewerker. Die medewerker, zei hij, “was nogal bot dat een beroemd persoon inhoud kon plaatsen en ik inhoud, en als ze allebei ongepast waren, zouden die van de beroemde persoon op kunnen blijven.”

TikTok wordt, net als de meeste andere sociale platforms, beheerst door een reeks gemeenschapsrichtlijnen, die alles controleren, van materiaal met seksueel misbruik van kinderen tot verkeerde verkiezingsinformatie tot gevaarlijke virale uitdagingen. De website van het bedrijf zegt dat deze regels “van toepassing zijn op iedereen en alles op TikTok.”

Toen hem werd gevraagd naar het bestaan ​​van een apart systeem voor het modereren van content door “makers” op TikTok, zei bedrijfswoordvoerder Jamie Favazza: “TikTok is niet soepeler in het modereren van accounts met meer dan 5 miljoen volgers.” Ze zei ook: “we hebben geen wachtrijen voor moderatie op basis van de volgende grootte. Favazza beantwoordde niet meteen een vervolgvraag of het bedrijf al eerder een dergelijk systeem had gebruikt.

“Een beroemd persoon zou inhoud kunnen plaatsen en ik zou inhoud kunnen plaatsen, en als ze allebei ongepast waren, zouden die van de beroemde persoon op kunnen blijven.”

Socialmediabedrijven die hun regels buigen voor de rijken en machtigen is niet nieuw. Bedrijven als Twitter, YouTube en zelfs Spotify hebben geworsteld met het overtreden van regels door A-lijst beroemdheden, mediabedrijven en wereldleiders.

Maar het bedrijf dat vooral bekend staat om zijn voorkeur voor krachtige posters is TikTok’s belangrijkste rivaal, Meta. Het moederbedrijf van Facebook en Instagram heeft een uitgebreid intern systeem ontwikkeld om te voorkomen dat bepaalde accounts worden gemodereerd door de gebruikelijke systemen van het bedrijf. Het systeem, XCheck genaamd, werd gebruikt om beroemdheden, journalisten en politici te beschermen. Een interne memo die voor het eerst werd gerapporteerd door de Wall Street Journal bekritiseerde de praktijk en zei:[i]Het creëert wantrouwen, voedt het verhaal dat Facebook ‘bevooroordeeld’ is en ondermijnt ons doel om legitimiteit op te bouwen bij belanghebbenden en de gemeenschap.” Destijds bevestigde Facebook het bestaan ​​van het systeem en beschreef het als een kwaliteitsborgingssysteem voor “inhoud die meer begrip zou kunnen vereisen”.

Het systeem van vriendjespolitiek van TikTok blijkt aanzienlijk minder uitgebreid te zijn dan het XCheck-systeem van Facebook. Het lijkt ook botter: hoewel Facebook XCheck-geschiktheid gedeeltelijk wordt bepaald door of een account “nieuwswaardig” of “PR-risicovol” was, bij TikTok, lijkt de grens puur numeriek te zijn geweest. In een opname van een vergadering in oktober 2021 legde een operationeel manager voor crisisbeheer van het TikTok Trust & Safety-team uit dat labels voor makers zijn gereserveerd voor accounts met meer dan 5 miljoen volgers.

“Je kunt volkomen begrijpen waarom een ​​socialmediabedrijf een speciale beoordeling van echt spraakmakende accounts zou willen hebben”, zegt Evelyn Douek, een professor aan Stanford Law School en Senior Research Fellow aan het Knight First Amendment Institute in Columbia. “Er is niets inherent kwaadaardig of verkeerds aan om dat te doen, het is eigenlijk gewoon een due diligence- of kwaliteitsborgingsmethode.”

Maar, waarschuwde Douek, een dergelijk systeem kan gemakkelijk worden misbruikt, vooral wanneer het wordt beheerd door mensen met een financiële prikkel om inhoud te laten staan ​​of te verwijderen. Hoewel ze er misschien hetzelfde uitzien, “is een systeem dat bedoeld is om ervoor te zorgen dat regels consistent worden toegepast, heel anders dan een systeem dat ervoor moet zorgen dat regels inconsistent worden toegepast, bijvoorbeeld wanneer de bottom line op het spel staat”, zei ze.

“Als Addison Rae een beetje een string laat zien, merken ze dat misschien, terwijl wij misschien wat milder zijn.”

Accounts die voldoen aan de drempel van 5 miljoen volgers zijn in het verleden het onderwerp geweest van problemen met het inhoudbeleid. Daniel Aronov, een Australische arts die 13 miljoen volgers op het platform vergaarde, kwam onder vuur te liggen voor het plaatsen van video’s tijdens zijn operaties en kreeg uiteindelijk de opdracht van een Australische regelgevende raad om zijn TikTok-account te verwijderen. Issey Moloney, een 17-jarige die berichten plaatst voor haar 5,9 miljoen volgers over psychische aandoeningen, kreeg kritiek omdat ze zelfdiagnose aanmoedigde.

In antwoord op vragen over deze accounts zei woordvoerder Favazza: “Hoewel we kunnen bevestigen dat inbreukmakende inhoud is verwijderd uit accounts die u hebt gemarkeerd, geven we prioriteit aan de privacy van mensen en daarom geven we geen privé-informatie over accounts vrij.”

Volgens de opname van oktober 2021 zijn werknemers ook gevoelig geweest voor welke externe contractanten toezicht houden op ‘creator’-accounts die een speciale behandeling krijgen. De operations manager van het crisisbeheer vroeg om inhoud van ‘creator’-accounts niet te beheren door een team van aannemers in Kuala Lumpur, omdat die moderators ‘zeer volgens het boekje’ waren, en ‘als het daarbuiten moet gaan, zullen ze niet.”

“Als Addison Rae een beetje een string laat zien, merken ze dat misschien, terwijl we misschien wat milder zijn”, zei hij, verwijzend naar een van TikTok’s grootste sterren. Addison Rae Easterling, 21, heeft meer dan 88 miljoen volgers op het platform en was de op twee na best betaalde TikTok-ster in 2022, volgens een Forbes schatting. (Het team van Easterling heeft niet gereageerd op een verzoek om commentaar.)

De operations manager van het crisisbeheer raadde aan dat wanneer er zich moderatieproblemen voordoen, de externe moderators de interne partnerschapsmanagers van de accounts op de hoogte moeten stellen – de TikTok-medewerkers die populaire makers moeten helpen bij het navigeren op het platform – maar de uiteindelijke beslissingen aan hem teruggeven.

“Ik zou daar zeker naar binnen kunnen gaan en gewoon een ban of een ban opheffen – wat hun verzoek ook is”, zei hij.