Zadanie takie spoczywa obecnie na moderatorach treści, którzy muszą i przeglądać i sami oceniać, czy można je rozpowszechniać. To bardzo trudne i pracochłonne, a niedozwolonych treści jest tak dużo, że nie zawsze jest to możliwe. Dlatego informatycy od dawna pracują nad technologiami, które pozwalałby scedować to zadanie na automaty.

Tym bardziej, że praca moderatorów niesie ze sobą wiele zagrożeń. Muszą oni bowiem przeglądać tysiące niekiedy bardzo brutalnych treści co powoduje, że borykają się z zespołem stresu pourazowego, popadają w depresję oraz wymagają bardzo często opieki psychologicznej. Automatom to nie grozi nie mówiąc już o tym, że są wydajniejsze.

Zobacz również:

• WordPress 6.5 trafia na rynek. Oto 5 najważniejszych zmian
• Telegram chce, aby z jego usługi zaczął korzystać biznes
• Problemów TikToka w USA ciąg dalszy

TikTok przyznał, że żadna technologia w tak delikatnym obszarze nie ustrzeże się błędów. Dlatego użytkownicy będą mogli sami zgłaszać zastrzeżenia dotyczące określonych treści, które są jednak wyświetlane i w ich ocenie nie powinny być oglądane przez dzieci i młodzież, a po potwierdzeniu tego przez moderatora, będą usuwane ręcznie. Co ważne, zdarzenia takie będą analizowane przez oprogramowanie bazujące na maszynowym uczeniu, po to aby w przyszłości uniknąć podobnych pomyłek.

Firma testowała wcześniej technologię w kilku krajach na całym świecie i ciągle ją uprawniała, chcąc być pewną, że automat nie będzie również kasować dozwolonych treści.