W tej usłudze automat rozpozna i usunie niedozwolone treści

TikTok wprowadzi niedługo do swojej usługi technologię rozpoznającą automatycznie niedozwolone treści (takie jak nagość, przemoc czy nienawiść), których nie powinny nigdy oglądać osoby niepełnoletnie. Treści tego typu będą usuwane z rozpowszechnianych przez użytkowników przekazów.

TikTok

Zadanie takie spoczywa obecnie na moderatorach treści, którzy muszą i przeglądać i sami oceniać, czy można je rozpowszechniać. To bardzo trudne i pracochłonne, a niedozwolonych treści jest tak dużo, że nie zawsze jest to możliwe. Dlatego informatycy od dawna pracują nad technologiami, które pozwalałby scedować to zadanie na automaty.

Tym bardziej, że praca moderatorów niesie ze sobą wiele zagrożeń. Muszą oni bowiem przeglądać tysiące niekiedy bardzo brutalnych treści co powoduje, że borykają się z zespołem stresu pourazowego, popadają w depresję oraz wymagają bardzo często opieki psychologicznej. Automatom to nie grozi nie mówiąc już o tym, że są wydajniejsze.

Zobacz również:

  • Serwisy streamingowe na celowniku cyberprzestępców
  • Za dostęp do niektórych treści publikowanych na Twitterze trzeba będzie płacić
  • Rynek e-commerce może zostać wkrótce gruntownie przebudowany

TikTok przyznał, że żadna technologia w tak delikatnym obszarze nie ustrzeże się błędów. Dlatego użytkownicy będą mogli sami zgłaszać zastrzeżenia dotyczące określonych treści, które są jednak wyświetlane i w ich ocenie nie powinny być oglądane przez dzieci i młodzież, a po potwierdzeniu tego przez moderatora, będą usuwane ręcznie. Co ważne, zdarzenia takie będą analizowane przez oprogramowanie bazujące na maszynowym uczeniu, po to aby w przyszłości uniknąć podobnych pomyłek.

Firma testowała wcześniej technologię w kilku krajach na całym świecie i ciągle ją uprawniała, chcąc być pewną, że automat nie będzie również kasować dozwolonych treści.

W celu komercyjnej reprodukcji treści Computerworld należy zakupić licencję. Skontaktuj się z naszym partnerem, YGS Group, pod adresem [email protected]

TOP 200