Wpadka sztucznej inteligencji

W zeszłym tygodniu jedna ze sztandarowych technologii IT, o której jest ostatnio bardzo głośno, zaliczyła spektakularną wpadkę. Chodzi o opracowany przez firmę Facebook algorytm analizujący wpisy, który uznał iż mowę nienawiści zawiera......Deklaracja Niepodległości Stanów Zjednoczonych Ameryki Północnej.

Stało się tak wtedy, gdy jedna z amerykańskich gazet zaczęła publikować na Facebooku fragmenty Deklaracji Niepodległości. Ku swojemu zdziwieniu jeden z takich wpisów został automatycznie usunięty przez działający automatycznie mechanizm opracowany przez firmę Facebook, którego zadaniem jest blokowanie treści zawierających mowę nienawiści.

Chodziło o to, iż w Deklaracji Niepodległości pojawiają się w pewnym momencie słowa wypowiedziane przez Thomasa Jeffersona, w których opisuje rdzennych mieszkańców tego kontynentu słowami "dzicy Indianie". To tak jakby powiedzieć na kogoś dzikus. Sztuczna inteligencja zaimplementowana w opracowanych przez Facebook mechanizmie uznała, że jest to nawoływanie do nienawiści ze względów rasowych.

Zobacz również:

Facebook przyznał się oczywiście do błędu i przywrócił zakwestionowany fragment Deklaracji Niepodległości na stronę. Jednocześnie redaktorzy serwisy przyznali, że w tych czasach brytyjscy kolonizatorzy rzeczywiście traktowali mieszkańców podbitego kontynentu tak, jakby nie byli ludźmi.