Wpadka sztucznej inteligencji
- Janusz Chustecki,
- 09.07.2018, godz. 08:32
W zeszłym tygodniu jedna ze sztandarowych technologii IT, o której jest ostatnio bardzo głośno, zaliczyła spektakularną wpadkę. Chodzi o opracowany przez firmę Facebook algorytm analizujący wpisy, który uznał iż mowę nienawiści zawiera......Deklaracja Niepodległości Stanów Zjednoczonych Ameryki Północnej.
Stało się tak wtedy, gdy jedna z amerykańskich gazet zaczęła publikować na Facebooku fragmenty Deklaracji Niepodległości. Ku swojemu zdziwieniu jeden z takich wpisów został automatycznie usunięty przez działający automatycznie mechanizm opracowany przez firmę Facebook, którego zadaniem jest blokowanie treści zawierających mowę nienawiści.
Chodziło o to, iż w Deklaracji Niepodległości pojawiają się w pewnym momencie słowa wypowiedziane przez Thomasa Jeffersona, w których opisuje rdzennych mieszkańców tego kontynentu słowami "dzicy Indianie". To tak jakby powiedzieć na kogoś dzikus. Sztuczna inteligencja zaimplementowana w opracowanych przez Facebook mechanizmie uznała, że jest to nawoływanie do nienawiści ze względów rasowych.
Zobacz również:
- GPW WATS – twarda podstawa do globalnego konkurowania
- Microsoft zapowiada nową linię małych modeli językowych AI
- Musk ostrzega, że ludzkość nie docenia sztucznej inteligencji
Facebook przyznał się oczywiście do błędu i przywrócił zakwestionowany fragment Deklaracji Niepodległości na stronę. Jednocześnie redaktorzy serwisy przyznali, że w tych czasach brytyjscy kolonizatorzy rzeczywiście traktowali mieszkańców podbitego kontynentu tak, jakby nie byli ludźmi.