Są sytuacje, gdy sztuczna inteligencja zawodzi

A oto jedna z nich. Firmy Microsoft, IBM i Amazon zastanawiają się, czy używane przez nich systemy rozpoznające twarze nie powinny zrezygnować z usług sztucznej inteligencji, która dodaje do fotografii etykietę definiująca płeć, zawierającą jedno z dwóch słów: „Mężczyzna” albo „Kobieta”.

Wcześniej, bo w połowie lutego, decyzję taką podjęła firma Google, gdyż sztuczna inteligencja często myliła się i fotografii kobiety potrafił towarzyszyć napis „Mężczyzna”, a fotografii mężczyzny napis „Kobieta”. Google usunął już ten mechanizm ze swojego oprogramowania Cloud Vision API, tak iż obecnie zamiast obu tych określeń pojawia się neutralne słowo „Osoba”.

Błędy sztucznej inteligencji wynikały z faktu, że na skutek zmian kulturowych kobiety i mężczyźni zaczęli wyglądać podobnie. Chodzi tu o ubrania, fryzury, ozdoby i inne atrybutu, po których do tej pory można było z łatwością rozpoznać płeć.

Zobacz również:

Obecnie nie jest to już tak proste, a sztuczna inteligencja zawodziła szczególnie wtedy, gdy miała do czynienie z fotografiami kobiet mających ciemną karnację skóry. Wtedy myliła się najczęściej, ale również w innych konfiguracjach dochodziło do pomyłek. Fizyczny wygląd osoby przestał już być po prosty wyznacznikiem jej płci.

Na razie nie wiadomo, czy Microsoft, IBM i Amazon pójdą w ślady firmy Goole, ale presja na nie ze strony niektórych środowisk jest tak duża, że jest to wysoce prawdopodobne. Mogą one oczywiście próbować udoskonalić pracę programów rozpoznających płeć widocznej na zdjęci osoby, ale wydaje się, że będzie to bardzo trudne, jeśli w ogóle możliwe.


IBM Think Digital Summit Poland, 16-17 września 2020
TOP 200