Są już pierwszy ustalenia, dlaczego autonomiczny samochód potrącił śmiertelnie kobietę

W połowie marca tego roku miał miejsce pierwszy na świecie wypadek, w którym z winy autonomicznego samochodu zginął człowiek. Po różnego rodzaju badaniach wiadomo już, dlaczego do niego doszło.

Wypadek zdarzył się w USA, w mieście Tempe (Arizona), a autonomiczny samochód Volvo XC90 SUV należał do firmy Uber. Potrącił on przechodzącą ulicą kobietę, która na skutek odniesionych ran zmarła tego samego dnia w szpitalu. Uber podjął wtedy decyzję, że do momentu wyjaśnienia przyczyn wypadku wstrzymuje w stanie Arizona wszystkie testowe jazdy swoich autonomicznych samochodów.

Badanie wykazało, że czujniki zainstalowane na pokładzie samochodu wykryły co prawda kobietę (która przeprowadzała przez ulicę rower), ale zawiodło oprogramowanie interpretujące to zdarzenie. Zakwalifikowało je bowiem błędnie do kategorii "false positive", co oznaczało iż jest to nie zagrażające nikomu zdarzenie i samochód nie musi hamować i zatrzymać się.

Zobacz również:

  • Powstał największy chip AI na świecie
  • Uber będzie mieć własnego chatbota AI

Właściwa interpretacji różnego rodzaju zdarzeń, które występują na drodze, jest największym wyzwaniem dla deweloperów piszących programy sterujące autonomicznymi samochodami. Przykładem może tu być np. foliowa torba znajdująca się jezdni. Trudno założyć, że samochód w momencie wykrycia takiego obiektu na drodze powinien natychmiast zwolnić i zatrzymać się. Jazda nie byłaby wtedy płynna, gdyż samochód w momentach wykrywania takich obiektów musiałby za każdym razem zwalniać.

W przypadku tego śmiertelnego wypadku traf chciał, że oprogramowanie uznało iż wyłaniająca się z cienia kobieta (przechodzącej na dodatek jezdnię w niedozwolonym miejscu, gdzie nie było pasów), jest obiektem uprawniającym je do tego, aby zakwalifikować zdarzenie do kategorii "false positive".

Programiści stoją teraz przed dylematem. Jak zaostrzyć kryteria, tak aby do takich wypadków nie dochodziło w przyszłości, nie doprowadzając jednocześnie do tego, że jazda autonomicznym samochodem stanie się prawdziwą męką, gdyż będzie on co chwila zwalniał czy nawet zatrzymywał się.

W celu komercyjnej reprodukcji treści Computerworld należy zakupić licencję. Skontaktuj się z naszym partnerem, YGS Group, pod adresem [email protected]

TOP 200