Pomyśleć, jak wielkie trzeba pokładać zaufanie, gdy przedmiotem zabiegu jest gałka oczna, gdzie precyzja działania ma pierwszoplanowe znaczenie. Wystarczy chwila nieuwagi i straty mogą być niepowetowane. Pytanie, jakie nasuwa się przy takiej okazji, brzmi: czy nie lepiej, aby zawodną rękę chirurga zastąpił wysoko specjalizowany automat, który byłby w stanie zrobić to samo pewnie, sprawnie i bez zmęczenia? Jeśli automat, to z pewnością zaprogramowany, a jeśli tak, to znaczy, że programowali go ludzie. Czyli automat ten będzie zawierał błędy w oprogramowaniu, to pewne. Resztę możemy sobie dośpiewać.

Dlatego z dystansem podchodzę do tematu samosterowalnych samochodów. Przecież nikt nigdy nie da gwarancji, że błąd oprogramowania nie będzie przyczyną nieszczęścia. Nawet jeśli z ryzykiem zejdziemy do bardzo niskiego poziomu, to jednak zawsze jakieś ono będzie. Nie jest to jedyny dylemat w przypadku tego rodzaju urządzeń. Prawdziwym problemem staje się zachowanie takiego pojazdu w obliczu nieprzewidywalnych zachowań niesterowalnej części osobników, takich jak: piesi, rowerzyści, zwierzęta. Bo przecież nigdy w życiu nie dojdziemy do etapu kontroli wszystkiego i wszędzie. No chyba, że się mylę.

Zobacz również:

• Roberta Nelson Shea z Universal Robots z „robotycznym Noblem” po raz drugi

Każdy człowiek ma zaszyty w sobie naturalny algorytm ochrony własnego życia, demonstrujący się jako odruchowe działania w sytuacjach skrajnych. Wtedy się nie myśli, tylko działa tak, aby wyjść cało z opresji. W przypadku algorytmów sterujących pojazdami takie prawidła nie zachodzą. Nikt nie zaprogramuje działań chroniących w pierwszym rzędzie kierowcę, a dopiero potem innych uczestników ruchu. Jeśli już, to będzie musiał zostać zaimplementowany algorytm optymalizujący straty w ludziach, w związku z czym, jeśli przed maskę wtargnie dwóch nietrzeźwych gości, to mając do wyboru ich rozjechanie albo wjechanie na drzewo, z automatu kierowca znajdzie się na przegranej pozycji. Algorytm podejdzie do sprawy rzetelnie, ilościowo, bez emocji i porównań jakościowych. Dla niego sztuka człowieka to sztuka bez względu na wszystko. Nie będzie algorytmicznego dochodzenia, kto zawinił, kto jest lepszy, a kto gorszy, czyli kogo lepiej ocalić. Przynajmniej jeszcze nie teraz.

Stajemy więc w obliczu moralnych wyborów, które będą tak właśnie się objawiać. Dla każdego, co jest oczywiście subiektywne, jego własne życie i zdrowie są najważniejsze, ale logika algorytmu jest skrajnie inna. Musimy więc w przypadku automatów obdarzać je zaufaniem i spodziewać się w określonych sytuacjach wszystkiego dla nas najgorszego.