Naszpikowane elektroniką auta coraz częściej "myślą" za kierowcę, starając się, na ile to możliwe, korygować jego błędy. Są już modele, które na autostradzie prowadzą się same, potrafiąc trzymać nie tylko poziom i fason, ale i odległość do poprzedzającego pojazdu, jak również zapewnić jazdę po danym pasie ruchu. Kierowca w tym czasie może oddać się lekturze. O ile asystent parkowania działa w sposób automatyczny przy małych prędkościach, o tyle asystent ruchu na autostradzie to już nie to samo. Jakikolwiek błąd systemu czy oprogramowania to tragedia, a nie tylko wyświetlenie komunikatu o błędzie.

Można przytaczać wiele przykładów z życia codziennego, kiedy człowiek staje się ofiarą błędnej diagnozy stawianej przez komputer. Przypadki zjeżdżania samochodem po schodach czy wpadania do wody to już klasyka nurtu "nieograniczonego zaufania w nieomylność elektroniki". Pomimo wysokiego poziomu technologicznego należy z tych nowoczesnych narzędzi korzystać zgodnie z regułą ograniczonego zaufania. W końcu technologia to tylko elektroniczne dziecko ludzkiego umysłu - czasami zawodne i kapryśne, często obciążone przez swych twórców błędami logicznymi, które lubią się objawiać w najmniej oczekiwanych okolicznościach.

W wielu dziedzinach obserwujemy cyfrowe uzależnienie. Coraz częściej zdarza się słyszeć: system nie zezwala na to czy na tamto, komputer nie pozwala, nie ma tego w systemie, system twierdzi, że… A my, jako użytkownicy, musimy temu podlegać i nawet jeśli do końca nie jesteśmy przekonani co do poprawności zachowania się systemu, to musimy działać pod jego dyktando, gdyż inaczej nie przeprowadzimy tej konkretnej operacji. Już kilka lat temu pewna instytucja finansowa wystawiała zaświadczenie, którego treść oznajmiała: "wg wskazań naszego systemu komputerowego należności zostały spłacone" - tak jakby ten system był jakimś oddzielnym bytem i miał swoje zdanie. Patrzeć tylko, jak jakiś system sam zacznie podpisywać swoje zaświadczenia, wydawać oświadczenia i okaże się, że już kompletnie żaden urzędnik nie jest za to (ani za nic innego) odpowiedzialny.

Obawiam się, że jednak dojdziemy do tego, do czego nie powinniśmy, a co od dawna było wieszczone, tylko jakoś nikt poważnie tych przepowiedni nie brał pod uwagę. Najgorszy scenariusz ziści się wówczas, gdy system komputerowy będzie decydował, czy istniejemy, czy też nie, jak również o tym, co nam wolno, a czego nie. Może czarnowidztwo trochę na wyrost, ale czy pół wieku temu ktoś w ogóle byłby w stanie pomyśleć, że dziś nie będziemy w stanie kupić towaru, który widzimy na półce, tylko dlatego, że nie został jeszcze wprowadzony do komputera?