W chwili obecnej to ludzie nadal sprawują kontrolę nad rozwojem robotów i innych inteligentnych urządzeń, a nie na odwrót. Nie oznacza to, oczywiście, że dyskusja jest niepotrzebna, nie należy jednak przesadzać.

Jednym z argumentów przemawiających za zachowaniem spokoju jest to, że komputery nadal pozbawione są ważnej cechy wyróżniającej człowieka, mianowicie celowości działania. Z tym twierdzeniem nie zgadza się jednak Stuart Russel, profesor na Uniwersytecie Kalifornijskim w Berkeley zajmujący się inżynierią i naukami komputerowymi. Uważa on, że intencje wcale nie są warunkiem powstania zagrożenia.

Zobacz również:

• Innowacje – co je napędza, a co hamuje
• Roberta Nelson Shea z Universal Robots z „robotycznym Noblem” po raz drugi

- Problem pojawia się już wtedy, gdy komputer prześciga człowieka pod względem umiejętności pozyskiwania informacji i tworzenia prognoz, a na dodatek niekoniecznie kieruje się tymi samymi celami – wyjaśni Stuart Russel. – Największa trudność polega na tym, że sami do końca nie wiemy, jakimi dokładnie wartościami kieruje się dziś ludzkość, a więc nie możemy idealnie kierować zachowaniem maszyn. Znane są przecież przypadku, gdy mimo szczegółowych instrukcji przekazywanych maszynie nie działa ona zgodnie z oczekiwaniami – dodaje.

Stuart Russel twierdzi, że może prowadzić to do powstania błędnego koła, w którym człowiek nie będzie w stanie wyłączyć komputerów, bo te – obdarzone nadludzką inteligencją - rozpoznają jego zamiary i będą się przed nim bronić, wiedząc doskonale, że wyłączenie systemu jest dla nich największym zagrożeniem.

Wszystko wskazuje na to, że przyszłość ludzi i robotów leży w naszych rękach. Twórcy sztucznej inteligencji muszą stale pamiętać o tym, by tworzyć rozwiązania będące częścią ludzkiego ekosystemu, a nie wybiegające poza nasze własne horyzonty. Wtedy, jak twierdzą niektórzy naukowcy, w przyszłości roboty mogą stać się najlepszym – obok psów i kotów – towarzyszem człowieka.