A może jest tak, że Pańska krytyka nie dotyczy rewolucji informacyjnej jako takiej, a raczej jej "chorób dziecięcych", które z czasem zanikną?

Ależ oczywiście! Gdyby komputer rozumiał, czego się od niego chce, to można by mu powiedzieć: "No, przestań się wygłupiać! Daj spokój! Przestań stawać w tak elementarnym miejscu, omiń to i pracuj dalej". A on jest jak tramwaj - może tylko poruszać się po ustalonych torach. Można mu przestawić zwrotnicę, ale nie można kazać

mu jechać poza szynami.

Z urządzeń elektronicznych jesteśmy tak długo radzi, jak długo one działają. Jak nawalą, to i dobry fachowiec niewiele pomoże. Im bardziej otaczamy się tą technologią, tym bardziej jesteśmy wobec niej bezbronni, czego dowodzi choćby historia wirusa "I love you". Niezwykle trudno jest wytyczyć granicę: dotąd można, a dalej nie. Kiedyś, gdy jechał pan dorożką, to najwyżej mógł się dyszel złamać albo szprycha, ale nic się nikomu od tego za bardzo nie mogło stać. Concorde, cud techniki, spadł, bo kawałek blachy przebił mu oponę i od razu pociągnęło to za sobą sto ofiar.

To też cena technologii.

Z drugiej strony nie ma technologii niezawodnej i trudno mieć za złe komputerom, że akurat one takie nie są. Organizm ludzki jest produktem trzech miliardów lat ewolucji biologicznej, produktem znacznie dojrzalszym niż komputer i też ma błędy - choroby, wady wrodzone itd.

Struktura sieci komputerowej pod wieloma względami przypomina strukturę mózgu. I tu, i tam istnieją elementarne jednostki Ń komputery bądź neurony - połączone z innymi jednostkami. Jeżeli założyć, że świadomość i inteligencja to tylko procesy biochemiczne, które powstały jako wynik odpowiednio dużej złożoności naszego mózgu, to czy możliwe jest samoistne pojawienie się świadomości w sieci komputerowej?

Spotykałem się z takim poglądem. Moim zdaniem jest to niemożliwe. Założenie, że dostateczna złożoność sieci neuronowych stwarza świadomość, jest - moim zdaniem - błędne. Mam dwuletnią wnuczkę - jeszcze nie mówi, ale na pewno ma świadomość. Oj, jaką ona ma świadomość! Mors, słoń czy foka mają mózg większy od ludzkiego

ale nie dałbym głowy, że mają świadomość.

Obserwując moje psy, widzę, że one czegoś chcą. Pies chce jeść, pies chce wyjść, pies chce, by go głaskać - ma impulsy woli. Komputer nic nie chce. Poza tym nie wyobrażam sobie, jak sieć komputerowa miałaby swoją wolę objawić.

Pies ma ciało, którym może wyrazić swoje potrzeby. Ruch ciała jest pewnym komponentem przekazu. Nawet jak rozmawiamy przez telefon, to poruszamy rękami, robimy gesty i grymasy, choć przecież nasz rozmówca tego nie widzi.

Poza tym emocje. Dopiero na emocjach buduje się jakaś warstwa świadomości. Dziecko najpierw ma emocje, a potem dopiero zdaje sobie sprawę z tego, że myśli.

A inteligencja? Czy inteligencję również rezerwuje Pan dla ludzi?

To bardzo trudna sprawa. To, że my mamy inteligencję skupioną w głowie, to efekt ewolucji biologicznej. Ale inteligencja może być bardzo rozproszona, co najlepiej widać po zachowaniach socjalnych owadów. Mrówki w Brazylii potrafią zrobić ze swoich ciał mosty po to, żeby inne mrówki mogły po nich przejść. Każda mrówka z osobna nie wie nic, ale razem są zdolne do planowego, "inteligentnego" działania.

Z jednej strony byłbym więc skłonny rozszerzać pojęcie inteligencji na takie zjawiska biologiczne, z drugiej zaś byłbym bardzo oszczędny w szafowaniu nim tam, gdzie chodzi o komputery. Można zrobić nawet program, taki jak słynna Eliza 2), który potrafi poprawnie reagować na słowa kluczowe i prowadzić inteligentną konwersację. Moim zdaniem jest prawdopodobne, że już niedługo uda się nam stworzyć system komputerowy tak dobry, że przez długi czas nie będziemy mogli się zorientować, czy on jest inteligentny, czy tylko symuluje inteligencję.

Elektroniczne drzewo wiadomości złego i dobrego daje nam różne możliwości. Stosunkowo łatwo można stwarzać pozory inteligencji.

Te wszystkie kotki i pieski z ceramiki i krzemu, to coś, co mi się w ogóle nie podoba. Mam trzy psy i nie zamieniłbym jednej gąsieniczki na takie coś. Zresztą, o tym, czy ktoś ma inteligencję, można przypuszczać tylko per analogiam. Gdybym zrobił panu dziurę w głowie, zobaczyłbym mózg, ale nie inteligencję. Ta jest zjawiskiem czysto behawiorystycznym. Słowem, ci, którzy negują możliwość stworzenia inteligentnych maszyn, mają na razie silniejsze argumenty niż ci, którzy stwarzają nam nadzieję. Ale trudno cokolwiek wyrokować, bo to trudne zagadnienie.

Zapoznawałem się z planami ekspedycji na Marsa. Pytano o to, w jaki sposób można zaprogramować komputer, który będzie sterował zwiadowcą na powierzchni planety...