W parę miesięcy od wybuchu popularności generatywnej sztucznej inteligencji pojawiły się w sieci zestawy promptów, czyli sprawdzonych zapytań do modeli językowych. Dzięki zastosowaniu w nich konkretnych zwrotów ChatGPT czy Midjourney wydobywają z siebie bardziej przewidywalne wyniki. Autorami tych promptów są zawansowani użytkownicy, którzy usiłują odgadnąć, w jaki sposób myślą algorytmy AI – najczęściej metodą prób i błędów.

W przypadku większości narzędzi opartych na sztucznej inteligencji, nie tylko końcowi użytkownicy nie są w stanie wyjaśnić, jak ona działa. Nie wiedzą o tym także jej twórcy. Mogą dzięki testom nauczyć się przewidywać, np. jaką odpowiedź zwróci ich model językowy przy konkretnym zapytaniu, ale nie umieją wyjaśnić, dlaczego tak się dzieje.

Zobacz również:

• Jak sztuczna inteligencja wypada w testach kreatywnego myślenia? Wyniki amerykańskich badań
• Blaski i cienie AI
• Oto kolejny przykład, co potrafi sztuczna inteligencja

„Wyzwania związane z wyjaśnieniem wyników działania algorytmów nie dotyczą tylko głębokich sieci neuronowych, ale także prostszych algorytmów optymalizacyjnych, które mogą mieć nawet dowody poprawności. Prowadząc nasze badania zdaliśmy sobie sprawę, że użytkowników takie dowody nie interesują, nawet jeśli byliby w stanie je zrozumieć. Mimo to chcą oni dowiedzieć się dlaczego algorytm podjął konkretną decyzję” - komentuje prof. Piotr Sankowski, prezes IDEAS NCBR i lider grupy badawczej.

Stworzeniu takich wyjaśnień poświęcone są badania w projekcie EXplainable ALgorithmic Tools (EXALT) prowadzonym przez Piotra Sankowskiego w centrum badawczo-rozwojowym w obszarze sztucznej inteligencji IDEAS NCBR. „Naszym zdaniem, fundamentalną sprawą jest, abyśmy dobrze zrozumieli jak tworzyć wyjaśnienia prostych algorytmów zanim uda nam się z sukcesem wyjaśnić zaawansowane algorytmy AI w ramach prac nad Explainable AI (XAI)” - dodaje Piotr Sankowski.

Na realizację projektu EXplainable ALgorithmic Tools (EXALT) Piotr Sankowski otrzymał grant Europejskiej Rady ds. Badań Naukowych (European Research Council - ERC) w wysokości 150 tys. euro do zrealizowania w ciągu 18. miesięcy. To już czwarty grant badawczy w jego karierze naukowej.

„Przedmiotem naszych badań będą proste algorytmy optymalizacyjne, takie jak w nawigacji GPS wytyczające najkrótszą drogę dla pojazdu czy przypisujące pracownikom zadania do wykonania, aby zmaksymalizować efektywność. Do nich stworzona zostanie „nakładka”, czyli dodatkowy algorytm, który ma ustalić „dlaczego” dany algorytm podjął określoną decyzję. Może to być użyteczne przy tworzeniu rozwiązań opartych na sztucznej inteligencji w obszarach takich jak medycyna, obsługa klienta, sprzedaż, czy wspomniane systemy nawigacyjne. Kwestią otwartą pozostaje to w jaki sposób ta informacja będzie przekazywana użytkownikowi końcowemu” – wyjaśnia Piotr Sankowski.