Powstało nowe narzędzie do budowania platform LLM
-
- Janusz Chustecki,
- 23.07.2023, godz. 15:58
Ci deweloperzy, którzy podejmują trud projektowania interfejsów wykorzystujących język naturalny, które są używane do budowania dużych modeli językowych LLM, mają do dyspozycji nowe narzędzie. To oprogramowanie noszące nazwę TypeChat, które pojawiło się kilka dni temu na należącej do Microsoftu witrynie GitHub.
To biblioteka open source, która wykorzystując język programowania TypeScript i generatywną sztuczną inteligencję, pozwala budować aplikacje AI i integrować ze sobą ze wszystkie wchodzące w ich skład elementy. Mówiąc prościej, TypeChat ułatwia deweloperom zadanie budowania interfejsów obsługujących język naturalny.
Korzystając z tego narzędzia deweloper może podać określony temat, jaki ma obsługiwać aplikacja języka naturalnego, a biblioteka TypeChat wygeneruje na tej podstawie odpowiedni monit i wyśle go do modelu LLM, po czym sprawdzi czy jego odpowiedz jest zgodna z oczekiwaniem w prawidłowa. Jeśli weryfikacja poprawności takiej odpowiedzi da wynik negatywny, następuję ponowna interakcja z modelem, aż nastąpi naprawa niezgodnych z oczekiwaniem danych wyjściowych, czyli odpowiedzi modeli LLM.
Zobacz również:
- System MS-DOS wrócił po latach w postaci open source
- GitHub prezentuje funkcję wykorzystującą AI, która automatycznie skanuje i naprawia kod aplikacji
Twórcy biblioteki TypeChat twierdzą, że projektując go brali mieli na uwadze szereg kontrowersji dotyczących zasad funkcjonowania dużych modeli językowych LMM. Chodzi głównie o to, jak powinno się integrować takie modele z istniejącymi już interfejsami aplikacji AI, jak rozszerzyć tradycyjne interfejsy użytkownika o te, które obsługują język naturalny, oraz jak używać sztucznej inteligencji do przekształcania pytań użytkownika na format, który zrozumiały dla aplikacji AI. Jest to jedno z podstawowych zadań biblioteki TypeChat.
