Ta przeglądarka pozwoli pobierać na komputer różne modele językowe LLM
-
- Janusz Chustecki,
- 04.04.2024, godz. 11:09
Opera zapowiedziała w tym tygodniu, że wprowadzi do swojej przeglądarki funkcję opracowaną w ramach projektu AI Feature Drops Program, która pozwoli jej użytkownikom pobierać na komputer duże modele językowe i następnie uruchamiać je lokalnie.
Z nowej funkcji będą mogli skorzystać w pierwszej kolejności użytkownicy przeglądarki Opera One. Rozwiązanie bazuje na platformie open source Ollama i jego twórcy informują, że użytkownik będzie mieć do wyboru 150 różnych modeli LLM, w tym te opracowane przez firmy Meta i Google. Wszystkie dostępne modele stanowią podzbiór biblioteki Ollama, ale w przyszłości firma planuje uwzględnić modele z różnych źródeł.
Opera informuje, że każdy modelu LLM zajmie na dysku komputera od 2 GB do nawet 10 GB. Dlatego należy zachować ostrożność przy korzystaniu z większej ilości modeli, aby uniknąć wyczerpania miejsca na dysku. Firma radzi, aby na początek ładować takie modele, jak Llama ( model używany do generowania kodu aplikacji), Mixtral (model używany do generowania tekstu i odpowiadania na pytania, oraz Phi-2 (model językowy Microsoftu używany do rozpoznawania języka naturalnego).
Zobacz również:
- System MS-DOS wrócił po latach w postaci open source
- Przeglądarka Chrome będzie jeszcze jakiś czas akceptować pliki cookie
- Przeglądarka Opera dla urządzeń iOS będzie korzystać z własnego silnika.
Aby przetestować funkcję, najpierw należy otwórz panel boczny Aria Chat i wybrać z rozwijanego menu opcję Choose Local Mode. Wtedy klikamy opcję Go to settings i wyszukujemy interesujący nas model. Po załadowaniu na komputer wybranego modelu LLM klikamy przycisk Menu (widoczny w lewym górnym rogu) i rozpoczynam konwersację.
