Instytut Innowacji Technologicznych (Technology Innovation Institute, TII) wiodący globalny ośrodek badań naukowych i filar badań stosowanych Rady ds. badań naukowych w zakresie zaawansowanych technologii Abu Zabi (ATRC) w Zjednoczonych Emiratach Arabskich poinformował, że jest gotów udostępnić naukowcom i przedsiębiorcom z całego świata „Falcon 40B” - pierwszy duży model sztucznej inteligencji opracowany w Zjednoczonych Emiratach Arabskich.

Falcon to podstawowy duży model językowy (LLM), obejmuje 40 mld parametrów, a został wyszkolony na podstawie biliona tokenów. Instytut udostępnia wagi modelu naukowcom oraz przedsiębiorcom z sektora MŚP w formie bardziej kompleksowego, otwartego pakietu, mając na celu zapewnienie dostępu do ogromnego potencjału LLM, wspierając przejrzystość i rozliczalność, a także innowacje i badania naukowe w tej dziedzinie.

Zobacz również:

• Blaski i cienie AI
• Ta technika rozwiązuje problem ograniczonej wielkości okien kontekstowych obsługujących modele językowe LLM

Falcon 40B to przełomowy model opracowany pod przewodnictwem ośrodka TII ds. badań naukowych nad sztuczną inteligencją i rozwiązaniami cyfrowymi (AIDRC). W zeszłym roku zespół wprowadził również NOOR, największy na świecie model programowania neurolingwistycznego dostępny w języku arabskim, a obecnie pracuje nad rozwojem i udostępnieniem modelu Falcon 180B, co nastąpi już niebawem.

W obecnym ekosystemie sztucznej inteligencji modele LLM zapewniające dostęp do wag są bardziej atrakcyjne dla programistów ze względu na zaawansowane funkcje umożliwiające ich precyzyjne dostosowanie w porównaniu z modelami, których wagi nie są dostępne. Większość modeli LLM jest udostępniana na zasadzie wyłącznych licencji jedynie użytkownikom niekomercyjnym, jednak TII zdecydował się na podjęcie przełomowego kroku w postaci udostępnienia modelu Falcon 40B badaczom i użytkownikom komercyjnym.

Wraz z udostępnieniem Falcon 40B jako modelu otwartego TII ogłosił zaproszenie do składania wniosków, zachęcając naukowców, badaczy i wizjonerów podekscytowanych możliwością wykorzystania potencjału modelu podstawowego do zaprezentowania swoich innowacyjnych pomysłów i wykorzystania modelu do opracowania inspirujących zastosowań lub zbadania dalszych możliwości jego wykorzystania w takich dziedzinach jak inżynieria, opieka zdrowotna, programowanie oraz w wielu innych obszarach.

Jako zachęta dla wybitnych wniosków dotyczących prac badawczych, wybrane projekty otrzymają „szkoleniową moc obliczeniową” w formie inwestycji, aby umożliwić innowatorom wykorzystanie solidnych zasobów obliczeniowych do szybszej analizy danych, opracowywania kompleksowych modeli oraz nowych odkryć. Wsparcie w tej postaci wspomoże i przyspieszy opracowanie nowatorskich pomysłów, dzięki zapewnieniu niezbędnych zasobów, aby przekształcić je w istotne rozwiązania AI atrakcyjne pod względem komercyjnym i przynoszące korzyści dla społeczeństwa.

„Moc obliczeniowa odgrywa zasadniczą rolę w usprawnieniu szkolenia systemów sztucznej inteligencji i umożliwieniu szybszego wdrożenia ich zastosowań. Jako nowe paliwo napędzające innowacje technologiczne, decyzja o zapewnieniu tego rodzaju wsparcia będzie przełomowa dla zwiększenia możliwości innowatorów oraz umożliwienia im przekraczania dotychczasowych granic opracowywanych projektów w celu osiągania niesamowitych postępów” - powiedział Dr Ray O. Johnson, dyrektor generalny TII.

VentureOne, segment ATRC zajmujący się działalnością komercyjną, udostępni moc obliczeniową w celu realizacji najbardziej innowacyjnych rozwiązań.

„Udostępnienie Falcon 40B jako rozwiązania otwartego stanowi zasadnicze osiągnięcie w ramach naszego zobowiązania do wspierania innowacji w obszarze sztucznej inteligencji”, komentuje H.E.Faisal Al Bannai, sekretarz generalny Rady ds. badań naukowych w zakresie zaawansowanych technologii Abu Zabi (ATRC). „Rewolucjonizujemy dostęp do LLM i umożliwiamy naukowcom oraz przedsiębiorcom opracowanie najbardziej innowacyjnych zastosowań. Te najbardziej innowacyjne zgłoszone rozwiązania zamierzamy wspomóc dofinansowaniem w postaci mocy obliczeniowej za pośrednictwem VentureOne, pragnąc przyczynić się do dalszego rozkwitu ekosystemu badań naukowych”.

Model Falcon, który po raz pierwszy został zaprezentowany w 2023 r., okazał się niezwykle wydajny, a jego opracowanie stanowi wyraz zaangażowania Zjednoczonych Emiratów Arabskich na rzecz postępu technologicznego. Wykorzystując narzędzie porównawcze HELM LLM opracowane przez Uniwersytet Stanforda, Falcon 40B uzyskał wyniki lepsze od znanych, porównywalnych modeli, dzięki wykorzystaniu znacznie mniejszych ilości szkoleniowej mocy obliczeniowej. Wykorzystując zaledwie 75% szkoleniowej mocy obliczeniowej GPT-3 opracowanego przez OpenAI, 40% mocy modelu sztucznej inteligencji Chinchilla od Deep Mind oraz 80% szkoleniowej mocy obliczeniowej PaLM-62B od Google, narzędzie potwierdziło zaangażowanie TII na rzecz przyspieszania postępów w dziedzinie generatywnych narzędzi sztucznej inteligencji.

„Udostępnienie modeli sztucznej inteligencji Falcon 40B, 7.5B oraz 1.3B jako rozwiązań otwartych oraz wysokiej jakości zbioru danych REFINEDWEB stanowi przykład istotnego wkładu Zjednoczonych Emiratów Arabskich w stan wiedzy naukowej. Z każdą przełomową innowacją kwestionujemy granice, przekształcamy zakres dostępnych możliwości i torujemy drogę do współpracy przyczyniającej się do zmian” - powiedział Dr Ebtesam Almazrouei, dyrektor przekrojowego wydziału TII ds. sztucznej inteligencji.

Zjednoczone Emiraty Arabskie poprawiły niedawno swój wynik o pięć pozycji, plasując się na najwyższym miejscu na podium wśród krajów arabskich oraz na 37. pozycji w rankingu ONZ Frontier Technologies Readiness Index 2023 obejmującym 166 krajów. W następstwie realizacji licznych postępowych osiągnięć technologicznych otwarty generatywny model sztucznej inteligencji umocni pozycję Zjednoczonych Emiratów Arabskich jako wiodącego dostawcy rozwiązań AI.

W celu uzyskania dostępu do modeli sztucznej inteligencji Falcon lub złożenia wniosku dotyczącego możliwych zastosowań należy zajrzeć na stronę internetową FalconLLM.TII.ae. Aktualne otwarte modele LLM Falcon zostaną udostępnione w ramach licencji opartej na zasadach otwartego oprogramowania Apache 2.0, która umożliwia szeroki zakres bezpłatnych zastosowań.

Źródło: TII, Business Wire