Dane dla Galerze

Dane dla Galerze

Schemat składowania danych w superkomputerze Galera.

Ponieważ metadane zmieniają się przy każdym dostępie do obiektów w Lustre, do ich obsługi niezbędna była szybka macierz. Galera, jak wiele superkomputerów, wykorzystuje magistralę InfiniBand (DDR - 20 Gb/s). Zatem system składowania danych musiał wspierać ten standard. Przetarg wygrała firma Polcom, dostarczając macierz firmy 3PAR, model T800, wyposażony w 4 kontrolery i zestaw dysków. Macierz będzie można w przyszłości rozbudować, dołączając jeszcze jedną szafę półek dyskowych. Wdrożenie przebiegło w dwóch etapach. Pierwszym było połączenie urządzeń i instalacja oprogramowania obsługującego system plików Lustre na wszystkich węzłach. Wiązało się to z rekonfiguracją systemów operacyjnych na tych maszynach. Drugim etapem było dostrojenie systemu, w celu uzyskania jak najlepszej wydajności. Podczas wdrożenia informatycy CI TASK współpracowali z inżynierami Polcom.

Zasoby i serwery

Do serwerów udostępniane są dwa zasoby dyskowe: HOME - dla katalogów domowych i WORK - jako przestrzeń robocza. Dla obu zasobów do składowania metadanych wykorzystywane są szybkie dyski FC 15000 obr./min. z macierzy 3PAR. Dla zapewnienia niezawodności zasobu HOME, jego dane (treść plików) umieszczane są też na macierzy 3PAR na dyskach FC 10000 obr./min. Natomiast dane WORK umieszczone są na 12 serwerach wyposażonych sumarycznie w 576 TB surowej pojemności na dyskach SATA. Najpoważniejszym wyzwaniem było dostrojenie macierzy, aby pogodzić jednocześnie całkowicie różne wymagania przy zapisie metadanych (duża ilość zapisów i odczytów małych plików) i danych (zapis sekwencyjny). Udało się przekroczyć zaplanowaną wydajność 10 GB/s, osiągając ok. 11 GB/s. Po analizie ustalono, że można osiągnąć nawet 12 GB/s, choć kosztem wzrostu ryzyka utraty danych w wypadku awarii dysku. Z takiej konfiguracji zrezygnowano. Należy pamiętać, że wydajność systemu będzie można w przyszłości podwyższyć, rozbudowując go w miarę potrzeb o kolejne serwery i półki dyskowe.


TOP 200