Linux jest często wskazywany jako alternatywa dla komercyjnych sieciowych systemów operacyjnych. Odpowiednie jego wykorzystanie pozwala na obniżenie kosztów budowy serwera internetowego. Nie bez znaczenia jest ogromna ilość oprogramowania serwerowego dostępnego nieodpłatnie.

Dzięki modułowej budowie Linux wydaje się znakomitym kandydatem do budowy systemu serwerowego. Umożliwia najpierw stworzenie szkieletu działającego systemu i dopiero potem dodawanie potrzebnych komponentów, takich jak bazy danych, usługi katalogowe itd. Ta daleko idąca elastyczność ma wiele zalet, ale również kilka wad.

Linux świetnie nadaje się do budowy tzw. czarnej skrzynki, czyli takiego rozwiązania, w które nie trzeba już ingerować po przeprowadzeniu poprawnej konfiguracji i które działa niemalże bezobsługowo. Jego podstawowe zalety to oczywiście niska cena (lub zgoła jej brak), wady - częste uaktualnienia związane z bezpieczeństwem i burzliwy rozwój systemu powodujący, że trudno jest utrzymać spójność. Problemem jest też słaba dostępność standardowych usług związanych z utrzymaniem rozwiązania.

Jedną z propozycji wykorzystania Linuxa jako "czarnej skrzynki" jest idea tzw. mikroserwera, czyli wyspecjalizowanego komputera sprzedawanego wraz z odpowiednio przygotowanym systemem operacyjnym. Takie maszyny (zazwyczaj niezbyt szybkie, ale relatywnie tanie) pozwalają odciążyć główną infrastrukturę firmy lub stworzyć ją tam gdzie nie ma innej możliwości, np. w firmach wielooddziałowych, w których w każdym oddziale pracuje tylko kilku pracowników. Zarządzanie mikroserwerami jest łatwe i sprowadza się do obsługi specjalnie przygotowanego interfejsu WWW (z szyfrowaniem SSL). Przykładem takiego rozwiązania są mikroserwery Cobalt (firma została przejęta przez Sun Microsystems). Mikroserwer jest gotowy do pracy natychmiast po włączeniu. Wystarczy ustawić adres IP (co czyni się zazwyczaj za pomocą wbudowanego wyświetlacza LED) i założyć konta użytkowników. Administracja takim autonomicznym systemem może być wykonywana tak naprawdę przez odpowiednio przeszkolonego pracownika. Dla małych firm linuxowy mikroserwer może być jedynym serwerem, pełniąc jednocześnie funkcje serwera dostępowego do Internetu (firewall, NAT), serwera poczty elektronicznej, WWW i FTP.

Dalej idącym pomysłem są wyspecjalizowane serwery linuxowe, przeznaczone do utrzymywania wielu wirtualnych serwerów WWW czy FTP na jednej maszynie (nawet 100-200). Przykładem takiego podejścia jest kolejny produkt firmy Cobalt - RaQ. To rozwiązanie jest wygodne dla dostawców usług internetowych, ponieważ otrzymują oni nie tylko jednorodne środowisko sprzętowe, ale również specjalne oprogramowanie do zarządzania infrastrukturą.

Oczywiście "czarne pudełko" można także zbudować, wykorzystując standardowy sprzęt PC. Jedynym kosztem będzie sprzęt oraz opłata za instalację i utrzymanie (jeśli nie są one wykonywane we własnym zakresie). Ogólnie przygotowanie takiego urządzenia sprowadza się do: instalacji systemu w możliwie jak najprostszej konfiguracji, tzn. bez dodatkowego oprogramowania i graficznych interfejsów użytkownika, instalacji wszystkich dostępnych aktualizacji, związanych z bezpieczeństwem oraz rekompilacją jądra systemu pod kątem tylko tych usług i sterowników, które będą rzeczywiście wykorzystywane, instalacji pakietów z oprogramowaniem i ich późniejszej konfiguracji

zapewnienia bezpiecznego sposobu zdalnej administracji systemem, np. serwer SSH lub interfejs do zarządzania przez WWW z szyfrowaniem SSL (program Webmin), zablokowania zbędnych usług sieciowych i portów oraz wykonania audytu bezpieczeństwa.

Jeśli instalację i konfigurację wykonano starannie, to serwer będzie działał bezobsługowo przez długi czas. Dość powszechne są czasy pracy rzędu 3-6 miesięcy bez konieczności restartu maszyny. Jest on konieczny jedynie w przypadku wymiany jądra systemu i sprzętu.