Serwerownia od A do Z i zalety outsourcingu do Data Center

Data Center
infrastruktura IT
Krzysztof Surgut
12.10.2017 Krzysztof Surgut

Jeszcze 10-15 lat temu komputer nazywany był PC, od angielskiego określenia Personal Computer, czyli Komputer Osobisty. I faktycznie tak było. Komputer spełniał rolę zaawansowanej maszyny do pisania lub urządzenia do rozrywki. Jednak z czasem rozpowszechniła się poczta elektroniczna i rozpoczął się marsz elektronicznego obiegu informacji. Dość szybko okazało się, że pewna część elektronicznej wymiany informacji ma wiele wspólnych elementów. Tym samym narodziła się architektura klient-serwer. Czyli takiej budowy sieci komputerowych, w której pojawiły się specjalizowane komputery realizujące ściśle określone funkcje, np. serwer poczty, serwer plików, serwer aplikacji, serwer www, itd.

Komputer powoli utracił swoją autonomię i z czasem stał się rodzajem wrót do informacji znajdujących się w tych specjalizowanych komputerach, nazwanych powszechnie serwerami. Takie scentralizowanie ważnych funkcji w pojedynczych serwerach sprawiło, że stały się one bardzo ważnymi elementami sieci komputerowej. Ponadto bardzo szybko zaczęła rosnąć ilość dedykowanych serwerów, a to zaskutkowało pojawieniem się miejsca, w którym zgromadzono te wszystkie dedykowane komputery i nazwano je… serwerownią.



Serwerownia a Data Center


Czego potrzebuje przeciętny serwer? Jak każdy komputer wymaga miejsca, prądu i powiązania z siecią komputerową. W przypadku serwerów pojawił się jeszcze jeden wymóg: warunki i środowisko pracy. To coś, o czym przeciętny użytkownik komputera nie myśli. Jednak serwer to specjalizowany komputer, który na jak najmniejszej przestrzeni zainstalowane ma tysiące półprzewodnikowych układów scalonych. Fizyczne właściwości półprzewodników wymuszają, aby temperatura ich pracy nie przekroczyła pewnej granicznej temperatury. Po przekroczeniu tego progu temperaturowego, w półprzewodnikach następuje lawinowe generowanie się elektronów, co prowadzi do przegrzania i w efekcie spalenia. Z tego powodu serwery wymagają zdecydowanie bardziej kontrolowanych warunków temperaturowych niż zwykłe komputery. W praktyce oznacza to potrzebę bardzo dobrego wentylowania serwerów i odprowadzania ciepła, które generują układy scalone. W ten sposób powstały pierwsze wymogi dotyczące pomieszczenia serwerowni.

data center

Każda serwerownia musi mieć:

  1. Odpowiednią powierzchnię do instalacji serwerów,
  2. Odpowiednią ilość mocy, aby je zasilić,
  3. Odpowiedni obieg powietrza, aby odbierać ciepło wydzielane przez ściśle upakowane układy scalone.

Bardzo szybko okazało się, że zbudowanie wyspecjalizowanego pomieszczenia, które stworzy optymalne warunki do pracy serwerów, to dość karkołomne zadanie. W ten sposób powstały pierwsze centra przetwarzania danych. Takie centrum to specjalizowany zespół obiektów i systemów wspierania pracy serwerów, który został zaprojektowany zgodnie z przyjętymi regułami. Czym różni się serwerownia do centrum danych? Tym samym, czym domowa kuchnia od zakładu przetwórstwa żywności. W obu można przygotowywać jedzenie, jednak jeżeli chcemy to jedzenie przygotowywać na skalę masową i jak najtaniej, to zwykła, domowa kuchnia nie ma szans ze specjalizowanym zakładem przetwarzania żywności.

A czym różni się serwerownia od sieci serwerów? Tym samym, czym domowa kuchnia od sieci wyspecjalizowanych zakładów przetwarzania żywności, w której każdy zakład specjalizuje się w innego typu przetwórstwie, jednak każdy zakład specjalizuje się w czymś innym, a one wszystkie są połączone tą samą siecią logistyczną i obowiązują je te same przepisy i wymagania w zakresie przetwórstwa i obsługi łańcuchów dostaw.


Budowa serwerowni


Jak buduje się serwerownie? Skoro wiadomo, czego potrzebuje serwer, to bardzo łatwo przełożyć to na wymagania dla pewnej grupy serwerów.

Najpierw należy obliczyć ilość potrzebnego miejsca. W praktyce oblicza się to w postaci ilości specjalizowanych szaf do montażu serwerów, dla których należy znaleźć odpowiednią ilość powierzchni. Drugim wymogiem dla określenia potrzebnego miejsca jest wybór metody odprowadzenia ciepła, jakie generują serwery podczas swojej pracy. W zależności od wybranej metody, okaże się, co jest niezbędne do instalacji systemów chłodu. Trzecim krokiem jest obliczenie zapotrzebowania na moc elektryczną, jaką należy docelowo doprowadzić do zasilenia serwerów, a na końcu zaprojektować wszystkie sieci potrzebne do podłączenia serwerów do prądu, sieci komputerowej czy innych instalacji nadzoru. Mając tylko te trzy dane, bardzo łatwo stwierdzić czy dane miejsce/pomieszczenie, nadaje się na serwerownię.

Jeżeli serwerownia ma składać się z parunastu serwerów, to wymagania na pomieszczenia nie stanowią wyzwania. Problem pojawia się, gdy tych serwerów ma być dziesiątki czy setki. Wówczas dochodzi całkiem inna skala wyzwań oraz problem optymalizacji ekonomicznej, czyli wykorzystania efektu skali i obniżenia kosztów. Pierwszym problemem, jaki pojawia się przy dużej ilości serwerów, jest ich waga. Ustawienie serwerów w szafach sprawia, że ciężar każdego serwera sumuje się z pozostałymi i wywiera coraz większy nacisk na podłogę. Problem znają wszyscy akwaryści, którzy w swoich domach postanowili wstawić akwarium o pojemności tysięcy litrów wody. Przeciętna nośność stropu w bloku mieszkalnym to poziom ok. 2 kN/m2. Wydawać by się mogło, że to bardzo dużo. A jak wygląda praktyka? W praktyce 1.000 litrów wody, czyli akwarium o wymiarze 1m x 1m x 1m wytwarza nacisk ok. 0,98kN/m2. Szafy na serwery mają ponad 2m wysokości, a to oznacza że zwykły, mieszkaniowy strop nie ma szans udźwignąć takiego ciężaru. A to tylko jeden z wymogów technicznych.

Sama szerokość drzwi wejściowych do serwerowni powinna być odpowiednio duża, aby możliwe było wniesienie całego szeregu urządzeń technicznych i wyposażenia serwerowni. Wielu z z tych systemów nie da się rozłożyć na pojedyncze elementy i muszą być transportowane w całości. Osobiście widziałem jedno z pierwszych w Polsce centrum przetwarzania danych, gdzie agregat prądotwórczy został wstawiony na swoje miejsce, po wcześniejszym wyburzeniu ściany i jej ponownym odtworzeniu po instalacji urządzenia. Potem takie urządzenie może być naprawiane wyłącznie w miejscu jego instalacji. A to nie koniec problemów.


Wyposażenie serwerowni


Serwery montowane są w specjalizowanych szafach technicznych. Tutaj także pojawia się sporo wątków technicznych. Jak mają być ustawione takie szafy, jak ma wyglądać obieg powietrza w ich wnętrzu? A jeżeli chcemy zastosować chłodzenie serwerów cieczą, to problem techniczny komplikuje się jeszcze bardziej. Nie mniej ważnym jest sposób dostarczenia mocy do każdego z serwerów. Tutaj także efekt skali zaczyna piętrzyć trudności. Kiedy spojrzymy na pojedynczy serwer to okazuje się, że jego zapotrzebowanie na energię elektryczną wynosi jakieś 300-400W. Jeżeli w pojedynczej szafie możemy zainstalować 40 takich serwerów, wówczas musimy dostarczyć do takiej szafy moc 300×40=12kW energii elektrycznej. Przeciętne mieszkanie w bloku ma przyłącze o wydajności ok.3kW, czyli 4-razy mniej. A to dopiero jedna szafa. Jeżeli w serwerowni ma być 5-10 takich szaf? Poziom zapotrzebowania na energię elektryczną dramatycznie rośnie.

Stawia to też wyzwanie przed siecią energetyczną – zakład energetyczny musi taką moc dostarczyć „pod drzwi” takiej serwerowni. Także serwerownia musi posiadać odpowiednie wyposażenie do odbioru i dystrybucji takiej mocy. Tak duża energia elektryczna dostarczana jest w postaci średniego napięcia – 400 V. Serwery wymagają niskiego napięcia – 230 V. To oznacza potrzebę wyposażenia serwerowni w system, którzy przetworzy energię elektryczną z jednego napięcia na drugie i jednocześnie zapewni rozpływ tej energii do wszystkich szaf. Przy takiej mocy elektrycznej pojawia się także problem natężenia prądu. W domowym gniazdku mamy prąd o natężeniu ok. 0,25A. Pojedyncza szafa z zapotrzebowaniem na 16kW energii wymaga rozpływu prądu o łącznym natężeniu ok. 50A. Nie ma chyba wątpliwości – bez zawodowego elektryka i specjalizowanych systemów zasilających się nie obejdzie.

Na tym nie koniec wyzwań w serwerowni. Odejdźmy od czysto inżynierskich obliczeń i przyjrzyjmy się potencjalnym zagrożeniom, czyli zdarzeniom, które mogą mieć miejsce i które mogą zaburzyć poprawną pracę serwerowni. Zacznijmy od „prozy życia”. Serwerownie najczęściej budowane są w biurowcach, poprzez adaptację któregoś z pomieszczeń. To oznacza, że serwery stoją w miejscu, które otoczone jest normalną infrastrukturą budynku mieszkalnego/biurowego. W tej infrastrukturze najgroźniejsze dla serwerów są instalację wodne i kanalizacyjne. Wyciek z którejkolwiek z nich oznacza duże kłopoty w serwerowni. Począwszy od zwarcia i zapalenia się urządzeń elektrycznych, przez zniszczenie serwerów na skutek działania wody, kończąc na zagrożeniu życia ludzi, którzy mogą być porażeni tak dużym prądem, jaki jest dostarczany do zasilania serwerów.

Do tego dochodzi zagrożenie utraty danych znajdujących się na dyskach oraz przestój w działaniu aplikacji i systemów komputerowych, które działały na serwerach. Już samo istnienie takiego zagrożenia powoduje, że należy stworzyć plan awaryjny na wypadek jego wystąpienia w serwerowni. W praktyce oznacza to stworzenie serwerowni zapasowej, która przejmie główne zadania serwerowni głównej na czas usunięcia awarii czy innych problemów, które zaburzyły jej pracę. A wszystko po to, aby uniknąć przykrych konsekwencji zdarzeń losowych, którym poddane są serwery zainstalowane w ogólnodostępnych pomieszczeniach biurowych.

data center


Temperatura w serwerowni


Wysoka temperatura to zabójca dla półprzewodników. Wynika to z właściwości fizycznych półprzewodników, które po przekroczeniu pewnego poziomu temperatury ulegają nieodwracalnej degradacji – w praktyce, gdy układ scalony nie posiada zabezpieczenia, następuje jego spalenie. Aby uchronić użytkownika komputerów i serwerów, producenci układów scalonych wprowadzili specjalne mechanizmy ochronne, które przy zbyt dużej temperaturze pracy układu scalonego automatycznie wyłączają układ scalony z działania. W praktyce oznacza to ten sam efekt, co wyciągnięcie wtyczki serwera/komputera z gniazdka zasilającego. Z tego też powodu tak ważne jest zapewnienie odpowiedniego i wydajnego sposobu odbierania ciepła, wytwarzanego przez serwery.

Stosuje się w tym celu wiele różnych metod. Popularną z nich jest rozdział obiegu powietrza wewnątrz i wokół szafy w taki sposób, aby schłodzone powietrze wprowadzane było z jednej strony, a ogrzane przez serwery powietrze, odbierane było z innej strony szafy. W ten sposób powstają „zimne i ciepłe korytarze”. Taki rozdział obiegu powietrza ma swoje zalety ekonomiczne, ponieważ łatwiejsze jest kontrolowanie temperatury wewnątrz szafy i takie sterowanie przepływem powietrza, aby efektywnie schładzać serwery, gdy zaczynają wytwarzać coraz więcej ciepła.

Sam proces monitorowania temperatury wymaga specjalizowanego systemu klimatyzacji precyzyjnej, czyli zdecydowanie bardziej skomplikowanego systemu zarządzania obiegiem powietrza niż zwykła klimatyzacja w mieszkaniach czy biurach. Każda szafa z serwerami może wytwarzać różne ilości ciepła, a system chłodu musi nadążać za tymi zmianami i tak regulować przepływ powietrza, aby serwery pracowały w optymalnych warunkach.

Czy jest możliwa serwerownia bez klimatyzacji? Teoretycznie nie ma żadnych przeciwwskazań, aby serwerownia nie posiadała klimatyzacji. Pozostaje jedynie określenie, w jaki sposób następuje chłodzenie serwerów. Tutaj możliwości jest kilka.

  1. Pierwszą jest odbieranie energii cieplnej przy wykorzystaniu cieczy. Istnieją już technologie pozwalające na taki sposób zapewnienia odbioru ciepła, wytwarzanego przez serwery. Jednak jest to dość skomplikowana instalacja, która niesie za sobą sporo różnych „hydraulicznych” wyzwań i zagrożeń.
  2. Drugą możliwością jest umieszczenie serwerów w zimnym otoczeniu, czyli postawienie serwerów w warunkach polarnych, czy też jak planuje to zrobić firma SpaceBelt – umieścić serwery w kosmosie. W obu wypadkach skutkuje to umieszczeniem serwerów z dala od biurka informatyków firmy.
  3. Trzecim wyjściem jest takie rozmieszczenie serwerów na dużej powierzchni, aby naturalny obieg powietrza był wystarczający do ich chłodzenia. W tym wariancie chłodzenie grawitacyjne wymaga olbrzymiej przestrzeni „pod dachem”. Oczywiście każdy z tych wariantów jest technicznie możliwy, jednak ekonomicznie mało opłacalny – przynajmniej w kategoriach pojedynczej serwerowni.
agregat chłodzenie serwerownia

Wszędzie tam, gdzie mamy do czynienia z prądem o dużych mocach, instalacjami w których krążą różne płyny (np. klimatyzacji), czy też urządzeniami, które mogą wywołać pożar, powstaje potrzeba wytworzenia zasad i reguł BHP. Po pierwsze, wymagają tego krajowe przepisy. Po drugie wymaga tego dbałość o bezpieczeństwa pracowników firmy. Po trzecie, jest to korzystne dla firmy, ponieważ obniża ryzyko problemów i zdarzeń, które mogą mieć wpływ na poprawne działanie serwerowni. Po czwarte – po prostu się opłaca. Dlatego nie ma profesjonalnej serwerowni, która nie posiadałaby całego szeregu instrukcji, procedur i przepisów postępowania na wypadek różnych zdarzeń. Jak wszystko, co dotyczy natury ludzkiej, także w tym miejscu wymagana jest odpowiednio zorganizowana kontrola przestrzegania tych wszystkich procedur. Bez tego pracownicy dość szybko zaczynają „chodzić na skróty”, a to zawsze kończy się zaburzeniem pracy serwerowni, a bywają nawet przypadki śmiertelne wśród obsługi.

Niwelowanie zagrożeń to podstawowa rola BHP. Jednak nie tylko przepisy mają takie zadanie. Stosowanie nowoczesnych systemów monitorowania i reagowania na zdarzenie także przynosi wymierne korzyści. Podstawowym zagrożeniem w serwerowniach jest pożar. Wynika to zarówno z zakresu mocy energii jaka jest rozprowadzana do zasilania serwerów, jak i z racji natury samych półprzewodników. Straty, jakie wywołuje pożar, są wprost proporcjonalne do czasu, w jakim pożar się rozprzestrzenia. To oznacza, że im szybciej wykryjemy pożar i zareagujemy, tym mniejsze będą negatywne jego skutki. W tym celu stworzono cały szereg instalacji przeciwpożarowych, których podstawowym zadaniem jest wykrycie pożaru, a następnie uruchomienie specjalistycznego systemu gaszenia. Bez takiego systemu wykrywania i reagowania na pożar może dojść do całkowitego zniszczenia serwerowni. Realność takiego zagrożenia niech potwierdzi fakt z 2015 r., kiedy to zapłonęła serwerownia szczecińskiej policji, lub też z 2016 r., kiedy to miał miejsce pożar w serwerowni warszawskiego NFZ. Tylko powyższe zdarzenia pokazują, jak realnym jest powstanie pożaru w serwerowni.

Przeznaczenie serwerowni


Czy budowanie serwerowni w biurze wciąż ma sens? Odpowiedź na to pytanie jest dość prosta. Jeżeli firma wymaga do swojego funkcjonowania tylko paru serwerów, to można rozważyć instalację ich w biurze lub w jego bezpośredniej bliskości. Należy jednak mieć pełną wiedzę o zagrożeniach z tym związanych – począwszy od możliwości zalania, poprzez możliwość zwarcia w instalacji elektrycznej i zapalenia się instalacji czy serwera, na kradzieży urządzeń czy danych włącznie. Jeżeli dołoży się do tego fakt, że technologie serwerowe starzeją się w bardzo krótkim czasie – praktycznie co rok wychodzą coraz to nowsze, tańsze, wydajniejsze modele serwerów – to warto zastanowić się, czy w ogóle ma sens trzymania serwerów przy biurku informatyków? Profesjonalne zapewnienie odpowiednich warunków pracy dla serwerów to spore nakłady, poczynając od adaptacji miejsca, poprzez gwarancję ciągłości zasilania, gwarancję ciągłości połączenia z siecią internet, kończąc na odpowiednim chłodzeniu i ochronie przed pożarem czy nieautoryzowanym dostępem. Nie wspominając już o wymogach związanych z BHP czy potrzebą zatrudnienia ludzi o odpowiednich kwalifikacjach. Jeżeli do kosztu zakupu serwera dołożymy wszystkie dodatkowe koszty zapewnienia optymalnej pracy dla serwerów, to okaże się, że mogą być one większe niż wartość samego serwera.

Dlaczego informatycy chcą mieć serwerownie? Odpowiedź kryje się raczej w mentalności ludzkiej niż w zaletach technicznych własnej serwerowni. W Polsce wciąż pokutuje mniemanie, że informatyk to osoba, która ciągle musi mieć codzienny, fizyczny dostęp do każdego komputera – włączając w to serwery. Wielu informatykom wydaje się, że brak otoczenia sprzętowego, na którym tylko oni się znają, umniejszy ich prestiż w firmie oraz nasunie zarządom myśl o outsourcingu całości usługi informatycznych firmy. Ten tok myślenia skutkuje poglądem, że skoro serwery znajdują się na terenie firmy, to naturalnym jest, ze ktoś musi je fizycznie doglądać. W rzeczywistości każda firma wspierana systemami informatycznymi zależna jest od aplikacji, które na tych serwerach działają, a nie od samych urządzeń. Od tychże urządzeń wymaga się jedynie niezawodności i niskich kosztów utrzymania, natomiast główne zadanie biznesowe realizują programy komputerowe. To na nich powinni skupiać się firmowi informatycy, a nie na zapewnieniu poprawnego działania serwerów.

Outsourcing serwerów czy miejsca w specjalizowanym centrum danych (usługa kolokacji) to duże oszczędności w porównaniu do nakładów, jakie trzeba ponieść, aby serwery pracowały w optymalnych biurowych warunkach. Jak dołożymy do tego potrzebę zatrudnienia osób o odpowiednich kwalifikacjach, znających się nie tylko na serwerach, ale także na systemach zasilających, systemach chłodzących, sieciach komputerowych, systemach przeciwpożarowych itd., to okaże się, że więcej kosztuje utrzymanie całej otoczki zapewniającej poprawną pracę serwerów niż same serwery. Dlatego warto przyjrzeć się własnej organizacji pracy działu IT i zastanowić się, czy energia i czas, jaki codziennie poświęcają ludzie z działu IT na poprawną pracę serwerów, nie mogą być lepiej spożytkowane na rozwój aplikacji i programów komputerowych. To te programy i aplikację budują wartość firmy, a nie sprzęt i serwery.

Dlatego warto sprawdzić, w jakich warunkach pracują serwery w centrum przetwarzania danych Data Space. Tutaj mają zapewnione wszystkie niezbędne warunki techniczne do ciągłej i niezawodnej pracy. Począwszy od gwarancji ciągłości zasilania, poprzez zautomatyzowane systemy klimatyzacji precyzyjnej, na wielu niezależnych łączach z siecią internet kończąc. Dodatkowo wszystkie serwery objęte są monitoringiem specjalistycznego systemu przeciwpożarowego oraz automatycznego systemu gaszenia. Dostęp do serwerów regulowany jest zarówno przez wewnętrzne procedury, jak i system kontroli dostępu. A wszystko pod nadzorem administratorów, którzy czuwają przez całe 24 godziny na dobę, 7 dni w tygodniu, 365 dni w roku. Czy Twoja serwerownia spełnia tak dużo wymagań?

Krzysztof Surgut
Krzysztof Surgut krzysztof.surgut@dataspace.pl Przez ostatnie 15 lat współrealizował zaawansowane, ogólnopolskie projekty telekomunikacyjne i informatyczne (m.in. w Dialog, HAWE). Ekspert z zakresu systemów transmisji danych, VoIP, IPTV, systemów bezpieczeństwa oraz systemów radiowych. Współtwórca pierwszego w Polsce Scrubbing Center.
Bezpieczeństwo IT
Atak i ochrona przed DDOS
Infrastruktura IT
Zasilanie Data Center
   /   Infrastruktura IT   /   Serwerownia od A do Z i zalety outsourcingu do Data Center