Az SZTE Egyetemi Számítóközpont géptermének rekonstrukciója
Készítette: Zombori Zoltán
Csóti Zoltán
Miről lesz szó? • A számítógépek teljesítménye, minél kisebb helyre minél nagyobb teljesítményt. • HEFOP pályázatból megvalósított fejlesztések • 2008-tól megvalósított fejlesztések – – – –
Tervek készítése Elektromos fejlesztés Klíma fejlesztés Felügyelet, menedzselési eszközök
2/21
Miért van szükség ilyen fejlesztésre? A gyártói hitvallás: Minél kisebb helyre minél nagyobb teljesítményt. 1 db X5570 processzor maximális hődisszipációs mutatója (TDP): 95 W 1 db HP BL490 G6-os szerver átlagos fogyasztása:1120W Rendelkezésre állás legalább 99.995% legyen (Meghibásodásból adódó leállás: évente ~26 perc)
3/21
A kezdetek
• Az 1880-as években elemi népiskolának épült • A gépterem az 1970-es években épült, Kalmár László Kibernetikai Laboratórium • Itt kaptak helyet az ESZR gépek, majd a 90-es évek elején egy IBM4361 Mainframe
4/21
A HEFOP 4.2.1 pályázat által indukált fejlesztések • Moduláris UPS beszerzés: Symmetra SY40K80H • Dízel áramfejlesztő gép beszerzés: FG Wilson P165E • Alagsori villamos elosztó bővítés
5/21
2008-tól megvalósult fejlesztések Számítóközpontot érintő fejlesztési projektek • TTIK IBM blade szerverek + storage ~ 10 kW • TTIK HP blade szerverek + storage ~ 10 kW • ESZK HP blade szerverek + EMC NS-480 storage ~20 kW • NIIFI HPC fejlesztés ~60 kW • NIIFI HBONE+ átállás Épületgépészeti felújítások, irodák, oktatási termek klimatizálása, tetőtér beépítése.
6/21
Egy tervezőirodával készítettük el a gépteremi fejlesztésekhez a terveket. A tervezéshez az alábbi alapparamétereket határoztuk meg: • Az Árpád téri épület maximális áramfelvétele 630 A. • A gépteremben a rendelkezésre álló teljesítmény 200 kW • A hűtőteljesítmény illeszkedjen az elektromos teljesítményhez. • Valódi kettős táplálás az általunk üzemeltetett berendezéseknek. • A fejlesztésekhez beszerzendő UPS egy SY160K160H-PD. • A klíma vízhűtéses, a kültéri berendezések szabadhűtővel (free cooling) rendelkeznek. • A gépteremet a hideg és meleg folyosók kialakításához át kell rendezni. • A beltéri berendezések típusa ACRC103. • Az összes átalakítást úgy kell elvégezni, hogy az ESZK által nyújtott szolgáltatásokat a lehető legkisebb mértékben akadályozza. 7/21
Megvalósított elektromos rendszer
8/21
Megvalósított hűtési rendszer
9/21
ya sz ta l
Hűtőköri osztó-gyűjtő (falra szerelve, álpadló alá futó bekötésekkel) I
1
1
OPERÁTOR
ELŐTÉR
CONS PC
ACRC103 12.
NIIF HPC8. Storage
NT
NIIF HPC7. Storage ACRC103 1 1.
FUJI nyomtató
CO PC NS
Te as szt zta l
(SWITC H)
INF szekrény
INF szekrény
ETR 2
ETR 1
TÜSZ
ISX PDU
GD elosztó
HP4100
A2 6
SYM UPS
Operátori asztal
SY UP M S
IS X PD U
A26
Operátori asztal
PD akku+PDU
PD inverter
ET ter R min al SY160K160H-
ET 9. ter R mi na l SY160K160H-
ACRC103
2
1 ET R
ET R
SZ
6.
2,5m
ELOTER
Teszt asztal
N
UP S
MA NS U
.
HP SU 410 0 N NIIF HPC6. II.
TÜ
ny
ACRC103
IN F sz ek ré
3.
5
T-System1
4
Teszt szekrény
MAG 2
5
10.
7.
sc HP anne r 4
ACRC103 8
NIIF HPC5.
NIIF HPC4.
ACRC103 5 .
SU N4 HPC3. ter NIIF mi 50 na l
GÉPTEREM GEPTEREM
MA G
3
2
MA G
MAG5
ACRC103
Op as erát zta ori MAG6 l
ACRC103
MAG7
Op as erát zta ori l
Felügyeleti rendszer MAG4
NI I Ma F nP C
ACRC103
FU ny JI om IBM Blade tat ó
0m 1m
T-S ys tem T-System2 1
MA G
M
AG Oszlop
Oszlop
4.
SZK tartalék
ACRC103
IBM Bla SZK de tartalék
NIIF HPC2.
ACRC103 2 .
IBM Blade
0 1
T- S ys tem 2
MAG 1
MA G
NIIF 1
NI IF
F NIIF 2 2
NI
NIIF UPS
Pr ox
1.
ESZK Blade 2.
ACRC103
NIIF HPC1.
PDPM138H
ESZK Blade 1.
Gépterem berendezése 5m
10m
10/21 9/26
Elektromos felújítás I. ütem • Főelosztó csere. • Új tűzvédelmi főkapcsoló. • Fogyasztásmérőhely felújítás. • Fázisjavító berendezés csere. Az alábbi szolgáltatási minimumot tűztük ki célul: • A gépterem teljes energiaellátást kap, de lesznek időszakok, amikor nem lesz tartalékolt az ellátás (áramfejlesztőről üzemel a gépterem). • Az épület munkaszobáiban nem lesz elektromos áram. • A biztonsági funkciókat ellátó áramköröknek egyedi megoldásokkal biztosítunk energiát. • A kazánházat is ellátjuk villamos árammal. (Január!) 11/21
Elektromos felújítás I. ütem Kivitelezés
12/21
Elektromos felújítás II. ütem • Új tápkábel kiépítése a gépterem alatti villamos elosztók számára. • Alagsori elosztó tokozat bontása. • Új alagsori elosztó telepítése. • Új géptermi elosztó telepítése. • Új gépészeti elosztó létesítése a gépterem tetejére. • Az új dízel áramfejlesztő bekötése az új alagsori elosztóba. • A gépterem álpadlója alatti erős- és gyengeáramú kábeltálcahálózat kiépítése. • Tápkábel kiépítés az új 160 kVA-es UPS számára. • A már meglévő 80 kVA-es UPS átkötése az új elosztóra. • A gépészeti elosztó bekötése a régebbi áramfejlesztőnkkel támogatott elosztószekrénybe. • Ötvezetékes rendszer kialakítása az épület összes elosztójában (TN-C-S rendszer).
13/21
Elektromos felújítás II. ütem SY160K160H-PD UPS telepítése A SY160K160H-PD típusú UPS főbb jellemzői: • moduláris felépítés, • N+1 redundancia mellett 144 kVA kimeneti teljesítmény, • integrált szerviz bypass kapcsolószekrény, • integrált, modulárisan bővíthető kimeneti elosztó egység, • üzem közben cserélhetőek a meghibásodott modulok, • web/SNMP manager kártya.
14/21
Elektromos felújítás II. ütem P220HE2 áramfejlesztő gép telepítése Áramfejlesztők elhelyezése
15/21
Elektromos felújítás II. ütem Kábeltálcák kiépítése a gépteremben
16/21
A hűtési rendszer beltéri egységeinek telepítése
17/21
A hűtési rendszer kültéri egységeinek telepítése
18/21
Felügyeleti rendszer APC NetBotz 200 + 5 db NetBotz 150 feladatai: • hibajel kontaktusok fogadása, • gépterem hőmérsékletének és páratartalmának mérése, • hiba esetén e-mail értesítés, SNMP trap küldés. APC ISX Central Basic feladatai: • közös menedzser felület biztosítása, • SNMP és Modbus TCP eszközök felügyelte, • hiba esetén e-mail értesítés, • jelentések, grafikonok készítése.
19/21
Felügyeleti rendszer Felügyeleti rendszer
Felügyeleti rendszer NB0200, AP9320
Hűtés beltéri egységek 12db ACRC103
Kültéri vízhűtők 2db ERAF1221
SWPDU-k 3db AP7922
UPS-ek 3db RT5000
UPS Symmetra PX 80
ISXPDU
UPS Symmetra PX2 160
Áramfejlesztők, stb. WS100 NetBiter
(elvi vázlat)
APC SW VLA N130 192.168. 0.0/ 22
V LAN130 192. 168.x.x
V LA N130 192. 168.x. x
Po w er C h ute kli en s Le á ll ító sze rve r
Cacti
V LAN130 192.168. x.x
Privát hálózat ISX Cenral
ISX Manager
Publikus hálózat V LA N129
V LA N129
VLA N130
DELL 710 VPN+SSH+mail Szerver
DELL ES X Trunk V LAN129, 130
C6509 Core
20/21
Köszönöm a figyelmüket!
Készítette: Zombori Zoltán Csóti Zoltán 21/21