Cisco Expo 2012
Návrh středně velkého DC pro různé typy aplikací Tomáš Michaeli - Consulting System Engeneer – DCV Central
[email protected]
29-Mar-2012 © 2012 Cisco and/or its affiliates. All rights reserved.
Cisco Public
1
Cisco Expo 2012
• Lokalita a fyzické prostředí • Požadavky aplikací • Plánování kapacity CPU • Plánování kapacity RAM • Doporučená topologie pro malé DC 100-300 VM • Propojení s datovým úložištěm
(iSCSI, FCoE and FC)
• Expo 2012 SMB DC • Závěr
© 2012 Cisco and/or its affiliates. All rights reserved.
Cisco Public
2
Obnova technologií (40%)
Fyzické do virtuálních – brown field (40%)
Green field (20%)
• 3Y nebo 5Y obnova
• Energetická a prostorová
• Ojedinělé
podpory na server/úložiště • Úplná výměna • Navýšení stávající
kapacity a výkonu • Snadné uvedení
nových technologií
limitace, IT nedokáže plnit požadavky businessu • Težší pozice pro nové
technologie UCSNEXUS-MDS interoperabilita
• Rozmístění, energie
a plány chlazení • Velmi snadné
uvedení nových technologií • DR je povinný
• Migrace a integrace se
stávajícím prostředím je náročná
-
+
Celková kapacita © 2010 Cisco and/or its affiliates. All rights reserved.
-
+
Inovace
-
+
Náklady Cisco Public
3
Ochrana perimetru, strategická poloha Ochrana vjezdu aut, biometrie, kontrola vstupu + ochranka
Vnitřní a venkovní kamerový systém, rozmístění racků Výpočetní sál
MDA
Main Distribution Area
EDA Equipment Distribution Area
HDA © 2010 Cisco and/or its affiliates. All rights reserved.
Horizontal Distribution Area Cisco Public
4
In-rack X-rack Zpoždění
Standars
~ 0.1W
~ 0.1ms
SFF 8431
15m
4W
~ 0.1ms
IEEE 802.3ak
MM OM2 MM OM3
10m 100m
1W
~0
MM OM2 MM OM3
82m 300m
Across racks 1W
~0
Cat6 Cat6a/7 Cat6a/7
55m 100m 30m
~ 6W*** ~ 6W*** ~ 4W***
2.5ms 2.5ms 1.5ms
Médium
Kabel
Vzdálenost
SFP+ CU*
Twinax
<14m
Twinax
copper
X2 CX4 copper
SFP+ USR MMF, ultra short reach
SFP+ SR MMF,short reach
RJ45 10GBASE-T copper
© 2010 Cisco and/or its affiliates. All rights reserved.
Spotřeba
~50% powernone savings with EEE IEEE 802.3ae
IEEE 802.3an
Cisco Public
5
Napájení [kW] Redundatní elektrická přípojka
Zelená energie – solární panely, LED Rotační UPS systém, diesel agregát Nádrže na naftu (chráněné)
Chlazení [BTU] • Chlazení bez zvýšené podlahy • Operační teplota ASHRAE 2008: 27° • Strukturovaná kabeláž min. 10G © 2010 Cisco and/or its affiliates. All rights reserved.
Cisco Public
6
Tier Komponenty Aktivní Datové Cesty Jeden Bod Selhání Nezávislí Management Dostupnost / Roční výpadek
I
II
III
IV
Pouze N
N+1
N+1
2 (N + 1)
Jedna
Jedna
Aktivní / Pasivní
Dvě
Ano
Ano
Ano
Ne
Ano
Ano
99.982% 1.6 hodin
99.995% 0.4 hodin
Ne 99.671% 28.8 hodin
Jenom komponenty 99.749% 22.0 hodin
Zdroj: The Uptime Institute
© 2010 Cisco and/or its affiliates. All rights reserved.
Cisco Public
7
Application
% Considering
SQL Server
66%
SharePoint
55%
Exchange Server
53%
.NET Framework
50%
System Center
30%
Visual Studio
27%
Office
26%
Storage Server
24%
Hyper-V
22%
• Podniky plánují na Cisco UCS aplikace jako SQL Server, SharePoint, Exchange
Server a/nebo .NET Framework • Průzkum pro Cisco provedli Penton Research, partner SQL Server Magazine a
Windows IT Pro • Průzkum v době od 27. Dubna do 30. Května 2011 © 2010 Cisco and/or its affiliates. All rights reserved.
Cisco Public
8
• VMware vSphere dominantní v hypervizorech • Nejčastěji virtualizujete SQL Server (73%) SharePoint (53%) a
Exchange (46%). Jakou virtuální platformu jste u Vás nasadili? VMWare vSphere
SQL Server
72%
Microsoft Hyper-V
Které aplikace virtualizujete? 73%
SharePoint
17%
53%
Exchange Critix XenServer
46%
6% Oracle
None
29%
2% MySQL
Parallel's Virtuozzo
1%
Other
1% 0%
15%
DB2
10%
Other 20%
© 2010 Cisco and/or its affiliates. All rights reserved.
40%
60%
80%
100%
16% 0%
20%
40%
60%
80%
100%
Cisco Public
9
• Požadavky pro jednoho uživatele virtuálního desktopu s Windows 7 –
1.5GB RAM, 600MHz CPU, 12 IOPS, 50kB/s 200 živých uživatelů ~ 300GB, 120GHz, 2400IOPS ~ 2xC250/2.4/192G
© 2010 Cisco and/or its affiliates. All rights reserved.
Cisco Public
10
• Nástroje – VMware/Capacity Planner, Novell/PlateSpin,
Microsoft/MAP Toolkit
© 2010 Cisco and/or its affiliates. All rights reserved.
Cisco Public
11
© 2010 Cisco and/or its affiliates. All rights reserved.
Cisco Public
12
• Nesprávné osazení DIMM může mít až 50% dopad na výkon CPU • Vliv má osazení kanálů a taktovací frekvence DIMM kanálu
© 2010 Cisco and/or its affiliates. All rights reserved.
Cisco Public
13
vSphere5 Licence Standard
Enterprise
Enterprise +
Processor
1 CPU
1 CPU
1 CPU
vRAM
32
64
96
vCPU
8
8
32
Kapacita RAM serveru v (GB) 2 CPU 2 licence
64
128
192
4 CPU 4 licence
128
256
384
© 2010 Cisco and/or its affiliates. All rights reserved.
Cisco Public
14
2CPU Intel X55xx, X56xx Kapacita
DIMM (GB)
DIMMy rychlost (MHz)
Cena /GB
64 GB
8x8
1333
44
128 GB
8 x 16
800QR / 1333DR
62
192 GB
12 x 16
800QR / 1333DR
62
STD
2CPU Intel E7 192 GB
16 x 8 a 16 x 4
1066
50
ENT+
ENT
4CPU Intel X75xx, E7 128 GB
16 x 8
1333
44
256 GB
16 x 16
800QR / 1333DR
62
© 2010 Cisco and/or its affiliates. All rights reserved.
Cisco Public
15
• O čem při návrhu mluvíme? • Kritéria pro výběr návrhu
Výpočetní vrstva a škálování Požadované vlastnosti a uplatnění Cisco výhod
1K
Cisco Nexus
x86
Konkurenční prostředí • Návrhy podle > 128 CPUs 33 – 64 CPUs 8 – 32 CPUs (100-300VM) < 6 CPUs
• VMDC, SP slouží pro velké
© 2010 Cisco and/or its affiliates. All rights reserved.
Cisco Public
16
© 2010 Cisco and/or its affiliates. All rights reserved.
Cisco Public
17
FC Storage
SAN
LAN
MGMT
LAN Switch
SAN Switch
Direct Attach FCoE Storage
1,2,4,8 Link 20 – 160 Gb per chassis © 2010 Cisco and/or its affiliates. All rights reserved.
FC Storage
Až 160 rack serverů Plná LAN a SAN konektivita Cisco Public
18
FEX
FEX
Fabric B
Fabric A 10-40GE
10-40GE vHBA 0
vNIC0
vNIC2
vNIC4
vNIC6
vNIC1
vNIC3
vNIC5
vNIC7
vHBA 1
vSwitch / vDS / N1K
MGMT
VM DATA
vMotion
NFS
FC
Fabric A
vmnic0
vmnic2
vmnic4
vmnic6
MP
Fabric B
vmnic1
vmnic3
vmnic5
vmnic7
MP
Min BW
5%
25%
10%
30%
10%
Class
Gold CoS 4
Silver CoS 2
Best Effort
Plat CoS 5
CoS 3
* Nastavení podle projektových požadavků © 2010 Cisco and/or its affiliates. All rights reserved.
Cisco Public
19
• Management provoz Nízké zatížení, Relativně vysoká důležitost
• Ethernet Storage Vysoké zatížení, Vysoká důležitost
• VM datový provoz Střední zatížení, Vysoká důležitost
• vMotion Špičky v provozu Propustnost dostupná například při migraci
• Fault Tolerance Vysoká důležitost (synchronní) Střední zatížení (doporučení 10Gb)
• FCoE Dedikovaný CoS = 3 * Adjust based on environment 20
© 2010 Cisco and/or its affiliates. All rights reserved.
Cisco Public
20
+Adapter FEX – poskytne statické vNIC pro vSphere s různou
hodnotou CoS Podpora QoS s livovolným vSwitchem Velmi časté při nasazení s UCS, 6x vNIC +1000v – vlastnosti 1000v s podporou hardware queueingu
VIC V kombinaci s Adapter FEX Vlastnost “Host Control – Full” a respektuje CoS from 1000v +VM FEX – poskytne vNICky pro virtuální servery přímo z
UCS +DRS cluster – dostatek vNIC i při zmigrování na jeden server
+Fabric interconnect 61xx max 56, 62xx max 116
© 2010 Cisco and/or its affiliates. All rights reserved.
Cisco Public
22
1 Traffic Type CoS Console Value Bandwidth Weight% Platinum -> Mgmt NFS 3Gbps 30% Silver -> VM Traffic5 FT/Mgmt 4 -> vMotion 2Gbps 20% Bronze or Best Effort GoldTrafficA -> Available for or VM High Pri VM 2 IP Stor2.5Gbps 25% VM TrafficB 1 0.5Gbps 5% vMotion 0 1Gbps 10% FCoE 3 1Gbps 10%
2
3
© 2010 Cisco and/or its affiliates. All rights reserved.
•
Copy UCS QoS policy to Nexus 5k’s • Connect nxos -> show running-config ipqos
Cisco Public
23
VM
VM
VM
VM
VM
VMware vSphere
VM
VM
Nexus 1000V VEM
Nexus 1000V VEM
Nexus 1000V VSM
VM
Nexus 1000V VSM
Windows 8 Hyper-V
VMware vCenter Microsoft’s Service Console Virtual Machine Manager
© 2010 Cisco and/or its affiliates. All rights reserved.
Cisco Public
24
• Redundatní VSM nebo duální Nexus 1010
• Využívejte VPC kde to je možné (ip hash) jinak
(mac−pinning) • Konfigurujte QoS na 1000v a upstream switchi
• Povinná „system vlan“ pro kritické spojení • Využijte weighted QoS dostupné od 1.4
25
© 2010 Cisco and/or its affiliates. All rights reserved.
Cisco Public
25
QoS disabled
NFS, VM, a FT provoz potlačený při vMotion QoS enabled
NFS, VM, a FT provoz zachovaný při vMotion
© 2010 Cisco and/or its affiliates. All rights reserved.
Cisco Public
26
• Unified fabric dovoluje
flexibilitu • iSCSI 1/10Gb • NFS/CIFS 1/10Gb • FC 2/4/8G • FCoE 10Gb • Saturace linek
Oddělení ve frontách Uplinky ke storage • Detekce poruchy Multi pathing Dvě fabriky © 2010 Cisco and/or its affiliates. All rights reserved.
Cisco Public
27
Enhanced Transmission Selection IEEE 802.1Qaz
Priority Flow Control IEEE 802.1Qbb
Offered Traffic Transmit Queues
Ethernet Link
One
One
Two
Two
Three
Three
Four
Four
Five
Five
Six
STOP
PAUSE
10 GE Link Realized Traffic Utilization
Receive Buffers
Eight Virtual Lanes
3G/s
3G/s
2G/s
3G/s
3G/s
3G/s
3G/s
4G/s
6G/s
3G/s
HPC Traffic 3G/s
2G/s
3G/s
Storage Traffic 3G/s
3G/s
3G/s
LAN Traffic 4G/s
5G/s
Six
Seven
Seven
Eight
Eight
t1
t2
t3
t1
t2
t3
• Enables lossless Fabrics for each class of service • PAUSE sent per virtual lane when buffers limit exceeded
© 2010 Cisco and/or its affiliates. All rights reserved.
Cisco Public
28
2.5G BW unavailable to other FlexNICs
2.5G BW unavailable to other FlexNICs 2.5G BW unavailable to other FlexNICs BW unavailable to other FlexNICs 2.5G
© 2010 Cisco and/or its affiliates. All rights reserved.
Cisco Public
29
© 2010 Cisco and/or its affiliates. All rights reserved.
Cisco Public
30
FCoE management je identický s manegementem FC na úrovni initiatora, targetu a switche Jednoduché na pochopení
Shodné s FC modelem
Shodný operační model
Identické řízení přístupu přípojení do SAN
Identické technologie pro řízení provozu
Například in order delivery FSPF load balancing
Identický management a bezpečnostní model
WWNs, FC-IDs, hard/soft zoning, DNS, RSCN
© 2010 Cisco and/or its affiliates. All rights reserved.
Cisco Public
32
6 x 1Gb (4948)
4 x 1Gb / SAN (4948/9148)
2 x 10Gb (Nexus)
2 x FCoE (Nexus)
Switch Ports
$1,938
$2,167
$1,600
$2,400
Server Ports
$299
Cabling
$60
FC Optics
$599 $326
$420
$420
$260
10Gb CNA
$1,429
HBA
$1,780
1 Server
$2,297
$4,533
$2,619
$4,249
6 Servers
$13,779
$27,196
$15,714
$25,494
Cost Per Gigabit
$2,297
$2,266
$786
$1,275
© 2010 Cisco and/or its affiliates. All rights reserved.
Cisco Public
33
• Konvergovaná fabrika sdílí jeden 10G kanál • Pro SMB je FCoE ve čtvercové topologii vhodné na menší
vzdálenost do 3km na Nexus 5k
FCoE – 3km
FC
FC oE
FC
NAS iSCSI
VM VM VM #2 #3 #4 © 2010 Cisco and/or its affiliates. All rights reserved.
FC oE
NAS iSCSI
VM VM VM #2 #3 #4 Cisco Public
34
Speed (Gbps)
Distance (Km)
2
128
4
64
8
32
Speed (Gbps)
Distance (Km)
2
240
4
120
8
60
MDS 9148 Fibre Channel Ports
Nexus 5000/5500 Fibre Channel Ports
10G +50%
Speed (Gbps)
Distance (Km)
8
1000
10
800
MDS 9500 Fibre Channel Ports © 2010 Cisco and/or its affiliates. All rights reserved.
Cisco Public
35
MGMT
EMC VNX 5500
Expo SAN Switch
8G FC 10G NFS/CIFS 10G FCoE
FI 6120
7x B200
© 2010 Cisco and/or its affiliates. All rights reserved.
C200
Cisco Public
36
• 26 VM pro Expo,
150 VM Celkem • 60GHz CPU (7% vzužitých) • 95GB RAM (50% využitých) • 15TB DISK block-nfs • SSD Cache • Automaticke tierování
SSD, SAS, SATA
© 2010 Cisco and/or its affiliates. All rights reserved.
Cisco Public
37
Cisco Expo 2012
• Vyhraďte si čas pro výpočet požadavků Aplikací • Bez profilování aplikací to nejde
• Efektivní výběr CPU a konfigurace RAM • POD návrh a topologie s unified fabric • Respektujte best practices pro virtuální networking
• Vždy myslete na DR, vzdálená lokalita
© 2012 Cisco and/or its affiliates. All rights reserved.
Cisco Public
38
Cisco Expo 2012
• Twitter
www.twitter.com/CiscoCZ
• Talk2Cisco www.talk2cisco.cz/dotazy • SMS
tbd
Zveme Vás na Ptali jste se… v sále tbd, 17:45 – 18:30
© 2012 Cisco and/or its affiliates. All rights reserved.
Cisco Public
39
Cisco Expo 2012 Kód přednášky
Prosíme, ohodnoťte tuto přednášku.
© 2012 Cisco and/or its affiliates. All rights reserved.
Cisco Public
40
Thank you.