Datacenter Bridging: a kommunikációs evolúció következő lépcsője
Zeisel Tamás Cisco Magyarország
[email protected]
SNT Cisvo DC nap
© 2006 Cisco Systems, Inc. All rights reserved.
1
Infrastruktúra trendek Adatközpont konszolidáció Fizikailag egy helyszin Adatközpontok összekapcsolása
Disparate Datacenters
Global Datacenters
Szerver konszolidáció Nagyobb teljesítményű szerverek Blade szerver technologia Szerver virtualizáció (Vmware)
Individual Servers
Blade Servers
Hálózat konszolidáció VSwitch
10Gb aggregáció
Access hálózatiréteg virtualizáció Unified Fabric
Physical Virtual Networks
Storage konszolidáció Nagyobb társűrűség Nagyobb aggregált performancia
SNT Cisvo DC nap
© 2006 Cisco Systems, Inc. All rights reserved.
Numerous Legacy Arrays
Consolidated Storage
2
I/O Konszolidáció I Fázis Szerver Hálózat konszolidáció FCoE technológia
Jelenleg
LAN
SAN B
SAN A
Ethernet
FC
LAN
SAN A
FC
Ethernet
Ethernet
SAN B
FC
FC Enhanced Ethernet and FCoE
SNT Cisvo DC nap
© 2006 Cisco Systems, Inc. All rights reserved.
3
I/O Konszolidáció II Fázis Közvetlenül FCoE-vel kapcsolódó Tároló Unified FCoE hálózati környezet Gondoskodik a SAN teljes szeparációjáról, a nagy megbízhatóság érdekében
SNT Cisvo DC nap
© 2006 Cisco Systems, Inc. All rights reserved.
I/O Konszolidáció FCoE
Enhanced Ethernet Fabric
FCoE Storage
FCoE
4
FC over Ethernet (FCoE) Előnyök
FCoE FC csomagokat Ethernet fölött visszük át FC átviteléhez egy Veszteségmentes Data Center Ethernet szükséges
Egyetlen közös un. Unified Fabric hálózat (LAN+SAN) – Egyszerűbb menedzsment
– Kisebb hálózati fogyasztás – Hatékonyabb helykihasználás – Egyszerűsített kábelezés
Ethernet Fibre Channel
SNT Cisvo DC nap
© 2006 Cisco Systems, Inc. All rights reserved.
Szerverek
– Kisebb interface beruházás, kevesebb fogyasztás – Egyszerűbb kábelezés
5
Data Center Bridging Jellemzők Priority-Based Flow Control (PFC)
Biztosítja a csomagvesztés mentességet minden 802.1p class ofservice osztályra Buffer limit elérésekor PAUSE üzenetet küld a megfelelő virtuális linken Hálózati erőforrások VL-enként vannak felosztva (input/output buffer queue) SNT Cisvo DC nap
© 2006 Cisco Systems, Inc. All rights reserved.
6
Data Center Ethernet Jellemzők Sávszélesség Menedzsment
Intelligens sávszélesség megosztás az egyes forgalmi osztályok között IEEE 802.1Qaz szabványosítás alatt
Priority Grouping néven is ismert SNT Cisvo DC nap
© 2006 Cisco Systems, Inc. All rights reserved.
7
Data Center Ethernet Jellemzők Data Center Bridging Capability eXchange Protocol
Data Center Ethernet
Data Center Ethernet
Handshaking mechanizmus: Class Based Flow Control CoS BW menedzsment Torlódás menedzsment Alkalmazások (user_priority) Logical Link Down
http://www.intel.com/technology/eedc/index.htm SNT Cisvo DC nap
© 2006 Cisco Systems, Inc. All rights reserved.
8
Data Center Ethernet Jellemzők Layer 2 Multi-Pathing Fázis 1
Fázis 2
Fázis 3
LAN
LAN
LAN
MAC A
MAC B
L2 ECMP Active-Active
MAC A
vpC
L2 ECMP
MAC B EHV
Feleslegessé teszi az STP-t az uplink portokon Több egyidejűjeg aktív uplinket biztosít a Switch és a hálózat között Hurok mentesítés MAC Pinning technológiával - a forgalom egyszerre csak egy porton történik az adott eszközre Transzparens SNT Cisvo DC nap
© 2006 Cisco Systems, Inc. All rights reserved.
MCEC megvalósítás Virtual port channel mechanizmus transzparens a hálózat felé STP csak biztonsági megoldás controll plane hiba esetén
ISIS szerű L2 topológia L2 domén hurokmentesítése STP nélkül Elsődleges út választás, loadnalancing
9
Hálózati protokol stack SCSI
SCSI
SCSI
SCSI
SCSI
iSCSI
FCP
FCP
FCP
FC
FC
FC Kisebb overhead mint FCIP, iSCSI
FCIP TCP
TCP
IP
IP
FCoE
Ethernet
Ethernet
DCB
PHYSICAL WIRE SCSI SNT Cisvo DC nap
iSCSI
© 2006 Cisco Systems, Inc. All rights reserved.
FCIP
FCoE
FC 10
Converged Network Adapter (CNA) LAN
HBA
10GbEE
10GbEE
4GHBA
4GHBA
10GbE
10GbE
Link
Link
Ethernet
Fibre Channel
Fibre Channel Ethernet
PCIe
PCIe
PCIe
Link
Ethernet Drivers
Fibre Channel Drivers
Operating System SNT Cisvo DC nap
CNA
© 2006 Cisco Systems, Inc. All rights reserved.
Ethernet Drivers
Fibre Channel Drivers
Operating System 11
FCoE megjelenés az Operációs rendszerben Standard driverek Azonos menedzsment Operációs rendszer megjelenés: Dual port 10 Gigabit Ethernet adapter Dual Port 4 Gbps Fibre Channel HBA
SNT Cisvo DC nap
© 2006 Cisco Systems, Inc. All rights reserved.
12
SFP+ Média lehetőségek •Alacsony fogyasztás •Alacsony ár •Kis késleltetés •Alacsony hiba arány(10 exp-17)
Technology
Cable
Distance
Power (each side)
Transceiver Latency (link)
SFP+ CU Copper
Twinax
10m
~0.1W
~0.25 ms
SFP+ USR
MM OM2 MM OM3
10m 100m
1W
~0.1 ms
MM OM2 MM OM3
82m 300m
1W
~0.1 ms
Cat6 Cat6a/7 Cat6a/7
55m 100m 30m
~8W ~8W ~4W
2.5ms 2.5ms 1.5ms
ultra short reach
SFP+ SR short reach
10GBASE-T
SNT Cisvo DC nap
© 2006 Cisco Systems, Inc. All rights reserved.
13
Unified Fabric Fejlődése DC Core Gigabit Ethernet
Catalyst 6500 10GbE Core
10 Gigabit Ethernet
WAN
10 Gigabit DCE
IP+MPLS WAN Agg Router
4Gb Fibre Channel
DC Aggregation SAN A/B Catalyst 6500 10GbE VSS Agg DC Services
Catalyst 6500 10GbE VSS Agg DC Services
MDS 9500 Storage Core
DC Access
Catalyst 6500 End-of-Row SNT Cisvo DC nap
Catalyst 49xx CBS 3100 Rack Blade
1GbE Server Access © 2006 Cisco Systems, Inc. All rights reserved.
Catalyst 6500 End-of-Row
Catalyst 49xx Rack
CBS 3100 MDS 9124e Blade
1GbE and 4Gb FC Server Access
MDS 9500 Storage
Storage 14
Unified Fabric Fejlődése DC Core Gigabit Ethernet
Nexus 7000 10GbE Core
10 Gigabit Ethernet
WAN
10 Gigabit DCE
IP+MPLS WAN Agg Router
DC Aggregation
4Gb Fibre Channel 10 Gigabit FCoE/DCE
Nexus 7000 10GbE Agg Catalyst 6500 DC Services
Catalyst 6500 10GbE VSS Agg DC Services
SAN A/B MDS 9500 Storage Core
DC Access
Catalyst 6500 End-of-Row SNT Cisvo DC nap
Catalyst 49xx CBS 3100 Rack Blade
1GbE Server Access © 2006 Cisco Systems, Inc. All rights reserved.
Nexus 7000 End-of-Row
Nexus 5000 Rack
CBS 3100 MDS 9124e Blade
10GbE DCE Server Access
MDS 9500 Storage
Storage 15
Unified Fabric Fejlődése DC Core Gigabit Ethernet
Nexus 7000 10GbE Core
10 Gigabit Ethernet
WAN
10 Gigabit DCE
IP+MPLS WAN Agg Router
DC Aggregation
DC Access
Catalyst 6500 End-of-Row SNT Cisvo DC nap
1GbE Server Access © 2006 Cisco Systems, Inc. All rights reserved.
10 Gigabit FCoE/DCE
Nexus 7000 10GbE Agg
SAN A/B MDS 9500 Storage Core
Catalyst 6500 10GbE VSS Agg DC Services C6500 DC Services
Catalyst 49xx CBS 3100 Rack Blade
4Gb Fibre Channel
C6500 DC Services
Nexus 7000 End-of-Row
Nexus 5000 Rack
Nexus 4000 Blade
10GbE DCE Server Access
MDS 9500 Storage
Storage 16
Unified Fabric with FCoE Combined Platform Roadmap
2HCY’09 Phase 1
1HCY’10 Phase 2
2HCY’10 Phase 3
• 32-port D1 Series SFP+ Module
• 32-port D1 Series 10G BaseT Module • VE_Port Support • VF_Port Support • FCF Support
1HCY’11
• 16-port FCoE SFP+ Module • VE_Port Support • VF_Port Support • FCF Support
• T11 FIP Support • DCB CEE Authors • Indirect-Attach CNAs
• FCoE Support on N2232-10G FEX • 8G FC Module • F_Port Trunking & Channeling
• VE_Port Support • FCF Bypass Support
• Nexus Blade Switch • FIP Snooping
SNT Cisvo DC nap
© 2006 Cisco Systems, Inc. All rights reserved.
17
Unified Fabric – Jövő vagy valóság
? http://www.cisco.com/en/US/docs/storage/san_switches/mds9000/interoperability/matrix/Matrix6.pdf SNT Cisvo DC nap
© 2006 Cisco Systems, Inc. All rights reserved.
18
Cisco Nexus termékcsalád Teljes Adatközponti switch portfolio Konzisztens NXOS operációs rendszer
Rugalmasan skálázható EndtoEnd Architektúra Nexus 7000 (Modular Switch Platform)
Nexus 1000V (Virtual Switch) 2008
1K
Nexus 2000 (Fabric Extender)
Nexus 4000 (Blade Switch)
Nexus 5000 (Fixed Config Switch)
Cisco Nexus 1000V
x86
NX-OS Data Center Operating System Data Center Network Manager SNT Cisvo DC nap
© 2006 Cisco Systems, Inc. All rights reserved.
19
Adatközpont megvalósítás Nexus eszközökkel Core Layer
Nexus 7000
Distribution Layer
Nexus 7000 10GE
Access Layer
Nexus 5000
Nexus 5000
GigE 10GE
GigE 10GE
N2000 10GE Servers
N1000V
Nexus 4000 Rack 1 Rack 1
SNT Cisvo DC nap
1GE to Servers Rack 1
© 2006 Cisco Systems, Inc. All rights reserved.
Row 1 / Domain 1 / POD 1
...
….. Rack 12
20
Nexus 5000 Adatközponti Szerver Switch Max Port sűrűség Max 52X10GE Line Rate Max 16X1/2/4G FC + 40X10GE
Nexus 5020
Nexus 5010
Jellemzők FCoE alapú Unified Fabric támogatás Virtualizációra optimalizált Ethernet, DCE, FCoE és FC támogatás L2 támogatás 56 teljes sebességű 10GbE port Architektúra Max 1.2Tbps kapacitás Cut-through architektúra Kis 3.2μs port-port késleltetés Nagy megbízhatóság – DC kategória Redundáns tápegység Redundáns ventillátor
* FC ports are SFP SNT Cisvo DC nap
© 2006 Cisco Systems, Inc. All rights reserved.
21
NX-OS: Adatközponti operációs rendszer IOS
Transport Flexibility
Cisco Nexus Operational Continuity
Infrastructure Scalability
NX-OS
SAN-OS
SNT Cisvo DC nap
© 2006 Cisco Systems, Inc. All rights reserved.
22
SNMP, XML, CLI Management
Sysmgr, PSS & MTS
NX-OS – SAN OS alapú operációs rendszer Layer 2 Protocols Layer 3 Protocols Storage Protocols VLAN mgr
UDLD
OSPF
GLBP
STP
CDP
BGP
HSRP
IGMP snp
802.1X
EIGRP
VRRP
LACP
CTS
PIM
SNMP
…
…
Protocol Stack (IPv4 / IPv6 / L2)
Other Services
VSANs Zoning FCIP FSPF IVR
Future Services Possibilities
Interface Management Chassis Management Chip/Driver Infrastructure
Kernel
SNT Cisvo DC nap
© 2006 Cisco Systems, Inc. All rights reserved.
23
Cisco Fabric Manager
SNT Cisvo DC nap
© 2006 Cisco Systems, Inc. All rights reserved.
24
Nexus 7000
SNT Cisvo DC nap
© 2006 Cisco Systems, Inc. All rights reserved.
25
Adatközponti tendencia Speed
10Mb
100Mb
Services
Switched Shared VLANs
1Gb
10Gb
QoS L3 Switching PoE
40 & 100Gb Lossless
L4-7 Svcs
FCoE
Unified Fabric
L2 Multi-Pathing
Platforms
Catalyst 6500
Catalyst 5000
1994 SNT Cisvo DC nap
© 2006 Cisco Systems, Inc. All rights reserved.
1999
2008+ 26
Nexus 7000 Platform Overview Adatközponti Switch kategória Nexus 7000 és NX-OS • 10 és 18 Slot verzio • 15+ Terabit rendszer • Unified Fabric Ready • Moduláris OS • Virtualizációra képes (VDC) • Cisco TrustSec • Folytonos működés
10G Ethernet • 32 Port SFP+ 10G
Supervisor
1G Ethernet • 48 Port 1G-TX • 48 Port 1G
Linecard Modulok
Cisco NX-OS Multi-protocol Operációs rendszer Data Center Network Manager (DCNM) SNT Cisvo DC nap
© 2006 Cisco Systems, Inc. All rights reserved.
27
Nexus 7010
Rendszer állapot LEDek
ID LEDek minden komponensen
Integrált kábel menedzsment
Front-toback légbefúvás
Levegő kifúvás
Opcionális zárható ajtó
Rendsz. Vent. Fabric Vent.
Zárható fülek
21RU
Supervisor szlot (5-6)
2 sasszi per 7’ rack Crossbar fabric modulok
modul szlot (1-4, 7-10)
Tápegységek Levegő befújás
SNT Cisvo DC nap
Előlap
© 2006 Cisco Systems, Inc. All rights reserved.
N7K-C7010
Hátlap
28
Switch Paradigma váltás Fabric Extender (FEX)
SNT Cisvo DC nap
© 2006 Cisco Systems, Inc. All rights reserved.
32
Hagyományos szerver aggregálási lehetőségek Top of Rack (ToR) Architektúra Rugalmas, skálázható design Egyszerű bővítés új Rack Rövidebb szerver-access switch kábelezés Kevesebb rackáek közötti kábelezés Alacsonyabb kábelezési költség
End of Row (EoR) Architektúra Kevesebb konfigurációs és menedzsment pont Kevesebb eszköz kisebb teljesítmény felvétel Kisebb OpEx, CapEx?? Egyszerűbb software upgrade Konzisztens beállítás (Security, QoS, Multicast stb.) Nagy sűrűségű szerver lehetőség az Access rétegben
SNT Cisvo DC nap
© 2006 Cisco Systems, Inc. All rights reserved.
33
Fabric Extender (FEX)
SNT Cisvo DC nap
© 2006 Cisco Systems, Inc. All rights reserved.
34
Fabric Extender
SNT Cisvo DC nap
© 2006 Cisco Systems, Inc. All rights reserved.
35
Cisco Nexus 2000 Fabric Extender (FEX) család Model
Nexus 2148T
Nexus 2248 TP/TT
Nexus 2232-10G PP/TM
Product Shipping
Yes
N2248TP / Q3CY10 (2248TT)
N2232PP/Q3CY10 (2232TM)
Form Factor
1 RU
1 RU
1 RU
Uplink Ports
4 x 10GbE SFP+
2248TP: 4 x 10GbE SFP+ 2248TT: 4 x 10GbE RJ45
2232PP: 8 x 10GbE SFP+ 2232TM: 8 x 10GbE SFP+/RJ45 (TM)
Uplink SFP+ Transceivers Supported Host Facing Ports
Copper CX-1 (passive): 1m, 3m, 5m Optical: SR, LR [distance limited to 300m] 48 x 1GbE RJ45 (note: 1000BaseT only)
48 x 100/1000Base-T RJ45
2232PP: 32 x SFP+ (10G) / SFP (1G) 2232TM: 32 x RJ45 (1G/10G)
Local Classification
No
Yes
Yes
FCoE
No
No
Yes
165W maximum
TBD
TBD
90KB/port within FEX
TBD
TBD
Not Supported
Yes
Yes
H/W supported, to be enabled on a future firmware release
Planned
Planned
Today
Q2CY2010
Q2CY2010
Power Consumption Buffering per port Multiple PortChannel member ports on a FEX DOM on Optical ports TDR on RJ45 ports Supported on N5K
SNT Cisvo DC nap
© 2006 Cisco Systems, Inc. All rights reserved.
36
Hálózati megoldások Szervervirtualizáció Kihívások Vmware esetén esetén
SNT Cisvo DC nap
© 2006 Cisco Systems, Inc. All rights reserved.
37
VM szintű hálózati skálázhatóság kérdései VMotion
VLAN 101
Probléma: • VMotion fizikailag más portra helyezheti át a Virtuális gépet—hálózati policynak ezt követnie kell • Nem megoldhtó a gépen belüli lokális forgalom vizsgálata, policy beállítása • Fizikai linkekeken az egyes VM-ekre más hálózati szabályok vonatkoznak VN-Link: •Kiterjeszti a hálózatot VM-ekre •Konzisztens hálózati szolgáltatás •Egységes koherens menedzsment
SNT Cisvo DC nap
© 2006 Cisco Systems, Inc. All rights reserved.
38
Cisco Virtual Network Link – VN-Link Implementáció Virtualizing the Network Domain Policy-Based VM Connectivity
Mobility of Network & Security Properties
Cisco Nexus 1000V
Nexus 5000 with VN-Link
(Software Based)
(Hardware Based)
Server ESX-re • Cisco switch a VMW
•
Non-Disruptive Operational Model
VM VM VM VM Bármely#1switch#2platformmal #3 #4
kompatibilis • Virtual Center a szerver Nexus 1000V adminisztrációra VMW ESX NIC • Cisco CLI a NIC Hálózat adminisztrációra
•Skálázható, hardware Server alapú, nagy VM VM teljesítményű megoldás VM VM #1
#2
#3
#4
•Szabványos hardware alapú megoldás VMW ESX VM hálózati környezetre •Egyesíti a VM &Initiator fizikai hálózati működést egyetlen menedzselhető eszközre
Nexus 1000V LAN
SNT Cisvo DC nap
© 2006 Cisco Systems, Inc. All rights reserved.
Nexus 5000
39
Cisco Nexus 1000V Architektúra Server 1 VM #1
VM #2
VM #3
Server 3
Server 2 VM #4
VM #5
VM #6
VM #7
VM #8
VEM VMware vSwitch
Nexus 1000V VEM VMware vSwitch
VMW ESX
VMW ESX
VM #9
VM #10
VM #11
VM #12
VMware vSwitch VEM VMW ESX
Virtual Supervisor Module (VSM) Virtual CiscoEthernet OS-t futtató ( HA támogatott) Module (VEM) Software modul vagy Fizikai Teljesértékű hálózati képességek a eszköz hypervisoron Menedsment, Felügyelő és Hypervisor függő kód konfigurációs feladatok Az összes VM dedikált ―switch VMware Virtual Centerrel teljes portra‖ kerül integráció VEM-ek egy Distributed Switchet alkotnak
Virtual Center Nexus 1000V
VSM SNT Cisvo DC nap
© 2006 Cisco Systems, Inc. All rights reserved.
40
Cisco VN-Link Gyorsabb VM létrehozás
Cisco VN-Link—Virtual Network Link Policy-Based VM Connectivity
Mobility of Network & Security Properties Server
VM #1
VM #2
VM #3
Non-Disruptive Operational Model
Server VM #4
VM #5
VM #6
VM #7
VM #8
Cisco VN-Link VMW ESX
VMW ESX
Definiált Policyk VM hálózati Policy
WEB App HR DB Finance SNT Cisvo DC nap
Virtual Center © 2006 Cisco Systems, Inc. All rights reserved.
Hálózaton definiált
Virtual Centerben létrehozott
VM UUID-hez rendelt 41
Cisco VN-Link Hálózati szolgáltatások
Cisco VN-Link—Virtual Network Link Policy-Based VM Connectivity
Mobility of Network & Security Properties Server
Server VM #1
VM #2
VM #3
Non-Disruptive Operational Model
VM #4
VM VM#1 #5
VM VM#2 #6
VM VM#3 #7
VM VM#4 #8
Cisco VN-Link VMW ESX
VMW ESX
VMt át kell mozgatni
VMotion
VN-Link Mobilitás
DRS
Vmotion hálózatra
SW Upgrade/Patch
VM security biztosítása
Hardware hiba
Connection táblát kezeli
SNT Cisvo DC nap
Virtual Center
© 2006 Cisco Systems, Inc. All rights reserved.
42
UCS és Nexus az Adatközpontban Core Layer
Nexus 7010
Distribution Layer
Nexus 7010
10GE Access Layer
Nexus 5000
GigE 10GE
GigE 10GE
Nexus2000 10GE Servers
Nexus 4000 Rack 1 Rack 1 1GE to Servers Rack 1 SNT Cisvo DC nap
…..
Row 1 / Domain 1 / POD 1
© 2006 Cisco Systems, Inc. All rights reserved.
...
Rack 12 43
UCS és Nexus az Adatközpontban Core Layer
Nexus 7010
SAN Distribution Layer
Nexus 7010
10GE Access Layer
Nexus 5000
UCS 6100
GigE 10GE
GigE 10GE
Nexus2000 10GE Servers
Nexus 4000 Rack 1 Rack 1 1GE to Servers Rack 1 SNT Cisvo DC nap
….. Row 1 / Domain 1 / POD 1 ...
© 2006 Cisco Systems, Inc. All rights reserved.
blade1 slot 1 blade2 slot 2 blade3 slot 3 blade4 slot 4 blade5 slot 5 blade6 slot 6 blade7 slot 7 blade8 slot 8
blade1 slot 1 blade2 slot 2 blade3 slot 3 blade4 slot 4 blade5 slot 5 blade6 slot 6 blade7 slot 7 blade8 slot 8
blade1 slot 1 blade2 slot 2 blade3 slot 3 blade4 slot 4 blade5 slot 5 blade6 slot 6 blade7 slot 7 blade8 slot 8
blade1 slot 1 blade2 slot 2 blade3 slot 3 blade4 slot 4 blade5 slot 5 blade6 slot 6 blade7 slot 7 blade8 slot 8
blade1 slot 1 blade2 slot 2 blade3 slot 3 blade4 slot 4 blade5 slot 5 blade6 slot 6 blade7 slot 7 blade8 slot 8
blade1 slot 1 blade2 slot 2 blade3 slot 3 blade4 slot 4 blade5 slot 5 blade6 slot 6 blade7 slot 7 blade8 slot 8
blade1 slot 1 blade2 slot 2 blade3 slot 3 blade4 slot 4 blade5 slot 5 blade6 slot 6 blade7 slot 7 slot 8 blade8
blade1 slot 1 blade2 slot 2 blade3 slot 3 blade4 slot 4 blade5 slot 5 blade6 slot 6 blade7 slot 7 blade8 slot 8
blade1 slot 1 blade2 slot 2 blade3 slot 3 blade4 slot 4 blade5 slot 5 blade6 slot 6 blade7 slot 7 blade8 slot 8
Rack 12 44
SNT Cisvo DC nap
© 2006 Cisco Systems, Inc. All rights reserved.
45