Een boekje open over High Availability

E en boekje open over High Ava ila bilit y Droom en realiteit van 100% besch ik baarh eid

J os Visser <[email protected] l>

Open Solu t ion P r ovider s Da lst ein dr eef 16 1112 XC Diem en t el: 020-4950 222 fa x: 020-4950 223 e-m a il: web: h t t p://www.osp.n l

(c) Copyr igh t 1999 Open Solu t ion P r ovider s Alle r ech t en voor beh ou den . Deze u it ga ve is (c) Copyr igh t 1999 Open Solu t ion P r ovider s. Niet s u it deze u it ga ve m a g zon der t oest em m in g wor den ver m en igvu ldigd. Neem voor m eer in for m a t ie over de H A (of a n der e) dien st ver len in g va n Open Solu t ion P r ovider s con t a ct op m et E r ik Mein der s of Lu cien Ver st eeg: Open Solu t ion P r ovider s Da lst ein dr eef 16 1112 XC Diem en t el: 020-4950 222 fa x: 020-4950 223 e-m a il: web: h t t p://www.osp.n l

1 Introductie....................................................................................................................................1 2 Beschikbaarheid..........................................................................................................................3 2.1 Oorzaken van "downtime"..................................................................................................3 2.2 Mate van beschikbaarheid...................................................................................................4 3 Anatomie van een applicatie.......................................................................................................5 4 Single Point of Failure................................................................................................................7 4.1 HA componenten.................................................................................................................7 5 Data opslag..................................................................................................................................9 5.1 JBOD Mirroring / RAID-1..................................................................................................9 5.2 JBOD Striping met parity / RAID-5................................................................................11 5.3 Opslagsubsystemen...........................................................................................................12 5.4 Volume Managers.............................................................................................................13 5.4.1 Volume Manager functionaliteit...............................................................................14 5.4.2 Disk groepen..............................................................................................................14 5.4.3 Volume Managers en disk arrays.............................................................................14 6 Netwerk failover........................................................................................................................16 6.1 Stand-by netwerkkaart......................................................................................................17 6.2 Gescheiden netwerken......................................................................................................18 7 HA-clusters................................................................................................................................20 7.1 Opslagarchitectuur............................................................................................................20 7.1.1 SCSI schijven............................................................................................................21 7.1.2 RAID disk arrays.......................................................................................................21 7.1.3 "Optische" schijven...................................................................................................22 7.1.4 System disks..............................................................................................................22 7.2 Netwerkstructuur...............................................................................................................23 7.3 Cluster software.................................................................................................................24 7.4 Applicaties.........................................................................................................................24 7.4.1 Applicatiedefinitie.....................................................................................................24 7.4.2 De applicatie start......................................................................................................25 7.4.3 De applicatie stopt.....................................................................................................26 7.4.4 De applicatie verhuist................................................................................................26 7.5 Cluster lidmaatschap.........................................................................................................26 7.5.1 Gespleten clusters......................................................................................................27

7.5.1.1 Lock disks.................................................................................27 7.5.1.2 Meerderheid van stemmen.......................................................28 7.5.1.3 Node x gaat door.......................................................................28 8 Applicaties........................................................................................................29 8.1 Eisen aan de applicatie.............................................................................29 8.1.1 Herstartbaar.......................................................................................29 8.1.2 Plaats data en configuratie...............................................................29 8.1.3 Afhankelijkheden fysieke node.......................................................29 8.1.4 Opstarttijd.........................................................................................29 8.2 Andere applicatie aandachtspunten.........................................................30 9 Het beheer van HA-clusters.............................................................................31 9.1 Beheeraspecten.........................................................................................31 9.1.1 Dubbele configuraties......................................................................31 9.1.2 Beheerhulpmiddelen.........................................................................32 9.1.3 Applicaties........................................................................................32 9.2 Controle.....................................................................................................32 9.3 Er is ook goed nieuws!.............................................................................33 10 Literatuurverwijzingen...................................................................................34 10.1 Boeken....................................................................................................34 10.2 Web Sites................................................................................................34

Hoofdstuk 1 Introductie

Pagina 1

Or ga n isa t ies wor den in t oen em en de m a t e a fh a n kelijk va n in for m a t iet ech n ologie. De besch ikba a r h eid va n cen t r a le com pu t er syst em en is da n ook va n cr u cia a l bela n g voor h et fu n ct ion er en va n de or ga n isa t ie. H et u it va llen va n die cen t r a le com pu t er syst em en , of, n og bela n gr ijker , va n de dien st en die door die com pu t er s wor den geboden , h eeft m eest a l gr ot e gevolgen voor de or ga n isa t ie: om zet ver lies, im a gosch a de en ver lor en a r beidspr odu ct ivit eit . Om de besch ikba a r h eid va n de cen t r a a l gelever de in for m a t iedien st en t e wa a r bor gen ka n wor den over ga a n op c lu s te rin g: een t ech n ologie wa a r bij door h et in zet t en va n ext r a h a r dwa r e wor dt gepoogd een om gevin g t e bou wen wa a r in h et u it va llen va n een com pon en t n iet leidt t ot h et per m a n en t u it va llen va n de a pplica t ies. Na a st deze h oger e besch ikba a r h eid ka n een a n der voor deel zijn da t in de n or m a le sit u a t ie a pplica t ies over m eer der e syst em en ku n n en wor den ver deeld, om zodoen de de pr est a t ies va n die a pplica t ies t e ver bet er en . Nu wor den er r eeds sin ds h et begin va n de in for m a t ier evolu t ie syst em en gebou wd m et een h oge besch ikba a r h eid. Den k h ier bij bijvoor beeld a a n t icket r eser ver in gssyst em en va n lu ch t va a r t m a a t sch a ppijen en a a n de com pu t er syst em en die geld- en bet a a la u t om a t en bedien en . H et ga a t h ier ech t er om specifiek voor die doelein den on t wikkelde ("pr opr iet a r y") fou t -t oler a n t e com pu t er s en pr ogr a m m a t u u r . Voor de m eest e t oepa ssin gen wa a r ver h oogde besch ikba a r h eid gewen st is zijn der gelijke du r e en geslot en syst em en n iet n odig. H et is n a m elijk m et st a n da a r d (open ) com pu t er syst em en en pr ogr a m m a t u u r ook m ogelijk om een r edelijke m a t e va n h oger e besch ikba a r h eid t e r ea liser en . Vr ijwel a lle Un ix lever a n cier s h ebben een oplossin g voor "H igh Ava ila bilit y" en ook Micr osoft t r a ch t zich m et Win dows NT in deze m a r kt t e posit ion er en . Op m e rk in g Micr osoft h eeft on la n gs a a n gekon digd da t h u n H A pr odu ct "Micr osoft Clu st er Ser ver " voor a lsn og geen on der deel u it ga a t m a ken va n de Win dows 2000 "Adva n ced Ser ver " en "Da t a Cen t er " edit ies. H ela a s is clu st er in g va n die m eer gen er ieke syst em en geen sin ecu r e: h et ver eist diepga a n de ken n is va n a lle on der delen va n de con figu r a t ie: h a r dwa r e, best u r in gssyst eem , n et wer ken en a pplica t ies. Da a r n a a st br en gt ook h et beh er en va n een H A-clu st er a a n zien lijke u it da gin gen m et zich m ee. De oor za a k va n deze com plexit eit zit h em in h et feit da t wij t r a ch t en m et specifieke soft wa r e en con figu r a t ies gen er ieke h a r dwa r e en gen er ieke a pplica t ies, die geen va n a llen wa r en on t wor pen voor een H A-om gevin g, ver h oogd besch ikba a r t e m a ken . Da a r t egen over st a a t ech t er da t a ls de clu st er cor r ect wor dt geïm plem en t eer d er vele voor delen aan kleven : ver h oogde besch ikba a r h eid, bet er e pr est a t ies (door a pplica t iever delin g) en h et wor dt m a kkelijker syst eem on der h ou d t e plegen . H A-clu st er in g wor dt door de m eest en a ls zeer in gewikkeld a fgespiegeld. Gedeelt elijk is dit t er ech t , m a a r er doen h ela a s ook veel m isver st a n den de r on de. De Open Solu t ion P r ovider s (OSP ) is een on der n em in g die zich specia liseer t in h et im plem en t er en , con t r oler en en on der h ou den va n H A_clu st er s. Neem voor m eer in for m a t ie over de dien st ver len in g va n Open Solu t ion P r ovider s con t a ct

© 1999 Open Solution Providers

http://www.osp.nl

Hoofdstuk 1 Introductie

Pagina 2

op m et E r ik Mein der s, t el: 020-4950 222, e-m a il: in [email protected] l. In deze pu blica t ie doen wij een boekje open over H igh Ava ila bilit y.


http://www.osp.nl

Hoofdstuk 2 Beschikbaarheid

Pagina 3

On da n ks de opkom st va n de per son a l com pu t er h eeft de cen t r a le ser ver m et da a r op cen t r a le a pplica t ies zijn wa a r de voor de or ga n isa t ie beh ou den . De m oder n e cen t r a le a pplica t ie is ech t er a n der s va n opbou w da n vr oeger . Wer d in h et ver leden m et dom m e t er m in a ls a a n gelogd op een cen t r a a l m a in fr a m e, t egen woor dig zijn clien t -ser ver a pplica t ies de gewoon st e za a k va n de wer eld. In die clien t -ser ver wer eld spa n t een cen t r a le da t a ba se sa m en m et cen t r a le a pplica t ielogica t en ein de een clien t -a pplica t ie welke op de com pu t er va n de gebr u iker dr a a it t e bedien en . Deze clien t -a pplica t ie ken t u it een lopen de ver sch ijn in gsvor m en , en va r ieer t va n een een vou dige "t eln et " t er m in a l em u la t or of een web br owser t ot en m et een volledige "fa t clien t ". De n ieu wst e ver sch ijn in gsvor m va n clien t -ser ver wor dt gevor m d door de In t er n et a pplica t ies wa a r bij m edewer ker s, kla n t en of a n der e r ela t ies over h et In t er n et t oega n g zoeken t ot een of a n der e cen t r a a l a a n geboden in for m a t iedien st . H et ver h ogen va n de besch ikba a r h eid kom t in weze n eer op h et ver la gen va n de on gepla n de n iet -besch ikba a r h eid (en gels: "u n pla n n ed down t im e"). Gepla n de n iet besch ikba a r h eid kom t ech t er ook voor . Den kt u m a a r a a n a pplica t iem igr a t ies, u pgr a des n a a r n ieu we ver sies en a n der e a pplica t iegebon den fen om en en . Met een H A-clu st er h eeft u ook de ger eedsch a ppen in h a n den om de gepla n de n iet -besch ikba r e per iode va n de cen t r a le a pplica t ies zoveel m ogelijk t e ver klein en . H ier op kom en we ech t er ver der op in dit boekje t er u g. On gepla n de n iet -besch ikba a r h eid va n de cen t r a le a pplica t ies br en gt zoa ls r eeds eer der is gest eld gr ot e gevolgen m et zich m ee, en dien t zoveel m ogelijk t e wor den voor kom en . Wa t zijn n u ech t er de r eden en va n die on gepla n de n iet -besch ikba a r h eid?

In de er va r in g va n OSP zijn de r eden en va n on gepla n de "down t im e" de volgen de: 1. H a r dwa r e st or in gen . 2. Ver gissin gen en fou t en va n de syst eem beh eer der . 3. Soft wa r e st or in gen (bu gs) De eer st gen oem de oor za a k, h a r dwa r e st or in gen , is m eest a l de r eden voor or ga n isa t ies om over t e ga a n t ot h et im plem en t er en va n een H A-clu st er . Alh oewel de h a r dwa r e st eeds bet r ou wba a r der wor dt blijft de ka n s op u it va llen leven sgr oot a a n wezig. Da a r n a a st h ebben we ook st eeds m eer h a r dwa r e, wa a r door de cu m u la t ieve ka n s op u it va llen va n één com pon en t t oen eem t . Door kr it ieke h a r dwa r e com pon en t en m eer vou dig u it t e voer en ka n h et u it va llen va n zo'n com pon en t wor den opgeva n gen door h et zij een r eser vecom pon en t in t e sch a kelen of door de a pplica t ie t e m igr er en n a a r een a n der e n ode in de clu st er . De t weede gen oem de oor za a k is ech t er veel la st iger op t e va n gen . De m oder n e syst eem beh eer der is een veelgepla a gd per soon , die st eeds m eer en st eeds com plexer e syst em en m oet beh er en . H et a a n t a l vr ijh eidsgr a den in de h eden da a gse in fr a st r u ct u r en n eem t im m er t oe, en da a r m ee ook de ka n s op fou t en . E en t h eor et isch goed on der legd, goed get r a in de en er va r en syst eem beh eer der is da n ook een "m u st ". E en iet wa t pa r a doxa le bijwer kin g va n H A-clu st er s is da t deze la st ig zijn t e beh er en , en da a r door de ka n s op fou t en va n de syst eem beh eer der wor dt ver gr oot . Oft ewel, de clu st er die © 1999 Open Solution Providers

http://www.osp.nl

Hoofdstuk 2 Beschikbaarheid

Pagina 4

de besch ikba a r h eid va n de cen t r a le a pplica t ies dien t t e ver gr ot en ber gt in zich geva r en wa a r m ee de besch ikba a r h eid va n de a pplica t ies ju ist ka n wor den ver klein d! Over de gem iddelde voor beelden besch ikba a r bedwin gen .

der de ca t egor ie oor za ken va n on gepla n de n iet -besch ikba a r h eid h eeft de kla n t slech t s wein ig in vloed. Soft wa r e is h ela a s n ooit fou t loos, en er zijn t e over va n a pplica t ies die door bu gs in de soft wa r e kor t er e of la n ger e t ijd n iet wa r en . E en gedegen t est - en a ccept a t iet r a ject ka n dit pr obleem en igszin s

Om h et effect va n de im plem en t a t ie va n een H A-clu st er t e ku n n en m et en is h et va n bela n g om een gevoel en een m a a t t e kr ijgen voor de besch ikba a r h eid va n een a pplica t ie. In Ser vice Level Agr eem en t s wor dt die m a t e va n besch ikba a r h eid m eest a l u it gedr u kt in een per cen t a ge:

beschikbaarheid

Tijd up Tijd totaal

100

Voor de r eken voor beelden ga a n we u it va n de besch ikba a r h eid over een ja a r va n een a pplica t ie die 7x24 u u r besch ikba a r m oet zijn . Als vu ist r egel h a n t er en wij da t een (fou t loze) a pplica t ie op een losst a a n de com pu t er ("st a n da lon e") een besch ikba a r h eid va n on geveer 95% h eeft . Dit klin kt a l t a m elijk h oog, m a a r beden k da t dit iet s m eer da n 18 d a g e n on gepla n de down t ijd per ja a r is! In on der st a a n de t a bel ziet u een weer ga ve va n on gepla n de down t ijd bij een a a n t a l besch ikba a r h eidsper cen t a ges.

Beschikbaarheid%

Tijd

95.000%

18 da gen , 6 u u r

98.000%

7 da gen , 8 u u r

99.000%

3 da gen , 15 u u r

99.900%

9 uur

99.990%

53 m in u t en

99.999%

5 m in u t en

Zoa ls u in boven st a a n de t a bel ku n t zien za kt de on gepla n de n iet -besch ikba a r h eid pa s on der een da g bij een besch ikba a r h eidsper cen t a ge va n 99.9%. OSP ga a t er va n u it da t een ju ist beh eer de en cor r ect fu n ct ion er en de H A-clu st er een besch ikba a r h eid va n 99.999% ka n h a len . Mer k op da t m et een H A-clu st er h et ver h ogen va n de besch ikba a r h eid m et m in der da n 5% een kost en t oesla g va n m eer da n 200% m et zich m eebr en gt !


http://www.osp.nl

Hoofdstuk 3 Anatomie van een applicatie

Pagina 5

Om de t oepa ssin g va n H A-clu st er s goed t e ku n n en beoor delen is h et va n bela n g om een s t e kijken h oe een m oder n e cen t r a le a pplica t ie eigen lijk fu n ct ion eer t .

Server Appl A

Data A Netwerk Client

Overzicht van een 2-tier C-S applicatie

E en clien t a pplica t ie (door ga a n s op de P C va n de gebr u iker ) r ich t via h et n et wer k ver zoeken a a n de a pplica t ie. Deze ver wer kt de ver zoeken en m a a kt da a r bij gebr u ik va n a pplica t ieda t a die op één of m eer disks is opgesla gen . H eel veel popu la ir e a pplica t ies voldoen a a n dit sch em a :

Client applicatie

Server applicatie

Netwerkpr otocol

Web br owser

Web ser ver

H TTP

Redir ect or

F ile ser ver

SMB, NF S

Algem een

Or a cle RDBMS

Sql*Net

Com plexer e Clien t -Ser ver a pplica t ies zijn opgebou wd volgen s de "3-t ier " a r ch it ect u u r . H ier bij wor den dr ie la gen on der ken d: 1. De clien t 2. De Applica t ie Ser ver 3. De Da t a ba se Ser ver De clien t s r ich t en zich via h et n et wer k t ot de a pplica t ie ser ver . Deze is ver a n t woor delijk voor h et a fh a n delen va n a lle ver zoeken (va n a lle clien t s). Als de a pplica t ie ser ver gegeven s n odig h eeft da n n eem t h ij over h et n et wer k con t a ct op m et de da t a ba se ser ver voor h et u it voer en va n opvr a gin gen (qu er ies) of m u t a t ies. © 1999 Open Solution Providers

http://www.osp.nl

Hoofdstuk 3 Anatomie van een applicatie

Pagina 6

Voor beelden va n 3-t ier Clien t -Ser ver a pplica t ies zijn de E RP -oplossin gen va n lever a n cier s SAP en BAAN. Ook veel In t er n et E -Com m er ce oplossin gen zijn opgebou wd a ls 3-t ier a pplica t ies.

Database Server DBMS

Database Netwerk

Appl srv

Data

Overzicht van een 3-tier C-S applicatie


http://www.osp.nl

Client

Hoofdstuk 4 Single Point of Failure

Pagina 7

E en losst a a n de com pu t er con figu r a t ie beva t h eel veel h a r dwa r e com pon en t en , ieder va n welke cr u cia a l zijn voor de besch ikba a r h eid va n de con figu r a t ie, en da a r m ee voor de besch ikba a r h eid va n de a pplica t ies die er op die con figu r a t ie dr a a ien . Als h et u it va llen va n één com pon en t de u it va l va n de geh ele con figu r a t ie bewer kst elligt da n n oem en we zo'n com pon en t een S in g le P o in t o f F a ilu re (SP OF ). Bij gebr ek a a n een cor r ect e Neder la n dse t er m voor Sin gle P oin t of F a ilu r e h ebben wij er voor gekozen om h ier de E n gelse t er m in ologie t e h a n dh a ven . In een en kele ser ver om gevin g (2-t ier Clien t -Ser ver ) zit t en een a a n zien lijk a a n t a l va n die SP OF 's, wa a r on der : 1. Moeder bor d va n de ser ver 2. Disk con t r oller 3. Ieder va n de disks 4. Voedin g 5. Net wer k in t er fa ce ka a r t In een com plexer e ser ver con figu r a t ie (bijvoor beeld in een 3-t ier Clien t -Ser ver om gevin g) zit t en va n zelfspr eken d t wee keer zoveel va n die u it va lpu n t en , wa t de om gevin g gevoeliger m a a kt voor (m et n a m e) h a r dwa r e st or in gen . Bij h et on t wer pen en bou wen va n een H A-clu st er t r a ch t en we a lle "Sin gle P oin t s of F a ilu r e" in de con figu r a t ie weg t e wer ken . H et u it va llen va n één com pon en t leidt da n n iet la n ger t ot de u it va l va n de geh ele con figu r a t ie. E en goed in elka a r gest oken clu st er ka n zelfs een a a n t a l com bin a t ies va n st or in gen ("dou ble fa ilu r e") ver h elpen . H et is ech t er on m ogelijk om t e ga r a n der en da t a lle com bin a t ies va n du bbele st or in gen ku n n en wor den opgelost .

Lever a n cier s va n h a r dwa r e h ebben de a fgelopen ja r en h u n pr odu ct en a a n zien lijk wet en t e ver bet er en . Na a st en kelvou dige kwa lit eit sver bet er in gen (pr odu ct en ga a n la n ger m ee, h oger e "Mea n Tim e Bet ween F a ilu r e") h ebben veel pr odu ct en ook in gebou wde "H igh Ava ila bilit y" eigen sch a ppen gekr egen . Met n a m e de h a r dwa r e com pon en t en die in de veeleisen de kr it ieke ("h igh en d") ser ver m a r kt wor den t oegepa st h ebben va a k een in gebou wde weer st a n d t egen st or in gen . Zo ku n n en de "h igh -en d" ser ver s va n de leiden de m er ken zelfst a n dig pr ocessor s of geh eu gen ba n ken u it sch a kelen a ls de h a r dwa r e m er kt da t die su bcom pon en t en in on ger ede zijn ger a a kt . Ver der h ebben veel syst em en een in gebou wde du bbele voedin g, en ku n n en m oder n e opsla gsu bsyst em en zelfst a n dig h et ver lies va n een disk of een con t r oller com pen ser en . Al die ver bet er in gen dr a gen bij a n de besch ikba a r h eid va n de ser ver s, en da a r m ee va n de a pplica t ies die op die ser ver s dr a a ien . Al die ver bet er in gen zijn ech t er n iet gr a t is. Gen oem de "h igh -en d" ser ver s en opsla gsu bsyst em en zijn beh oor lijk pr ijzig. É én va n de voor delen va n m oder n e © 1999 Open Solution Providers

http://www.osp.nl

Hoofdstuk 4 Single Point of Failure

Pagina 8

clu st er t ech n ologie is da t h et ook m et goedkoper e com pon en t en m ogelijk wor dt een h oge m a t e va n besch ikba a r h eid t e bewer kst elligen .


http://www.osp.nl

Hoofdstuk 5 Data opslag

Pagina 9

É én va n de m eest r eleva n t e a spect en va n een com pu t er con figu r a t ie is de opsla gst r u ct u u r . De da t a die m et een a pplica t ie wor dt bewer kt is in veel geva llen veel kost ba a r der da n de geh ele con figu r a t ie, en t er ech t wor dt da a r da n ook veel a a n da ch t a a n best eed. Uit va l va n sch ijven h eeft n iet a lleen "down t im e" t ot gevolg, m a a r ka n ook t ot ver lies va n da t a leiden , wa a r door de gevolgen va n de u it va l n og gr ot er wor den . In dit h oofdst u k ga a n we in op de t h eor et isch e m ogelijkh eden om de kost ba r e da t a t e besch er m en t egen sch ijfu it va l. On der "da t a " ver st a a n we h ier ook pr ogr a m m a t u u r en a n der e soor t en best a n den . Na a st h et r egelm a t ig veiligst ellen va n de da t a (ba cku p) wor dt in vr ijwel a lle geva llen ook over gega a n t ot h et t oepa ssen va n zogen a a m de RAID 1 t ech n ologie om da t a r edu n da n t op t e sla a n . De ba sis va n RAID is da t m eer sch ijven da n st r ict n oodza kelijk wor den in gezet om de da t a m eer vou dig op t e sla a n . Bij u it va l va n een disk dr ive of con t r oller ka n h et syst eem m eest a l de da t a va n een a n der e sch ijf a fh a len of a n der szin s h er st ellen ; m eest a l geh eel t r a n spa r a n t voor de a pplica t ie, de gebr u iker en zelfs voor de syst eem beh eer der . RAID-opsla g va n da t a is een essen t ieel on der deel va n ieder e H A-clu st er . De m eest t oegepa st e RAID-t ech n ologieen zijn "Mir r or in g" (RAID-1) en "St r ipin g m et pa r it y" (RAID-5). Deze t ech n ologie ka n wor den gebr u ikt m et "losse sch r ijven " (J BOD, "J u st a Bu n ch Of Disks), of door h et opst ellen va n een gea va n ceer d opsla gsu bsyst eem . Bij de J BOD-m et h ode dien t de m ir r or in g en /of st r ipin g-m et -pa r it y t e wor den ver zor gd door h et best u r in gssyst eem of door a pa r t e "volu m e m a n a gem en t " pr odu ct en die in h et best u r in gssyst eem zijn geïn t egr eer d 2. H et voor deel va n de J BOD m et h ode is de la ger e kost pr ijs va n de oplossin g, om da t er m et gewon e sch ijven en gewon e disk con t r oller s ka n wor den gewer kt . De pr est a t ies va n J BOD RAID-oplossin gen zijn ech t er door ga a n s iet s la ger , en h et beh eer er va n is com plexer . E en RAID opsla gsu bsyst eem ver dien t in pr in cipe de voor keu r (wa n t pr est eer t bet er en is een vou diger t e beh er en ), m a a r is fa ct or en du u r der .

Bij m ir r or in g wor dt een logisch da t a volu m e t wee of m eer keer fysiek opgesla gen op ver sch illen de sch ijven . Ieder e kopie va n h et volu m e n oem en we een "plex". De t er m en "volu m e" en "plex" kom t va n de Ver it a s Volu m e Ma n a ger , een popu la ir disk en volu m e m a n a gem en t pa kket , wa t on der a n der e on der Digit a l Un ix en Sola r is wor dt gebr u ikt . An der e volu m e m a n a gem en t pa kket t en zoa ls H P 's en IBM's "Logica l Volu m e Ma n a ger " gebr u iken over een kom st ige t er m in ologie. In de n or m a le sit u a t ie wor dt ieder e sch r ijfa ct ie n keer u it gevoer d (m et n>1), en ka n een leesa ct ie wor den u it gevoer d va n een willekeu r ige plex. É én va n de bijwer kin gen va n m ir r or in g is da n ook da t de pr est a t ie va n sch r ijfoper a t ies da a lt , t er wijl die va n leesoper a t ies st ijgt (om da t h et best u r in gssyst eem bij lezen n a t u u r lijk de sch ijf select eer t wa a r h ij de da t a h et sn elst va n a f ka n h a len , i.c. de sch ijf m et de kor t st e wa ch t r ij). 1 RAID - Redundant Array of Inexpensive Disks 2 Verderop in dit hoofdstuk gaan we in op deze "Volume Managers" © 1999 Open Solution Providers

http://www.osp.nl


Pagina 10

Bij h et opzet t en va n de m ir r or in g m oet en de plexen n a t u u r lijk zoda n ig over de sch ijven wor den ver deeld da t bij u it va l va n een sch ijf er a lt ijd m in st en s één com plet e plex over blijft . H et best u r in gssyst eem (of de volu m e m a n a ger ) za l a u t om a t isch a lle lees- en sch r ijfa ct ies n a a r de over gebleven plex(en ) dir iger en . In een der gelijke con figu r a t ie zijn de sch ijven ook bij voor keu r a ch t er ver sch illen de disk con t r oller s gepla a t st en st a a n de plexen op sch ijven a ch t er ver sch illen de con t r oller s. Va lt da n n a m elijk een disk con t r oller u it da n ku n n en de over gebleven plexen via de over gebleven con t r oller (s) wor den ben a der d.

Ctrl-0

Plex1

OS/VM Ctrl-1

Plex2 Plex1

Volume

Disk groep

Plex2

Eenvoudig overzicht RAID-1

De in h ou d va n een volu m e doet voor de volu m e m a n a ger n iet t er za ke: h et ka n een file syst eem zijn , een swa p gebied of een da t a ba se. Bij h et opzet t en va n de volu m es m oet goed r eken in g wor den geh ou den m et de pla a t sin g er va n over de fysieke sch ijven . Alle volu m e m a n a ger s on der st eu n en h et con cept "disk gr oep" wa t a ssist eer t bij a u t om a t isch e pla a t sin g va n plexen over sch ijven . Veel volu m e m a n a ger s on der st eu n en 3-weg of m eer m ir r or in g wa a r bij va n een volu m e m eer da n t wee plexen wor den opgesla gen . Na a st leesper for m a n ce voor delen ka n dit ook voor delen m et zich m eebr en gen t en a a n zien va n de ba ck-u p. H ier op ga a n we ver der op in dit boekje in . Va n zelfspr eken d is h et ook m ogelijk om plexen va n ver sch illen de volu m es t e m en gen op de sch ijven in een disk gr oep. H ier a a n zijn ech t er even t u eel per for m a n ce con sequ en t ies ver bon den . Deze va llen ech t er bu it en h et best ek va n deze discu ssie. Bij de pla a t sin g va n plexen over sch ijven wor den veel ver gissin gen gem a a kt . E en ver keer d gepla a t st e plex ka n t ot gevolg h ebben da t u it va l va n een en kele disk of con t r oller h et geh ele volu m e n iet -besch ikba a r m a a kt en ka n zelfs t ot da t a ver lies leiden ! E en n iet t e on der sch a t t en a spect va n m ir r or in g is de syn ch r on isa t ie va n de plexen n a een syst eem - of disk cr a sh . Als zo'n cr a sh gebeu r t t er wijl de volu m e m a n a ger een sch r ijfa ct ie u it voer t n a a r de plexen da n ka n h et gebeu r en da t de en e plex a l is bijgewer kt , t er wijl de a n der e sch ijf n og n iet a a n h et sch r ijven wa s t oegekom en . De plexen zijn da n on gelijk, en dit is n a t u u r lijk een zeer on gewen st e sit u a t ie. De volu m e m a n a ger s a dr esser en dit pr obleem door een r esyn ch r on isa t ie u it t e voer en . Afh a n kelijk va n de sit u a t ie ka n h et ech t er zijn da t en ige a ssist en t ie va n de syst eem beh eer der n oodza kelijk is. © 1999 Open Solution Providers

http://www.osp.nl


Pagina 11

É én va n de con sequ en t ies va n RAID-1 is da t er m in st en s een du bbele h oeveelh eid sch ijfr u im t e n odig is. Met een iet s a n der e t ech n ologie ka n een soor t gelijke besch er m in g t egen u it va l va n sch ijven en con t r oller s wor den bewer kst elligd m et een la ger e over h ea d. Bij RAID-5 (st r ipin g m et pa r it y) wor dt een volu m e ver deeld over een n a a n t a l sch ijven . Ieder blok wa t n a a r h et volu m e wor dt gesch r even wor dt over n -1 sch ijven ver deeld, en op de n d e sch ijf wor dt een blok weggesch r even m et da a r in h er st elin for m a t ie. Dit la a t st e blok wor dt (over igen s t ech n isch gezien on t er ech t ) h et "pa r it y" blok gen oem d. Zo wor dt bijvoor beeld een 64 Kb blok ver deeld in 4 keer 16 Kb en een 16 Kb "pa r it y" blok. Bij RAID-5 wor den de "pa r it y" blokken m et de da t a blokken om -en -om over de sch ijven ver deeld. Bij leesa ct ies va n a f een RAID-5 volu m e wor den n or m a a l gespr oken a lleen de da t a blokken gelezen , en wor dt h et "pa r it y" blok m et r u st gela t en . Bij u it va l va n een sch ijf zijn een x a a n t a l da t a - en pa r it y blokken ver lor en gega a n . Als n u in for m a t ie va n de u it geva llen sch ijf m oet wor den gelezen wor dt in pla a t s da a r va n de over ige da t a blokken en h et pa r it y blok opgeh a a ld. Via een wisku n dige m et h ode ka n de da t a in h et on t br eken de blok wor den bepa a ld u it de n og besch ikba r e da t a blokken en de pa r it y in for m a t ie 3. Niet a lle volu m e m a n a ger s on der st eu n en RAID-5 volu m es.

123 1 P 9 11

2 4 P 12

Datablok

3 5 7 P

P 6 8 10

Voorbeeld RAID-5 striping met parity

Aa n RAID-5 zit t en diver se per for m a n ce con sequ en t ies. Aa n ieder e sch r ijfa ct ie zit en ige ver t r a gin g om da t h et pa r it y blok m oet wor den u it ger eken d. Da a r n a a st ver eist h et opt im a liser en va n de per for m a n ce een goed in zich t in de wijze wa a r op h et best u r in gssyst eem en /of de a pplica t ies da t a n a a r h et volu m e wegsch r ijft . Bij een on h a n dige keu ze voor de blokgr oot t e in h et RAID-5 volu m e ku n n en de pr est a t ies va n h et volu m e a a n zien lijk kelder en ! Micr osoft st elt in de docu m en t a t ie va n Win dows NT da t een sch r ijfa ct ie n a a r een RAID-5 pa r t it ie dr ie keer zoveel geh eu gen ver eist a ls een gewon e sch r ijfa ct ie. 3 Dit lijkt stug maar kan echt! © 1999 Open Solution Providers

http://www.osp.nl


Pagina 12

Bij u it va l va n een sch ijf blijft h et volu m e besch ikba a r . Wor dt een u it geva llen sch ijf ver va n gen da n m oet er een t ijdsin t en sieve "h er bou w" (E n gels: "r ebu ild") oper a t ie wor den u it gevoer d die de n ieu we sch ijf voor ziet va n de ju ist e in h ou d. Assist en t ie va n de syst eem beh eer der is ook h ier n oodza kelijk. Da a r st a a t ech t er t egen over da t de h oeveelh eid ext r a ben odigde disks geen fa ct or m a a r een per cen t a ge is va n h et or igin ele a a n t a l.

U ku n t u w veilige da t a opsla g ook voor u la t en r egelen door een gea va n ceer d opsla gsu bsyst eem (RAID-a r r a y) op t e st ellen . Deze su bsyst em en bieden fa cilit eit en voor m ir r or in g en st r ipin g-m et -pa r it y in de h a r dwa r e, zon der da t h et best u r in gssyst eem h ier iet s va n a f weet Voor beelden va n der gelijke gea va n ceer de opsla gsu bsyst em en zijn die va n lever a n cier s E MC, Ar t econ , H ewlet t -P a cka r d en Da t a Gen er a l / Cla r iion . Let op! E en a a n t a l lever a n cier s ver kopen disk opsla gsyst em en on der de n a a m "a r r a y" die in t egen st ellin g t ot wa t u zou ver wa ch t en geen in gebou wde RAID fa cilit eit en bieden .

E igen sch a ppen va n dit soor t opsla gsu bsyst em en zijn : In gebou wde H A-fa cilit eit en zoa ls du bbele con t r oller s en gesch eiden voedin gen . In gebou wde fa cilit eit en voor RAID-1 en RAID-5. "H ot -plu gga ble" sch ijven (ku n n en on lin e wor den ver va n gen zon der da t h et syst eem of de a r r a y u it gesch a keld beh oeft t e wor den ). Aa n gezien bij dit soor t opsla gsu bsyst em en de m ir r or in g en /of st r ipin g-m et -pa r it y geh eel in t er n wor dt ger egeld is dit volledig t r a n spa r a n t voor h et syst eem (en in en ige m a t e ook voor de syst eem beh eer der ). De a r r a y dien t u it gebr eid t e wor den gecon figu r eer d en voor ziet in "logisch e sch ijven " die in t er n wor den gem ir r or ed of in een RAID-5 con st r u ct ie zijn opgen om en . H et best u r in gssyst eem ziet de logisch e sch ijf in de a r r a y a ls een fysieke sch ijf, en gebr u ikt die a lsof die sch ijf r ech t st r eeks op h et syst eem zou zijn a a n geslot en . In dien een fysieke sch ijf in de a r r a y u it va lt wor dt dit door de a r r a y opgelost zon der da t h et syst eem da a r iet s va n m er kt . É én va n de fr a a ist e opsla gsu bsyst em en die op dit m om en t wor dt ver koch t is de H ewlet t P a cka r d "Au t oRa id" a r r a y (geba seer d op t ech n ologie va n Da t a Gen er a l). Deze a r r a y is volledig de ba a s over de in t er n e sch ijven , en beslist on der a n der e zelfst a n dig op ba sis va n disk I/O pa t r on en of een logisch volu m e via m ir r or in g of via RAID-5 wor dt besch er m d. Als een ext r a sch ijf a a n de a r r a y wor dt t oegevoegd ba la n ceer t h ij zelf de r eeds best a a n de logisch e sch ijven over de fysieke sch ijven . Met een der gelijke disk a r r a y h oeft u zich geen zor gen m eer t e m a ken over de u it va l va n een sch ijf. H et ka n ech t er a lt ijd n og gebeu r en da t de disk con t r oller wa a r m ee de a r r a y a a n h et syst eem is gekoppeld u it va lt . Om dit op t e ku n n en va n gen beva t t en de a r r a ys m eer der e a a n slu it pu n t en , en ka n de a r r a y via t wee pa den a a n h et syst eem wor den gekoppeld. We n oem en dit "Dyn a m ic Mu lt ipa t h in g" of "Mu lt iple P h ysica l Volu m e Lin ks". H et best u r in gssyst eem (of de volu m e m a n a ger ) m oet dit con cept n a t u u r lijk wel in zich h er ber gen om da t h et m oet wet en da t via de a n der e con t r oller dezelfde (logisch e) sch ijven ku n n en wor den ben a der d. © 1999 Open Solution Providers

http://www.osp.nl


Pagina 13

Bij gebr u ik va n een der gelijke com plex opsla gsu bsyst eem wor den de logisch e sch ijven t r ou wen s "gewoon " m et beh u lp va n de volu m e m a n a ger in gedeeld in disk gr oepen en wor den in die disk gr oepen logisch e volu m es gem a a kt . De volu m e m a n a ger h oeft zich ech t er n iet la n ger dr u k t e m a ken over m ir r or in g of st r ipin g-m et -pa r it y, da t wor dt im m er s geh eel door de a r r a y ver zor gd. An der e dien st en die door h et opsla gsu bsyst eem ku n n en wor den ver zor gd zijn sn a psh ot kopieën va n een logisch e sch ijf (ka n h a n dig zijn bij h et m a ken va n een ba ck-u p) en h et on lin e syn ch r on iser en va n een t weede a r r a y m et de eer st e (ka n h a n dig zijn voor u it wijkdoelein den ).

Computer

Logische schijven

Fysieke schijven

Schematisch overzicht disk array

Na a r m a t e sch ijven st eeds gr ot er wor den , en h et gebr u ik er va n com plexer wor dt , bleek da t best u r in gssyst em en va a k t ekor t sch ot en in m ogelijkh eden om de r u im t e op die sch ijven efficien t in t e delen en t e a dm in ist r er en . Tr a dit ion eel wor den sch ijven in zijn geh eel a a n h et best u r in gssyst eem t er besch ikkin g gest eld om best a n den op t e pla a t sen of om t e gebr u iken a ls over loopgebied voor h et in t er n e geh eu gen ("swa p spa ce" of "pa ge files"). Om a dm in ist r a t ieve r eden en bleek h et ech t er st eeds va ker gewen st om een sch ijf op t e delen in m eer der e logisch e sch ijven , of om ju ist t wee fysieke sch ijven a ls één logisch e sch ijf t e zien . H et eer st e wer d gefa cilit eer d door sch ijven in pa r t it ies (logisch e deelsch ijven ) t e ku n n en opdelen . Vr ijwel a lle best u r in gssyst em en on der st eu n en da n ook wel een of a n der m odel voor pa r t it ion er in g. Deze pa r t it ion er in g is ech t er m eest a l st a t isch : een m a a l gem a a kt is h et n iet een vou dig om de pa r t it ie t e ver gr ot en , t e ver klein en , of (deels) op een a n der e sch ijf t e leggen . Da a r n a a st m oet en deze st a t isch e pa r t it ies m eest a l a a n een geslot en op een sch ijf liggen , wa t ver splin t er in g va n sch ijfr u im t e ka n ver oor za ken . Zo ka n h et bijvoor beeld gebeu r en da t er in pr in cipe voldoen de vr ije r u im t e op een sch ijf t er besch ikkin g is, m a a r da t die r u im t e n iet a a n een geslot en is en da a r door n iet ka n wor den gebr u ikt om één n ieu we pa r t it ie t e m a ken . De wen s om dyn a m isch er m et pa r t it ies om t e ga a n h eeft er t oe geleidt da t st eeds m eer best u r in gssyst em en zijn u it ger u st m et een a pa r t disk m a n a gem en t su bsyst eem : de zogen a a m de "Volu m e Ma n a ger s".


http://www.osp.nl


Pagina 14

Lever a n cier s a ls H ewlet t -P a cka r d, IBM, SGI en Com pa Q lever en m et h u n va r ia n t va n Un ix een in gebou wde volu m e m a n a ger m ee (de "Logica l Volu m e Ma n a ger " of de "XVM E xt en ded Volu m e Ma n a ger " (SGI)). On a fh a n kelijke soft wa r e lever a n cier Ver it a s h eeft een u it gebr eid Volu m e Ma n a ger pa kket on t wikkeld wa t op m eer der e syst em en ka n dr a a ien (de "VXVM Ver it a s E xt en ded Volu m e Ma n a ger "). De fu n ct ion a lit eit va n deze Volu m e Ma n a ger s is m in of m eer over een kom st ig.

De t a a k va n Volu m e Ma n a ger s is om disk r u im t e t e or den en en die a ls dyn a m isch e pa r t it ies, logisch e volu m es gen a a m d, t er besch ikkin g t e st ellen . De r est va n h et best u r in gssyst eem ziet een logisch volu m e a ls een sch ijf, en ka n die du s gebr u iken om best a n den , da t a ba ses of swa p r u im t e op t e pla a t sen . Voor delen va n h et gebr u ik va n Volu m e Ma n a ger s zijn : E en logisch volu m e h oeft n iet a a n een geslot en op dezelfde sch ijf t e liggen . De Volu m e Ma n a ger ka n de segm en t en ("ext en t s" of "su bdisks") va n h et logisch e volu m e over m eer der e sch ijven ver delen . Logisch e volu m es ku n n en wor den ver gr oot en ver klein d. In dien de specifieke best a n dssyst eem t ech n ologie h et t oest a a t ka n dit zelfs on -lin e, zon der da t h et logisch e volu m e t ijdelijk h oeft t e wor den a fgekoppeld! Logisch e volu m es ku n n en on -lin e va n sch ijf n a a r sch ijf wor den ver h u isd (om bijvoor beeld een t e ver va n gen sch ijf vr ij t e spelen ). Volu m e Ma n a ger s bieden soft wa r em a t ige on der st eu n in g voor m ir r or in g (RAID-1) en som s voor RAID-5 (zon der da t da a r bijzon der e h a r dwa r e voor n odig is). Om deze r eden is h et gebr u ik va n Volu m e Ma n a ger s in H igh Ava ila bilit y om gevin gen du s m eest a l m in of m eer ver plich t (zelfs a ls er gebr u ik wor dt gem a a kt va n een gea va n ceer de disk a r r a y ver dien t h et gebr u ik va n een Volu m e Ma n a ger ver u it de voor keu r gezien de a n der e voor delen die h et m et zich m eebr en gt ).

É én va n de gr on dsla gen va n Volu m e Ma n a ger s is da t fysieke sch ijven wor den gegr oepeer d in zogen a a m de disk gr oepen (ook wel "Volu m e Gr ou ps"). Disk gr oepen wor den gebr u ikt om de beh eer der n og en ige con t r ole t e geven over wa a r delen en plexen va n logisch e volu m es t er ech t kom en . E en logisch volu m e wor dt gem a a kt in een disk gr oep, en de Volu m e Ma n a ger zor gt er voor da t de blokken va n h et logisch e volu m e wor den ver spr eid over de sch ijven in die disk gr oep. Bij gebr u ikm a kin g va n een Volu m e Ma n a ger is de disk gr oep de een h eid wa a r m ee sch ijven a a n a n der e syst em en ku n n en wor den ver bon den . H et h eeft im m er s geen zin om slech t s één sch ijf u it een disk gr oep t e ver pla a t sen , wa n t op die en e sch ijf st a a t slech t s een gedeelt e va n een gedeelt e va n de logisch e volu m es die er in de disk gr oep zit t en .

Als er gebr u ik wor dt gem a a kt va n een gea va n ceer de disk a r r a y da n zit t en er t u ssen h et best a n dssyst eem en de fysieke sch ijf t wee a bst r a ct ien ivea u 's: 1. De disk a r r a y com bin eer t fysieke sch ijven in logisch e sch ijven , en biedt on der m ir r or in g en © 1999 Open Solution Providers

http://www.osp.nl


Pagina 15

even t u eel ook RAID-5 m ogelijkh eden . 2. De logisch e sch ijven va n de disk a r r a y zijn de "fysieke" sch ijven va n de Volu m e Ma n a ger die weer in disk gr oepen wor den ver deeld. E ven t u eel ka n ook de Volu m e Ma n a ger m ir r or in g en /of RAID-5 bieden . In een der gelijke om gevin g wor dt er vr ijwel a lt ijd voor gekozen om de m ir r or in g/RAID-5 door de disk a r r a y t e la t en ver zor gen . De Volu m e Ma n a ger blijft da n ver a n t woor delijk om logisch e sch ijven in gr oepen t e ver delen en beh eer t de r u im t e in die disk gr oepen . Alvor en s wor dt over gega a n t ot de in r ich t in g va n een der gelijke om gevin g is n a t u u r lijk een goed pla n va n a a n pa k n oodza kelijk.


http://www.osp.nl

Hoofdstuk 6 Netwerk failover

Pagina 16

E en a n der e com pon en t die essen t ieel is in een clien t -ser ver om gevin g is de ver bin din g t u ssen de a pplica t ie en h et n et wer k. H et m oge du idelijk zijn da t a ls de ser ver n iet m eer m et h et n et wer k ver bon den is, de a pplica t ie (a lh oewel deze m issch ien n og wel "dr a a it ") n iet m eer besch ikba a r is. H et is du s za a ks ook dit gedeelt e va n de ser ver ver h oogd besch ikba a r t e m a ken . Vr ijwel a lle m oder n e clien t -ser ver a pplica t ies m a ken gebr u ik va n een op TCP /IP geba seer d a pplica t iepr ot ocol. Voor zover er n og a n der e pr ot ocollen wor den t oegepa st zijn die h a r d op h u n r et ou r t en fa veu r e va n h et op open st a n da a r den geba seer de TCP /IP . De u n ieke iden t ifica t ie va n de ser ver in h et n et wer k wor dt gevor m d door zijn IP -a dr essen : 4-byt es logisch n et wer ka dr essen . De m eest gebr u ikelijke n ot a t ie va n een IP -a dr es is vier get a llen in de r eeks 1 t ot en m et 255, gesch eiden door pu n t en , bijvoor beeld: "193.78.233.1". Na a st IP -a dr essen wor den in een TCP /IP n et wer k ook h ost n a m en gebr u ikt . Deze wor den ech t er door de TCP /IP soft wa r e on m iddellijk n a a r een IP -a dr es ver t a a ld m et beh u lp va n een zogen a a m de "n a m e ser ver " of via een loka le con figu r a t ie file. Voor de n et wer kver bin din g is h et va n geen en kel bela n g of de ser ver in it ieel via een IP -a dr es of via een h ost n a a m is geïden t ificeer d. De ver bin din g t u ssen de ser ver en h et n et wer k wor dt ver zor gd door een in t er fa ce ka a r t , die bem iddelt t u ssen h et in t er n e geh eu gen en de n et wer kbeka belin g. E en IP -a dr es vor m t een u n ieke iden t ifica t ie va n een in t er fa ce in h et n et wer k. Door een IP -a dr es (of een m et dit IP a dr es ver bon den h ost n a a m ) t e gebr u iken select eer t de clien t m et welke ser ver h ij wil com m u n icer en .

Server 193.78.233.1 193.78.233.66

Client

Voorbeeld netwerkverbinding

Als h et zij de in t er fa ce ka a r t va n de ser ver , h et zij de ka bel t u ssen de in t er fa ce ka a r t en de r est va n h et n et wer k in on ger ede r a a kt ka n de clien t com pu t er n iet la n ger m et de ser ver com m u n icer en . Zoa ls lever a n cier Su n h et st elt : "Th e n et wor k is t h e com pu t er ". Con figu r a t ies t er wa a r de va n m iljoen en gu lden s zijn ver bon den m et ka belt jes va n n lg. 7,50! Om dit pr obleem op t e lossen dien en er t wee m a a t r egelen t e wor den gen om en : 1. In de ser ver dien en ext r a n et wer kka a r t en t e wor den opgen om en die a ls st a n d-by © 1999 Open Solution Providers

http://www.osp.nl


Pagina 17

in t er fa ce ku n n en dien en . 2. De ver bin din g t u ssen die ka a r t en en h et n et wer k dien t over gesch eiden com pon en t en t e lopen .

Door in de ser ver een t weede n et wer kka a r t op t e n em en ku n n en we u it va l va n h et pr im a ir e n et wer k in t er fa ce opva n gen .

Server 193.78.233.1 193.78.233.66

Client

Normale situatie, de stand-by kaart is niet actief.

Soft wa r e in de ser ver m on it or t h et a ct ieve in t er fa ce, en zodr a h ij ziet da t dit in t er fa ce is u it geva llen con figu r eer t deze soft wa r e on m iddellijk de IP -a dr essen va n de pr im a ir e ka a r t op h et st a n d-by in t er fa ce. De ver bin din gen wor den da n voor t gezet via h et n ieu we in t er fa ce. Door de wijze wa a r op TCP /IP in elka a r st eekt h eeft dit geen gevolgen voor de ver bin din gen . Bezijden een kor t e ver t r a gin g m er kt de a pplica t iepr ogr a m m a t u u r op de clien t en op de ser ver n iet s va n de over n a m e.


http://www.osp.nl


Pagina 18

Server

X 193.78.233.1

193.78.233.66

Client

Het stand-by interface heeft de verbinding overgenomen

Te c h n is c h e n o o t! De st a n d-by in t er fa ce ka a r t h eeft n a t u u r lijk een a n der MAC a dr es da n de pr im a ir e ka a r t . Na de over n a m e zen dt de ser ver da n ook een ARP br oa dca st voor zich zelf u it , die h ij even een s zelf bea n t woor dt . Alle n odes in h et su bn et wor den da n gea ch t h u n ARP t a bellen bij t e wer ken m et h et n ieu we MAC-a dr es. Ou der e DOS en Win dows clien t s doen dit ech t er n iet , en h er ken n en de n ieu we in t er fa ce ka a r t da n ook n iet . Dit ka n wor den ver h olpen door deze ou der e clien t s in een a pa r t su bn et a ch t er een r ou t er t e zet t en . Deze n et wer k "fa ilover " fa cilit eit wor dt door ga a n s n iet st a n da a r d door h et best u r in gssyst eem geboden , m a a r wor dt t oegevoegd door de H A-soft wa r e va n de lever a n cier . H ewlet t -P a cka r d's MC/Ser viceGu a r d biedt deze fa cilit eit bijvoor beeld in com bin a t ie m et een n et wer k "br idge". Su n 's E n t er pr ise Clu st er lever t een fa cilit eit m ee m et de n a a m "P u blic Net wor k Ma n a gem en t " die de fa ilover t u ssen n et wer kka a r t en r egelt .

In h et geva l da t wor dt over gega a n op h et pla a t sen va n een st a n d-by n et wer kka a r t ver dien t h et ook a a n bevelin g om de in t er con n ect ie t u ssen de ser ver en h et n et wer k via t wee gesch eiden n et wer ken t e la t en lopen . Deze filosofie ka n h eel ver ga a n en leidt u lt im o t ot h et a a n leggen va n een volledig r edu n da n t n et wer k t ot en m et de wer kplekken ! Of dit ver st a n dig is h a n gt n a t u u r lijk a f va n de sit u a t ie. In deze sect ie la t en we a lleen de eer st e st a ppen va n deze opbou w de r evu e pa sser en . H eden da a gse n et wer ken zijn m eest a l opgebou wd u it h u bs en /of swit ch es. De t r a dit ion ele coa x-ka bel h eeft in veel geva llen r eeds h et veld m oet en r u im en . De ver bin din g t u ssen een in t er fa ce ka a r t en de h u b/swit ch wor dt ger ea liseer d m et een poin t -t o-poin t n et wer kka bel, in de m eest e geva llen een zogen a a m de UTP 4 ka bel. H et n et wer ka ppa r a a t wa a r m ee de in t er fa ce ka a r t is ver bon den ka n u it een lopen va n een "dom m e" h u b (die in feit e n iet s m eer is da n een een vou dige elect r isch e ver st er ker ) t ot en m et een zeer in gewikkelde swit ch die a ller lei r edu n da n t ie en H A-m ogelijkh eden in zich h er ber gt . In h et geva l va n een r edu n da n t e n et wer kka a r t m oet en we er ech t er voor zor gen da t de beide n et wer kka a r t en m et een a n der e h u b/swit ch ver bon den zijn . Deze h u bs da n wel swit ch es ku n n en da n weer h et zij r ech t st r eeks, h et zij via weer a n der e n et wer ka ppa r a t en m et elka a r ver bon den zijn .

4 Unshielded Twisted Pair © 1999 Open Solution Providers

http://www.osp.nl


Pagina 19

Bij een sim pele opbou w is in h et er gst e geva l de h elft va n de clien t s n iet m eer in st a a t om m et de ser ver t e com m u n icer en . Via com plexer e m a a t r egelen ka n een bet er e r edu n da n t e in t er con n ect ivit eit wor den ger ea liseer d. H et zou ech t er t e ver voer en da a r n u op in t e ga a n .

Server Stand-by interface

hub

clients

Primaire interface

hub

clients

Eenvoudige opbouw gescheiden netwerkpaden


http://www.osp.nl

Hoofdstuk 7 HA-clusters

Pagina 20

In de voor ga a n de h oofdst u kken h ebben we gezien h oe we door h et du bbel u it voer en va n com pon en t en a ls sch ijven , con t r oller s en n et wer kka a r t en on s kon den besch er m en t egen h et u it va llen va n die com pon en t en . Voor één sit u a t ie h ebben we ech t er n og geen oplossin g: h et u it va llen va n de geh ele ser ver , bijvoor beeld t en gevolge va n een fa t a le st or in g op h et m oeder bor d. H et ligt voor de h a n d ook deze st or in gen a a n t e pa kken door h et m eer vou dig u it voer en va n deze com pon en t en . De m ogelijkh eden h ier t oe zijn ech t er beper kt , en we m oet en da a r om een m eer gr ofst offelijke a a n pa k h a n t er en : h et opst ellen va n m eer der e com pu t er s en die op zoda n ige wijze gr oeper en , ver bin den en con figu r er en da t ze elka a r s a pplica t ies ku n n en dr a a ien . We n oem en een der gelijke gr oep va n syst em en een "H igh Ava ilibilit y clu st er " (of kor t weg, "clu st er "). H et woor d "clu st er " wor dt ook gebr u ikt in a n der e con t ext en wa a r in gr oepen va n syst em en sa m en wer ken , zoa ls bijvoor beeld in per for m a n ce clu st er s en r eken clu st er s. E en H A-clu st er best a a t u it t wee of m eer n odes. Uit h oeveel n odes de clu st er m a xim a a l ka n best a a n h a n gt a f va n de specifieke clu st er oplossin g. Zo lim it eer t de oplossin g va n lever a n cier Su n 5 een clu st er t ot m a xim a a l vier n odes, t er wijl H P 's MC/Ser viceGu a r d t ot en m et a ch t n odes in een clu st er ka n a ccom m oder en . Ver r eweg de m eest e opgest elde clu st er s best a a n u it t wee n odes. In de clu st er dr a a ien één of m eer a pplica t ies, ieder op h u n "t h u isn ode". Zodr a een syst eem u it va lt zor gt de clu st er soft wa r e er voor da t de a pplica t ies die op de u it geva llen n ode dr a a iden ver h u izen n a a r een ba ck-u p n ode en a lda a r opn ieu w wor den opgest a r t . Als de gebr u iker va n die a pplica t ie (h et zij een m en s, h et zij een pr ogr a m m a ), m er kt da t de ver bin din g wor dt ver br oken is h et de bedoelin g da t deze t r a ch t de ver bin din g opn ieu w op t e bou wen . Da t de a pplica t ie in t u ssen op een a n der e n ode dr a a it is (a ls h et goed is) t r a n spa r a n t . We ga a n ver der op in dit h oofdst u k dieper in op de m ech a n ism en die h ier a a n t en gr on dsla g liggen . In t egen st ellin g t ot wa t va a k wor dt geda ch t is een a pplica t ie "swit ch " du s n iet t r a n spa r a n t voor de gebr u iker . De ver bin din g wor dt ver br oken en m oet opn ieu w t ot st a n d wor den gebr a ch t . É én va n de eisen a a n de clien t a pplica t ie is da n ook da t die bij een ver br oken ver bin din g deze t r a ch t t e h er st ellen . Ieder e a pplica t ie h eeft door de syst eem beh eer der een lijst va n n odes gecon figu r eer d gekr egen wa a r op die a pplica t ie ka n en m a g dr a a ien . É én va n die n odes is de pr im a ir e, of "t h u is" n ode va n de a pplica t ie. De over ige n odes wor den "ba ck-u p" of "a dopt ive" n odes gen oem d.

É én va n de bijzon der e eisen die a a n een clu st er wor den gest eld is da t m eer der e n odes in de clu st er bij dezelfde sch ijven ku n n en kom en . Als n a m elijk een a pplica t ie va n de en e n a a r de a n der e n ode ver h u ist is h et wel zo pr a ct isch a ls de n ieu we n ode ook bij de da t a va n die a pplica t ie ka n kom en . Dit is a lleen m ogelijk in dien de sch ijven wa a r op die da t a st a a t va n m eer der e ka n t en ka n wor den ben a der d. In h et geva l we een a pplica t ie op dr ie ver sch illen de n odes willen dr a a ien is h et ook n odig om die sch ijven va n dr ie ka n t en t e ku n n en ben a der en . 5 Sun Enterprise Cluster © 1999 Open Solution Providers

http://www.osp.nl


Pagina 21

De m eest een vou dige disk-oplossin g voor clu st er s wor dt geboden door st a n da a r d SCSI sch ijven . Ieder e SCSI sch ijf beva t t wee con n ect or en . Via de en e con n ect or wor dt de sch ijf ver bon den m et zijn voor ga n ger , en via de a n der e m et zijn opvolger . De eer st e sch ijf wor dt va n zelfspr eken d ver bon den m et de SCSI con t r oller in h et syst eem . Nor m a a l gespr oken wor dt de con n ect or op de la a t st e sch ijf m et een specia le "t er m in a t or" (een a fslu it weer st a n d) a fgeslot en . In een clu st er wor dt de la a t st e sch ijf ech t er ver bon den m et een a n der e n ode in de clu st er ! Te c h n is c h e n o o t Dit bet eken t da t de SCSI con t r oller va n die a n der e n ode op een a n der SCSI-id m oet wor den gezet , bijvoor beeld 5 in pla a t s va n 7. Dit h eeft da n ver volgen s weer con sequ en t ies voor de SCSI-id's die a a n de sch ijven in de SCSI-ket t in g ku n n en wor den u it gedeeld. H ier wor den veel ver gissin gen m ee gem a a kt .

7

5

4

6

1

2 7

5

4

6

SCSI schijven in een HA-cluster

E en bela n gr ijke beper kin g bij SCSI in een H A-clu st er is du s da t de sch ijven m a a r t u ssen t wee syst em en ku n n en wor den gedeeld. Door t oepa ssin g va n een specia le SCSI Y-ka bel (ook wel V-ka bel gen oem d) ka n een ser ie sch ijven even t u eel t u ssen dr ie n odes wor den gedeeld, m a a r dit wor dt n iet door a lle lever a n cier s on der st eu n d. Ver der is h et cor r ect con figu r er en (en m et n a m e t er m in er en (a fslu it en )) va n een der gelijke SCSI-con figu r a t ie geen sin ecu r e. Boven st a a n de get eken de con figu r a t ie is t a m elijk st a n da a r d, en wor dt da n ook door a lle lever a n cier s on der st eu n d. Bij de in r ich t in g va n h et syst eem en de a pplica t ie dien t er r eken in g m ee t e wor den geh ou den da t a lle pr ogr a m m a t u u r , da t a en con figu r a t ie die n odig is voor de a pplica t ie h et zij du bbel is a a n gebr a ch t (op beide n odes), da n wel da t die op de gedeelde sch ijven st a a t .

Niet zelden wor den H A-clu st er s gebou wd m et de gea va n ceer de H A-opsla gsu bsyst em en die in een eer der h oofdst u k zijn besch r even . De gr ot er e disk a r r a ys h ebben m eer da n t wee con n ect iem ogelijkh eden , zoda t zon der a l t e veel pr oblem en m eer da n t wee syst em en ku n n en wor den a a n geslot en . De ech t e "h igh -en d" disk a r r a ys on der st eu n en m eer da n 8 syst em en op één a r r a y!


http://www.osp.nl


Pagina 22

De ver bin din g t u ssen de syst em en en de a r r a y zijn m eest a l geba seer d op SCSI, m a a r ku n n en ook op a n der e wijze zijn geïm plem en t eer d. E en a n der e t a m elijk popu la ir e t ech n ologie wor dt gevor m d door opt isch e ver bin din gen . H et bet r eft h ier ech t er m eest a l lever a n cier a fh a n kelijke t ech n ologieën .

Node 1

Node 2

Logische schijven

Fysieke schijven

Aansluiting disk array aan twee nodes Door ga a n s h ebben dit soor t disk a r r a ys m eer der e con n ect iem ogelijkh eden die ver bon den zijn m et in t er n e con t r oller s. Om opt im a a l gebr u ik t e m a ken va n de H A-voor zien in gen va n de a r r a y wor den de ver bin din gen m et de n odes m eest a l gekr u ist om ook bij u it va l va n een a r r a y con t r oller n og t en m in st e een pa d n a a r de logisch e sch ijven in de a r r a y over t e h ou den .

Veel lever a n cier s h ebben n a a st SCSI-sch ijven ook zogen a a m de "opt isch e" sch ijven in h u n pr odu ct a a n bod. "Opt isch " sla a t h ier n iet op de opsla gm et h odiek (die is on ver a n der lijk m a gn et isch va n a a r d), m a a r op de ver bin din g t u ssen de syst em en en de sch ijven . De voor delen va n gla sfiber zijn eviden t : h et is sn eller en m in der gevoelig voor m a gn et isch e ver st or in gen . Om die r eden is h et in veel om gevin gen t e pr efer er en boven SCSI in t er con n ect ie. De "opt isch e" t ech n ologie ken t zijn eigen specifieke pr a kt isch e a spect en t en a a n zien va n h et gebr u ik in een H A-clu st er . Aa n gezien de t ech n ologie ech t er lever a n cier -specifiek is va lt er in zijn a lgem een wein ig over t e zeggen . Om die r eden wor dt h ier n iet ver der in gega a n op deze t ech n ologie.

E en on der wer p wa t t ot n u t oe bu it en besch ou win g is gebleven t ijden s de beh a n delin g va n de opsla gst r u ct u u r is de pla a t s va n de syst eem sch ijven . Ieder com pu t er syst eem h eeft één of m eer sch ijven wa a r op on der a n der e h et best u r in gssyst eem en a a n ver wa n t e a pplica t ies st a a n geïn st a lleer d. Op deze sch ijven st a a n m eest a l ook de "swa p" pa r t it ies die door h et syst eem wor den gebr u ikt in geva l er (t ijdelijk) m eer geh eu gen n odig is da n er fysiek in de com pu t er is geïn st a lleer d. Uit va l va n een syst eem sch ijf h eeft vr ijwel a lt ijd ook u it va l va n de com pu t er t ot gevolg, en om die r eden dien en de syst eem sch ijven ook t e wor den besch er m d via m ir r or in g of iet s der gelijks.


http://www.osp.nl


Pagina 23

Over de fysieke a r ch it ect u u r en pla a t sin g va n de syst eem sch ijven best a a t t u ssen de diver se geleer den n oga l wa t ver sch il va n m en in g. E en en a n der is bijvoor beeld a fh a n kelijk va n de opsla ga r ch it ect u u r die is gekozen voor de a pplica t iesch ijven en de specifieke volu m e m a n a ger die wor dt gebr u ikt in h et clu st er . Mijn voor keu r ga a t er m eest a l n a a r u it om de syst eem sch ijven niet in de gedeelde diskcon figu r a t ie op t e n em en m a a r deze op a pa r t e SCSI con t r oller s t e pla a t sen . Om ook voor de syst eem sch ijven de n odige beveiligin g t e ku n n en r ea liser en a dviseer ik om deze du bbel u it t e voer en (in clu sief de con t r oller ) en m ir r or in g t oe t e pa ssen . Door diver se syst eem beper kin gen ku n n en de syst eem sch ijven m eest a l n iet m et soft wa r e-RAID5 (geïm plem en t eer d door de Volu m e Ma n a ger ) wor den besch er m d.

Net wer ken wor den in clu st er s voor t wee doelein den gebr u ikt : 1. Om de clien t s t oega n g t e bieden t ot de a pplica t ies die in de clu st er dr a a ien . 2. Om de clu st er soft wa r e op de clu st er n odes on der lin g t e la t en com m u n icer en . Voor die t wee t oepa ssin gen wor den m eest a l ver sch illen de n et wer ken a a n gelegd. Via h et "pu blieke n et wer k" zijn de clu st er n odes ver bon den m et h et in t r a n et va n de or ga n isa t ie, en h et is via dit n et wer k da t clien t s en ser ver (a pplica t ies) m et elka a r com m u n icer en . In h et "pr ivé n et wer k" zijn door ga a n s a lleen de clu st er n odes opgen om en . Om t egen u it va l va n een en kel n et wer kin t er fa ce besch er m d t e zijn wor den beide n et wer ken m eest a l du bbel u it gevoer d, in clu sief t wee n et wer ka da pt er s per n et wer k in de clu st er n odes.

Node

hub

clients

Node

hub

clients

Twee netwerken verbinden de cluster nodes

De pr ecieze ben odigde in fr a st r u ct u u r ver sch ilt per clu st er lever a n cier . H et pr in cipe va n du bbele u it voer in g va n kr it ieke n et wer ken wor dt ech t er a lgem een on der st eu n d. Zodr a één n et wer ka da pt er h et begeeft wor dt dit on der ken d door de clu st er soft wa r e en wor dt de com m u n ica t ie voor t gezet over de over gebleven a da pt er (s).


http://www.osp.nl


Pagina 24

In som m ige geva llen kom en we n a a st deze t wee n et wer ken n og wel een s een der de en /of vier de n et wer k in een clu st er t egen . Die ext r a n et wer ken wor den da n gebr u ikt voor a pplica t ie specifieke doelein den zoa ls sn elle in t r a -a pplica t ie com m u n ica t ie of h et m a ken va n een ba ck-u p.

Na a st een bijzon der h a r dwa r e opbou w is een clu st er ook u it ger u st m et specia le soft wa r e dien s t a a k h et is om de clu st er in de ga t en t e h ou den en in geva l va n pr oblem en de ben odigde h er st ela ct ies t e n em en . Deze zogen a a m de "Clu st er Soft wa r e" is h oog-gespecia liseer de pr ogr a m m a t u u r die een essen t iele r ol ver vu lt in de clu st er . Voor beelden va n clu st er soft wa r e zijn : H ewlet t -P a cka r d's MC/Ser viceGu a r d Su n 's E n t er pr ise Clu st er IBM's H ACMP Micr osoft 's Clu st er Ser ver Com pa q Tr u 64 Clu st er Deze h oogwa a r dige soft wa r e ver vu lt a bsolu u t n iet -t r ivia le t a ken bin n en h et clu st er , en m oet in n ig sa m en wer ken m et h et best u r in gssyst eem , de Volu m e Ma n a ger en a pplica t ies t en ein de een ver h oogd besch ikba a r in for m a t iesyst eem t e ku n n en lever en . De pr oblem a t iek va n clu st er soft wa r e is da t zij wor dt gea ch t om com pon en t en die n iet zijn beda ch t om in een H A-om gevin g t e fu n ct ion er en a a n een t e sm eden t ot een H A-clu st er . De web sit es va n voor n oem de lever a n cier s ku n n en u m eer ver t ellen over de specifieke in s en ou t s va n deze soft wa r e.

De bedoelin g va n h et bou wen va n een clu st er is n a t u u r lijk om a pplica t ies ver h oogd besch ikba a r t e kr ijgen . De du bbele u it voer in g va n syst em en , sch ijven en n et wer ken dien en er a lleen m a a r t oe om een om gevin g t e r ea liser en wa a r bij ieder den kba r e en kelvou dige st or in g n iet leidt t ot h et u it va llen va n de a pplica t ie. In h et er n st igst e geva l va lt een com plet e clu st er n ode u it en m oet een a pplica t ie in zijn geh eel n a a r een a n der e n ode ver h u izen .

De t er m in ologie va n de ver sch illen de lever a n cier s loopt n oga l u it een . De een spr eekt over "pa cka ges", de a n der over "logica l h ost s" en "da t a ser vices". Wij t r a ch t en h ier de a ch t er liggen de con cept en zo n eu t r a a l m ogelijk t e besch r ijven , en h a n t er en da a r om de t er m "a pplica t ie" voor een st elsel va n pr ocessen en fa cilit eit en die ver h oogd besch ikba a r m oet en wor den gem a a kt . De defin it ie va n een a pplica t ie in een clu st er om va t : E en st a r t com m a n do wa a r m ee de clu st er soft wa r e de a pplica t ie ka n st a r t en .


http://www.osp.nl


Pagina 25

E en st opcom m a n do wa a r m ee de clu st er soft wa r e de a pplica t ie ka n st oppen . Meest a l ook een son de (pr obe) via welke de clu st er soft wa r e de st a t u s va n de a pplica t ie ka n m on it or en . E en lijst va n disk gr oepen die bij de a pplica t ie h or en (en wa a r de da t a en even t u eel ook de pr ogr a m m a t u u r va n de a pplica t ie st a a t ). E en lijst va n best a n dssyst em en die op die disk gr oepen st a a n en die bij deze a pplica t ie h or en . E en lijst va n n et wer ka dr essen (IP -a dr essen ) die bij de a pplica t ie h or en . H et is de bedoelin g da t clien t s deze a pplica t ie u it slu it en d via deze n et wer ka dr essen ben a der en . E en lijst va n clu st er n odes wa a r op de a pplica t ie ka n /m a g dr a a ien . É én va n die n odes is de pr im a ir e n ode va n die a pplica t ie, en de r est zijn de ba ck-u p n odes. De st a r t - en st opcom m a n do's en son des va n een a pplica t ie zijn m eest a l scr ipt s die voor da t doel door de clu st er im plem en t a t or zijn on t wikkeld. Die scr ipt s on der n em en da n de st a ppen die n odig zijn om de a pplica t ie t e st a r t en , t e st oppen of t e con t r oler en . Clu st er lever a n cier s ver kopen m eest a l in t egr a t ieh u lpm iddelen wa a r m ee popu la ir e a pplica t ies zoa ls NF S, Or a cle RDBMS en SAP r ela t ief een vou dig ku n n en wor den geclu st er d. Deze in t egr a t ie "t oolkit s" zijn n iet s m eer (m a a r ook n iet s m in der ) a ls de volledig u it gewer kt e st a r t - en st opscr ipt s en even t u eel a pplica t iespecifieke son des. H et on t wikkelen va n dit soor t scr ipt s is n iet u it zon der in gsgeva llen r eken in g m oet wor den geh ou den .

t r ivia a l

om da t

m et

a ller lei

E en H A-a pplica t ie va lt volledig on der h et beh eer va n de clu st er soft wa r e. Dit h eeft on der a n der e t ot gevolg da t de a pplica t ie a lleen n og m a a r m a g wor den gest a r t en gest opt via h et clu st er fr a m ewor k. H et fr a m ewor k biedt com m a n do's wa a r m ee a pplica t ies h a n dm a t ig ku n n en wor den gest opt en gest a r t , m a a r za l n a t u u r lijk ook zelfst a n dig beslissen da t h et t ijd is om een a pplica t ie t e st oppen , n a a r een a n der e n ode t e ver h u izen , en da a r weer t e st a r t en .

Als de clu st er soft wa r e beslu it om een a pplica t ie op een bepa a lde n ode op t e st a r t en (h et zij om da t h et da a r t oe een com m a n do h eeft on t va n gen , h et zij om da t h et op ba sis va n a ller lei gebeu r t en issen in de clu st er h eeft beslot en da t dit een goed pla n is) on der n eem t h et de volgen de a ct ivit eit en : 1. De disk gr oepen die bij die a pplica t ie h or en wor den gea ct iveer d en a a n deze n ode gekoppeld. 2. De best a n dssyst em en op die disk gr oepen wor den gecon t r oleer d en a a n gekoppeld (m ou n t ). 3. De n et wer ka dr essen die bij deze a pplica t ie h or en wor den op de n et wer ka da pt er s va n deze n ode gecon figu r eer d. 4. H et st a r t com m a n do va n de a pplica t ie wor dt u it gevoer d. © 1999 Open Solution Providers

http://www.osp.nl


Pagina 26

5. E ven t u ele son des voor deze a pplica t ie wor den gela n ceer d.

In dien h et clu st er fr a m ewor k beslu it de a pplica t ie t e st oppen wor den de t egen over gest elde a ct ies u it gevoer d in om gekeer de volgor de: 1. Son des wor den gest opt . 2. H et st opcom m a n do wor dt u it gevoer d. 3. Net wer ka dr essen wor den va n de a da pt er s ver wijder d. 4. Best a n dssyst em en wor den geslot en en a fgekoppeld (u n m ou n t ). 5. Disk gr oepen wor den gedea ct iveer d en a fgekoppeld.

E en a pplica t ie ver h u izin g is n iet s m eer en n iet s m in der da n h et st oppen va n een a pplica t ie op de en e n ode, en h et st a r t en er va n op de a n der e. Applica t iever h u izin gen wor den m eest a l in gegeven door : E en opdr a ch t va n de beh eer der . E en son de die a a n geeft da t de a pplica t ie n iet m eer goed fu n ct ion eer t op deze n ode. H et clu st er fr a m ewor k zelf a ls h ij wa a r n eem t da t de n ode wa a r op de a pplica t ie dr a a it in gest or t is (lijkt ). In h et la a t st e geva l h eeft er op de voor m a lige n ode va n de a pplica t ie n a t u u r lijk geen n et t e "st op" pla a t sgevon den . É én va n de eisen die we a a n a pplica t ies st ellen die in een H A-clu st er m oet en dr a a ien is da n ook da t ze su ccesvol ku n n en st a r t en n a een "cr a sh ". In een volgen d h oofdst u k ga a n we dieper in op de eisen die a a n a pplica t ies m oet en wor den gest eld willen ze su ccesvol in een clu st er ku n n en dr a a ien .

Aa n gezien de ver h oogde besch ikba a r h eid in de h ier besch r even clu st er s wor dt ger egeld door a pplica t iever h u izin g is h et va n bela n g da t de clu st er soft wa r e con t in u e bijh ou dt welke n odes n og in de clu st er zit t en en welke n iet . É én va n de com pon en t en va n de clu st er soft wa r e h ou dt zich da n ook m et n iet s a n der s bezig da n h et bijh ou den va n wie er (n og) lid is va n de clu st er . Meest a l is dit een a pa r t pr oces op ieder e clu st er n ode. Ieder e n ode in de clu st er zen d r egelm a t ig via h et pr ivé n et wer k sign a len u it m et de st r ekkin g da t de n ode n og st eeds "leeft " (de zogen a a m de "h ea r t bea t "). De ze h a r t sla gsign a len wor den door a lle a n der e n odes in de clu st er opgepikt en die wet en zodoen de da t de u it zen den de n ode n og st eeds in de clu st er zit . H et is n a t u u r lijk va n bela n g da t de h a r t sla g va n de clu st er n odes n iet wor dt opgeh ou den door n et wer k- of syst eem ver t r a gin g. Om die r eden dr a a ien die h a r t sla gpr ocessen m et h oge pr ior it eit in h et syst eem en ver dien t h et a a n bevelin g om de h a r t sla g over een sepa r a a t n et wer k t e la t en ver lopen . Som m ige clu st er lever a n cier s on der st eu n en h et u it zen den va n h a r t sla g over ser iële (RS-232, n u l© 1999 Open Solution Providers

http://www.osp.nl


Pagina 27

m odem) ver bin din gen . Op h et m om en t da t de h a r t sla g va n een n ode st opt con clu der en de over gebleven n odes da t die n ode wel u it geva llen za l zijn . Ver volgen s wor dt gekeken welke a pplica t ies op die u it geva llen n ode dr a a iden , en voor die a pplica t ies wor den een ver h u izin g geïn it ieer d n a a r de over gebleven n odes (con for m de a pplica t iedefin it ie in de clu st er ). Als de h a r t sla g va n een n ode da n weer a a n va n gt wor dt de con clu sie get r okken da t de n ode weer leeft . Afh a n kelijk va n de clu st er oplossin g en -con figu r a t ie wor den da n a l da n n iet a u t om a t isch som m ige a pplica t ies weer t er u gver h u isd n a a r die n ode. H et pr oces wa t h et ver a n t woor delijk is voor h et u it zen den en ver wer ken va n h a r t sla gsign a len speelt du s een cr u cia le r ol in een clu st er . Als dit pr oces a bu sievelijk st opt (h et zij door een pr ogr a m m eer fou t , h et zij door een "kill" door de beh eer der ) ka n de sit u a t ie on t st a a n da t de a n der e n odes (in st r ijd m et de r ea lit eit ) con clu der en da t deze n ode "down " is. Dit is ech t er n iet h et geva l, de n ode is "u p" en de a pplica t ies dr a a ien n og gewoon . De a n der e n odes in de clu st er wet en dit ech t er n iet , en st a r t en een a pplica t iever h u izin g. Dit bet eken t da t de a pplica t ie t wee keer wor dt opgest a r t , op t wee ver sch illen de n odes! Dit ka n leiden t ot du bbele n et wer ka dr essen en best a n dssyst em en die va n a f t wee n odes t egelijk wor den ben a der d (==cor r u pt ie!). Deze sit u a t ie m oet n a t u u r lijk t en a lle t ijde wor den voor kom en . Om die r eden zijn er in clu st er n odes specia le voor zien in gen get r offen die er voor zor gen da t a ls één va n de cr u cia le pr ocessen va n de clu st er soft wa r e in een s st opt , h et geh ele syst eem zo sn el m ogelijk wor dt a fgeslot en . In Un ix gesch iedt dit m eest a l m et een door de soft wa r e geïn it ieer de syst eem cr a sh (een zogen a a m de "pa n ic").

E en sit u a t ie die t ot veel pr oblem en ka n leiden is a ls a lle h a r t sla gn et wer ken va n een clu st er in on ger ede r a ken (een m eer vou dige st or in g). Ieder e n ode in de clu st er den kt da n n a m elijk da t h ij de en ige n og over gebleven n ode is, en zou t h eor et isch ku n n en pr ober en a lle a pplica t ies n a a r zich t oe t e t r ekken . Dit is n a t u u r lijk n iet zo'n goed idee, en de clu st er m oet dit bet er oplossen . Ook ka n h et voor kom en da t bijvoor beeld in een dr ie-n ode clu st er de com m u n ica t ie t u ssen n ode 1 en de r est ver st oor d r a a kt . De clu st er is da n gesplit st in t wee su bclu st er s, een t je m et da a r in a lleen n ode 1, en een t je m et da a r in n ode 2 en n ode 3. In een t wee n ode clu st er is h et in on ger ede r a ken va n de h a r t sla gn et wer ken n iet t e on der sch eiden va n de sit u a t ie wa a r in één va n beide n odes is u it geva llen . De con st a t er in g da t va n de a n der e n ode geen h a r t sla g m eer wor dt on t va n gen ka n door beide oor za ken kom en ! H oe h et pr obleem va n gesplet en clu st er s pr ecies wor dt opgelost is st er k a fh a n kelijk va n de specifieke clu st er oplossin g. E en a a n t a l st a n da a r dm ech a n ism en kom en we ech t er in vr ijwel a l die oplossin gen t egen :

In h et geva l de clu st er u it een va lt in t wee gelijke delen (m et n a m e bij een 2-n ode clu st er ) wor dt m eest a l gebr u ik gem a a kt va n een lock disk. Dit is een ver der a lleszin s n or m a le disk u it de gedeelde disk con figu r a t ie die ech t er bij de con figu r a t ie va n de clu st er is a a n gewezen om in geva l va n een gesplet en clu st er op t e t r eden a ls sch eidsr ech t er . © 1999 Open Solution Providers

http://www.osp.nl


Pagina 28

In h et geva l een gesplet en clu st er wor dt ver m oedt (geen h a r t sla g m eer va n a n der e n ode(s)) pr ober en beide su bclu st er s de lock disk t e r eser ver en (m et een eigen pr ot ocol of een "SCSI RE SE RVE " opdr a ch t ). De su bclu st er wa a r va n de r eser ver in g sla a gt m a g door dr a a ien , en de a n der wor dt gea ch t zich zelf zo sn el m ogelijk u it t e sch a kelen . In een 2-n ode clu st er wor dt dit r eser ver in gsm ech a n ism e du s ook gebr u ikt a ls één va n de n odes u it va lt , om da t deze gebeu r t en is n iet is t e on der sch eiden va n h et u it va llen va n de h a r t sla gn et wer ken .

In dien een clu st er split st in t wee on gelijke delen is h et n iet on gebr u ikelijk da t de gr oot st e su bclu st er door ga a t . De n odes in de klein er e su bclu st er sch a kelen zich zelf da n zo spoedig m ogelijk u it . Deze sit u a t ie doet zich bijvoor beeld voor bij een 5-n ode clu st er die split st in een 3-n ode en een 2-n ode su bclu st er .

In dien een clu st er split st in t wee su bclu st er s va n gelijke gr oot t e (bijvoor beeld een 4-n ode clu st er die split st in t wee 2-n ode clu st er s), en wa a r geen "lock disk" is a a n gewezen , m oet een a n der e gr on dsla g wor den gekozen om t e beslissen wie er door m a g, en wie n iet . Voor dit soor t sit u a t ies h eeft de clu st er soft wa r e m eest a l een in geba kken (of con figu r eer ba a r ) beleid, bijvoor beeld: "de su bclu st er m et da a r in de la a gst gen u m m er de n ode m a g door ".


http://www.osp.nl

Hoofdstuk 8 Applicaties

Pagina 29

De doelst ellin g va n de in dit boekje besch r even H A-clu st er s is om a pplica t ies die da a r n iet expliciet voor zijn on t wikkeld t och een zeer h oge gr a a d va n besch ikba a r h eid t e geven . Zon der en ige on der st eu n in g va n de a pplica t ie is da t h ela a s n iet m ogelijk, de a pplica t ie m oet a a n een a a n t a l voor wa a r den voldoen wil deze m et en ige m a t e va n su cces in een H A-clu st er ku n n en dr a a ien . In dit h oofdst u k ga a n we on der a n der e in op de voor wa a r den wa a r a a n een a pplica t ie m oet voldoen om "geclu st er ed" t e ku n n en wor den .

É én va n de ba siseisen a a n een a pplica t ie is da t deze n a een cr a sh a u t om a t isch weer op ka n kom en , du s zon der da t da a r voor h a n dm a t ige a ct ies n odig zijn . De r eden da a r t oe is voor de h a n d liggen d: Als een clu st er n ode u it va lt ver h u ist de clu st er soft wa r e de a pplica t ie h u lpbr on n en (disk gr oepen , best a n dssyst em en , n et wer ka dr essen ) n a a r een a n der e n ode en st a r t de a pplica t ie a lda a r . Voor de a pplica t ie is h et da n n et a lsof h et syst eem wa a r op h ij dr a a it is gecr a sh t : zijn da t a best a n den zijn in een cor r u pt e st a a t en m oet en wellich t eer st wor den ger epa r eer d a lvor en s de a pplica t ie ver der ka n . Ver der wa s de a pplica t ie t en t ijde va n de cr a sh wellich t bezig m et één of m eer t r a n sa ct ies, die da n m oet en wor den h er st a r t of t er u gger old. Als dit a llem a a l n iet a u t om a t isch ka n kom t de a pplica t ie n iet spon t a a n weer op n a de ver h u izin g.

Om een a pplica t ie su ccesvol t e ku n n en clu st er en is h et ver r eweg h et h a n digst a ls a lle da t a en con figu r a t ie va n die a pplica t ies op de best a n dssyst em en in de gedeelde disk gr oepen ku n n en wor den gepla a t st . Dit bet eken t da t de loca t ies va n die gegeven s h et zij con figu r eer ba a r m oet zijn , of da t we h et best u r in gssyst eem zover m oet en ku n n en kr ijgen (bijvoor beeld via best a n ds- en dir ect or y lin ks of a lia ssen ) da t deze de va st e n iet -gedeelde loca t ies door ver wijst n a a r pla a t sen op de gedeelde sch ijven . Deze eis geldt m et n a m e voor de va r ia bele da t a (da t a ba ses) va n de a pplica t ie, die t en gevolge va n a pplica t ie a ct ivit eit wijzigen en die t en a lle t ijd u p-t o-da t e besch ikba a r m oet en zijn . Meer st a t isch e con figu r a t ie h oeft n iet a lt ijd op de gedeelde sch ijven t e st a a n , m a a r er m oet da n wel wor den voor zien in een pr ocedu r e wa a r m ee die con figu r a t ie op a lle n odes in de clu st er (wa a r de a pplica t ie ka n dr a a ien ) gelijkt wor dt geh ou den .

E en a n der e, m eer ver bor gen , eigen sch a p va n veel a pplica t ies is da t ze n a in st a lla t ie op één of a n der e m a n ier a fh a n kelijk zijn va n een eigen sch a p va n de fysieke n ode wa a r op ze zijn geïn st a lleer d, zoa ls de n oden a a m (h ost n a a m ), h et fysieke n et wer ka dr es va n de n ode, h et CP U-id (bijvoor beeld voor licen t ies) of a n der e n odespecifieke za ken . In dien een der gelijke a fh a n kelijkh eid best a a t is h et n iet t r ivia a l om deze om t e bu igen . Veela l za l da a r de a ssist en t ie va n de a pplica t ielever a n cier voor n odig zijn .

Wellich t een voor de h a n d liggen de voor wa a r de, m a a r h et h elpt in dien een a pplica t ie bin n en a fzien ba r e t ijd opst a r t . H et clu st er en va n een a pplica t ie die een zeer ger u im e t ijd © 1999 Open Solution Providers

http://www.osp.nl

Hoofdstuk 8 Applicaties

Pagina 30

n odig h eeft om op t e st a r t en wer kt wel, m a a r is n iet a lt ijd even zin vol. In één geva l wa t wij a a n de h a n d h ebben geh a d deed een a pplica t ie er m eer da n dr ie kwa r t ier over om t e st a r t en . In geva l va n een ver h u izin g (bijvoor beeld t en gevolge va n een cr a sh ) h a d de clu st er soft wa r e de a pplica t ie bin n en 2 m in u t en op de a n der e n ode gest a r t , m a a r wa s de a pplica t ie pa s 45 m in u t en la t er weer t er besch ikkin g voor de or ga n isa t ie!

E en a n der a pplica t ieger ela t eer d it em wa t om de h oek kom t kijken bij H A-clu st er s is wa a r de pr ogr a m m a t u u r va n de a pplica t ie dien t t e wor den geïn st a lleer d. De keu zes zijn : in of bu it en de gedeelde disk gr oepen . Deze vr a a g ka n a lleen wor den bea n t woor dt m et voldoen de a pplica t ieken n is, en is on der a n der e ook a fh a n kelijk va n h oeveel "in st a n t ies" va n die a pplica t ie er in h et clu st er dr a a ien . In h et geva l da t een a pplica t ie slech t s één keer in de clu st er dr a a it a ls H A-a pplica t ie ver dien t h et m eest a l (in dien m ogelijk) de voor keu r om de pr ogr a m m a t u u r in de gedeelde disk gr oepen t e in st a ller en . De pr ogr a m m a t u u r ver h u ist da n a u t om a t isch m et de a pplica t ie m ee n a a r de n ieu we n ode, en ka n da a r m et een wor den gebr u ikt . H et kom t ech t er som s voor da t een bepa a lde a pplica t ie m eer der e ker en in de clu st er dr a a it , wellich t op ver sch illen de n odes. We n oem en dit da n "in st a n t ies 6" va n die a pplica t ie. Dit kom t bijvoor beeld voor bij r ela t ion ele da t a ba se syst em en wa a r we m eer der e da t a ba ses a ls a pa r t e H A-a pplica t ies besch ou wen en sepa r a a t h een en weer ver h u izen t u ssen de clu st er n odes. In da t geva l ver dien t h et m eest a l a a n bevelin g om de pr ogr a m m a t u u r op ieder e n ode op de syst eem sch ijven t e in st a ller en (bu it en de gedeelde disk gr oepen ). Op de gedeelde disk gr oepen st a a n da n a lleen de da t a best a n den va n die a pplica t ie (in st a n t ie). Wa a r in da t la a t st e geva l wel r eken in g m ee m oet wor den geh ou den is da t on der h ou d op de a pplica t iepr ogr a m m a t u u r (pa t ch es, n ieu we ver sies) op a lle n odes va n de clu st er wor den u it gevoer d!

6 Een anglicisme? "Instances" © 1999 Open Solution Providers

http://www.osp.nl

Hoofdstuk 9 Het beheer van HA-clusters

Pagina 31

E en pu n t da t in on ze er va r in g t e wein ig a a n da ch t kr ijgt va n or ga n isa t ies is h et beh eer va n de opgest elde clu st er s. De in st a lla t ie en con figu r a t ie va n een clu st er m a g zich m eest a l in wa r m e bela n gst ellin g koest er en , en n iet zelden wor den da a r bij gr ot e h oeveelh eden ext er n e t ech n ici en a dviseu r s in gesch a keld. Dr a a it de clu st er een m a a l da n n eem t de a a n da ch t er voor a a n zien lijk a f, en da t t er wijl een clu st er a n der e beh eer a ct ivit eit en , -va a r digh eden en pr ocedu r es ver eist da n een gr oep losst a a n de syst em en . De er va r in g die wij da a r m ee in de pr a kt ijk h ebben is er g slech t , en h eeft er t oe geleidt da t wij ver on der st ellen da t de over gr ot e m eer der h eid va n de clu st er s in "h et veld" a ls h et er op a a n kom t n iet doet wa a r voor ze zijn opgest eld! H et beh er en va n een H A-clu st er is t a m elijk com plex, en wel om de volgen de r eden en : De beh eer der h eeft veel ken n is n odig va n de m eest u it een lopen de on der wer pen : h et best u r in gssyst eem de a pplica t ie, n et wer ken , disk a r r a ys, scr ipt in g, en , n iet t e ver get en , de H A clu st er soft wa r e. De clu st er ken t veel en com plexe con figu r a t iem ogelijkh eden . De clu st er h eeft veel pu n t en wa a r op din gen fou t ku n n en lopen ("fa ilu r e m odes"). Niet zelden zien we da t or ga n isa t ies over st a ppen n a a r een n ieu w syst eem , en da t m et een a ls H A-clu st er u it r u st en . De beh eer der s va n die or ga n isa t ies h ebben door ga a n s (t e) wein ig t ijd om zich a l boven st a a n de on der wer pen in a fdoen de m a t e eigen t e m a ken . H et r esu lt a a t is da n ook da t die beh eer der s gedu r en de de eer st e t ijd da t h et clu st er a ct ief is er n og n iet goed m ee om wet en t e ga a n . De ka n s op fou t en is da n (du s) gr oot . Tot over m a a t va n r a m p zijn ook ext er n e t ech n ici (bijvoor beeld va n de a pplica t ielever a n cier ) la n g n iet a lt ijd op de h oogt e va n de specifieke a a n da ch t spu n t en va n h et clu st er .

É én va n de pr oblem a t isch e a spect en va n h et beh er en va n een clu st er is da t diver se con figu r a t ie-elem en t en op a lle n odes va n de clu st er iden t iek (of, in ieder geva l, in over een st em m in g m et elka a r ) m oet en zijn gecon figu r eer d. E en goed voor beeld da a r va n zijn za ken a ls gebr u iker s, gr oepen , pr in t er defin it ies en n et wer kpoor t en . Dit zijn za ken die op ieder e n ode sepa r a a t ku n n en wor den gecon figu r eer d, en wa a r va n de ka n s best a a t da t die con figu r a t ies du s per clu st er n ode ver sch illen d zijn . Als een a pplica t ie bijvoor beeld er va n u it ga a t da t bepa a lde gr oepdefin it ies a a n wezig zijn (bijvoor beeld om da t die door de in st a lla t iepr ocedu r e va n die a pplica t ie zijn gecr eëer d), is h et za a ks om er voor t e zor gen da t dit da n ook op a lle n odes in de clu st er h et geva l is. Dit bet eken t m eest a l da t n a in st a lla t ie va n de a pplica t ie in ieder geva l m oet wor den n a gega a n welke elem en t en in de syst eem con figu r a t ie door de in st a lla t iepr ocedu r e zijn a a n gepa st , en die a a n pa ssin gen ook op de a n der e n odes in de clu st er u it t e voer en .


http://www.osp.nl


Pagina 32

Bij a lle beh eer a ct ivit eit en op de clu st er dien t du s t e wor den n a gega a n of a a n gebr a ch t e con figu r a t iewijzigin gen ook op a n der e n odes m oet wor den a a n gebr a ch t . Dit ver eist diepga a n d in zich t in h et best u r in gssyst eem . Moder n e best u r in gssyst em en bieden m ogelijkh eden om bepa a lde con figu r a t ie-elem en t en over m eer der e syst em en h een gelijk t e h ou den , bijvoor beeld door ze r egelm a t ig t e syn ch r on iser en of ze op t e sla a n in een cen t r a le da t a ba se. Voor beelden va n dit soor t t ech n ologie zijn NIS en NIS+ on der Un ix. H et ver dien t wellich t a a n bevelin g om dit soor t t ech n ologie in de clu st er t e im plem en t er en (en dit n a t u u r lijk op zoda n ige wijze da t h et weer geen "Sin gle P oin t of F a ilu r e" in t r odu ceer t ). Na a st de best u r in gssyst eem con figu r a t ies h eeft ook de H A-clu st er soft wa r e con figu r a t ies die som s op a lle n odes m oet en wor den a a n gebr a ch t , en som s slech t s op één n ode (a fh a n kelijk va n de clu st er oplossin g). Ook h ier is diepga a n de ken n is va n de clu st er ver eist om t e ku n n en bepa len welke wijzigin gen wa a r m oet en wor den a a n gebr a ch t .

De m eest e best u r in gssyst em en lever en t egen woor dig een of a n der e in t er a ct ieve "t ool" m ee voor h et u it voer en va n da gelijkse beh eer a ct ivit eit en . Win dows NT zit h ier n a t u u r lijk vol m ee, t er wijl ook de Un ix lever a n cier s zich n iet on bet u igd la t en m et pr ogr a m m a 's a ls "SAM" (H P UX), "SMIT" (AIX) en "Adm in Tool" (Sola r is). H ela a s zijn die t ools m eest a l n iet "clu st er -a wa r e": de wijzigin gen die ze a a n br en gen wor den h et zij op de ver keer de pla a t s in h et best u r in gssyst eem a a n gebr a ch t , h et zij slech t s op één n ode in de clu st er . Ten zij de beh eer der pr ecies weet wa t h ij/zij doet ver dien t h et wellich t a a n bevelin g om die h u lpm iddelen t er zijde t e la t en liggen in de clu st er .

Zoa ls r eeds vele m a len va st gest eld zijn de m eest e a pplica t ies die we ver h oogd besch ikba a r willen m a ken ook n iet "clu st er -a wa r e": ze zijn n iet gesch r even om in een clu st er t e ku n n en dr a a ien . Na a st de r eeds eer der gen oem de voor wa a r den die we m oet en st ellen om de a pplica t ie ü ber h a u pt in een clu st er t e ku n n en la t en dr a a ien dien en we bij h et a pplica t iebeh eer ook r eken in g t e h ou den m et h et feit da t de a pplica t ie in een clu st er dr a a it . Dit ka n bijvoor beeld bet eken en da t we a pplica t iecon figu r a t iewijzigin gen m eer vou dig m oet en u it voer en , of da t we specia le con figu r a t ies m oet en a a n br en gen om er voor t e zor gen da t de a pplica t ie zich op ju ist e wijze gedr a a gt .

Ver t r ou wen is goed, con t r ole is bet er . In on ze opt iek dien t een clu st er r egelm a t ig t e wor den door gelopen en t e wor den gecon t r oleer d op ju ist e wer kin g. Na a st de con t r ole op de ju ist h eid va n con figu r a t ies vin den wij ook da t de clu st er op r egelm a t ige ba sis m oet wor den get est . Dit bet eken t : h a n dm a t ig a pplica t ies n a a r a n der e n odes ver h u izen , m a a r ook op gecon t r oleer de wijze een syst em en , sch ijven en n et wer ken u it sch a kelen en kijken of de clu st er r ea geer t zoa ls ver wa ch t . Veel or ga n isa t ies kijken vr eem d t egen dit a dvies a a n , "er is t och zoju ist een clu st er gekoch t wa t a lt ijd op zou m oet en zijn ?" Wa a r om da n die r egelm a t ige con t r ole. De pr a kt ijk wijst h ela a s u it da t een een m a a l wer ken d clu st er r ela t ief een vou dig weer in on ger ede r a a kt . De con t r ole is bit t er e n oodza a k om h et r en dem en t va n de in vest er in g in de clu st er t e ku n n en oogst en . © 1999 Open Solution Providers

http://www.osp.nl


Pagina 33

Open Solu t ion P r ovider s h eeft r on dom die con t r ole een u n ieke dien st on t wikkeld: de "OSP H A-Au dit ". Clu st er specia list en va n OSP con t r oler en da n r egelm a t ig of u w clu st er n og in opt im a for m a con dit ie is, en begeleiden u w eigen beh eer der s bij h et in r ich t en en u it voer en va n h et beh eer .

H et goede n ieu ws is n a t u u r lijk da t een H A-clu st er , m it s goed opgezet en cor r ect beh eer d, de besch ikba a r h eid va n a pplica t ies t ot gr ot e h oogt es opvoer t en t egelijk h et beh eer va n con t in u -besch ikba r e a pplica t ies ka n ver een vou digen . Met een clu st er ku n t u syst eem on der h ou d en der gelijke, wa t voor h een a lt ijd 's-n a ch t s en in h et weekein de dien de pla a t s t e vin den , gewoon over da g u it voer en . De kr it ieke a pplica t ies h eeft u da n n a m elijk "gewoon " n a a r de a n der e n odes ver h u isd. Ook de in voer in g va n n ieu we ver sies en h et a a n br en gen va n pa t ch es ka n op die m a n ier wor den get est .


http://www.osp.nl

Hoofdstuk 10 Literatuurverwijzingen

Pagina 34

1. Clu st er s for H igh Ava ila bilit y, P et er Weyga n t , ISBN 0-13-494758-4. 2. In sea r ch of Clu st er s, Gr egor y F . P fist er , ISBN 0-13-899709-8. 3. Win dows NT Clu st er Ser ver , Da vid Liber t on e, ISBN 0-13-096019-5.

1. h t t p://www.su n .com /clu st er s 2. h t t p://www.h p.com /go/h a 3. h t t p://www.ibm .com /ser ver s/a ix/pr odu ct s/ibm sw/clu st er 4. h t t p://www.lin u x-h a .or g 5. h t t p://www.u n ix.digit a l.com /clu st er /in dex.h t m l 6. h t t p://www.sgi.com /soft wa r e/fa ilsa fe


http://www.osp.nl

Een boekje open over High Availability

Recommend Documents