Gegevensbanken 2010
Begrippen van transactieverwerking Bettina Berendt www.cs.kuleuven.be/~berendt
Begrippen van transactieverwerking:
Motivatie & Samenvatting 2
Waar zijn we? Les Nr. 1 2 3 4 5 6 7 8
wie ED ED ED ED KV KV KV KV
9 KV 10 KV 11 BB 12 BB 13 14 15 16 17 18
BB BB BB BB BB ED
wat intro, ER EER relational model mapping EER2relational relational algebra, relational calculus SQL vervolg SQL demo Access, QBE, JDBC functional dependencies and normalisation functional dependencies and normalisation file structures and hashing indexing I indexing II and higher-dimensional structures query processing transactions transactions II: concurrentie & herstel Data warehousing and mining XML, oodb, multimedia db
Fysisch model / vragen
3
Dat willen wij niet! t
reserveer!
reserveer!
4
Agenda Inleiding tot concurrentie en herstel Transacties: begrippen Transactieroosters Serialiseren van roosters Transacties in SQL
5
Agenda Inleiding tot concurrentie en herstel Transacties: begrippen Transactieroosters Serialiseren van roosters Transacties in SQL
6
Inleiding tot concurrentie en herstel – transactie = de uitvoering van een programma dat de gegevensbank raadpleegt of haar inhoud wijzigt
– gelijktijdige verwerking van transacties is wenselijk, vaak noodzakelijk • vnl. voor gegevensbanksystemen met meerdere gebruikers
– twee mogelijkheden voor implementatie: • interleaved uitvoering: – 1 processor behandelt afwisselend verschillende transacties • simultane uitvoering: – meerdere processoren werken in parallel
– wij veronderstellen "interleaved" model
7
Interleaved en simultaneous verwerking
interleaved - 1 processor
simultaneous - 2 processors 8
Concurrentie • gelijktijdige verwerking van transacties kan problemen veroorzaken • vb: vliegtuigreservatiesysteem – transactie T1 schrapt reservatie van N plaatsen op vlucht V1 en reserveert N plaatsen op vlucht V2 – transactie T2 reserveert M plaatsen op vlucht V1 – mogelijke problemen: • verloren aanpassing • tijdelijke aanpassing • foutieve sommering
– vermijden d.m.v. concurrentiecontrole
9
Verloren aanpassing – Zij X #reservaties op V1, Y #reservaties op V2 voor de transacties
• Verloren aanpassing: • wijziging van T1 wordt per ongeluk teniet gedaan door T2
T1 lees(X) X := X-N
T2 lees(X) X := X+M
vb: X = 84 N=5 M=4
schrijf(X)
resultaat: X = 88 i.p.v. 83
schrijf(X) lees(Y) Y := Y+N schrijf(Y)
10
Tijdelijke aanpassing (dirty read) • tijdens de uitvoering wordt T1 door een of andere faling afgebroken; • de gewijzigde waarden worden hersteld in oorspronkelijke toestand, maar T2 heeft intussen zo'n tijdelijk gewijzigde (ongeldige) waarde gebruikt
T1 afgebroken → aan X wordt terug de oorspronkelijke waarde toegekend
T1 lees(X) X := X-N schrijf(X)
T2
lees(X) X := X+M schrijf(X) lees(Y) Y := Y+N schrijf(Y) 11
Foutieve sommering • gebruik van inconsistente waarden door aggregaatfunctie • bv. sommige van voor een wijziging en andere van erna
T1
T3 som := 0 lees(A) som := som+A ...
lees(X) X := X-N schrijf(X)
T3 berekent het totaal aantal reservaties op vluchten terwijl T1 wordt uitgevoerd
lees(X) som := som+X lees(Y) som := som+Y lees(Y) Y := Y+N schrijf(Y) 12
Niet herhaalbare lezing (nonrepeatable read) – Gerelateerd aan "foutieve sommering": • Lees zelfde item 2x kort na elkaar, waarde blijkt intussen gewijzigd (door een andere transactie) • bv. reservatie vliegtuigtickets: – controleer of er vrije plaatsen zijn – indien ja: reserveer ze – reservatie mislukt: plaatsen blijken niet meer vrij
13
Herstel • Waarom herstel nodig is – Een transactie moet • ofwel volledig uitgevoerd worden • ofwel helemaal niet
– Bij een fout (software/hardware) tijdens een transactie: • ze kan niet helemaal uitgevoerd worden ⇒ oorspronkelijke toestand moet hersteld worden (transactie is dan helemaal niet uitgevoerd)
14
Mogelijke falingen die tijdens de uitvoering van een transactie kunnen optreden 1. computer-crash • inhoud van geheugen kan verloren zijn
2. transactie- of systeemfout • verkeerde parameter, overflow, deling door 0, logische programmeerfout,..
3. uitzonderingscondities • bv. bestand kan niet gelezen worden, ...
4. opgelegd door concurrentiecontrole • bv. transactie afgebroken wegens deadlock
5. schijf-fout • bv. beschadigd spoor
6. fysieke problemen, catastrofes • brand, stroomonderbreking, ...
– Bij falingen van de types 1 tot 4 moet de oorspronkelijke toestand hersteld kunnen worden 15
Agenda Inleiding tot concurrentie en herstel Transacties: begrippen Transactieroosters Serialiseren van roosters Transacties in SQL
16
Transacties: begrippen • transacties: – "read-only" transactie: • alleen ophalen (raadplegen) van gegevens
– "update" transactie:
← deze interesseren ons
• met aanpassing van gegevens
• lees- en schrijfbewerkingen van een transactie: – niveau van beschouwing van transacties: • gegevenselementen en blokken of schijf • op dit niveau zijn de bewerkingen van een transactie: – read_item(X) – write_item(X) • kopieer programmavariabele X naar buffer • schrijf buffer (onmiddellijk of later) 17
Lezen en schrijven – read_item(X): • vind adres van blok dat X bevat • kopieer dat blok in een buffer • kopieer X in programmavariabele X
– write_item(X): • • • •
vind adres van blok dat X bevat kopieer dat blok in een buffer kopieer de programmavariable X op de juiste plaats in die buffer bewaar het aangepaste blok terug op schijf (onmiddellijk of later)
18
Status van de transactie • wordt bijgehouden om zo nodig te kunnen herstellen • status wordt bepaald door operaties: – BEGIN_TRANSACTION • geeft begin van de transactie aan
– READ / WRITE • alle lees- en schrijfoperaties
– END_TRANSACTION • geeft einde van een transactie aan • dan moet worden gecontroleerd of – de wijzigingen veroorzaakt door de transactie definitief doorgevoerd kunnen worden op de gegevensbank ( = committed ) – de transactie ongedaan moet worden gemaakt vanwege de concurrentiecontrole
– COMMIT_TRANSACTION • succesvol einde van de transactie: alle wijzigingen aangebracht door de transactie zijn definitief 19
Andere bewerkingen • ROLLBACK ( of ABORT) – geen succesvol einde van de transactie; alle wijzigingen worden ongedaan gemaakt
• UNDO – één bewerking wordt ongedaan gemaakt
• REDO – één bewerking wordt opnieuw uitgevoerd
20
Overgangsdiagram tussen de statussen van de uitvoering van een transactie
21
Systeemlog • Systeemlog – noteert alle transacties die waarden in de gegevensbank wijzigen – nodig bij herstelprocedures na falen – bijgehouden op schijf (met geregelde backup)
• Wat wordt geregistreerd: (T = een transactie-ID) – – – – –
[ start_transaction, T ] [ write_item, T, X, oude waarde, nieuwe waarde ] [ read_item, T, X ] [ commit, T ] [ abort, T ]
22
Herstellen na faling • twee mogelijkheden – transactie volledig ongedaan maken: = effect van write-opdrachten ongedaan maken • log achterwaarts doorlopen, UNDO alle writes
– transactie goed afwerken: = effect van write-opdrachten herstellen / herhalen • log voorwaarts doorlopen, REDO alle writes
• Welk van beide kiezen? – commit point: • punt waarop beslist wordt dat transactie goed afgewerkt moet worden i.p.v. ongedaan gemaakt
23
Commit points (bindpunten) • een transactie bereikt een commit point wanneer – alle bewerkingen van de transactie met succes zijn uitgevoerd en – al die bewerkingen zijn geregistreerd op de log
• na commit point is resultaat van transactie definitief – → verplichting om aanpassingen werkelijk op schijf door te voeren indien nog niet gebeurd
• volgorde van acties tijdens commit – op log noteren: [ commit, T ] – log definitief op schijf zetten (vanuit buffer) → "force writing" – nu is transactie gecommit
24
Bij faling • voor transacties die gestart zijn maar niet gecommit: rollback • voor gecommitte transacties: REDO alle writes • Meer details: zie volgende les
25
Checkpoints (controlepunten) • op geregelde tijdstippen (gemeten in tijd of in aantal committed transacties): – effecten van wijzigingen worden op schijf gezet
• Acties: 1. onderbreek tijdelijk alle transacties 2. schrijf alle aangepaste gegevensbankblokken van buffer naar schijf 3. schrijf een checkpoint op de log en schrijf de log naar schijf 4. hervat de transactie-uitvoering
• Mogelijke extra informatie in checkpoint-record: – lijst van actieve transacties op dat moment – voor elke transactie: adres van 1-ste en meest recente records in de log 26
Gewenste eigenschappen van transacties (“ACID properties”) – Atomicity: ondeelbaarheid • transactie wordt volledig uitgevoerd, of helemaal niet
– Consistency preservation: • consistente gegevensbank moet na transactie nog steeds consistent zijn
– Isolation: geïsoleerdheid • effect van transactie moet zijn alsof het de enige transactie is die uitgevoerd werd (geen interferentie met andere transacties) – er worden meestal 4 isolatieniveaus gedefineerd, naargelang van de graad van isolatie: • niveau 0: geen overschrijven van een ‘dirty read’ van een transactie op hoger niveau • niveau 1: geen verloren aanpassingen • niveau 2: geen verloren aanpassingen en geen ‘dirty reads’ • niveau 3: niveau 2 + ‘repeatable reads’
– Durability: duurzaamheid • effect van transactie moet persistent zijn, mag niet verloren gaan 27
Agenda Inleiding tot concurrentie en herstel Transacties: begrippen Transactieroosters Serialiseren van roosters Transacties in SQL
28
Transactieroosters (schedules) • Operaties van meerdere transacties in chronologische volgorde opgeschreven – zie eerdere voorbeelden met T1 en T2 – Ander voorbeeld: Fig. 17.5 • 4 roosters, 1 ervan is duidelijk fout
29
30
Eigenschappen van transactieroosters – 2 operaties conflicteren indien • ze bij verschillende transacties horen • ze hetzelfde gegevenselement gebruiken • minstens een ervan een write_item is
– een rooster S voor n transacties Ti is volledig indien • S alle operaties van de transacties T1,… , Ti, …, Tn bevat (met inbegrip van een commit of abort operartie als laatste operatie van elke transactie, en geen andere • elk paar operaties van één transactie Ti in dezelfde volgorde voorkomt in S als in Ti • voor elk paar conflicterende operaties geldt dat de volgorde eenduidig vastligt
31
Herstelbaarheid van roosters – Een rooster is herstelbaar a.s.a. een transactie die gecommit is nooit meer ongedaan gemaakt moet worden • Voldoende voorwaarde: – T commit enkel na commit van elke transactie die een waarde schrijft die T leest
– Herstelbaar impliceert niet "eenvoudig herstelbaar" • mogelijk "cascading rollback" – één transactie T terugrollen kan het nodig maken om een andere (die iets las dat door T geschreven werd) ook terug te rollen, enz. • cascading rollback is tijdrovend
32
Voorbeeld schema a T1 read (X)
T2 read(X)
write(X) read(Y) write(Y)
schema c T1 read (X) write(X)
T2
schema d T1 read (X) write(X)
read(X) read(Y) write(X) commit
write(X) commit abort
T2
read(X) read(Y)
write(X) write(Y) commit
write(X) write(Y) abort
commit
niet herstelbaar, T2 leest item X geschreven door T1, en commit vooraleer T1 commit, abort van T1 daarna maakt die waarde van X ongeldig
T1 read (X) write(X)
read(X) read(Y)
write(Y) commit
herstelbaar, maar wel probleem van verloren aanpassing
T2
schema e
wel herstelbaar: commit van T2 is uitgesteld tot na commit van T1
abort
wel herstelbaar: indien T1 abort, moet ook T2 een abort uitvoeren
33
Cascadeloze roosters • garanderen dat geen cascading rollbacks nodig zijn • voldoende voorwaarde: – elke transactie T leest enkel waarden geschreven door transacties die al gecommit hebben
• meer restrictief ! – minder verschillende mogelijkheden om transacties gelijktijdig uit te voeren
34
Strikte roosters • elke transactie T leest en schrijft enkel items na commit (of abort) van de laatste transactie die dat item geschreven heeft • UNDO write_item: –
gewoon oorspronkelijke waarde terugzetten
• meest restrictief – –
relatief weinig roosters mogelijk maar eenvoudigst herstelbaar
35
In volgorde van restrictiefheid: herstelbaar – cascadeloos - strikt 1. herstelbaar rooster 2. casacadeloos rooster ; impliceert 1 3. strikt rooster ; impliceert 2 en 1
36
Agenda Inleiding tot concurrentie en herstel Transacties: begrippen Transactieroosters Serialiseren van roosters Transacties in SQL
37
Serialiseren van roosters • Serieel rooster: • tussen eerste en laatste opdracht van een transactie T worden geen opdrachten van eender welke andere transactie uitgevoerd • m.a.w. transacties worden na elkaar uitgevoerd – er kan dus geen interferentie zijn
– indien transacties onafhankelijk zijn, is elk serieel rooster correct – nadeel van seriële roosters: • beperking op concurrentie
38
Serialiseerbaarheid • een rooster S van n transacties is serialiseerbaar • a.s.a. het equivalent is met een serieel rooster met dezelfde n transacties
– er zijn meerdere soorten equivalentie definieerbaar • resultaat-equivalentie – gegeven beginvoorwaarden, zelfde resultaat – te zwak: voor andere beginvoorwaarden misschien niet equivalent
• beter: conflict-equivalentie 39
Conflict-equivalentie – twee roosters S1 en S2 zijn conflict-equivalent • a.s.a. volgorde van 2 conflicterende operaties steeds dezelfde is in beide roosters
– een rooster is conflict-serialiseerbaar • a.s.a. conflict-equivalent met een serieel rooster
– testen van conflict-serialiseerbaarheid: d.m.v. "precedence graph" • graaf die volgorde van transacties aanduidt • knopen = transacties, gerichte bogen = "komt voor"
40
Testen van conflict-serialiseerbaarheid 1. maak voor elke transactie Ti een knoop 2. maak een boog van Ti naar Tj a.s.a. – – –
Tj voert een read_item(X) uit na een write_item(X) van Ti of Tj voert een write_item(X) uit na een read_item(X) van Ti of Tj voert een write_item(X) uit na een write_item(X) van Ti
i schrijf(X) lees(X) schrijf(X)
j → lees(X) → schrijf(X) → schrijf(X)
3. het rooster is serialiseerbaar a.s.a. de graaf geen cycli bevat •
Equivalent serieel rooster S' te bekomen door topologisch sorteren –
als er een boog ( Ti,Tj ) bestaat moet Ti voor Tj komen 41
Voorbeeld (1)
42
Voorbeeld (2)
43
Nog een voorbeeld (1)
44
Nog een voorbeeld (2)
45
Nog een voorbeeld (3)
(roooster E op p. 44)
(roooster F op p. 45)
46
View-equivalentie een andere, minder restrictieve definitie van equivalente roosters:
– Roosters S1 en S2 zijn view equivalent als • voor elke read_item(X) in Ti in S1 geldt: – de laatste write_item(X) voor die read_item(X) moet in beide roosters dezelfde write_item van dezelfde transactie Tj zijn • voor elke X waarvoor een write_item(X) voorkomt: – de laatste write_item(X) moet dezelfde write_item van dezelfde transactie Tk zijn in beide roosters • m.a.w.: – elke leesopdracht in S1 leest (ziet) dezelfde waarde als overeenkomstige leesopdracht in S2 – laatst geschreven waarde voor een item is dezelfde in beide roosters
– een rooster is view serialiseerbaar als het view-equivalent is met een serieel rooster 47
Verschil tussen view-equivalentie en conflict-equivalentie? •
zijn allebei hetzelfde indien “constrained write” aanname geldt – CWA: aan elke write_item(X) gaat een read_item(X) vooraf, en de geschreven waarde hangt enkel af van de gelezen waarde
• •
bij “unconstrained write” aanname is view-equivalentie minder restrictief dan conflict-equivalentie maar: testen van view-equivalentie is NP-compleet
T1 read (X)
T2
T3 “blinde” aanpassingen: er gaat geen lezen van X aan vooraf
write(X) write(X) write(X) commit commit commit
dit rooster is view-serialiseerbaar, want view equivalent met serieel rooster T1 T2 T3 maar het is niet conflict-serialiseerbaar 48
Voorbeeld van view-equivalente maar niet conflict-equivalente roosters
verplaatsing behoudt view-equivalentie (T2 leest waarde van X geschreven door T3, laatste geschreven waarde van X is geschreven door T3 ) maar niet conflict-equivalentie
_T1
T2
T3____
X := a schrijf(X) X := b schrijf(X) lees(X) X := a schrijf(X) X := c schrijf(X)
49
In volgorde van restrictiefheid: serieel – conflict-serialiseerbar – view-serialiseerbar • in volgorde van restrictiefheid: • serieel • conflict-serialiseerbaar • view-serialiseerbaar
meest restrictief minst restrictief
– minder restrictief betekent: • flexibeler qua concurrentiemogelijkheden • moeilijker te testen of rooster serialiseerbaar is
50
Testen of verzekeren van serialiseerbarheid • Problemen met testen van serialiseerbaarheid: • interleaving van operaties wordt bepaald door het besturingssysteem, niet vooraf te voorspellen • transacties worden continu aangeboden – begin en einde van roosters moeilijk te voorspellen • Indien rooster niet serialiseerbaar blijkt: – herstel nodig → duur
• om deze problemen te vermijden: • test niet op serialiseerbaarheid • gebruik bij opstellen van transacties regels (protocols) om serialiseerbaarheid te verzekeren Æ volgende les
51
Agenda Inleiding tot concurrentie en herstel Transacties: begrippen Transactieroosters Serialiseren van roosters Transacties in SQL
52
SQL biedt mogelijkheid om transacties te definiëren • uitvoering van één query is gegarandeerd atomair • transacties bestaande uit meerdere SQL-queries: – gebruiker bepaalt eigenschappen van transactie: • toegangsmodus: – read-write of read-only • diagnoseruimte – de grootte geeft aan hoeveel foutmeldingen opgeslagen kunnen worden – geeft feedback aan de gebruiker over fouten en uitzonderingen opgetreden tijdens de meest recent uitgevoerde SQL opdrachten • isolatieniveau: – READ UNCOMMITTED – READ COMMITTED – REPEATEABLE READ – SERIALIZABLE default waarde 53
SQL “serializable” (1) • "serializable" ≈ onze definities van serialiseerbaar – gebaseerd op vermijden van bepaalde problemen • dirty read – gebruik van een "tijdelijke aanpassing”, uitgevoerd door een nog niet gecommitte transactie • nonrepeatable read – opnieuw lezen van een waarde kan een ander resultaat geven • phantom – een record wordt zichtbaar bij een tweede maal lezen van een tabel • bv. T1 begint een scan van een tabel, T2 voegt intussen een rij toe • als T1 herbegint ziet het een “phantom” tupel dat eerst niet bestond
54
SQL “serializable” (2)
55
Voorbeeld EXEC EXEC SQL SQL WHENEVER WHENEVER SQLERROR SQLERROR GOTO GOTO UNDO; UNDO; EXEC SQL SET TRANSACTION EXEC SQL SET TRANSACTION READ READ WRITE WRITE DIAGNOSTICS DIAGNOSTICS SIZE SIZE 55 ISOLATION ISOLATION LEVEL LEVEL SERIALIZABLE; SERIALIZABLE; EXEC SQL INSERT INTO EXEC SQL INSERT INTO EMPLOYEE EMPLOYEE (Fname, (Fname, Lname, Lname, Ssn, Ssn, Dno, Salary) Dno, Salary) VALUES('Robert', VALUES('Robert', 'Smith', 'Smith', '991004321', '991004321', 2, 2, 35000); 35000); EXEC SQL UPDATE EMPLOYEE EXEC SQL UPDATE EMPLOYEE SET SET Salary Salary == Salary Salary ** 1.1 1.1 WHERE WHERE Dno Dno == 2; 2; EXEC SQL COMMIT; EXEC SQL COMMIT; GOTO GOTO THE_END; THE_END; UNDO: UNDO: EXEC EXEC SQL SQL ROLLBACK; ROLLBACK; THE_END: ...; THE_END: ...; Een nieuwe rij wordt toegevoegd in de tabel EMPLOYEE daarna worden de salarissen van alle werknemers van dept 2 aangepast Indien ergens een fout optreedt, wordt de hele transactie teruggerold. 56
Vooruitblik Inleiding tot concurrentie en herstel Transacties: begrippen Transactieroosters Serialiseren van roosters Transacties in SQL Transacties II: Concurrentie-controle en herstel
57
Bronnen • Deze slides zijn gebaseerd op Henk Olivié‘s slides voor Gegevensbanken 2009 en op Elmasri & Navathe, Fundamentals of Database Systems, Addison Wesley / Pearson, 5e editie 2007. • Alle kopieën zonder bronspecificatie: Elmasri & Navathe, Fundamentals of Database Systems, Addison Wesley / Pearson, 5e editie 2007. • Verdere figuren: bronnen zie “Powerpoint comments field” • Bedankt iedereen!
58