Výzkumná studie Hodnocení kvality a efektivity e-learningového (eL) vzdělávání
Řešitelé: J. Průcha J. Míka H. Zlámalová
Vnitřní oponentura: O. Roth J. Lisalová
Pracoviště: CSVŠ, 2004
Anotace: V návaznosti na hodnocení kvality studia je zvažováno hodnocení efektivity studia, probíhající v systému eL. Hodnocení kvality studia
v rámci akreditačních řízení vytváří předpoklad predikce jeho efektivity. Ta se však již zpravidla neověřuje a na efektivitu se pak pouze soudí podle výsledků závěrečných zkoušek. Důsledky tohoto nedostatku si lze pouze domýšlet. Hodnocení kvality i hodnocení efektivity by přitom nemělo být závislé pouze na výběru hodnotitelů, ale mělo by podléhat explicitním pravidlům postupu hodnocení a zahrnovat jak popis dílčích stanovených ukazatelů, tak i výsledky jejich transparentní kvalitativní i kvantitativní analýzy. Studie proto usiluje o přiblížení kvalitativních i kvantitativních kritérií a metod, které by k jejich praktickému stanovení mohly napomoci.
Hodnocení kvality a efektivity eL vzdělávání
J. Průcha, J. Míka, H. Zlámalová
OBSAH
Str.
ÚVOD
3
1 Východiska hodnocení kvality studia 1.1 Některé běžné pojmy, užívané v distančním vzdělávání (DiV)
5
1.2 Silné a slabé stránky DiV
6
1.3 Hodnocení kvality studia 1.3.1 Hodnocení studijních opor 1.3.2 Hodnocení logistického zajištění studijního prostředí 1.3.3 Zpětnovazební informace o průběhu studia a inovace programů
7 11 13
2 Východiska hodnocení efektivity studia 2.1 Relativnost pojmu efektivita studia ve vztahu k různým účastníkům eL
14
2.2 Hodnocení výsledků studia
15
2.3 Hodnocení výpovědí studujících
18
2.4 Hodnocení finanční a ekonomické stránky eL
20
ZÁVĚR
23
LITERATURA
23
PŘÍLOHA 1
25
PŘÍLOHA 2
27
PŘÍLOHA 3
31
- 2 -
J. Průcha, J. Míka, H. Zlámalová
Hodnocení kvality a efektivity eL vzdělávání
ÚVOD Systém prezenčního (denního, večerního, víkendového atd.) studia je založen na určitém víceméně ustáleném - výukovém prostředí (učitelé, učebny, tištěné učebnice, názorné pomůcky, tabule aj.) s charakteristickou organizací. Složky tohoto systému jsou do značné míry zastupitelné (nahraditelné), přičemž rozsah zastupitelnosti závisí nejen na povaze vyučovacích předmětů, ale rovněž na možnostech zprostředkovat sdělované informace různého druhu. Potřeba nahrazovat prezenční formu studia má svoji historii a vznikala v různých situacích - za války, při zajišťování výuky v územně řídce osídlených nebo odlehlých oblastech, v souvislosti se vzrůstajícími požadavky na častější rekvalifikace či další vzdělávání dospělých apod. Z těchto počátků relativně izolovaného předávání informací, jež zcela přirozeně klade větší důraze na samostatnost studia, postupně vznikal systém distančního vzdělávání, plně využívající výsledky dřívějších výzkumů (zejména amerických neobehavioralistů) v oblasti programovaného vyučování a učení, které byly teoretickým předpokladem pro vznik nových technologií. Rozvíjející se technické možnosti šíření informací přinášely s sebou také otázky optimalizace uspořádání informací při komunikaci studujících se vzdělávací institucí v rámci realizace jejich studijních potřeb. Samostatné studium předpokládá podstatné změny nejen v organizaci, ale především mnohem didakticky propracovanější uspořádání učiva. I zde však zůstává možnost jistých kontaktů s tutorem či konzultantem, resp. je určitý počet osobních setkání někdy doporučován z důvodů pedagogicko-socializačních. Hodnocení kvality a efektivity studia se přirozeně provádí nejen u eL, ale i u tradičního vzdělávání. Dá se vycházet z paradigmatu obchodního podniku jako modelu organizace. Tato shoda je přitom spíše zdánlivá z důvodu, který se pokusíme objasnit. V obou případech se sice požaduje, aby veškeré vzdělávací aktivity byly rozděleny do jednodušších částí či jednotek. Tyto části jsou však rozdílné, máme-li na mysli konkrétní část studijního materiálu eL, který lze snadno dokumentovat, nebo část organizační struktury, představující skupinu pracovníků, (oddělení, katedru, ústav apod.), která má příslušnou část výuky zajistit. Jednotlivé části např. studijního textu je nutné nějak integrovat podobně jako je nutné řídit práci jednotlivých částí organizační struktury, která zajišťuje výuku. V prvním případě jde o management odpovídající redakční práci, v druhém případě je k tomu zapotřebí nějaký administrativní aparát. V obou případech potřebuje management zpětnovazební informace o prováděných činnostech, avšak ty mohou mít zcela rozdílný dopad pro osoby, které je poskytují. V případě práce nad jednotlivými částmi studijního materiálu umožňují vzájemně sladit návaznou práci. V případě kooperace různých částí organizace však zpětnovazební informace mohou hrát roli dotýkající se prestiže organizační jednotky, zaměstnanosti, odměn, popř. sankcí. Podle L. Morley (2003) se během let 1996 až 2003 ve Velké Britanii zabývalo přibližně 10 000 (!) osob inspekcemi univerzit a vysokoškolských kolejí a bylo analyzováno 2000 (!) oborů. Přestože doporučení těchto inspekcí měla nesporný pozitivní vliv na zlepšování studia, pouze šest kurzů nevyhovělo požadavkům, přičemž čtyři z nich licenci získaly. Zamítnutí akreditovat eL kurz může být u nás nejspíše stejně vzácné. I když posuzovatelé vyslovují četné připomínky a doporučení, inspekce akreditovaných kurzů a kontrola studijních výsledků jsou spíše výjimečné, takže chybí možnost nejen hodnotit efektivitu studia a popř. ji zvyšovat, ale chybí i možnosti hodnocení systému a efektivity akreditačního posuzování eL studia. Individualizace studia, probíhajícího prakticky výlučně z výukových hypertextů, prezentovaných počítačem z CD, resp. DVD nosičů, anebo - při on-line studiu - připojených k elektronické síti, dosáhla zatím vrcholu v zaváděných systémech eL, které kladou vyšší nároky na algoritmizaci sledu učebních jednotek a dávek a umožňují různé trajektorie postupu při učení. Tak vznikají mj. tři důležité otázky: a) Jak daleko má jít zastupitelnost bezprostředního působení učitele? b) Jaké předpoklady, vědomosti a dovednosti jsou pro uchazeče o studium skutečně nezbytné? c) Jaké nové předpoklady, vědomosti a dovednosti musí členové autorského týmu mít, aby účelně
- 3 -
J. Průcha, J. Míka, H. Zlámalová
Hodnocení kvality a efektivity eL vzdělávání
vyhověli postupně se rozvíjejícím potřebám studujících (v souvislosti s nabídkou nových vzdělávacích technologií)? A zároveň: jak zajistit náležitou součinnost mezi autory a techniky, která by omezila zbytečné překrývání učiva a dodatečné změny v jeho (technologické) prezentaci? (Jde o otázku nároků na průběžnou redakci či management prací, spojených s poskytovanými studijními materiály.) Odpověď na otázku sub a) zahrnuje několik hledisek. Jde o: - technologické možnosti přenosu a dostupnosti informací; - „počítačovou gramotnost“ uchazečů; - rozsah zastupitelnosti učitele (resp. tutora) vzhledem k počtu studujících; - vlastní obsah studia, zejména podíl vědomostní a dovednostní složky; - charakter cílové skupiny. Odpověď na otázku sub b) je složitější a týká se zejména otevřenosti a diverzifikace studijní nabídky, zahrnující vedle obligatorních modulů (předmětů) i povinně volitelné či fakultativní. Jde zejména o možnosti voleb různých „itinerářů“ (cest, postupů) studia. I ty jsou však závislé na užitých technologiích. Největší možnosti zde poskytuje eL, a to i proto, že osobně poskytované pedagogické a administrativní činnosti ustupují téměř výlučně do pozadí. Individuální možnosti volby studijní cesty přispívají ke zvýšení motivace ke studiu. Na druhé straně mohou vést k určitému „rozmělnění“ studia, takže hodnocení dílčích částí učiva (modulů) vyžaduje ve zvýšené míře kontrolu pedagogické efektivity průběhu studia i jeho výsledků. Nákladnost sledování celého procesu odrazuje v některých případech od zavedení kontrolních mechanizmů a vede ke spoléhání se na technickou propracovanost studijního prostředí a didaktickou, resp. metodickou komplementaritu různých metod výuky. Důsledkem pak může být ústup od analytického sledování dílčích etap učení a příklon ke globálním, vágně formulovaným charakteristikám či indikátorům. To je také hlavní důvod, proč je nutné monitorovat průběh studia a vést příslušnou dokumentaci. V této souvislosti je nutné rozlišit mezi kvalitou studijních opor i organizačně-technické složitosti (sofistikovanosti) studijního prostředí a jejich efektivitou, přičemž efektivitu lze posuzovat jen na základě existence kvalitního prostředí a studijních materiálů, a to ještě v souvislosti s charakteristikami příslušných cílových skupin. Přestože v oblasti moderních vzdělávacích metod ještě není zcela ustálena terminologie, lze eL charakterizovat jako: - kognitivní systém prezentace učiva, odpovídající nějaké reprezentaci učiva studujícím, - technický systém počítačově řízené individualizované prezentace učiva, lokalizovaného na CD (DVD) nosičích a/nebo na (síťových) serverech. Efektivita eL odpovídá: a) míře splnění cílů odpovídajících záměrům, pro něž byl kognitivní systém vytvořen a b) přístupnosti kognitivního systému prostřednictvím užité vzdělávací technologie cílovým skupinám, pro něž je kognitivní systém určen. Přístupnost přitom hodnotíme z hlediska • snadnosti / obtížnosti poznávání při užití různých technických prostředků, • ekonomické a finanční dostupnosti učiva ve formě eL. O systému mluvíme proto, že prakticky každý eL předmět, modul, kurz či studijní program je připraven a šířen určitou vzdělávací institucí, která se svým autorským, pedagogickým, manažerským, technickým a administrativním zázemím jako systém funguje. Otázka sub c) se týká autorů a programátorů při plnění úkolů, plynoucích z předchozích dvou otázek. Jde o určení toho: • které počítačové technologie musí autoři studijních materiálů znát; • jaké pedagogické požadavky musí programátoři respektovat, aby nedocházelo ke změnám v očekávání autorů a
- 4 -
J. Průcha, J. Míka, H. Zlámalová
•
Hodnocení kvality a efektivity eL vzdělávání
jaké teoretické i organizačně-psychologické předpoklady jsou žádoucí u redaktora či vedoucího týmu.
V distanční formě studia - a zejména při eL, kdy úlohu pedagogů v nejvyšší míře zastupují moderní vyučovací technologie - je nutné analyzovat makro- i mikrostrukturu částí učiva, z hlediska jejich kognitivní reprezentace. Bez průběžného ověřování pedagogické účinnosti se otevírá prostor pro méně kvalitní průběh vzdělávání, v němž se implementace informačních technologií mylně pokládá za dostatečnou záruku jeho vysoké úrovně. Obvyklé nároky na studium tak mohou unikat pozornosti a vést v krajním případě až k diskreditaci této formy studia. Určitá živelnost v zavádění nových vzdělávacích technologií a zatím nízká kontrola i propracovanost kontrolních metod představují riziko nekvalitní přípravy se všemi z toho plynoucími důsledky, které jsou dlouhodobé a obtížně napravitelné. Vzdělávací technologie se velmi rychle rozvíjejí1 i modernizují a automatizace vzdělávacích procesů zvyšuje množství potenciálně dostupných informací. To klade - jak už bylo řečeno - zvýšené nároky na „informační“ připravenost studujících (jejich „eSkills“) a konkrétně zvolené „pedagogické řešení“ nemusí být optimální, zejména s ohledem na heterogenitu v rámci týchž cílových skupin, kdy mohou existovat např. rozdíly v úrovni předchozího vzdělání, délce předchozí praxe a zejména předpokladech učení, např. v souvislosti s věkem. V dalších dvou částech se věnujeme dvěma vnitřně souvisejících, a přesto odlišných forem východisek hodnocení: • kvality studia, • efektivity studia. V přílohách uvádíme: 1. Příklad dotazníkového zjišťování předpokladů eL studia a 2. příklad zjišťování předpokladů osvojování náročnějších postupů, které mimo jiné jsou často u eL požadovány. Tento druhý příklad je současně ukázkou větveného programu prezentace učiva, v závislosti na rychlosti pochopení učiva, resp. zpětnovazebním vyhodnocování odpovědí studujících. 3. Metodické pokyny pro autorské týmy.
1 Východiska hodnocení kvality studia 1.1 1.2 1.3 1.3.1 1.3.2 1.3.3
V této kapitole si povšimneme následujících témat: Některé běžné pojmy, užívané v distančním vzdělávání (DiV) Silné a slabé stránky DiV Hodnocení kvality studia Hodnocení studijních opor Hodnocení logistického zajištění studijního prostředí Zpětnovazební informace o průběhu studia a inovace programů
1.1 Některé běžné pojmy, užívané v distančním vzdělávání (DiV) • eL vznikl v rámci rozvoje DiV a je procesem telematického šíření didakticky uspořádaných informací „vyšší generace“, ve srovnání se studiem z tištěných pomůcek. Dle charakteristiky uvedené na eLearning Europa website (elearningeuropa.info/index.php?lng=1) jde o užití nových mutlimediálních technologií a internetu ke zlepšení kvality studia, k podpoře v získávání informací a ke spolupráci uvnitř vzdělávacího společenství. 1
Rychlost rozvoje ukazuje extrémní příklad USA. Podle údaje The European ODL Liaison Committee patří v současné době „eLearning Companies“ k nejziskovějším společnostem s růstem zisku přes 100 % ročně. (I odhad 30 % ročních přírůstků zisku těchto společností ve vyspělých evropských zemích je nicméně významný.)
- 5 -
J. Průcha, J. Míka, H. Zlámalová
•
1.2 •
Hodnocení kvality a efektivity eL vzdělávání
L.Eger (E-learning, evaluace e-learningu + případová studie z projektu COMENIUS; Plzeň, ZČU 2004) a další upozorňují, že v charakteristice eL by měl převládat pedagogický zřetel nad technologickým (lapidárně řečeno klást důraz na L a nikoli na e). S tím je třeba souhlasit a obsah dalšího textu je orientován především tímto směrem. Hodnocení kvality využívá mechanismů kontroly průběhu a výsledků učení, zavedených i v rámci DiV - totiž souboru zpětných vazeb. Zpětnovazební informace slouží dvěma druhům opatření: a) Vnitřním - studujícím bezprostředně umožňují sledovat vlastní pokroky v učení a mají je motivovat k další práci. b) Vnějším, nutným pro pracovníky instituce, kteří v indikovaných případech nejen vydávají úspěšným absolventům atesty, certifikáty, vysvědčení, diplomy, popř. udělují akademické tituly, ale kteří také efektivitu studijních materiálů ověřují a inovují je (po vytvoření materiálů v pilotních kurzech a při realizaci studia v rámci periodických revizí). Individualizaci studia umožňuje především didaktické uspořádání učiva s uplatněním multimediálních pomůcek a řízením postupu učení, zajišťované organizačním a technickým uspořádání vzdělávacího systému. Vzdělávání probíhá samostatně a osobní kontakt pedagogů (tutorů) se studujícími je u DiV velmi omezen. U eL se s ním popř. ani nepočítá. S výjimkou zkoušek (výstupních testů), povinných tutoriálů, a konzultací je pak kontakt studujících s pracovníky vzdělávací instituce zprostředkován zpravidla telematicky, a to převážně z iniciativy studujících (pokud je ovšem zprostředkováván vůbec). Individualizace studia se může týkat nejen samostatnosti studia, ale i výběru modulů, částí materiálů, postupu nebo různě náročných či nákladných studijních opor studujícími podle jejich potřeb. Silné a slabé stránky DiV eL systém vzdělávání má - jako každý - své silné a slabé stránky i rizika, spojená s jeho zaváděním a fungováním. Ne všechny dále uvedené jsou specifické pro eL a týkají se distančního vzdělávání dospělých obecně. (Některé z nich jsou ambivalentní a vyskytují se tak v obou skupinách.) K silným stránkám patří: - dostupnost studia z hlediska souběžnosti s výkonem profese; - individualizace studia (umožňující plánování času věnovaného učení); - modulární výstavba obsahu učiva, umožňující sestavit bohatě diverzifikovaný výukový program; - technicky snadné úpravy (inovace) obsahu i struktury studijních opor; - častá kontrola dílčích studijních výsledků (jako nepostradatelná součást studijních opor); - multimediálnost výukových materiálů, poskytující mnohem lepší podmínky pro porozumění učivu i jeho aplikace (osvojení rozumových dovedností); - sycení rychle dostupnými informacemi (prakticky všeho druhu); - rozvoj samostatnosti při studiu; - možnosti flexibilní komunikace s pracovníky vzdělávací instituce i „spolužáky“; - nízký počet administrativních, manažerských a pedagogických pracovníků (vzhledem k potenciálnímu počtu studujících). K slabým stránkám patří: - zvýšení pracovní zátěže studujících; - individualizace studia (z hlediska pocitu sociální izolovanosti); - nároky na hardwarové vybavení studujících, které při složitých (sofistikovaných) programech překračují běžný průměr a ustupují do pozadí v souvislosti s rostoucí vybaveností domácností; - požadavky na „počítačovou gramotnost“ (často přesahující základní dovednosti v obsluze softwaru); - obecně větší problémy s osvojováním sociálně interaktivních a dalších odborných dovedností; - zvýšené nároky na samostatnost při studiu a na motivaci; - finanční náklady spojené s budováním studijního prostředí a autorskou přípravou modulů
- 6 -
J. Průcha, J. Míka, H. Zlámalová
Hodnocení kvality a efektivity eL vzdělávání
(studijních programů, resp. kurzů) a z toho plynoucí vyšší cena výukových produktů; - vysoké nároky na výkon administrativy, organizaci a plánování studia; Rizika: - zahlcení informacemi; - útlum až ztráta motivace (při studiu dlouhodobějších kurzů či programů); - nezvládnutí nového přístupu ke studiu a metod učení se; - nedokončení studia (častější ve srovnání s jinými formami vzdělávání); - selhání administrativy a logistiky. Vhodné nastavení charakteristik a ukazatelů zjišťování kvality i efektivity by mělo vycházet z analýzy především slabých stránek systému eL a jejich reflexe snižovat uvedená rizika. •
Některé z modulů i kurzů a všechny vysokoškolské studijní programy jsou ze zákona akreditovány, tzn., že jejich strukturované návrhy procházejí odborným posouzením. To je nepochybně důležitou výchozí etapou realizace. Dosavadní postupy akreditace nicméně nezaručují kvalitu zprostředkování programu studujícím. V akreditacích se pro možnost jisté předpovědi efektivity vzdělávání zjišťuje také kvalita fungování vzdělávacích institucí (zejména vysokých škol), které tyto programy (kurzy) poskytují. Jde o značně složitý a dosud nestandardizovaný proces, zahrnující posuzování personální, materiálně technické, učebnicové (informační), poradenské, prostorové, výzkumné (tvůrčí) a kooperativní připravenosti pro zajištění výuky - jejího průběhu i výsledků. Připravenost pro zajištění výuky však zcela nezaručuje, že její průběh a výsledky budou takové, jak byly posuzovateli předpokládány. Předpověď a následná realita se mohou rozcházet. Proto je nutno průběžně kontrolovat efektivitu studia.
Z uvedeného vyplývá nutnost rozlišit: - hodnocení kvality studijních programů (kurzů, modulů) a - hodnocení jejich efektivity (a to nejen pedagogické).
1.3
Hodnocení kvality studia
Efektivitu studia má smysl posuzovat jen při splnění minimálních nároků na zajištění kvality vnějších předpokladů studia – zejména studijních opor – bez nichž výsledky studia závisejí spíše na iniciativě studujících, než na elektronickém výukovém prostředí. 1.3.1 Hodnocení studijních opor GLOBÁLNÍ HODNOCENÍ STUDIJNÍCH OPOR eL (1. etapa) V zásadě se posuzuje srozumitelnost textu a kvalita metodického propracování. Text se celý prolistuje a v případě elektronické realizace prohlédne na obrazovce. Posuzovatel si zejména všímá grafické úpravy (druhů písma, rámečků, marginálních poznámek, vynechávek, tučné sazby, kurzívy apod.). Dále se zběžně zaměří na součásti textu, jako shrnutí, otázky, testy, nápovědi, příklady, ukázky, praktické aplikace, obrázky, schémata, grafy, diagramy. Zároveň posuzovatel věnuje pozornost „čtivosti“ textu, frekvenci cizích slov, definic, vysvětlujících poznámek, stavbě a délce vět a z hlediska obsahového možné problémovosti výkladu i formulace otázek (testových položek). Posuzovatel též zjišťuje do jaké míry autor počítá s myšlenkovou spoluúčastí studujícího, jak je provokována (resp. evokována) jeho tvořivost a samostatnost v úsudcích. V textech (h-textech)2 určených pro eL by uvedené požadavky měly být splněny ve vysoké míře. Z časově-ekonomických důvodů se zahajuje podrobnější posouzení až tehdy (2. a 3. etapa), splňuje-li studijní opora shora popsané globální, na první pohled patrné, ukazatele. 2
Výukový h-text je textem, který umožňuje okamžitý přístup ke všem podstatným informacím (částem učiva) a je - na rozdíl od slovníkových či encyklopedických h-textů - didakticky uspořádán, včetně kontrolovatelného vymezení výukových cílů a zařazení multimediálních pomůcek /J.Průcha: Výukový h-text v distančním vzdělávání. Praha, CSVŠ 2001/
- 7 -
J. Průcha, J. Míka, H. Zlámalová
Hodnocení kvality a efektivity eL vzdělávání
FUNKČNĚ STRUKTURNÍ ROZBOR (2. etapa) Posuzuje se splnění těchto náležitostí: Slovní prvky 3 jak a zda vůbec je výklad zpřehledněn (heslovitý přehled, obsahové schéma) shrnutí učiva k předchozímu ročníku, semestru, předmětu shrnutí učiva k jednotlivým kapitolám, oddílům apod. shrnutí učiva k celému ročníku, semestru, předmětu odkazy na povinnou literaturu či jinou dokumentaci (dostupnost; počet) odkazy na doporučenou literaturu či jinou dokumentaci (dostupnost; počet) tabulky, ukázky formulářů, prvotních dokladů apod. komentáře, poznámky a vysvětlivky v textu či pod čarou přehledy nových termínů a klíčových slov s definicemi Obrazové prvky3 zařazení náčrtků, schémat, modelů, obrázků grafy, diagramy, plánky, mapky, tabulky Multimediální doplňky3 animace, resp. pohybové sekvence, video-nahrávky, zvukové záznamy u interaktivních výukových programů míra individualizace - tvorba aktualizovatelných osobních slovníků, možnost kontroly vlastních řečových projevů Řízení samostatné práce studujícího: Slovní prvky úvod návod k práci s textem konkrétní (nikoli obecné), kontrolovatelné vymezení didaktických cílů otázky a úkoly uvnitř textu kapitol, oddílů apod. otázky a úkoly k učivu předchozího (souvisejícího) modulu/předmětu témata průběžných samostatných (ročníkových, seminárních či semestrálních prací) instrukce a návody k řešení obtížnějších úloh a úkolů kontrolní (průběžné) testy a soubory příkladů k řešení výsledky příkladů a úkolů včetně testů („klíč“ správných, resp. modelových odpovědí) Obrazové prvky grafické symboly (vč. ikon, resp. piktogramů); anebo jiné zvýraznění podstatných částí textu (podtrhávání, prokládání, zvýraznění) užití více druhů písma (petit, kurzíva, tučný tisk apod.) textové předsádky (hesla) na okrajích stránek vynechávaná místa pro poznámky, dopisování, dokreslování, dopočítávání Orientace v textu obsah a podrobnost jeho členění strukturování textu do kapitol, oddílů apod. navigace uvnitř h-textu ( „odskoky“ a návraty) rejstřík věcný, jmenný (smíšený)
3
Tyto části se týkají zejména srozumitelnosti textu. Podle A. Petřkové (Úvod do tvorby srozumitelného textu. In: Kombinovaný kurz vysokoškolské pedagogiky pro inženýry-učitele podle evropského standardu IGIP; h-text na CD nosiči; CSVŠ, Praha 2001) lze srozumitelnost textu objektivovat a vyjádřit statisticky nebo pomocí škálových hodnocení. Statisticky se kvantifikuje v závislosti na délce vět, průměrné délce slov a indexu opakování, jako charakteristiky lexikální bohatosti textu. V širším pojetí se srozumitelnost hodnotí podle škálovaných kritérií jazykové jednoduchosti; přehlednosti (uspořádanosti) textu; stručnosti i výstižnosti a emotivnosti (čtivosti). Viz též J. Průcha: Učebnice teorie a analýzy edukačního média. Paido, Brno 1998 a A. Melezinek: Inženýrská pedagogika. ČVUT, Praha 1994.
- 8 -
J. Průcha, J. Míka, H. Zlámalová
Hodnocení kvality a efektivity eL vzdělávání
OBSAHOVĚ DIDAKTICKÝ ROZBOR (3. etapa) Rozsah textu Učivo je přiměřeně dávkováno - dávky jsou relativně malé / zabírají jednu obrazovku / jsou často delší než plocha jedné obrazovky. Odlehčení stránek ilustracemi nebo jinými doplňky je minimální (spíše výjimečné) / odlehčení textu je poměrně časté / text na stránkách je plný neverbálních doplňků. Obtížnost Věty a souvětí jsou krátké a jejich smysl je jasný / častěji se používá složitějších souvětí / učivo je podáváno málo srozumitelně. Frekvence výskytu nových pojmů je: nízká / přiměřená / vysoká. Počet přejatých slov (odborných termínů) bez objasnění je: malý / přiměřený / vysoký. Počet definic, pouček, pravidel je: nízký / přiměřený / vysoký / vysoký bez častějšího opakování jejich výkladu (definic či charakteristik). Komunikativnost Stylizace textu má: vysokou / dobrou / nízkou / velmi nízkou úroveň. Text je: čtivý (zajímavý, živě podáván) / neosobně odborný / nezáživný. Text: často / zřídka / takřka vůbec ne-/ objasňuje a zdůvodňuje příčiny, poukazuje na souvislosti; je / není / staticky popisný. Výklad: je / ve větší míře je / není / problémový, nedogmatický, jde do hloubky jevů, zdůrazňuje procesuálnost. Prezentace učiva: - často evokuje / evokuje / málokdy evokuje aktivity studentů; - zaměřuje se především na vědomosti / rozvíjí i (rozumové) dovednosti. Logická sevřenost výklad kapitol: je / vcelku je / není ucelený a vzájemně propojený (studijní text obsahuje řadu izolovaných pojmů i oddílů) bez úzkého vztahu k ostatnímu učivu. Věcná správnost Poznatky jsou aktuální, nové ve světle teorie a výzkumů v dané oblasti (nedostatky je nutné konkretizovat). Text neobsahuje chyby a překlepy (v opačném případě je nutné konkretizovat). Důsledně je používáno jednotek SI a správného názvosloví; veličiny jsou promyšleně a jednotně značeny (v opačném případě je nutné konkretizovat). Řešení příkladů a úloh jsou bezchybná (v opačném případě je nutné konkretizovat). Celková způsobilost studijní opory se hodnotí písemně, výčtem silných a slabých stránek textu. Podle toho, jakých dílčích hodnocení pokud možno ve všech uvedených aspektech bylo dosaženo, je studijní materiál doporučen / doporučen s konkrétními návrhy změn / nedoporučen k samostatnému studiu v rámci eL. Většina uvedených hledisek pro získání kvalifikovaného odhadu didaktické účinnosti je samozřejmě použitelná pro víceméně každý výukový text (učebnici, skriptum). U h-textů je nicméně vhodné všimnout si ještě dalších aspektů, souvisejících se zvláštnostmi jejich konstrukce a prezentace. Hodnocení kvality h-textu Jde o podrobné a v podstatě individualizované zkoumání celého postupu učení jednotlivců nebo málo početných skupin uživatelů. K tomuto účelu je nezbytné mít k dispozici datový soubor všech reakcí dosavadních uživatelů (účastníků pilotního ověřování). Velmi cenné mohou být i názory uživatelů na obtížnost, srozumitelnost, názornost učiva, i na „čtivost“ h-textu, přitažlivost zpracování apod. V těchto „laboratorních“ podmínkách lze zachytit i poznámky týkající se orientace v h-textu a účelnosti větvení. Užitečným ukazatelem je tzv. index použité pomoci Ip4: 4
Index Ip je výstižnější charakteristikou uživatelova postupu h-textem než index zachycující poměr mezi počtem dílců, které uživatel absolvoval, a počtem všech dílců, protože ne všechny dílce mají vyučovací funkci. Všechny zjevné nedostatky odhalené při studiu jednotlivci i zdůvodněné dodatečné návrhy na zlepšení se začlení do nové verze h-textu. Pokud je uživatelů více než 10, lze tuto etapu považovat za pilotní ověření h-textu.
- 9 -
J. Průcha, J. Míka, H. Zlámalová
Hodnocení kvality a efektivity eL vzdělávání
Ip = počet použitých pomocí / počet všech nabízených pomocí Kromě toho je nutné pořídit seznam všech proměnných, které budou sledovány. Návrh je vhodné konzultovat se statistikem a pedagogem, který má potřebné experimentální zkušenosti. Mezi nejčastěji přímo sledované proměnné patří: • celkový počet chyb v každém dílci se zpětnou vazbou (za všechny uživatele); • druh (kvalita) chyb u každého z dílců h-textu (se zpětnovazební složkou); • počet a druh chyb každého uživatele; • čas potřebný k absolvování (úseků) h-textu; • individuální trajektorie uživatelů. Aby bylo možné tyto proměnné zpracovat, požaduje se už zmíněná automatická registrace jednotlivých odpovědí (voleb) každého uživatele. Statistická analýza pak umožní sledovat další proměnné: • průměrný počet chyb i správných reakcí v každém dílci se zpětnovazební složkou; • počet chyb i správných odpovědí každého uživatele v celém h-textu; • průměrný čas potřebný k absolvování celého h-textu; • průměrné bodové skóre dosažené v testech; • rozložení bodového skóru pro zařazené testy; • konstrukce skupinové trajektorie; • hodnoty rozptylů u zjišťovaných statistických veličin. Posuzování h-textu se zpravidla zahajuje zkoumáním výsledků vstupního testu. Pak následuje rozbor výsledků všech dalších testů i popř. samostatných prací. Poslední fází je třídění a zpracování získaných datových souborů i jejich transformace do finálních úprav. Podrobnější informace o požadavcích na testy a statistické zpracování jejich výsledků i o analýze testů uvádějí např: V. Hrabal, Z. Lustigová, L. Valentová.: Testy a testování ve škole. PedF UK, Praha 1992 i další autoři. Pro revizi konstrukce h-textu jsou nejdůležitější frekvenční a typová analýza chyb a analýza matic přechodových pravděpodobností. Frekvenční a typová analýza chyb V jednotlivých položkách testu se studující mohou dopouštět chyb různé povahy. Při poměrně značném, ale účelném zjednodušení, můžeme např. rozlišit dále uvedené typy. Při revizi se na základě shromážděných odpovědí sestaví tabulka, zachycující odpovědi všech respondentů. Kvalitu odpovědi lze symbolizovat např. takto: + správná odpověď; - chybná odpověď; N neúplná (nepřesná) odpověď; 0 chybějící odpověď; Příslušné znaky se pak postupně zanesou do tabulky. Ta má tolik řádek, kolik je v h-textu dílců se zpětnovazebním opatřením a tolik sloupců, kolik bylo uživatelů. Řádky tak podávají přehled o absolvování každé položky a sloupce zachycují úspěšnost postupu každého uživatele. Proto je řádková analýza tabulky východiskem pro revizi textu. Po sestavení tabulky je nutné sledovat každý zařazený dílec (učební dávku) z hlediska počtu a typu chyb, jichž se uživatelé dopustili. Shledá-li se, že v určitém dílci se několik osob dopustilo téže chyby, jde o konstantní hromadnou chybu, jež je signálem pro přepracování příslušné části výukového textu. Přitom podle převažujícího typu chyby lze usuzovat, zda bude spíše účinné pozměnit instrukci nebo její rozsah, popř. zvětšit počet příkladů, zařadit opakování, procvičování, shrnutí učiva apod. Shledá-li se naopak, že v určitém dílci se vyskytují chyby typově odlišné, jde o variabilní chybu, která sice svědčí o obtížnosti učiva, ale nemusí být nutně výzvou k rekonstrukci výukového textu. Skupinová trajektorie a matice přechodových pravděpodobností Výběrové odpovědi, které h-text v dílcích nabízí, usnadňují kategorizaci chyb a omezují jejich variabilitu, jež u tvořených odpovědí může být značná. Východiskem analýzy je souhrn individuálních trajektorií všech dosavadních uživatelů, zahrnutý ve schématu skupinové trajektorie. Jsou-li jednotlivé
- 10 -
Hodnocení kvality a efektivity eL vzdělávání
J. Průcha, J. Míka, H. Zlámalová
dílce h-textu ve schématu graficky odlišeny podle didaktického účelu, jemuž slouží a jsou-li zároveň rozlišeny správné a chybné přechody mezi nimi, je možné zjistit: • nejpravděpodobnější trajektorii; • neobsazené (nevyužité) „odskoky“; • (průměrný) počet pomocí, vyžádaných při plnění úkolů v dílci. Už při tomto víceméně kvalitativním posuzování jednotlivých trajektorií lze vyvozovat závěry pro: - redukci h-textu na úkor těch dílců, kterými nikdo neprošel; - rozšíření h-textu v těch uzlových bodech (hlavní) linie, kde si řešení zadaných problémů vyžádalo větší počet pomocných informací (podle počtu „odskoků“ do bočních větví). Jakmile jsou k dispozici výsledky hromadného ověření h-textu, můžeme sestrojit matici přechodů, která je vlastně tabulkovým záznamem skupinové trajektorie (ukázka zahrnuje část ze 100 uživatelů a čísla v polích znamenají počty uživatelů, kteří příslušným dílcem h-textu prošli): Dílec
...
11 12 13 14 15 16 17 18 19 20 21 22 23 24 25
... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ...
11 ...
12 ...
13 ...
65
35 65
14 ...
15 ...
16 ...
17 ...
32 67 15 17
18 ...
19 ...
88
25 88
20 ...
21 ...
22 ...
23 ...
24 ...
25 ...
... ...
16 53 31 53 13
85
15 64
24 17
7 21
3
0
4 0
0
Suma
... 100 65 115 32 84 53 113 101 100 88 24 21 7 0 0
Z hodnot shromážděných v matici přechodů lze sestavit matici přechodových pravděpodobností. Zachycuje pravděpodobnosti, že z daného počtu uživatelů přejde některý z libovolného dílce do jiného libovolného dílce (pokud je přechod možný). Následující ukázka dokládá, jak taková matice vznikne: Dílec
...
11 12 13 14 ...
... ... ... ... ... ... ...
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
...
Suma
...
...
...
...
...
...
...
...
...
...
...
...
...
...
...
...
...
0,65
0,35
100 65 115 32
0,65 0,32 0,67 0,15
0,16
0,17 ...
...
Poznámka: Pokud číslo ve sloupci Suma přesahuje hodnotu 100, znamená to, že někteří uživatelé prošli tímto dílcem vícekrát. Tečky v políčkách naznačují, že jde pouze o část tabulky. Prázdná políčka znamenají nemožnost přechodu. Tučně vytištěná 0 znamená, že ač byl přechod možný, neuskutečnil se.
Obě matice poslouží ke studiu účelnosti větvení h-textu a jsou do jisté míry ekvivalentní strukturnímu schématu h-textu, pokud jsou v něm nad jednotlivými šipkami přechodů vyznačeny i (relativní) počty uživatelů, kteří daný přechod uskutečnili. U rozsáhlejších h-textů a ve větších skupinách uživatelů jsou popsané maticové postupy pracné a vyžadují kromě registrace dat i jejich automatické zpracování.
- 11 -
J. Průcha, J. Míka, H. Zlámalová
Hodnocení kvality a efektivity eL vzdělávání
Studijním prostředím je myšlen komplex organizačního, administrativního, poradenského, pedagogického a technického (technologického) zajištění eL. Rozdíly mezi různými úrovněmi distančního vzdělávání navzájem a eL do značné míry souvisejí s mírou nutnosti přímých osobních kontaktů zaměstnanců instituce se studujícími. Tyto rozdíly v logistickém zajištění studijního prostředí ve stručnosti dále naznačíme. Hodnocení jeho kvality zahrnuje pokud možno všechna dále uvedená hlediska. 1.3.2 Hodnocení logistického zajištění studijního prostředí Logistika Zdůraznění logistiky je dáno zvláštním charakterem eL, který minimalizuje přímý osobní kontakt studujícího nejen s tutorem (konzultantem), ale i s ostatními účastníky studia. Tradičně chápané funkce učitele jsou při eL (vzhledem k jeho fyzické nepřítomnosti) potlačeny a organizační funkci přebírá vzdělávací instituce, resp. její specializovaný útvar. Vzdělávací instituce proto explicitně přesně stanoví mj. organizační postupy studia, formy kontroly, formy a techniky kontaktu s institucí, popřípadě s konzultanty (tutory), určuje s větší či menší přesností časové termíny jednotlivých kroků při postupu vzdělávání a kritéria úspěšnosti studia. Mnohé vzdělávací instituce proto zpracovávají ke svým jednotlivým studijním programům tzv. logistické příručky, které podrobně popisují krok za krokem organizační strukturu vzdělávání, harmonogram řízení studia od přihlášení se ke studiu až po předání osvědčení (certifikátu, diplomu). Přesná logistická příručka, může předcházet organizačním chybám (např. studující nedostane včas svou zásilku, odešle svou práci na nesprávnou adresu, nedostaví se pro neinformovanost na konzultační setkání atp.). Přijímací řízení (je-li indikováno) Každý způsob přijímání uchazečů vede k variabilním důsledkům. Pro posouzení přiměřenosti a kvality přijímacího řízení je vhodné mít k dispozici: - statistické údaje o dosavadních výsledcích přijímacího řízení pro jednotlivé studijní programy či kurzy (počty uchazečů, počty přijatých, věkové a sociální složení uchazečů apod.); - požadavky na uchazeče a popis přijímací zkoušky; - vztah (korelace) mezi výsledky přijímacího řízení a úspěšností ve studiu (u přijatých uchazečů, resp. absolventů); - komentář k validitě přijímacího řízení a případně k navrhovaným změnám. Studijní materiály Vše, co studující eL budou potřebovat ke studiu, je v DiV připravováno do souboru studijních materiálů (tzv. výukového „balíku“). Každá jednotlivá pomůcka je určena k samostatnému studiu a na kvalitě jejího didaktického zpracování do značné míry závisí efektivita a úspěšnost studia. Dalším hlediskem u DiV je míra pružnosti vzdělávací instituce přizpůsobovat se průběžně vznikajícím nárokům v zajišťování studia, odesílání materiálů, pořádání akcí, kontrole zadaných termínů prací a zkoušek apod. Přizpůsobení vyžaduje průběžné monitorování a sběr záznamů o výkonech tutorů, konzultantů a efektivnosti tutoriálů (seminářů, extenzí apod.), popř. stížností a žádostí studujících, analýzu shromážděných údajů a pohotové provedení potřebných nápravných opatření. U eL je tato stránka zajištěna předem odpovídajícím časovým programem všech akcí. Personální zajištění výuky S personálním zajištěním výuky DiV jsou spojeny zvláštní požadavky. Především je nutné mít k dispozici odborně školený sbor tutorů a konzultantů, jejichž funkce ve výuce je odlišná od funkce učitelů a konzultantů v prezenční formě studia. Velmi zde závisí i na počtu studujících připadajících na jednoho tutora, na způsobu výběru odborných pracovníků, na jejich kontaktech s praxí i zahraničními vzdělávacími institucemi, na poměru mezi počtem interních i externích pracovníků a na existenci plánu personálního rozvoje těchto pracovníků. Neméně důležité je také administrativní a organizační zázemí při realizaci výuky. To, co bylo výše řečeno o DiV, platí i o eL s tím rozdílem, že těžiště práce odborných pracovníků se posouvá od úkolů přímého osobního působení na studující k úkolům přípravy studijních materiálů, kontrole plnění studijních úkolů a hodnocení průběhu – efektivity, úspěšnosti či obtíží studia.
- 12 -
J. Průcha, J. Míka, H. Zlámalová
Hodnocení kvality a efektivity eL vzdělávání
Materiálně technické vybavení U DiV do této kategorie patří vybavenost telefony, faxy, počítači, e-mailovými schránkami, seminárními i odbornými učebnami pro pořádání tutoriálů apod. V případě nedostatku (resp. neexistence) vlastního vybavení musí být zajištěny způsoby pronájmu nebo způsoby kooperace s průmyslovými, servisními či jinými vzdělávacími institucemi. Hodnocení se musí také týkat možností přístupu studujících k technickému vybavení při samostatném studiu a zpracovávání zadaných úkolů. Dalšími parametry hodnocení jsou možnosti pořádat video-konference, možnost satelitního příjmu TV vzdělávacích programů (včetně zahraničních, které lze dabovat), dále audiotéka, videotéka, existence interaktivních nebo jiných programů na CD nosičích, možnosti připojení na vnitřní či mezinárodní počítačové sítě apod. U eL je materiálně-technické vybavení jednodušší: Přenos informací závisí především na internetu nebo intranetu. Služby studujícím K úspěchu nejen DiV, ale i eL přispívají také různé podpůrné mechanizmy, zahrnující především účinné vnější zpětné vazby o pokrocích ve studiu, konzultační podporu a poradenství, kontakty mezi studujícími apod. V tomto ohledu je možno mezi DiV a eL vidět jisté rozdíly: Poskytování zpětných informací může být u eL mnohem rychlejší než u DiV, protože kategorizace odpovědí studujících je předem zahrnuta do programu. Pokud se jedná o zpětnovazební hodnocení odpovědí studujících, které nelze automaticky vyhodnocovat, se tento rozdíl ztrácí. Jedním z hlavních projevů odpovědnosti instituce je kvalita a rozsah služeb zajišťovaných pro studující. Podpora studujících vyžaduje dobře organizovaný program. Počíná přijímáním ke studiu a mnohdy končí pomocí při informování o volných pracovních místech ve studovaném oboru po ukončení studia. Služby by měly být dostatečně široké, aby vyhověly i potřebám těch, kteří trpí různými handicapy. Doplňkové služby studujícím Vzdělávací instituce poskytují příležitost ke studiu pomocí závazných programů, dávají však rovněž možnost učit se prostřednictvím řady jiných aktivit. Studujícím by měla být poskytována pomoc, aby si mohli rozumně vybrat mezi programy a volitelnými kurzy v rámci diverzifikované nabídky. Rovněž tak potřebují někdy uvážlivé a povzbuzující rady. Během studia se mohou vyskytnout i osobní obtíže, vyplývající ze studijní zátěže, ztráty motivace, z konfliktů na pracovišti i v rodině. Popis fungování poradenských služeb a způsoby řešení uvedených problémů jsou tedy relevantními informacemi. Proto je poradenství v rámci eL žádoucí. Z výše uvedených důvodů se hodnotí: - existence mechanizmů pro stimulaci nepřetržitého studijního úsilí, - kvalita zpětných vazeb o pokroku ve studiu, - individuální i skupinová konzultační podpora, - přístup, formy a rozsah poradenských služeb, - výsledky a zkušenosti s dosavadní činností poradenského střediska i zobecněné názory studujících na poradenské služby, - zajištění kontaktů mezi studujícími, a to pro odborné i sociální účely a v souvislosti s tím i - kvalita a kapacita softwarového vybavení (net-meeting; audio- a video-konference; chat-rooms apod.). 1.3.3 Zpětnovazební informace o průběhu studia a inovace programů Programové revize ukazující, jaké bylo začlenění vysokoškolských absolventů do širší společnosti, jsou důležité. Instituce by přitom neměla ztrácet ze zřetele efektivitu studia. Sleduje se samotný proces vzdělávání a jeho účinek na osvojování učiva i výsledky zkoušek, kontakty s absolventy a postoje studujících, projevující se v (řízených) rozhovorech i vyplývající z dotazníků. Jde tedy jednak o cíle týkající se konkrétních studijních materiálů, fungování instituce i o cíle celospolečenské.
- 13 -
J. Průcha, J. Míka, H. Zlámalová
Hodnocení kvality a efektivity eL vzdělávání
Rozbory anketních šetření, popř. řízených rozhovorů, představují převážně kvalitativní a pomocný aspekt, nikoli však aspekt zanedbatelný. Vyjadřují názory studujících na kvalitu pomůcek (progresivnost, srozumitelnost, názornost, přiměřenost, grafická úprava) obsah předmětů (modulů, kurzů), na jejich strukturu, obtížnost učiva i samostatné práce a (průběžné) testy, teoretické i praktické přínosy studia, jeho organizaci a administraci, kvalitu tutorů i tutoriálů. Mohou svědčit nejen o kvalitě výuky nebo její efektivitě, ale též vypovídat o osobních předpokladech studujícího ke studiu. (viz též odd. 2.3) Analýzy výsledků, mají-li být maximálně přínosné, by měly shromažďovat údaje užitečné pro fungování instituce a její vývoj. Mohou být zaměřeny na finanční, právě tak jako plánovací nebo vzdělávací či programové aspekty. Mírou náročnosti instituce na sebe samu je využívání údajů generovaných v procesu interně prováděné analýzy a aplikace pro fakty podložené plánování a rozdělování prostředků. Všechny tyto informace slouží jednak k získání celkového přehledu o studiu i jeho výsledcích a zároveň jako základní materiál pro zlepšení kvality a efektivity výuky, včetně inovací obsahu a struktury studijních programů a kurzů. Proto se také zjišťují: - počty studujících (celkové i v jednotlivých studijních programech či kurzech, popř. jejich struktura - profesní, sociální, věková, podle pohlaví a pokud jsou k dispozici údaje za delší období i trendy, které z údajů vyplývají); - úspěšnost studia (počty přijatých, počty absolventů, propad v jednotlivých ročnících /semestrech/; průměrné údaje o prospěchu, náročnost studia jednotlivých předmětů apod.); - hlavní problémy, které se během studia vyskytují; - uplatnění absolventů a spolupráce vzdělávací instituce s praxí (včetně úřadů práce); - výsledky anket (viz dále), předkládaných studujícím (k problémům studia, k obsahu a zaměření učiva, k práci tutorů, ke studijním materiálům, studijní zátěži k tématům a množství samostatných prací, k obsahu, formě a požadavkům testů i zkoušek apod.). - vliv studujících na hodnocení kvality výuky a zpětnovazební informace o tom, jak a do jaké míry se přihlíželo k názorům vyjádřeným v anketách (popř. jiných druzích připomínek); - charakter a vliv podnětů přicházejících zvenčí, pokud jsou sledovány (externí konzultanti, zástupci praxe, dosavadní absolventi). - přehled zamýšlených inovací studijních programů a kurzů a jejich zdůvodnění. Nepostradatelnou součástí managementu kvality a efektivity studia jsou doklady. Patří k nim : - materiály dokumentující kvalitu odborné přípravy pracovníků eL, působících v instituci; - studijní řád; - informační a propagační brožury (letáky) o studijní nabídce; - formulář přihlášky k distančnímu studiu; - vstupní test (požadavky na účastníky studia); - text smlouvy uzavírané mezi vzdělávací institucí a přijatým studujícím; - evidenční karta testů, zkoušek a předepsaných samostatných prací; - evidenční karta jednotlivých konzultací; - evidenční karta rozesílaní studijních pomůcek; - text smlouvy mezi tutory a konzultanty, působícími v eL; - zkušební řád; - pravidla průběžného vnitřního hodnocení; - pravidla pro oběh dokladů a způsob ochrany dat; - formulář protokolu o závěrečné zkoušce (popř. obhajobě diplomové práce); - ukázky studentských prací (případové studie, eseje, výstupní testy, závěrečné práce); - formuláře dotazníků a anket (osnov řízených rozhovorů).
- 14 -
J. Průcha, J. Míka, H. Zlámalová
Hodnocení kvality a efektivity eL vzdělávání
2 Východiska hodnocení efektivity studia 2.1 2.2 2.3 2.4
V této kapitole si povšimneme následujících témat: Relativnost pojmu efektivita studia ve vztahu k různým účastníkům eL Hodnocení výsledků studia Hodnocení výpovědí studujících Hodnocení finanční a ekonomické stránky eL
2.1 Relativnost pojmu efektivita studia ve vztahu k různým účastníkům eL eL vyžaduje náklady i úsilí a jeho hlavními účastníky jsou: - stát, poskytující ve vybraných případech finanční prostředky; - studující, kteří vzdělávání v nějaké míře platí (školné, životní náklady, učebnice a pomůcky, připojení k internetu, jízdné apod.); - vzdělávací instituce; -výrobci příslušného hardware, software a firmy zabývající se informačními technologiemi. Očekávání těchto účastníků se mohou v něčem shodovat, ale také v mnohém lišit. Z hlediska různých účastníků lze proto rozlišit: - hodnocení efektivity studia výběrové (selektivní), uskutečněné jen v zájmu některého z účastníků; - hodnocení globální, uskutečněné komplexně, se zvážením různých kombinací cílů a požadavků. Globální empirické hodnocení zahrnuje aspekty: - ekonomické (finanční náklady, dostupnost prostředků); - sociologické (přístupnost vzdělávání, změny v procesech organizace, nové vzdělávací technologie a styly studia, rizika předčasného ukončení studia); - kooperativní (spolupráce s jinými vzdělávacími institucemi či fakultami a sociálními partnery); - vývojově inovační (uplatnění kritických připomínek a námětů pracovníků vzdělávací instituce, hodnotící komise i dalších expertů a studujících, popř. dřívějších absolventů). Z toho vyplývá nutnost stanovit kritéria hodnocení a pravidla součinnosti různých hodnotitelů zejména s ohledem na interpretaci výsledků a stanovení závěrů hodnocení a doporučení. Teoreticky jednoduché je srovnání deklarovaných cílů se skutečně dosaženými, a to v rámci každého předmětu i celého kurzu či studijního programu. Prakticky to předpokládá kontrolovatelné formulace dílčích i globálních cílů (splnění cíle, profilu absolventa), tj. cílů definovaných pomocí určitých druhů vnějších projevů, tedy behaviorálně. Takové formulace nejsou dosud všeobecně zavedenou praxí, ačkoli by se měly stát již součástí akreditace. Jsou-li cíle vymezeny obecně a vágně, dá se očekávat, že i výsledky hodnocení budou mnohoznačné a méně spolehlivé či průkazné. Jinou formou je přezkoušení reprezentativního vzorku absolventů různých forem studia (denního, kombinovaného, distančního) téhož studijního programu, kurzu, modulu či předmětu s porovnáním výsledků.5 Oba tyto případy vyžadují použití spolehlivých zkoušek (testů) s pokud možno jednoznačnou interpretací dosažených výsledků. Hodnocení efektivity studia vychází z daného logistického zajištění „studijního prostředí“, nabídnutého souboru studijních opor, které v případě eL mají často podobu výukových hypertextů (h-textů) s možnostmi rozdílných trajektorií (studijních cest). Pro různé trajektorie studia je nutno určit konkrétní kritéria hodnocení, která mohou být pro různé účely rozdílná. Míra splnění kritérií je ukazatelem efektivity či úspěšnosti studia, ukazatelem, který není sice všeobecně platný, ale má platnost pro vytčenou cílovou skupinu a dané studijní požadavky. Daná kritéria efektivity studia mohou studující různě přijímat, stavět se k nim, polemizovat o jejich účelnosti, mohou namítat, že něco jiného se učili a něco jiného se na nich chce apod. Jako nezbytné před zápisem do určitého kurzu 5
Seriózní příklad realizace takového zjišťování pedagogické účinnosti eL uvádí ŠIMONOVÁ, I., ŠTEFANČÍKOVÁ, A.: e-Learning v kontextu komparace s face-to-face výukou. Příspěvek na konferenci Inováciami k plurilingvismu. Nitra: UKF, 2004 (v tisku).
- 15 -
J. Průcha, J. Míka, H. Zlámalová
Hodnocení kvality a efektivity eL vzdělávání
či modulu se ukazuje zhodnotit připravenost studujícího ke studiu jak z hlediska motivace, tak i případných předpokladů učení nebo již získaných vědomostí a dovedností. K tomuto účelu je patrně nejvhodnější formou řízený rozhovor a dotazník, zjišťující uvedené faktory a zároveň osobní možnosti každého ze studujících. (tzn. rodinné zázemí, podpora partnera, omezení zájmových aktivit, schopnost samostatně studovat, vstřícnost a případná použitelnost technického vybavení zaměstnavatele apod.). 2.2
Hodnocení výsledků studia
Dva výše uvedené postupy pro zjišťování efektivity studia (tj. srovnání dosažených cílů s deklarovanými nebo srovnání výsledků dosažených v rámci různých forem studia téhož učiva) jsou založeny na hodnocení skórů didaktických testů, které ovšem musí vyhovovat několika základním požadavkům. Měly by být standardizované, což ve většině případů nelze splnit. Proto je nutné spokojit se s použitím testů nestandardizovaných, konstruovaných vždy pro daný účel. Popis jejich konstrukce se ovšem vymyká rozsahu této studie a představuje zcela samostatnou problematiku. Uveďme proto alespoň požadavky, které tyto testy musí obecně splňovat. Požadavky na didaktické testy Základním je požadavek platnosti testu (validity). Čtyři základní kritéria stanoví: • testovaný jev nesmí být zkreslován jinými jevy, pro testování nepodstatnými (například rozsáhlé testy nemusí být platné už proto, že výkony posléze nepříznivě ovlivňuje únava nebo nedostatek času věnovat se všem položkám, hrozby při nesplnění atd.); • testovací technika musí být vhodná pro kontrolu osvojení příslušného jevu (fakta a konkrétní údaje měří verbálně, úroveň rozumových dovedností měří prostřednictvím myšlenkových operací, úroveň psychomotorických dovedností měří při manipulacích atd.); • úlohy v položkách mají pokud možno rovnoměrně (proporcionálně k obtížnosti či významu učiva) pokrývat celý testovaný úsek; • obtížnost zadávaných úkolů má být přiměřená úrovni znalostí. Platnost testu lze zajišťovat především jasnou formulací jeho cíle, podrobnou analýzou učiva, konstrukcí přiměřeného počtu položek, prověřujících všechny analýzou vytipované partie a nezávislou expertízou. Dalším je požadavek spolehlivosti testu (reliability). Ta se vyjadřuje pomocí koeficientu, jehož hodnoty leží v uzavřeném intervalu od 0 do 1. V podstatě měří úroveň náhodných jevů, překrývajících testovaný jev. Za náhodné jevy se považují jak dispozice zkoušeného, tak vnější podmínky a vlivy. Jsou-li (alespoň přibližně) splněny základní6 požadavky, závisí koeficient spolehlivosti testu (r) na počtu položek (p); rozptylu (s2 ) a mediánu dosažených bodových výsledků (m): r = m(p - m) / p . s2 Od testů se očekává spolehlivost vyjádřená hodnotou r = 0,6, popř. vyšší. Bylo totiž zjištěno, že teprve testy vyhovující tomuto požadavku poskytují stejné výsledky i při opakovaném testování. Významným parametrem je obtížnost testu vyjádřená indexem obtížnosti Io = 100 X / Xmax, kde X je aritmetický průměr dosažených bodových skórů a Xmax, je nejvýše dosažitelný skór v testu. Io udává průměrné procento správně vyřešených testových položek a jeho optimální hodnota je 50 %. Při podstatně nižších nebo vyšších hodnotách jde o test příliš obtížný, resp. příliš snadný.7 Citlivost testu určuje, do jaké míry lze rozlišovat mezi jednotlivými výkony. O testu řekneme, že je citlivý, jestliže: • výkony testovaných osob dosahují co největšího počtu možných bodových hodnot (od nejnižšího do nejvyššího), 6
Především Gaussovo normální rozložení výsledků (prostých skórů).
7
Hodnoty indexu obtížnosti podstatně vyšší než 50 % jsou obvyklé v testech základních vědomostí; hodnoty podstatně nižší jsou oprávněné jen v testech sloužících k výběru nejlepších studujících.
- 16 -
Hodnocení kvality a efektivity eL vzdělávání
J. Průcha, J. Míka, H. Zlámalová
•
jsou symetricky rozloženy kolem aritmetického průměru, přičemž výskytu extrémů (nejnižších i nejvyšších bodových hodnot) strmě ubývá. Citlivost testu se pak vyjadřuje indexem: it = sx, / X , kde X je aritmetický průměr dosaženého skóru v testu a sx je směrodatná odchylka skórů. Index citlivosti má být roven nebo větší než 0,25. Objektivnost testu se týká především hodnocení dosažených výsledků, jež má být propracováno tak, aby každý hodnotitel přiřadil stejnému výkonu tentýž bodový skór. Objektivnost testu závisí na jeho obsahu a technice hodnocení. Každý test by měl být sestaven tak, aby: • existovala proporcionalita mezi závažností a rozsahem učiva a počtem i obtížností položek; • byla stanovena přesná kritéria pro hodnocení správnosti, popř. neúplnosti odpovědí (výkonů8). Z grafu (resp. polygonu) rozložení dosažených skórů (popř. intervalových četostí.9) lze vyčíst další informace: Graf závislosti bodových skórů na různých četnostech jejich výskytu 1 f
4
3
2 X Vychází-li rozložení skórů příliš „úzké“ (1), potom test nerozlišuje mezi kvalitou výkonů (neboť dosažené výsledky se hromadí kolem průměru). Při příliš „širokém“ rozložení (2), rozlišuje test naopak jen v rámci průměrných výkonů. Posun vrcholu křivky směrem k lepším výkonům (3) znamená, že test dobře rozlišuje jen mezi podprůměrnými výsledky a naopak (4). Pokud zkonstruovaný didaktický test vyhovuje všem dříve uvedeným parametrům, lze jeho výsledky se značnou spolehlivostí interpretovat. Didaktický test může při správné manipulaci s výsledky poskytnout cenné diagnostické informace. Testování umožňuje sledovat frekvenci chyb, vhodnost navrženého bodování odpovědí, skórů dosažených nejlepšími i nejhoršími studujícími apod. Vyskytuje-li se např. určitá chybná odpověď velmi často, nehovoří tento fakt ani tak o nedostatcích v práci studujících, jako spíše o nedostatcích výuky (učebnice, skripta). Velký rozptyl výsledků u některých položek s výběrovými odpověďmi může svědčit o tom, že studující hádají (tj. nezvládli určité učivo) apod. Získané poznatky tak pomáhají nahlédnout do celého vzdělávacího procesu a umožňují formulovat platné soudy o jeho kvalitě (efektivnosti). Podrobnější analýza shromážděných dat Druh, povaha a rozsah statistické analýzy údajů, získaných při hromadném ověřování h-textu, (testu) závisejí na možnostech autorů, charakteru prezentovaného učiva a účelu ověřování. Postup nelze stanovit jednotně a závazně. Proto je dále k tomuto tématu připojeno jen několik poznámek. 8
Z tohoto hlediska je nejjednodušší situace při zadávání výběrových odpovědí. Je-li jednoznačně a srozumitelně formulováno zadání (otázka), je také možné jednoznačně určit, která z nabízených odpovědí je (zcela) správná, chybná, popř. neúplná. Objektivnost posuzování výkonu je tak maximalizována a je prakticky nezávislá na osobě hodnotitele (pokud je přiložen klíč správných odpovědí, resp. voleb).
9
Tj. četností, vzniklých spojením 2 až 3 sousedních intervalů (pro případ, že jednotlivé frekvence dosažených výsledků nejsou dost početné, popř. vůbec chybějí).
- 17 -
J. Průcha, J. Míka, H. Zlámalová
Hodnocení kvality a efektivity eL vzdělávání
Při pedagogických výzkumech se jen zřídkakdy můžeme spolehnout na to, že shromážděné hodnoty mají Gaussovo rozložení. To platí zejména pro bodování výsledků a pro frekvence správných (chybných) odpovědí v jednotlivých testových položkách. Z toho důvodu se při analýze používají i postupy vypracované pro jiná než tzv. normální rozdělení a jejich konkrétní uplatnění je vhodné konzultovat s odborníkem. Dále stojí za úvahu, že aritmetický průměr není jedinou střední hodnotou a medián, modus či harmonický průměr mohou charakterizovat rozdělení dat z dalších hledisek. Podobně je tomu při výpočtech rozptylu a standardní odchylky. Mírou rozptylu může být i šířka variance, udávající rozdíl mezi statisticky zjištěnou největší a nejmenší hodnotou proměnné veličiny. Dosahuje-li standardní odchylka příliš velkých hodnot, přestává být reprezentantem střední hodnoty a nelze mluvit o alespoň přibližně normálním rozdělení. Proto se někdy užívá koeficientu variability: v = (s / x ) . 100 kde s je standardní odchylka a x je aritmetický průměr dosažených skórů. Koeficient variability nabývá různého významu podle toho, představuje-li hodnota aritmetického průměru malé nebo naopak velké číslo. Zavedení Spearmanova koeficientu pořadové korelace zdánlivě snižuje význam regresní analýzy (jež by měla předcházet analýze korelační - pokud se pro ni rozhodneme). I když výpočet Spearmanova koeficientu není vázán na linearitu závislosti mezi korelovanými hodnotami veličin, je cenné přesto uskutečnit regresní analýzu, neboť může odhalit povahu takové závislosti. Mnoho psychických procesů i vztahů, vyplývajících z teorie informace, je totiž exponenciálního charakteru (a může být vyjádřeno inverzními logaritmickými funkcemi). Zvláštní pozornost zasluhuje formulace a ověřování hypotéz, tj. empiricky vyvozených předpovědí určité závislosti mezi sledovanými jevy nebo určitých zobecnění. Žádná výpověď vyplývající ze statistického šetření však není absolutně platná. Na libovolně přesně zvolené hladině významnosti se můžeme při přijímání nebo zamítání hypotéz dopustit chyb, tj. přijmout hypotézu, ačkoli je chybná, nebo naopak zamítnout hypotézu, ačkoli je platná. Zvolená vyšší hladina významnosti neodstraňuje, ale pouze snižuje riziko takového omylu (viz např. P. Říčan: Úvod do psychometrie. Bratislava, Psychodiagnostické a didaktické testy, n.p. 1980). Efektivita výuky Při zjišťování dosaženého efektu výuky eL je možno použít dvou forem srovnání: • srovnávání s referenční skupinou, jestliže cíle výuky jsou v obou případech stejné a odhlédnout od rozdílného složení studentů i podmínek studia. • porovnávání výchozího a konečného stavu téže skupiny studujících. Vhodným metodickým nástrojem jsou Huberova kritéria G (M. Řešátko: Didaktické testy ve školní praxi. SNTL, Praha 1974): a) % G(I) = 100 (Xvt /Xmax) kde Xvt je studujícím dosažené bodové skóre ve výstupním (vt) testu a Xmax je maximálně dosažitelné skóre v tomto testu. Chceme-li měřit (lépe řečeno kvalifikovaně odhadovat) efektivitu učení v celé skupině, vypočítáme aritmetický průměr G(I). Druhé Huberovo kritérium efektivity zahrnuje úroveň studujícího s ohledem na počáteční stav vědomostí a měří tak relativní zisk (anglicky gain): b)
% G(II) = 100 (Xvt - Xpre) / Xmax
kde Xpre je bodové skóre dosažené ve vstupním testu, jehož hodnota se odečítá od skóru dosaženého ve výstupním testu, (přičemž vstupní test musí být ekvivalentní formou výstupního testu - pouze za takových okolností je zjištěný výsledek přijatelným kritériem účinnosti učení). Obdobně jako v předcházejícím případě se skupinový efekt odhaduje jako aritmetický průměr všech individuálně dosažených hodnot G(II). Za nejspolehlivější ukazatel efektivity učení je považováno třetí Huberovo kritérium: c) % G(III) = 100 (Xvt - Xpre) / (Xmax - Xpre)
- 18 -
J. Průcha, J. Míka, H. Zlámalová
Hodnocení kvality a efektivity eL vzdělávání
I zde se aritmetický průměr zjišťuje z individuálně dosažených hodnot G(III). Tím, že se Xpre odečítá i od hodnoty Xmax, je zavedena nejen oprava na vědomosti, které si studující osvojil již před zahájením příslušné části výuky, ale také změna „normy“, kterou je maximálně dosažitelný skór. Kromě údajů o relativním efektu učení je možné - avšak mnohem složitější - získat důležité informace o výsledcích učení také pomocí korelací a analýzy rozptylu. Zkoumání vzájemných závislostí mezi výsledkem vstupního a výstupního testu, výsledků těchto testů s výsledky z průběžných testů, všemi těmito výsledky a výsledky retenčních testů, dosažených výsledků a času potřebného ke studiu - to vše umožňuje vnikat do složitého procesu lidského učení a shromažďovat informace pro optimalizaci jeho řízení v systému eL. I zde platí, že měření efektivity lze zautomatizovat a zahrnout do souboru výpočtů týkajících se hodnocení účinnosti. 2.3
Hodnocení výpovědí studujících
Pozornost je třeba věnovat zejména anketám, vyplňovaným na závěr studijního programu (kurzu, modulu) studujícími a absolventy, přestože jejich význam nemusí být zcela jednoznačný (viz též 1.3.3). Solidně vypracované ankety se blíží Kirkpatrickovu modelu dotazníku (D.L. Kirkpatrick: Evaluating Training Programmes., Berrett-Koehler Publishers, NY 1998), který v poměrně malém počtu položek zjišťuje: - obsah a cíl tréninku; - původní očekávání klientů; - individuální motivace ke studiu (zájem studovat zvolené téma, resp. obor); - přiměřenost času na plnění úkolů a studium; - přínos z hlediska vykonávaného povolání; - úroveň studijních materiálů a audiovizuálních pomůcek; - úroveň diskusí; - úplnost souboru témat; - hodnocení kurzu jako celku. - kvalitu tutora (lektora). Každá z položek může být např. škálována pětibodovou stupnicí a stanovují se limity průměrných hodnot každé z položky, kdy je nutné navrhnout změny v té oblasti eL, které se týkají. Většina položek může být doplněna poznámkami (připomínkami, náměty) otevřených odpovědí respondentů, které se pak vyhodnocují z hlediska hromadnosti (frekvence výskytu). Bez ohledu na rozsah výběru se doporučuje věnovat pozornost námětům, vyskytujícím se více než 3 krát10. Pro odhad efektivity studia lze použít i anket a řízených rozhovorů, mapujících studijní „zázemí“ účastníků. eL je vhodná forma studia především pro osobnostně vyzrálé a silně motivované jedince. Vyžaduje totiž píli, pečlivost, pravidelnost, cílevědomost a jisté odříkání. Předpoklad dobrých studijních výsledků se může odrazit i v odpovědích na otázky typu: • Chcete studovat především proto, abyste si udržel/a/ nebo zlepšil/a/ pracovní zařazení? • Je pro Vás doklad o absolvování studia nezbytný? • Studujete raději sám /sama/ než společně s někým? • Odvykl/a/ jste již studiu? • Měl/a/ jste ve škole obtíže s osvojováním čtení nebo psaní? • Čtete pravidelně a hodně? • Máte na čtení málo času? • Vyjdou Vám v práci se studiem vstříc? • Zbývá Vám dost času na rodinné, popř. ryze osobní záležitosti? • Budete moci část pracovní doby věnovat studiu? • Mají Vaši nejbližší proti Vašemu studiu námitky? • Může Vám studium zkomplikovat osobní vztahy? 10
Vhodným doplněním Kirkpatrickova dotazníku je položka, zjišťující prospěch respondenta v příslušném studijním oboru (kurzu, modulu, předmětu). Podle toho a v souvislosti se stupněm motivace ke studiu lze přidělit váhu (významnost) případným kritickým připomínkám. (To umožňuje i při anonymitě ankety zjistit požadované údaje.)
- 19 -
J. Průcha, J. Míka, H. Zlámalová
Hodnocení kvality a efektivity eL vzdělávání
Máte vyřešenou otázku přístupu k počítači? Cítíte se často přepracován/a/? Děláte si často starosti o své zdraví? Příslušné odpovědi (ANO - NE) lze bodovat a výsledek interpretovat jako velmi dobré / přijatelné / problematické předpoklady úspěšnosti studia (samozřejmě v závislosti na dalších zjištěních) - ukázku viz PŘÍLOHA 1. 11 • • •
2.4
Hodnocení finanční a ekonomické stránky eL
Při hodnocení efektivity eL je k ukazatelům kvality mnohdy účelné přiřadit i ekonomické hledisko, zahrnující porovnání pokud možno veškerých nákladů, spojených s různými formami studia téhož (nebo velmi blízkého) oboru. Rozdílná hlediska odpovídají rozdílné pozici studujícího, platícího školné a instituce, která školné přijímá. Školné v DiV a eL Je nepochybné, že určité studijní programy jsou pro některé uchazeče finančně nedostupné a bylo by proto žádoucí zvažovat nějaký systém opatření, který by sociální exkluzivitu studia mohl v některých případech zmírnit. Neuvažujeme-li přímo o stipendiích pro obzvláště nadané a slibné uchazeče, je jedním z možných prostředků, jak snížit výdaje, nabídka méně nákladných studijních opor nebo případné nahrazení prezentace některých fakultativních předmětů dostupnější, byť i zastaralejší technikou či tištěnou literaturou. Náklady institucí Při hodnocení efektivity různých forem studia je nutné přihlédnout samozřejmě také k finančním nákladům. Veřejné vysoké školy (VŠ) jsou financovány převážně ze státního rozpočtu prostředky, určenými na investiční a neinvestiční výdaje. Vzdělávání se týkají neinvestiční výdaje. Jsou přidělovány normativně, podle počtu studentů a v předepsané struktuře jsou rozděleny na: • výdaje na vzdělávání (vzdělávací proces); • výdaje na výzkum a vývoj; • výdaje na koleje a menzy; • ostatní výdaje (režie, odpisy, údržba, opravy, neinvestiční nákupy, fakturované služby). Přitom výdaje na vzdělávání tvoří podstatnou část neinvestičních výdajů, představující v průměru 77 % (od zhruba 53 % na VŠCHT Praha až po 96 % na pražské AMU)12. Neinvestiční výdaje jsou ročně navyšovány zhruba o 10 % v souladu s tím, jak stoupá počet studentů, a v roce 2003 činily 9, 616 161 miliard Kč. Základem pro rozdělení této částky jednotlivým VŠ je normativ a koeficient ekonomické náročnosti příslušného studijního programu. V roce 2003 činil normativ 30 100,- Kč na studenta za rok a koeficienty náročnosti studia se pohybovaly od 1,00 do 3,5. Zhruba platí, že pro humanitní zaměření činí koeficient 1,00 až 1,20 (tj. 30 100 až 36 000,- Kč), pro technická zaměření 1,65 (50 000,- Kč) a pro přírodovědná zaměření 2,25 (68 00,- Kč) na studenta za rok13. (Podle zákona není normativní rozdíl mezi prezenční a distanční, resp. kombinovanou formou studia.) Kromě státních dotací (které mohou být jednotlivým VŠ v odůvodněných případech ještě zvýšeny) získávají VŠ další zdroje příjmů na výzkum a vývoj (granty, projekty) a také z vedlejší hospodářské činnosti (pronájmy kolejí, pozemků i budov apod.). Z nich mohou část použít pro zvýšení neinvestičních výdajů. V celkových nákladech na vzdělávání se nicméně tyto příjmy projevují v zanedbatelné míře, a proto od nich v dalších úvahách odhlížíme.
11
Při elektronické prezentaci je dotazník upraven pro automatické vyhodnocení a tomu přizpůsoben i jeho text.
12
Zdroj: CEDR za rok 1999. Přičemž platí, že hlavní objem rozdílu připadá na výzkum (který je v technických a přírodovědných oborech nákladnější).
13
Podle www.msmt.cz. Výjimkou je studium medicíny a uměleckých oborů, kde koeficient ekonomické náročnosti studia dosahuje hodnot 2,8 až 3,5.
- 20 -
J. Průcha, J. Míka, H. Zlámalová
Hodnocení kvality a efektivity eL vzdělávání
Soukromé VŠ jsou v zásadě financovány ze školného, které kolísá od zhruba 30 000,- Kč za rok (Evropský polytechnický institut Kunovice, s.r.o.) až po 87 000,- (Anglo-americká VŠ Praha, o.p.s.) ročně14. Pokud tyto VŠ organizují také distanční nebo kombinovanou formu studia, je školné asi o 1/3 nižší. Z toho je patrné, že se výdaje na denní studium na veřejných a soukromých VŠ výrazně neliší. Podstatný rozdíl je v tom, že na soukromých VŠ je výše školného určována nejen ekonomickou náročností studia, ale také atraktivitou studijního programu (reflektující zájem o ně). Vzhledem k tomu, že soukromé VŠ nejsou povinny informovat veřejnost o jednotlivých položkách svého rozpočtu, lze se v této souvislosti jen dohadovat, jaká část školného připadá na neinvestiční výdaje a jaká část z toho představuje skutečné náklady na vzdělávání. Pro srovnání finančních nákladů denního studia a eL proto doporučujeme použít příslušné části neinvestičních nákladů té veřejné VŠ a toho studijního programu, který je aktuálně předmětem zájmu, navýšené o ostatní neinvestiční výdaje vykazované v souvislosti se studiem (zejména odpisy budov vč. účelových zařízení)15. Tento údaj je snadno a každoročně dostupný. Také u eL nelze započítávat náklady na vybudování „virtuální univerzity“, ani náklady spojené s nákupem (a lokalizací) či vytvořením příslušného studijního programu. Tyto výdaje se totiž nezahrnují ani do nákladů denního studia (v obou případech jde o investiční prostředky). Část neinvestičních nákladů spojených se vzděláváním je však třeba zvýšit o amortizaci serverů, browserů a dalšího hardware i software podmiňujících výuku v systému eL. Odpisy budov, včetně účelových zařízení (existují-li vůbec), mohou u eL představovat podstatně nižší částky. Ke srovnání nákladů na prezenční studium určitého studijního programu nebo kurzu s analogickým programem či kurzem v rámci eL lze tedy doporučit následující postup: a) Zvolí se veřejné VŠ, které denní studium v daném oboru poskytují a zjistí se ta část neinvestičních nákladů (normativně dotovaných státem), která je ve struktuře výdajů na vzdělávání určena; pokud se u vybraných škol tyto částky liší, vypočítá se jejich vážený průměr (vzhledem k počtům vykazovaných studentů). K výdajům se připočítá i alikvotní část ročních odpisů těch zařízení, která jsou k výuce nezbytná. b) Při zjišťování výdajů na vzdělávání v systému eL se postupuje v zásadě stejně. Vyšší odpisy za nákladnější zařízení s poměrně krátkou životností jsou zpravidla více než kompenzovány nižšími odpisy z nemovitostí. Výdaje na vzdělávání v tomto případě nerostou lineárně, ale s přibývajícím počtem studentů relativně klesají. Srovnání je tím kvalifikovanější, čím jsou zkoumané programy (kurzy) obsahově bližší. Dá se očekávat, že náklady na vzdělávání v systému eL - i přes zmíněné navýšení - mohou být jednotkově levnější, a to vzhledem k mnohem nižší režii (popř. i výši odpisů) a relativně velkému počtu studentů připadajících na jednoho tutora. K odhadům lze použít nákladové funkce (modelová ukázka následuje).
14
Jak na vysokou školu. Praha, CSVŠ a MŠMT, 2003. Výjimku představuje pražská pobočka Univerzity of NY se školným přesahujícím 120 000,- Kč ročně.
15
Pokud jsou v majetku příslušné vzdělávací instituce.
- 21 -
Hodnocení kvality a efektivity eL vzdělávání
J. Průcha, J. Míka, H. Zlámalová
Nomogram nákladů na vzdělávání v závislosti na počtu studentů a ekonomické náročnosti studia NEI na vzdělávání + odpisy (mil. Kč)
3,5* 60
2,8* 50
2,25* eL 40
1,65* eL 1,20*
30
1,00* 20
10 odpisy Počet studentů 100
200
300
400
500
* Čísla vyjadřují koeficienty ekonomické náročnosti denního studia na veřejných vysokých školách, jimiž se násobí základní normativ na studenta (v r. 2003 byl stanoven na 30 100,- Kč). Přímkami je vyznačen (lineární) nárůst nákladů denního studia, křivkami nelineární nárůst nákladů na eL. (Izopléty nomogramu nevycházejí z počátku souřadné soustavy vzhledem k odpisům i dalším neinvestičním nákladům, které je třeba odvádět bez ohledu na to, zda probíhá výuka.) Poznámky: - zatímco přímkové izopléty zobrazují skutečnou situaci v r. 2003, obě nelineární izopléty jsou do nomogramu superponovány pouze modelově. Obě naznačují meze rozptylu nákladů na eL v závislosti na náročnosti studia (povinné tutoriály, počet předepsaných samostatných prací, finanční projekce, míra kvalifikace i počet tutorů apod.). - z nomogramu je rovněž zřejmé, že u finančně méně náročných studijních programů je jejich transformace do eL systémů z ryze ekonomického hlediska neúčelná; přesto pro ni mohou být i jiné důvody. (Oboustranné šipky označují průsečíky rovnosti nákladů srovnávaných forem studia v závislosti na počtech studujících.) - skutečnost, že distanční a kombinované studium dokončuje významně méně studujících než těch, kteří studují v rámci denní formy studia (na veřejných, státních i soukromých vysokých školách), nemá na náklady s tím spojené prakticky žádný vliv.
- 22 -
J. Průcha, J. Míka, H. Zlámalová
Hodnocení kvality a efektivity eL vzdělávání
ZÁVĚR Dělící čára mezi různými „generacemi“ DiV- a tedy i jeho nejvyšší formou eL - se s rozvojem vzdělávacích technologií stále posouvá. Ukazuje se přesto, že eL lze dnes od jiných forem DiV odlišit. Pokusili jsme se rámcově přiblížit některé otázky hodnocení eL a nyní je stručně zrekapitulujeme. 1. Vzhledem k určité smíšenosti kontaktních a distančních forem je nutné počítat s jistým překrýváním. Pro rozlišení forem DiV a eL pokládáme za nutné určit nejen technické prostředky sdělování, ale i podíl kontaktní účasti pracovníků vzdělávací instituce na realizaci studijního programu. 2. Pro hodnocení kvality eL jsou určující postupy provádění akreditací. Nejde přitom o hodnocení instituce jako takové, protože by mohlo docházet k znevýhodňování nově vznikajících institucí. Otázkou především je, zda užité technické a metodické (didaktické) postupy umožňují splnění proklamovaných cílů. Akreditace proto vyžaduje účast nejen odborníků příslušného oboru, ale i odborníků na DiV a eL. 3. Doposud chybějícím článkem je hodnocení efektivity studia. Tj., zda realizace vzdělávacího programu splňuje požadavky akreditace. Tato otázka má dvě stránky: a) jak hodnotit průběh eL studia? b) čím je průběh studia možné objektivizovat? Odpovědi vyžadují podrobnější rozpracování, které přesahuje rámec této studie. Jde o určení toho, jaké má být složení hodnotící komise, určení funkcí jednotlivých členů a předsedy, způsoby shromažďování dat a jednání s představiteli vzdělávací instituce, způsoby, jak dospět k závěrům a jaké důsledky mají ze závěrů vyplývat. Pokud jde o samotný průběh studia, je to otázka přijímání studujících s ohledem na charakteristiku cílové skupiny, otázka hodnocení průběžných i závěrečných testů, hodnocení kvality poskytované dodatečné pomoci (pokud se ukáže její potřeba) i otázka dokumentace průběhu studia pro možnost revizí programu. LITERATURA EGER, L.: E-learning, evaluace e-learningu + případová studie z projektu COMENIUS. Plzeň, ZUČ 2004 HRABAL, V., LUSTIGOVÁ, Z., VALENTOVÁ, L.:Testy a testování ve škole. Praha, PedF UK, 1992 KIRKPATRICK, D., L.: Evaluating Training Programmes. NY, Berrett-Koehler Publishers 1998 KOLEKTIV: Jak na vysokou školu. Praha, CSVŠ a MŠMT 2003. MELEZINEK, A.: Inženýrská pedagogika. Praha, ČVUT 1994 MORLEY, L.: Quality and Power in Higher Education. Society for Research into Higher Education, Open University Press, 2003 PETŘKOVÁ, A.: Úvod do tvorby srozumitelného textu. In: Kombinovaný kurz vysokoškolské pedagogiky pro inženýry-učitele podle evropského standardu IGIP; Praha, CSVŠ 2002 (CD nosič) PRŮCHA, JAN: Učebnice teorie a analýzy edukačního média. Brno, Paido 1998 PRŮCHA, JIŘÍ: Výukový h-text v distančním vzdělávání. Praha, CSVŠ 2001 ŘEŠÁTKO, M.: Didaktické testy ve školní praxi. Praha, SNTL 1974 ŘÍČAN, P.: Úvod do psychometrie. Bratislava, Psychodiagnostické a didaktické testy, n.p. 1980 ŠIMONOVÁ, I., ŠTEFANČÍKOVÁ, A..: e-Learning v kontextu komparace s face-to-face výukou. Příspěvek na konferenci Inováciami k plurilingvismu. Nitra: UKF, 2004 (v tisku)
DEALL (Distance Education about Life-long Learning) mezinárodní projekt Socrates-Grundtvig 2003; modul 10/Jose A. Campos, Isabel Bueso: Quality in eLearning EDEN - The European ODL Liaison Committee: DL and eL in European Policy and Practice. (http://www.odl-liaison.org/pages.php?PN=policy-paper_2004) webové stránky MŠMT (červen 2004)
- 23 -
J. Průcha, J. Míka, H. Zlámalová
Hodnocení kvality a efektivity eL vzdělávání
PŘÍLOHY
PŘÍLOHA 1
PŘÍLOHA 1 - 24 -
J. Průcha, J. Míka, H. Zlámalová
Hodnocení kvality a efektivity eL vzdělávání
Máte předpoklady studovat distančně? Distanční forma studia je určena osobnostně vyzrálým a silně motivovaným jedincům. Pokud to jdete „jen zkusit“, je velmi malá pravděpodobnost, že budete úspěšní. Tato forma studia totiž vyžaduje velkou píli, pečlivost, pravidelnost, cílevědomost a odříkání. Připravili jsme pro Vás malý dotazník, který by Vám mohl orientačně pomoci při rozhodování, zda jste vhodnými adepty distančního studia.
Dotazník pro zájemce o distanční studium1 (Dobře uvažte každou svou odpověď a pak ji zakroužkujte. Pouze pravdivost Vašich odpovědí umožní hodnověrné hodnocení, na kterém máte jistě zájem.) 1. Chcete studovat především proto, abyste si udržel/a/ nebo zlepšil/a/ pracovní zařazení?
ANO
NE
2. Je pro Vás doklad o absolvování studia nezbytný?
ANO
NE
3. Studujete raději sám /sama/ než společně s někým?
ANO
NE
4. Odvykl/a/ jste již studiu?
ANO
NE
5. Měl/a/ jste ve škole obtíže s osvojováním čtení nebo psaní?
ANO
NE
6. Čtete pravidelně a hodně?
ANO
NE
7. Máte na čtení málo času?
ANO
NE
8. Vyjdou Vám v práci se studiem vstříc?
ANO
NE
9. Zbývá Vám dost času na rodinné, popř. ryze osobní záležitosti?
ANO
NE
10. Budete moci část pracovní doby věnovat studiu?
ANO
NE
11. Mají Vaši nejbližší proti Vašemu studiu námitky?
ANO
NE
12. Může Vám studium zkomplikovat osobní vztahy?
ANO
NE
13. Máte vyřešenou otázku přístupu k počítači?
ANO
NE
14. Cítíte se často přepracován/a/?
ANO
NE
15. Děláte si často starosti o své zdraví?
ANO
NE
Nepřecházejte na další stránku, dokud nezodpovíte všechny otázky.
1
Při elektronické prezentaci je dotazník upraven pro automatické vyhodnocení a tomu přizpůsoben i jeho text.
- 25 -
J. Průcha, J. Míka, H. Zlámalová
Hodnocení kvality a efektivity eL vzdělávání
V následujícím klíči odpovídají číslice pořadí jednotlivých položek dotazníku. Klíč hodnocení: 1. ANO; 2. ANO; 3. ANO; 4. NE; 5. NE; 6. ANO; 7. NE; 8. ANO; 9. ANO; 10. ANO; 11. NE; 12. NE; 13. ANO; 14. NE; 15. NE Za každou Vaši odpověď, která se shoduje s tou, která je uvedena v klíči, je přidělen 1 bod. Získané body sečtěte a podle údajů v následující tabulce věnujte pozornost odpovídajícímu konstatování. 0 - 4 body Vaše podmínky pro distanční studium nejsou příliš dobré. Měl/a/ byste znovu uvážit, zda se do něj vůbec pustit. Jak se ukazuje, úspěšné absolvování studia je ohroženo více rizikovými faktory, které jsou do určité míry na Vás nezávislé. Pokud přesto hodláte studovat, zjistěte si, jak rozsáhlou podporu věnuje vzdělávací instituce jednotlivým studujícím a pak znovu zvažte své rozhodnutí.
5 - 9 bodů Počet získaných bodů není sice nejvyšší, ale to Vás nemusí od distančního studia předem odrazovat. K rizikovým faktorům patří obecně čas, který máte pro studium k dispozici, motivace a rodinné, společenské nebo pracovní povinnosti a zájmy. Uvažte proto, jak pracovní zatížení, péče o nezletilé děti, domácnost či nemocnou osobu, rozsah Vašich zájmů, popř. to, jak pociťujete svůj zdravotní stav, ovlivní úspěšnost studia. Promyslete proto, které ze svých povinností můžete přenést na jinou osobu a jakých zájmových aktivit jste ochoten (ochotna) se vzdát ve prospěch studia. Tak lze omezit rizikovost uvedených faktorů (nebo alespoň některého z nich). Půjde-li to, můžete se do studia bez obav pustit.
10 a více bodů Lze konstatovat, že máte velmi dobré podmínky pro distanční studium. Bude záležet jen na Vás, zda je také úspěšně absolvujete.
Závěrem několik poznámek Každé studium něco stojí a nejde přitom jenom o peníze. Máme na mysli celou řadu problémů, z nichž některé budete muset řešit sami a jiné ve spolupráci se vzdělávací institucí. Na následujících řádcích chceme - ve shodě s anketou - upozornit na podstatné skutečnosti, které se v souvislosti s distančním studiem prakticky vždy vyskytují, ale nejsou ještě všeobecně známé.
•
•
Studijní nabídka kurzů i graduálních studijních programů se postupně rozšiřuje, stejně jako počet poskytovatelů. Ověřte si proto, jaká nabídka existuje z hlediska předmětu Vašeho zájmu i potřeb a porovnejte podmínky, za nichž studium probíhá. Všímejte si zejména toho, zda kurz či program jsou akreditovány, nahlédněte do studijních textů a pomůcek, popř. se zeptejte na možnosti uplatnění absolventů. Informujte se o systému podpor studujících - zda vzdělávací instituce má studijní středisko/a/, jaké je technické vybavení, zda poskytuje poradenské služby studujícím, jakým způsobem budete komunikovat s tutorem či konzultantem, jak pružná je organizace studia a jestli s Vámi bude uzavřena smlouva o studiu. V kladném případě se podrobně seznamte s jejími podmínkami.
Ujasněte si svou vlastní situaci: • Jste ke studiu dostatečně silně motivován/a/? Opravdu Vám na něm záleží? Máte pro ně pádné důvody a hlavně - máte dobře ujasněn cíl studia? • Seznámil/a/ jste se s požadavky na zkoušky a samostatné práce? Budete mít přiměřené množství času na studium? Jak jej získáte? Můžete počítat s úlevami v práci a/nebo v domácnosti? Omezíte své zájmové aktivity? • Studijní náklady a ztráta volného času mohou zasáhnout rodinný rozpočet a vyžadovat od Vašich blízkých určité oběti. Jste na to připraveni, aniž podceňujete váhu tohoto rizikového faktoru? • Pokud máte obavy o svůj zdravotní stav nebo se častěji cítíte přepracován/a/, poraďte se s odborníky a nespoléhejte na krátkodobá řešení nebo na svou dosavadní praxi při překonávání těchto potíží. • Ve světle předchozích úvah si ty nejmenší obavy dělejte z toho, že jste (možná) odvykl/a/ studiu, popř. z toho, že jste již dříve měl/a/ s učením určité obtíže. Zní to poněkud paradoxně? Dosavadní praktické zkušenosti takové tvrzení nicméně opravňují. Uvidíte, že organizačně dobře fungující vzdělávací instituce, kvalitní speciální studijní pomůcky, které budete mít k dispozici, a pomoc tutora takové obavy rozptýlí. S Vaším přispěním - samozřejmě.
- 26 -
J. Průcha, J. Míka, H. Zlámalová
Hodnocení kvality a efektivity eL vzdělávání
PŘÍLOHA 2
PŘÍLOHA 2
TEST INDIVIDUÁLNÍ PŘÍSTUPNOSTI DISTANČNÍHO STUDIA (TIPDiS) Abstrakt: Byl sestaven Test individuálního přístupu k distančnímu studiu pro dospělé zájemce o tuto formu studia, zejména z oblasti matematických, přírodních, technických a ekonomických oborů. Test je dán zájemcům o DiV v elektronické podobě a je prezentován počítačem jako hypertext s odlišnými trajektoriemi. Test předkládá úlohy, vyznačující se různými aplikacemi logických pravidel. Ta jsou objasněna v první části testu. Ve druhé části je postupně předkládáno celkem 18 úloh ve dvou řadách, přičemž úlohy druhé řady jsou analogické. Při neúspěšném řešení se poskytuje odstupňovaná pedagogická pomoc, úlohy se mohou řešit opakovaně a zakotvenost aplikací je zkoumána analogickými úlohami. Hodnocení výsledků má celkem 4 úrovně a slovní formou oceňuje různou připravenost testovaných osob k distančnímu studiu. Testování je anonymní a získaná data o testovaných osobách i dosažených výsledcích jsou registrována především pro účely zlepšení a standardizace testu. 1 VÝZNAM A CELKOVÁ CHARAKTERISTIKA TIPDiS je elektronickou variantou testu učení TALP - testu aplikace logických pravidel. Jsou v něm kladeny nároky na užití logických funktorů na základě odstupňované pomoci. Elektronická prezentace úloh má navíc některé přednosti. Jsou jimi diskrétnost, pružnost, automatické předkládání testových položek v různých větvích programu a přesné měření doby řešení. Učení probíhá za pomoci zpětnovazebních informací různého druhu. Pozitivním efektem elektronické prezentace je rovněž pohotová registrace prováděných operací a uchovávání výsledků. Význam užití TIPDiS spočívá především ve zjišťování předpokladů distančního vzdělávání v oblasti matematických, přírodních, technických a ekonomických věd. Tento vztah je zdůvodněn shodnými rysy prezentace testu s obvyklými prostředky prezentace materiálů distančního vzdělávání, v nichž častěji převládá prezentace informací ve vizuální podobě. Užití informačních technologií (IT) v distančním vzdělávání je přitom širší než nároky kladené TIPDiS. 2 INDIVIDUÁLNÍ PŘÍSTUPNOST DISTANČNÍHO STUDIA Výsledky učení jsou vždy v nějakém poměru ke způsobům pedagogické pomoci. Nemohou tedy přímo ukazovat na předpoklady učení jedince, ani na kvalitu pedagogické pomoci. Užíváme proto pojem individuální přístupnost k distančnímu studiu, který svým způsobem zahrnuje oba aspekty. V TIPDiS nelze sice vyloučit vliv rozdílných jazykových předpokladů, na druhé straně však je možné - u úloh se stejným typem řešení - zaručit rovné podmínky v poskytování pedagogické pomoci, pokud se zjistí, že ji testované osoby potřebují. Pedagogická pomoc je při testování určena pro ty testované osoby, které nesplní výchozí úlohu určitého typu zadání a obtížnosti (řady A). Tato pomoc je přitom odstupňována. Nejprve je testované osobě poskytována zpětná vazba, potvrzující správnost nebo chybnost provedeného řešení spolu se slovním zdůvodněním. Pokud tato pomoc nestačí a testovaná osoba opakovaně nevyřeší úlohu bezchybně, je poskytnut výklad řešení úlohy, v němž je řešení rozloženo na jednotlivé operace, které jsou postupně, podle dílčích otázek, objasněny. Zvyšuje se tak pravděpodobnost, že testovaná osoba bude schopna dospět ke správnému řešení úlohy analogické (řady B) vzhledem k úloze výchozí (řady A). V testu jsou u úloh stejného typu vždy čtyři situace, které se liší pedagogickou pomocí. V první situaci (úlohy řady A) a čtvrté situaci (úlohy řady B) je zadání prezentováno bez pedagogické pomoci a zpětných informací. Ve druhé situaci je poskytována „nápověda” a ve třetí situaci metodika postupu, „výklad řešení”. Pokud testovaná osoba splní bezchybně úlohu
- 27 -
J. Průcha, J. Míka, H. Zlámalová
Hodnocení kvality a efektivity eL vzdělávání
v první situaci, je jí přímo prezentována situace čtvrtá. V tomto případě je možné zjišťovat případnou časovou úsporu řešení. Rozdíl mezi řešením v první a čtvrté fázi prezentace úlohy může v tomto případě ukazovat na změny kvality řešení v důsledku učení. 3 HODNOCENÍ EFEKTIVITY UČENÍ V TESTU Testové výsledky učení se musí vždy vztahovat k druhu poskytované pomoci. Efektivita učení v TIPDiS se proto vztahuje k pedagogické pomoci ve zmíněných situacích. Neúspěšnost v testu tak nemusí znamenat snížené předpoklady učení vzhledem k dané problematice úkolů, ale ukazovat na neúspěšnost pedagogického postupu při osvojování řešení úlohy danými prostředky. Svou roli může např. sehrát i novost situace. Výsledky TIPDiS se proto mohou vztahovat spíše k formě studia. V tomto směru vyžadují dosažené výsledky komplexní zvážení individuálních charakteristik a preferencí uchazečů o studium. 3.1 Ukazatelé efektivity učení V průběhu testu se ukládají následující údaje: a) nejvyšší pořadové číslo úlohy řady B, kterou testovaná osoba vyřešila zcela správně; b) počet úloh řady A řešených zcela správně a bez pomoci; c) počet úloh řady A řešených pomocí předchozí nápovědy; d) počet úloh řady A, u nichž bylo nutné kromě nápovědy poskytnout i výklad řešení; e) počet zcela správně vyřešených analogických úloh (řada B); f) jednotlivé časy všech řešených úloh řady A i B; g) počet chybně řešených úloh řady A, po nichž následovalo zcela správné řešení příslušné analogické úlohy z řady B (označuje se kumulativně jako počet zlepšení); h) celkový čas trvání testu. 3.2 Jednotlivé typy situací z hlediska druhu zpětné vazby Situace řady A: Test vstupní úrovně řešení. Testovaná osoba označuje pole na podnětovém archu zcela samostatně, bez poskytování slovní pomoci a zpětné vazby. Po odeslání navrženého řešení zazní typický zvukový signál ilustrující kvalitu odpovědi. Při správném řešení je správnost potvrzena, řešení ještě názorně ukázáno a testovaná osoba přechází automaticky k analogické úloze řady B (téhož pořadového čísla). Situace řady A s nápovědou: Bezprostředně po chybném řešení se v části vymezené pro komunikaci s testovanou osobou (horní část obrazovky) objeví slovní zdůvodnění chybného výkonu a testovaná osoba řeší tutéž úlohu znovu. Situace řady A s výkladem řešení: Po opakované chybě je předložen výklad správného řešení, a to je názorně předvedeno na podnětovém archu. Testovaná osoba má ještě možnost řešit analogickou úlohu řady B (téhož pořadového čísla), k níž automaticky přechází. Situace řady B: Test efektivity učení. Testovaná osoba označuje pole zcela samostatně, bez poskytování slovní pomoci a zpětné vazby. 4 STRUKTURA TESTU Test má dvě části, z čehož první podrobně objasňuje pravidla a názorně ukazuje jejich aplikaci na zjednodušených podnětových arších. Pokud testovaná osoba nesplní některou z úloh, pokouší se v cyklu (s opakující se nápovědou, popř. návodem) znovu o správné řešení, až se jí podaří (třeba i náhodně) správné řešení nalézt. Cílem tohoto opatření je, aby každý prošel celým „zácvikem”. Po neúspěšné trajektorii „zácvikem” následuje hodnocení, jehož formulace vyjadřuje nižší přístupnost distančního studia. Stejného vyjádření se dostane osobám, které po zácviku nesplní první dvě testové úlohy. Druhá část testu probíhá již popsaným způsobem. Test je větven a může končit celkem na 4 různých úrovních. Tomu je přizpůsoben i text příslušných hodnocení poukazem na možné problémy, které by testované osoby mohly mít při distančním studiu (nižší dosažené úrovně
- 28 -
J. Průcha, J. Míka, H. Zlámalová
Hodnocení kvality a efektivity eL vzdělávání
výsledků), rozptyluje případné obavy ze studia (vyšší úrovně hodnocení) a přímo doporučuje tuto formu studia (nejvyšší úrovně hodnocení). Ukládaná data o průběhu testování různých osob jsou anonymní - zjišťuje se pouze pohlaví, dosažené vzdělání, věková skupin a typ zamýšleného studia. Jejich následné zpracování bude sloužit k odstranění nedostatků, ke zlepšení odhadovaných parametrů a ke standardizaci testu.
- 29 -
Hodnocení kvality a efektivity eL vzdělávání
J. Průcha, J. Míka, H. Zlámalová
Algoritmus průběhu TIPDiS VSTUP
IDENTIFIKACE
H1
Vysvětlivky: A1, A2 atd.; B1, B2 atd. - čísla testových úloh CH - chybné řešení; S - správné řešení NÁPOV - nápověď testované osobě; H - hodnocení
ZÁCVIK
CH S
A1
CH
NÁPOV
CH
A1
ŘEŠENÍ A1
CH
B1
S
H2
S CH
B1 S A2
CH
NÁPOV
ŘEŠENÍ A2
CH
A2
S
B2
CH
H2
S B2
CH
A9
CH
NÁPOV
A9
ŘEŠENÍ A9
CH
S
B9
S S
CH
CH
H3 H4 H3
B9 -30-
J. Průcha, J. Míka, H. Zlámalová
Hodnocení kvality a efektivity eL vzdělávání
PŘÍLOHA 3
PŘÍLOHA 3 Metodické poznámky pro autory studijních opor
Úspěšnost samostatného studia z multimediálních pomůcek je možné zajistit pečlivou týmovou spoluprací. Zjišťování kvality je nutné vždy, ale vhodné studijní prostředí a výukové materiály mohou předejít mnoha nedostatkům, jež bývá nutné dodatečně odstraňovat často i s nemalými náklady a časovými prodlevami. Kvalifikovaný marketink vzdělávacích potřeb a přesné vymezení cílových skupin je jen prvním krokem. Pak by měla následovat týmová spolupráce (autorů i dalších odborníků) na celém kurzu či vzdělávacím programu, řízená zkušeným manažérem. (Všichni autoři studijních opor by měli projít speciální přípravou.) Nejdříve by měl být sestaven profil absolventa, vstupní požadavky na dovednosti a vědomosti uchazečů o studium a na základě toho stanovena osnova kurzu (programu). Profil a osnova jsou východiskem pro stanovení jednotlivých modulů (předmětů). Zde pokračuje týmová spolupráce autorů vymezením obsahu a struktury učiva tak, aby se respektovala návaznost učiva, nedocházelo k nefunkčním duplicitám a k opominutím důležitých partií. Projekty jednotlivých modulů (předmětů) mají být síťově znázorněny, podrobeny rozboru a konstruktivní připomínky zapracovány. Součástí této etapy je také dohoda autorů o realizaci: • kontrolovatelných formulacích cílů, • sjednoceného uspořádání dávek učiva, • zpětnovazebních opatření, • testů, • shrnutí učiva, • marginálních poznámek, • témat samostatných prací, • způsobů komunikace a dalších didaktických i organizačních opatření. Důležitou součástí spolupráce je i formální (grafická) úprava výukových textů. Může být vysoce funkční, zlepšovat přehlednost textu a sloužit jako řídicí prvek studia. Patří sem odlišnosti ve velikosti i druhu a tloušťce písma, rámečky, poznámky po stranách odstavců, různobarevnost, stínování pozadí, textové vynechávky (klíčových slov, zkratek, vzorců, veličin, údajů v tabulkách, místa pro poznámky nebo rozsáhlejší tvořené odpovědi apod.). Také různé odrážky odstavců, šipky, hvězdičky, jednoduché geometrické obrazce zlepšují vizuální dojem textu a činí jej přitažlivějším. Všech těchto prostředků je ve studijních oporách vhodné využívat v optimální míře. Pokud je vydávána série učebních textů, doporučuje se zachovat zvolený styl u všech titulů. Jednotná grafická úprava se zejména týká: • Číslování kapitol, podkapitol i oddílů - bývá numerické nebo alfanumerické (abecedně číselné): Numerické Alfanumerické I. ČÁST A PRVNÍ ČÁST 1. Kapitola I. První kapitola 1.1. Podkapitola 1. Podkapitola 1.1.1. oddíl 1. Oddíl 1.1.1.1 pododdíl a) pododdíl Číslování může být nahrazeno značkami – body, kroužky, pomlčkami, hvězdičkami a jinými tvary. • Druhu, velikosti a tloušťky písma v nadpisech i vlastním textu. Nadpisy poutají pozornost k hlavním bodům textu. Ukazují jeho celkovou strukturu. Dobré nadpisy jsou: - stručné (polovina nebo tři čtvrtiny řádku); - výstižné; - vzájemně se vylučující. • Text se zrakově zvýrazňuje, aby upoutal pozornost i méně pozorného čtenáře. Děje se tak různými prostředky a jejich kombinacemi: - druhem písma; - velikostí písma; -31-
J. Průcha, J. Míka, H. Zlámalová
Hodnocení kvality a efektivity eL vzdělávání
- tloušťkou písma; - zarámováním; - změnou (stínováním) pozadí; - barvou písma; - zvukovými nebo jinými efekty (při užití elektronických médií). Volba vyžaduje zvážení účinků na čtenáře. Pokud je účelem dosáhnout návaznosti v prezentovaném textu, volí se umírněné množství systematicky uplatňovaných zvýrazňujících prostředků. Jednotnost grafické úpravy se dále týká: • Počtu mezer v odrážkách odstavců. • Používání rámečků pro zdůraznění určitých partií učiva (např. definic, vzorců, prázdných ploch pro doplnění samostatných odpovědí apod.). • Zařazování klíče správných odpovědí. • Odlišení informativních nebo rozšiřujících (prohlubujících) částí prezentovaného učiva. • Úpravy tabulek, diagramů, grafů, schémat a obrázků (označení, číslování, legendy, popisu). • Vysvětlujících poznámek k textu. • Citací literatury a odkazů. • Používání ikon u dohodnutých částí učebního textu (např. k označení nejdůležitějších částí učiva, kontrolních otázek, testů, shrnutí, zadání samostatných prací, témat určených k diskusi apod.). eL studium on-line či z h-textů na CD (DVD) nosičích vyžaduje také jednoduchou „navigaci“, resp. orientaci studujících. I ta musí být předmětem dohody všech autorů a zůstat jednotná. Nejvhodnější je pro celý autorský tým sestavit příručku se vzory i příklady konkrétního uplatnění didaktických zásad a sjednocujících pravidel, popř. s elektronickými šablonami a obrazovým tezaurem dohodnutých ikon. Přesto je nepostradatelná funkce jazykového i technického redaktora celé edice elektronických opor, kteří v definitivním znění textů odstraní jazykové nedostatky i případné nedůslednosti ve formálních úpravách. K prvotnímu ověření vhodnosti modulu pro samostatné studium lze doporučit velmi jednoduchý a rychlý postup. Alespoň 2 odborníci (tutoři, lektoři téhož odborného zaměření) se požádají o kritické přečtení textu. Jejich připomínky mohou být cenné zejména z hlediska věcné správnosti, terminologie, didaktického uspořádání obsahu a rozsahu učiva i výběru literatury. Dalším (nebo také souběžným) krokem je předložení textu alespoň 3 potenciálním uživatelům. Jejich připomínky se mohou týkat především srozumitelnosti a názornosti textu, přiměřenosti počtu otázek a úkolů i jejich obtížnosti, přehlednosti textu, grafické úpravy, reálnosti odhadu času potřebného ke studiu aj. Objektivnější jsou výsledky zjištěné následným ověřením účinnosti studijního materiálu v pilotním kurzu alespoň s 15 studujícími, kteří po absolvování modulu (kurzu) vyplní formulář (popř. anonymně), obsahující otázky, které autory nejvíce zajímají. Jde zpravidla o hodnocení teoretických partií učiva, srozumitelnosti a názornosti textu, praktických příkladů a aplikací učiva, témat samostatných prací, grafické úpravy, obsahového uspořádání textu vzhledem k závažnosti nebo menší významnosti zařazených oddílů a popř. další připomínky. Závěrečnou etapou je sepsání úvodního informačního textu pro studující o celém kurzu (studijním programu), včetně profilu absolventa a způsobu studia, sestaveného tak, aby mohl uvozovat všechny moduly (předměty)1.
1
Protože modulová stavba umožňuje sestavovat diverzifikovanou studijní nabídku, je zpravidla nutné tyto informace uvést v záhlaví každého modulu (předmětu).
-32-