Etestování
16.00h,sálB Steda,24.listopadu2010 Brno,hotelVoronž
Úvodem Problematika P bl ik zkvalitování k li á í kontroly k l pípravy í student v rámci výukového procesu s využitím moderních informaních a komunikaních technologií je neustále probírána nejen mezi pedagogy, ale i mezi studenty. Také z tohoto dvodu jsme se rozhodli v prbhu konference MEFANET 2010 uspoádat workshop vnovaný obecn problematice elektronického testování. Teorie, na které je celý proces postaven, je velmi kvalitn zpracována v eských i zahraniních odborných publikacích a vzhledem k jejímu objemu není možné ani cílené probrat vše do detailu. detailu Primární motivací je seznámení úastník s obecnými principy evaluaního procesu a rozkrýt situaci z pohledu etestování na jednotlivých lékaských fakultách zapojených do sít MEFANET. Workshop Elektronické testování nabídne mimo praktické ukázky platforem pro ovování á í znalostí l tí napí í sítí ítí MEFANET také t ké úvod ú d do d teoretického t ti kéh pozadí, dí které je pro pípravu kvalitního evaluaního materiálu naprosto klíové. Podrobnji bude rozebrán samotný koncept návrhu testu, metodika vytváení rzných typ otázek i analýza testové agendy reálného kurzu. Zmínny budou také rizikové oblasti a nejastjší úskalí pi využívání elektronického testování j benefit p pro všechnyy zainteresované stranyy ((studenty, y, vyuující, y j , a samozejm vzdlávací instituci, klinickou praxi apod.). V neposlední ad budou diskutovány otázky spojené se zaazením test v rámci jednotlivých fází edukaního procesu a na jejich základ odlišného výstupu i zpsob interpretace vyhodnocených dat. Akcentovány budou požadavky na rozdílný úel využití elektronického testování (hodnocení znalostí, schopnosti k kritického kéh myšlení, šl í samostatnéé práce á pi Problem bl Based d Learningu atd.) d) a sledování vývoje studenta i zmn uebního obsahu. Souástí workshopu bude praktická ukázka vytváení testu v LMS Moodle, kde se úastnící seznámí s nastavením obecných vlastností testu, jednotlivých typ testových otázek a možností Moodle v analýze test. Za organizaní tým Mgr. Martin Komenda MUDr. Jitka Feberová PhDr. Andrea Pokorná, Ph.D.
Program mworkshopuE Etesting
asovýplánworkshopu 16,00 16,10
Komenda,M. Úvoddoelektronickéhotestování
16,10 16.35
Pokorná,A.,Komenda,M. Konceptametodikapinávrhutestovýchotázek
16,35 17,00
Feberová,J. TvorbatestvprostedíMoodle
17,00 17,30
ZástupcifakultnapísítíMEFANET Zkušenostispraktickýmpoužitím
Diskuse
Návštvnícisimohouvcelémprbhukonferencespustitdva ukázkovétestydemonstrujícímožnostielektronického zkoušeníavyužítdiskusníhofóravnovanéhoproblematice testovéagendy.Veškeréodkazyjsoudostupnénaadrese http://www mefanet cz/e testovani http://www.mefanet.cz/etestovani
Teoretickáástworkshopu Úvoddoetestování Komenda,M.
• Úvodníslovo • Pedstaveníprogramuworkshopu • Pedstaveníukázkovýchtest– P d t í ká k ý h t t www.mefanet.cz/etestovani f t / t t i
5min
• Motivace • Využitelnostv Využitelnost v rznýchfázíchvzdlávacíhoprocesu rzných fázích vzdlávacího procesu • Pozitivaanegativaetestování
5 min
Konceptametodika pinávrhutestovýchotázek Pokorná,A.,Komenda,M.
• Metodikapitvorbtestovýchotázek • Testovacíagenda • Analýzatestovýchpoložek
25 min
Praktickáástworkshopu TvorbatestvprostedíMoodle Feberová,J.
• • • •
Obecnánastavenítestu TypytestovýchúlohvMoodle CvinátvorbatestuvMoodle PoložkováanalýzatestvMoodle
25min
Celátatosekcebudevedenapraktickynapoítaích p y p
Zkušenostispraktickýmpoužitím ZástupcifakultnapísítíMEFANET
• • • • •
LFUP– J.Potomková,V.Mihál LFPUK– T.Junekk LFUPJŠ– J.Majerník 2.LFUK– J.Feberová LFMU– M.Komenda
• Diskuse
25min
5 min
Elektronické testování Martin Komenda, Jitka Feberová, Andrea Pokorná
V V průběhu workshopu… ůběh kh ⌐ Různá prostředí pro testovou agendu Moodle M dl Informační systém MU
⌐ Diskusní fórum Diskusní fórum ⌐ www.mefanet.cz/e‐testovani MEFANET 2010 – workshop Elektronické testování
Uká k ý Ukázkový test v Moodle Ukázkový test v M dl Moodle
MEFANET 2010 – workshop Elektronické testování
Ukázkový test v IS MU Uká k ý IS MU
MEFANET 2010 – workshop Elektronické testování
Di k í fó Diskusní fórum
MEFANET 2010 – workshop Elektronické testování
„test““ ⌐ 557 000 000 ⌐ z latinského „testum z latinského „testum“ ⌐ „didaktický test“ = nástroj systematického j ý ý y zjišťování výsledků výuky
MEFANET 2010 – workshop Elektronické testování
M i Motivace ⌐ Proč elektronické testy používat Efektivní klasifikace vědomostí Na základě výsledků lze odstranit zjištěné nedostatky ve výuce i v samotné koncepci nedostatky ve výuce i v samotné koncepci testu
MEFANET 2010 – workshop Elektronické testování
Využitelnost v různých fázích vzdělávacího procesu ⌐ Ověření vstupních osvojených znalostí ⌐ Prověření znalostí před samotnou ústní zkouškou – selekce studentů ⌐ Průběžné opakování znalostí studenta v průběhu výukového cyklu průběhu výukového cyklu ⌐ Ověření výstupních znalostí ‐ po absolvování stážích nebo kurzu
MEFANET 2010 – workshop Elektronické testování
P ii Pozitiva ⌐ Úspora času ⌐ Rychlost a přehlednost výsledků ⌐ Zajištění objektivity ⌐ Možnost zkoumat širší oblast látky ⌐ Náhodné generování testů g ((dostatečná základna, kriteria) , ) MEFANET 2010 – workshop Elektronické testování
P ii Pozitiva ⌐ Eliminace oblíbenosti/neoblíbenosti ⌐ Evidence statistik odpovědí ‐ refreshment ⌐ Lze odlišit studenty podle výkonu ⌐ Poskytují zpětnou vazbu pro pedagoga Poskytují zpětnou vazbu pro pedagoga ⌐ Sebetestování S b á í MEFANET 2010 – workshop Elektronické testování
N Negativa i ⌐ Počítač nikdy nenahradí osobní kontakt ⌐ Obtížnost vytvořit opravdu „dobrý“ test ⌐ Nároky na technické vybavení Nároky na technické vybavení ⌐ Negativní pohlížení na moderní IT ‐ nedůvěra
MEFANET 2010 – workshop Elektronické testování
N Negativa i ⌐ Počítačová gramotnost uživatelů ⌐ Ne každému studentovi elektronické testy vyhovují ⌐ Nemožnost testování některých dovedností ⌐ Poruchy učení (dysgrafie, dyslexie, atd.) y ( yg , y , ) MEFANET 2010 – workshop Elektronické testování
„Didaktické testy jsou v pedagogické práci významnou diagnostickou metodou, ale nemají být jedinou metodou používanou pro stanovení klasifikace.“ ží í kl f k “ Prof. PhDr. Rudolf Kohoutek, CSc.
„Hlavním důvodem, proč se učitel vyhýbá objektivním testům, je ovšem nezvyk, vliv tradice, v níž byl vzděláván, a požadavek na osvojení si nových metod a postupů osvojení si nových metod a postupů.„ Prof. RNDr. Stanislav Komenda, DrSc.
MEFANET 2010 – workshop Elektronické testování
Koncept a metodika při tvorbě testových otázek Andrea Pokorná
Koncept a metodika při tvorbě testových otázek ři bě ý h á k Elektronické testování
otázky
úlohy
MEFANET 2010 – workshop Elektronické testování
M Metodika při tvorbě testu dik ři bě ⌐ Plánování ⌐ Konstrukce ⌐ Ověření
MEFANET 2010 – workshop Elektronické testování
Metodika při tvorbě testových úloh ý h úl h Algoritmus procesu přípravy testování – klíčové oblasti ‐ ‐ ‐ ‐ ‐ ‐
pedagogická diagnostika studijní skupiny druh a perioda výukového procesu účel testu – cíle testování formát a styl testových úloh využití výsledků testování vyvození závěrů z testování – reakce sdělovacího kanálu
MEFANET 2010 – workshop Elektronické testování
Typy didaktických testů dle účelu (1) ⌐ Dle měřené charakteristiky výkonu – rychlost X výkon
⌐ Úroveň přípravy testu a možnost „znovuužití“ p p y „ standardizované, kvazistandardizované, nestandardizované
⌐ Druh testované činnosti D ht t é či ti kognitivní, psychomotorické, postojové – afektivní
⌐ Perioda učebního procesu časové zařazení – vstupní pre časové zařazení vstupní pre‐test, test, průběžné, výstupní průběžné, výstupní – re re‐test test
MEFANET 2010 – workshop Elektronické testování
Typy didaktických testů dle účelu (2) ⌐ Dle míry specifičnosti učení výsledky výuky X test studijních předpokladů
⌐ Výklad a interpretace výkonu ý p ý rozlišující (relativní výkon) X ověřující (absolutní výkon)
⌐ Dle zaměření – tematického rozsahu polytematické X monotematické
⌐ Dle míry objektivity skórování y j y objektivně X kvaziobjektivně X subjektivně skórovatelné MEFANET 2010 – workshop Elektronické testování
Účel testování (1) Úč l á í (1)
Přínos pro učitele
Přínos pro studenta
Přínos pro vzdělávací instituci ěá í
MEFANET 2010 – workshop Elektronické testování
Účel testování (2) Úč l á í (2) ⌐ zjišťování efektivity učebního procesu h d hodnocení práce Ks (učitele) a Kz í á K ( čit l ) K (studenta) ( t d t ) – dle Bloomovy taxonomie
⌐ ⌐ ⌐ ⌐ ⌐
schopnost samostatného a kritického myšlení motivace studentů pro další studium (znám X neznám) hodnocení oborového zaměření studenta hodnocení oborového zaměření studenta výchovný účel podklady pro klasifikaci studenta
MEFANET 2010 – workshop Elektronické testování
Zá d ří Zásady přípravy testu t t ⌐ zhodnotit sdělovací kanál (Ks) – zdroje informací OBSAHOVÉ INFORMACE učitel kniha učitel, kniha, externí studijní zdroje…
INSTRUKCE získávání doplňujících informací, zdrojů, poznatků, pokyny k testu
⌐ zhodnotit zpětnovazební kanál (Kz) pedagogická diagnostika
⌐ zhodnotit další determinanty učebního procesu MEFANET 2010 – workshop Elektronické testování
Nedostatky/negativa elektronického testování l k i kéh á í ⌐ Chudá myšlenková struktura zaměření pouze na poznatky a ověření úrovně osvojených znalostí zaměření pouze na poznatky a ověření úrovně osvojených znalostí X souvislosti, schopnost aplikace, náročné myšlenkové operace
⌐ Nedostatečně formulovaný cíl testování ⌐ Nestandardizované testování (testy “per oko“) ⌐ Nedodržení vztahů: edodržení vztahů: účel účel – efekt efekt – reakce reakce – využití ⌐ Neosobní přístup (může být i pozitivem) MEFANET 2010 – workshop Elektronické testování
Nejčastější chyby v přípravě testových úloh ří ě ý h úl h ⌐ Nesouvislost – inkoherence testových úloh + nedostatečná integrita integrita ⌐ Nesprávná návaznost úloh dle obtížnosti ⌐ Nedostatečná Nedostatečná reprezentativnost zaměření testových úloh ⌐ Nejasné stanovení požadavků na testování na testování
⌐ Nejasná/sugestivní formulace kmene úlohy ⌐ Odborné nedostatky ⌐ Pravopisné chyby ⌐ Distraktory – překlepy, odborná terminologie aj. ⌐ Nerespektování technických možností e‐prostředí
MEFANET 2010 – workshop Elektronické testování
Nejasná – sugestivní formulace Nejasná – kmene úloh ⌐ Jednoduchý zápor v kmeni úlohy ⌐ Dvojitý zápor v kmeni úlohy Dvojitý zápor v kmeni úlohy ⌐ „Chytáky“ pro pečlivé čtení ⌐ Sugestivita ‐ návaznost správné odpovědi na kmen úlohy MEFANET 2010 – workshop Elektronické testování
Polynomické úlohy l ké úl h ⌐ typ jedna správná odpověď ⌐ typ jedna nejpřesnější odpověď ⌐ typ jedna nesprávná odpověď yp j p p ⌐ typ s vícenásobnou odpovědí typ s vícenásobnou odpovědí (evaluace „vše nebo nic“ X procentuální hodnocení správnosti, pomocné body X „trestné“ body) MEFANET 2010 – workshop Elektronické testování
Formulace možností odpovědí polynomické úlohy (1) l i ké úl h ( ) ⌐ Nedostatečný počet možností (min. 4) ⌐ „Absurdní“ možnosti odpovědí ⌐ Velmi podobné možnosti odpovědí p p ((distraktory) y) ⌐ Často Často využívaná „chyba využívaná chyba“ ‐ „žádná z žádná z nabízených možností není správná“ MEFANET 2010 – workshop Elektronické testování
Formulace možností odpovědí polynomické úlohy (2) l i ké úl h ( ) ⌐ Využívání jako doplňovací úlohy sugestibilita /vhodnější otázky/ sugestibilita /vhodnější otázky/
⌐ Zkoušení jednotlivých pojmů Zkoušení jednotlivých pojmů encyklopedických znalostí
⌐ Nehomogenní nabízené možnosti ⌐ Příliš dlouhé nabízené možnosti MEFANET 2010 – workshop Elektronické testování
Uká k – polynomická úloha 1 Ukázka – Ukázka l i ká úl h 1 Mezi pomůcky potřebné k přípravě desinfekčních roztoků NEPATŘÍ: desinfekčních roztoků a) stetoskop b) dezinfekční roztok c) stříkačka ÚKOL: zhodnoťte kmen úlohy a distraktory MEFANET 2010 – workshop Elektronické testování
Uká k – polynomická úloha 2 Ukázka – Ukázka l i ká úl h 2 Biliární kolika se projevuje: a) b) c)) d)
bolestí v pravém podžebří b l bolest v zádech ád h v levém podžebří p stenokardií ‐ bolestí na hrudi
ÚKOL: zhodnoťte kmen úlohy a distraktory MEFANET 2010 – workshop Elektronické testování
Úlohy dichotomické pravda pravda ‐ d ‐ nepravda d ⌐ Nadbytečný úvod ke tvrzení ⌐ Příliš dlouhá tvrzení Příliš dlouhá tvrzení ⌐ Nejasná formulace tvrzení – dvojí zápor ⌐ Využívání definic – případně jejich p záporné formulace ⌐ Využívání příslovce času – nikdy, vždy, někdy ojediněle občas apod někdy , ojediněle, občas apod. NENÍ POTŘEBA ZNALOST ‐ ↑ míra náhody NENÍ POTŘEBA ZNALOST MEFANET 2010 – workshop Elektronické testování
Ukázka dichotomická úloha (1) di h i ká úl h ( ) Sterilizace je soubor opatření, zabezpečujících usmrcení některých mikroorganismů usmrcení některých mikroorganismů. Odpověď: pravda
nepravda
ÚKOL: zhodnoťte kmen úlohy ÚKOL: zhodnoťte kmen úlohy
MEFANET 2010 – workshop Elektronické testování
Ukázka dichotomická úloha (2) di h i ká úl h ( ) Rozhodněte, zda souhlasíte s následujícím tvrzením: Indikací k založení kolostomie je tvrzením: Indikací k založení kolostomie je maligní onemocnění tlustého střeva a konečníku. konečníku Odpověď: pravda
nepravda
ÚKOL: zhodnoťte kmen úlohy MEFANET 2010 – workshop Elektronické testování
Ukázka dichotomická úloha (3) di h i ká úl h ( ) Rozhodněte, zda souhlasíte s následující větou: K oplodnění vajíčka dochází větou: K oplodnění vajíčka dochází nejčastěji ve vejcovodech. Odpověď: pravda
nepravda
ÚKOL: zhodnoťte kmen úlohy MEFANET 2010 – workshop Elektronické testování
Přiřazovací odpovědi Matching hi items i ⌐ Většinou bez významných pochybení u tvůrců u tvůrců ⌐ V profesní přípravě ZP využívány zejména j jako „překladač“ „p ⌐ Nepříliš vhodné přiřazování postupů, N říliš h d é řiř á í t ů procesů a dějů… (vhodnější uspořádací úlohy) MEFANET 2010 – workshop Elektronické testování
Uká k ‐ Přiř Ukázka ‐ Ukázka Přiřazovací úloha (1) í úl h (1) Přiř ď d é hernie k Přiřaď dané h i k jednotlivým charakteristikám j d tli ý h kt i tiká
⌐ vnitřní vnitřní
⌐ jsou vzácné, tvoří se v místě chobotů j , v okolí apendixu anebo esovité kličky
⌐ uskřinuté
⌐ nereponibilní – nelze je reponovat do dutiny břišní
⌐ přirostlé ⌐ zevní
⌐ inkarcerované, patří k NPB p ⌐ vysunutí obsahu dutiny břišní navenek y y MEFANET 2010 – workshop Elektronické testování
Ukázka – původně polynomická Ukázka – úl h h d ější řiř úloha vhodnější přiřazovací (2) í( ) Fáze menstruačního cyklu: a) ischemická, proliferační, sekreční, menstruační b) menstruační, proliferační, sekreční, ischemická c) proliferační, sekreční, ischemická, menstruační ÚKOL h d ťt k ÚKOL: zhodnoťte kmen úlohy úl h MEFANET 2010 – workshop Elektronické testování
Uká Ukázka přiřazovací úloha (2a) k řiř í úl h (2 ) Fáze menstruačního cyklu: Fáze menstruačního cyklu:
⌐ 1 fáze
⌐ proliferační
⌐ 2 fáze 2 fáze
⌐ sekreční
⌐ 3 fáze
⌐ ischemická
⌐ 4 fáze
⌐ menstruační MEFANET 2010 – workshop Elektronické testování
Úlohy s tvořenou odpovědí otevřené úlohy ⌐ Krátká volná tvořená odpověď příliš striktní pravidla pro produkční typ úlohy příliš striktní pravidla pro produkční typ úlohy ⌐ Dlouhá tvořená odpověď ‐ problematické a subjektivní hodnocení p j + peer evaluace + využití v PBL, systematičtějším žití PBL t tičtější testování MEFANET 2010 – workshop Elektronické testování
Ukázka – otevřená úloha Ukázka – krátká tvořená Dvoustupňová desinfekce je určena výhradně pro... Odpověď: flexibilní endoskopy (pozor i fibroskopy endoskopy?!?!?) (pozor i fibroskopy, endoskopy?!?!?) Ú ÚKOL: zhodnoťte kmen úlohy, hodnocení úspěšnosti?!?! MEFANET 2010 – workshop Elektronické testování
Využití dalších multimediálních prvků l i diál í h ků ⌐ fotografie tradiční ⌐ videozáznamy id á
⌐ Medicínská Obrazová Data – d í ká b á DICOM
MEFANET 2010 – workshop Elektronické testování
Analýza Analýza testové agendy testové agendy Martin Komenda
A lý Analýza testové agendy é d ⌐ Kurz Vnitřní lékařství na LF MU každý semestr k ždý ve formě blokových stáží hodnocení formou e‐testu ihned po stáži prostředí LMS IS MU analýza pro období jaro 2010 (81 studentů) MEFANET 2010 – workshop Elektronické testování
Pří Příprava testové agendy é d 1. Plánování testu 2. Sestavování testu Sestavování testu 3. Ověřování testu 4. Použití testu MEFANET 2010 – workshop Elektronické testování
Uká k Ukázka
MEFANET 2010 – workshop Elektronické testování
Uká k Ukázka
MEFANET 2010 – workshop Elektronické testování
Koncept testu Koncept testu ⌐ Polynomické úlohy s vícenásobnou odpovědí ⌐ Unikátní test pro každého studenta ⌐ Časový limit 30 minut Časový limit 30 minut ⌐ 4 otázky z 5 různých tematických okruhů ⌐ 1 bod = zcela správně zodpovězená otázka ⌐ Bodová hranice Bodová hranice = zisk 50 % zisk 50 % bodů ⌐ Databanka obsahuje celkem 232 otázek MEFANET 2010 – workshop Elektronické testování
S i ik ý l dků (podzim 2009 + jaro 2010) Statistika výsledků
Celkem započteny výsledky 214 studentů MEFANET 2010 – workshop Elektronické testování
Zákl d í Základní statistická charakteristika i i ká h k i ik ⌐ aritmetický průměr = 14,33 ů ⌐ medián = 15 ⌐ modus modus = 16 16
MEFANET 2010 – workshop Elektronické testování
Ob íž Obtížnost otázek ‐ Obtížnost otázek á k ‐ motivace i ⌐ Identifikace snadných a obtížných úloh Možnost jejich upravení Možnost jejich upravení
⌐ Identifikace nevyhovujících otázek Možnost úpravy nebo odstranění p y
⌐ Možnost uspořádání úloh podle obtížnosti Možnost uspořádání úloh podle obtížnosti Při časovém limitu tvoří příznivější podmínky pro slabší žáky pro slabší žáky MEFANET 2010 – workshop Elektronické testování
Ob íž Obtížnost otázek ‐ Obtížnost otázek á k ‐ výpočet ý č ⌐ Vyjádřena pomocí: Vyjádřena pomocí: nn Hodnoty obtížnosti y Q 100 n
ns Indexu obtížnosti Indexu obtížnosti P 100 n
Platí vztah: Q 100 P
MEFANET 2010 – workshop Elektronické testování
Ob íž Obtížnost ‐ Obtížnost ‐ graff
MEFANET 2010 – workshop Elektronické testování
Ci li Citlivost otázky ák ⌐ rozlišovací nebo diskriminační hodnota Vyjadřuje, jak dalece daná úloha zvýhodňuje studenty, kteří mají lepší vědomosti, před studenty, kteří mají vědomosti horší. [8]
⌐ Různé metody výpočtu ‐ ů é ý č vždy hodnoty od <‐1;+1> ž h • Pokud se blíží 0 ‐‐‐ otázka nerozlišuje mezi skupinami • Pokud se blíží ‐1 ‐‐‐ úspěšnější studenti s horším celkovým výsledkem • Pokud se blíží +1 ‐‐‐ úspěšnější studenti s lepším celkovým výsledkem MEFANET 2010 – workshop Elektronické testování
Ci li Citlivost otázky ‐ Citlivost otázky á k ‐ motivace i ⌐ Vyhodnocení kvality jednotlivých otázek i testu jako celku testu jako celku ⌐A Analýza a korekce otázek s lý k k tá k nevyhovující h jí í citlivostí ⌐ Případné vyřazení otázky u níž nebyla zjištěna příčina nevyhovující citlivosti a nemohla být opravena. MEFANET 2010 – workshop Elektronické testování
Ci li Citlivost otázky – Citlivost otázky á k – příčiny nízkých koeficientů ⌐ Příliš komplikovaně formulové zadání úlohy ⌐ Úlohy zkoušející formálně zvládnuté učivo ⌐ Velmi obtížné úlohy s výběrem odpovědí, kdy i náhodně uhádnutá správná odpověď může velmi změnit výslednou hodnotu citlivosti změnit výslednou hodnotu citlivosti. ⌐ Nevhodně Nevhodně zvolené distraktory, které jsou zvolené distraktory které jsou atraktivní právě a pouze pro testované s vyšší úrovní vědomostí. MEFANET 2010 – workshop Elektronické testování
Ci li Citlivost otázky – Citlivost otázky á k – metody výpočtu d ý č ⌐ Rozdělení studentů na skupiny podle skóre Koeficient citlivosti ULI Tetrachorický koeficient citlivosti Bodově biseriální Bodově biseriální koeficient citlivosti koeficient citlivosti
MEFANET 2010 – workshop Elektronické testování
ULI – upper ULI – ULI upper‐‐lower l lower‐ ‐index i d ⌐ Jednoduchá a praktická metoda
nL nH nL nH d 2 n 0,5n nL … počet správných odpovědí z lepší skupiny počet správných odpovědí z lepší skupiny nH … počet správných odpovědí z horší skupiny n … celkový počet odpovědí
MEFANET 2010 – workshop Elektronické testování
ULI – graff ULI – ULI ⌐ Obecně vhodný koeficient d >= 0,3
MEFANET 2010 – workshop Elektronické testování
ULI – graff ULI – ULI ⌐ Citlivost závisí na koeficientu i na obtížnosti
MEFANET 2010 – workshop Elektronické testování
T Tetrachorický h i ký koeficient k fi i ⌐ Spolehlivější, ale pracnější metoda ⌐ Pro každou otázku je nutné sestavit tzv. Pro každou otázku je nutné sestavit tzv. tetrachorickou tabulku Odpověď
Správná (+)
Nesprávná nebo žádná (-) ()
Lepší (L)
a
b
Horší ((H))
c
d
bc rtet cos180 bc ad
Skupina
Převzato z [8] MEFANET 2010 – workshop Elektronické testování
T Tetrachorický h i ký koeficient k fi i ⌐ Pokud jsou skupiny děleny na poloviny, pro vyhovující otázky by měl být rtet>= 0,15 vyhovující otázky by měl být r > 0 15
MEFANET 2010 – workshop Elektronické testování
Zá ě Závěry ⌐ Prověřit velmi snadné a velmi obtížné otázky (66%) ⌐ Analýza citlivosti Oba koeficienty citlivosti se shodují Je nutné důkladně projít celou databanku (94%) J é důkl d ě jí l d b k (94%)
⌐ Doplnit současnou databanku otázek o nové Doplnit současnou databanku otázek o nové ⌐ Stanovit „přísnější Stanovit „přísnější“ bodovou hranici bodovou hranici ⌐ Změna koncepce hodnocení p ((záporné body) p y) MEFANET 2010 – workshop Elektronické testování
P Poděkování děk á í
Týmu ss‐techniků Týmu techniků a e a e‐techniků techniků na MU na MU za spoluprácí při sběru dat
MEFANET 2010 – workshop Elektronické testování
Literatura Li 1.
Statistical analysis of multiple choice testing. Colbert, Alabama. 2001.
2.
Writingg Multiple Choice p Items which Require q Comprehension. Dewey. p y Dostupné na http://www.psywww.com/selfquiz/aboutq.htm.
1.
Didaktické testy. Kohoutek. 2009.
2.
Metody pedagogického výzkumu. Chráska. 2007.
3 3.
Pedagogický slovník Průcha Walterová Mareš 2003 Pedagogický slovník. Průcha, Walterová, Mareš. 2003.
4.
SCIO: http://www.scio.cz
5.
Testy a testování ve škole. Hrabal, Lustigová, Valentová. 1994.
6.
Hodnocení výsledků vzdělávání‐praktická část. Koníček a spol. 2007.
MEFANET 2010 – workshop Elektronické testování
Zkušenosti s praktickým použitím Zástupci fakult napříč sítí MEFANET
P k i ké k š Praktické zkušenosti i ⌐ LF UP J. Potomková, V. Mihál
⌐ LFP UK T. Junek T. Junek
⌐ LF UPJŠ J. Majerník J Majerník
⌐ 2. LF UK J. Feberová J F b á
⌐ LF MU M. Komenda MEFANET 2010 – workshop Elektronické testování
Podklady pro část: Tvorba testů v Moodle Přihlaste se na adrese http://moodlemefanet.cuni.cz Přihlašovacími údaji: testmoodle1@ Testmoodle1@ Kurz naleznete v kategorii Konference Mefanet Kurz naleznete v kategorii Konference Mefanet 2010 2010 – Workshop Workshop Tvorba testů v Moodle Vstupte do kurzu s názvem testmoodle1@
MUDr. Jitka Feberová Ústav výpočetní techniky UK Ústav vědeckých informací 2.LF UK
[email protected]
Nastavení testu Přidání testu
Obecná nastavení Obecná nastavení
Název a popis testu
Načasování
Nastavení testu Zobrazení
Pokusy
Známky
Nastavení testu Možnost prohlídky
Zabezpečení
Nastavení testu Společná nastavení modulu
Celková reakce
Zobrazení základní obrazovky tvorby testu
Tvorba testových otázek Základní obrazovka tvorby testu
Kategorie
Typy testových úloh
Tvorba testových otázek Typy testových úloh
Tvorba testových otázek Typy testových úloh
Tvorba testových otázek Testové otázky Vytvořte přiřazovací úlohu s názvem Otázka 1 Text úlohy: Přiřaďte vždy správný typ databáze k danému zdroji. Jednotlivé možnosti: Medline – Bibliografická databáze Web of Science – Citační databáze Journal of Citation Report – Databáze impakt faktorů Vytvořte úlohu s výběrem odpovědi s názvem Otázka 2 Text úlohy: Kdo vytváří bibliografickou databázi Medline? Jednotlivé možnosti: Národní lékařská knihovna USA (správně) Elsevier Willey Interscience Vytvořte úlohu s krátkou tvořenou odpovědí s názvem Otázka 3 Text úlohy: Ve kterém roce proběhlo oficiální ustavení Koordinační rady projektu MEFANET? Správná odpověď: 2007 Tvorba vlastního testu
Úloha ‐ Přiřazování
Tvorba testových otázek Úloha ‐ Krátká tvořená odpověď
Úloha s výběrem odpovědi
Sestavení testu
Položková analýza