Werkbladen Workshop zelfonderzoek project Hybride Leeromgevingen in het Beroepsonderwijs (14 Oktober 2010) Ilya Zitter & Aimée Hoeve
Versie 5 oktober 2010
Vooraf Vertrekpunt voor de monitor & audit van de projecten in het Innovatiearrangement Beroepsonderwijs is dat het project zichzelf onderzoekt. Dit zelfonderzoek levert informatie op over de (tussentijdse) resultaten van het project. Het zelfonderzoek van het samenwerkingsverband dient op vier vlakken (voortgangs)gegevens op te leveren:
Essentie van de evaluatie is dat aannemelijk wordt gemaakt of er verband is tussen de nieuwe praktijken en de zichtbare resultaten. Op het vlak van de inhoud van de innovatie: de mate waarin de nieuwe praktijken daadwerkelijk zijn gerealiseerd. Op het vlak van de resultaten van de innovatie zichtbaar in gedrag en/of de perceptie van deelnemers, docenten, management, samenwerkingspartners; Op het vlak van de effecten van de innovatie: de mate waarin op de wat langere termijn effecten worden bereikt. Op het vlak van de sturing van het innovatieproces: factoren die het innovatieproces hebben bevorderd dan wel belemmerd.
Het ontwikkelen van kennis over het eigen innovatieproces staat centraal en reflectie op de voortgang moet bijdragen aan de verbetering van de eigen innovatiepraktijk. De bedoeling is dat het samenwerkingsverband zo meer greep krijgt op de effectiviteit van het innovatieproces. Afgeleid hiervan is het de bedoeling dat er vanuit de kennis die in de projecten wordt ontwikkeld, kennisaccumulatie plaatsvindt om op basis daarvan conclusies te kunnen trekken naar de sector beroepsonderwijs. De praktijk van het project is de plek waar de zoektocht naar verbetering en kennisaccumulatie op sectorniveau begint. Hiervoor krijgen de projecten een format voor een tussenrapportage aangereikt dat zowel inhoudelijke als procesmatige onderzoekselementen kent. Hierbij kan het Onderzoeksmodel voor zelfonderzoek in onderwijsinnovatieprojecten (zie figuur 1) behulpzaam zijn. Dit onderzoeksmodel is opgebouwd vanuit de ambitie van het Innovatiearrangement Beroepskolom en de kennisbasis die in de eerste projecten van het Innovatiearrangement Beroepsonderwijs is gelegd.
Werkbladen Workshop (zelfonderzoek)
ecbo
1
Dit document is gedownload van www.kennisinontwikkeling.nl een pilot van de ecbo-programmalijn Effectief beroepsonderwijs voor het delen van inzichten van lopend onderzoek. Bezoek www.ecbo.nl voor meer informatie over ecbo-onderzoek.
Figuur 1 Onderzoeksmodel voor zelfonderzoek in onderwijsinnovatieprojecten (Bron: HPBO)
Mechanismen: Direct zichtbare Resultaten Motivatie, professionele docenten, e.d.
Interventie (Vernieuwing)
Uitkomsten: Leerresultaten, uitval, doorstroom, diploma’s
Context: Condities Bevorderende & Belemmerende factoren
De onderdelen uit figuur 1 kunnen concreter en er kan een focus in worden aangebracht (zie figuur 2). Figuur 2 Concreter onderzoeksmodel met focus
Interventie: Uiteenrafelen doen we echt wat we hadden bedacht?
Mechanismen: Cognitie,emotie, gedrag – individueel Interactie groep
Uitkomsten
Context
De opgestelde CIMO - met nadruk op IM - kun je lezen als een hypothese (als we, in onze context van het probleem dat we willen oplossen, I doen, dan verwachten we dat M gaat plaatsvinden, wat op lange termijn zal leiden tot O. In het kader van zelfonderzoek gaat het project na of deze aanname klopt (of moet worden verworpen).
Werkbladen Workshop (zelfonderzoek)
ecbo
2
Dit document is gedownload van www.kennisinontwikkeling.nl een pilot van de ecbo-programmalijn Effectief beroepsonderwijs voor het delen van inzichten van lopend onderzoek. Bezoek www.ecbo.nl voor meer informatie over ecbo-onderzoek.
Bedoeling is om een passende onderzoeksmethode te vinden die valide en betrouwbare gegevens oplevert over de voortgang en de opbrengsten van de innovatie. Belangrijk is dat de door het project verzamelde gegevens ook waarde hebben, buiten de context van het eigen project, zodat deze gegevens gebruikt kunnen worden voor algemene kennisontwikkeling ten behoeve van de sector beroepsonderwijs. Dit laatste stelt specifieke eisen aan het design en de onderzoeksmethode. Concreet betekent dit dat je antwoord moet vinden op een aantal vragen: Wat willen we precies weten? Welke gegevens hebben we precies nodig, op welke aspecten, om in kaart te brengen in hoeverre de nieuwe praktijken gerealiseerd zijn en in hoeverre ze bijdragen aan resultaten en op langere termijn in effecten? Bij wie (bijvoorbeeld deelnemers, docenten, praktijkopleiders, management) gaan we deze gegevens verzamelen en waarom juist bij die groepen? Hoe vaak gaan we gegevens verzamelen om ontwikkelingen in de tijd te kunnen zien en om informatie te hebben om tussentijds te kunnen (bij)sturen? Hoe gaan we deze gegevens verzamelen, middels welke methoden en technieken. (Bijvoorbeeld: via interviews/groepsgesprekken of vragenlijsten/enquêtes). Wie gaat de gegevens verzamelen. Welke samenwerkingsmogelijkheden zijn er (bijvoorbeeld met lectoraten of externen)? Hoe gaan we de gegevens verwerken, analyseren en presenteren? Wat vraagt dat aan deskundigheid van ons? Wie gaat dat doen? Wat komen we te kort?
Werkbladen Workshop (zelfonderzoek)
ecbo
3
Dit document is gedownload van www.kennisinontwikkeling.nl een pilot van de ecbo-programmalijn Effectief beroepsonderwijs voor het delen van inzichten van lopend onderzoek. Bezoek www.ecbo.nl voor meer informatie over ecbo-onderzoek.
Stap 1: WAT Werk de hoofd-CIMO uit in je team met behulp van de werkvellen Opbrengst: 2 zinnen – hoofd-CIMO + voorbeeld van één IM in detail. Hoofd-CIMO Context Hoe zit de directe context van het project in elkaar? Hoe zit het met de benodigde condities? De bevorderende en de belemmerende factoren voor het project? Welke kernproblemen uit deze context moeten er worden opgelost?
Interventie Beschrijf de interventie: Welke actoren? Welke ruimtes? Wat voor soorten materialen/instrumenten? Welke tijdsaspecten zijn relevant? Maak het concreet: welke soort actoren, in welke groeperingen, hoeveel, welke soort ruimtes zijn er nodig, wat voor soort materiaal/instrumenten, hoe zit planning in elkaar, tijdsbesteding etc. Hiermee moet straks helder kunnen worden gemaakt welke plannen er waren, hoe deze zijn bijgesteld en welk deel is gerealiseerd.
Mechanismen Welke direct zichtbare resultaten worden er nagestreefd? Welke processen moeten er worden getriggerd door de interventie?
Outcomes Welke resultaten worden er op langere termijn nagestreefd?
Werkbladen Workshop (zelfonderzoek)
ecbo
4
Dit document is gedownload van www.kennisinontwikkeling.nl een pilot van de ecbo-programmalijn Effectief beroepsonderwijs voor het delen van inzichten van lopend onderzoek. Bezoek www.ecbo.nl voor meer informatie over ecbo-onderzoek.
Specifieke IM
Interventie Beschrijf een specifiek onderdeel van de interventie
Mechanismen Welke directe resultaten worden verwacht van dit onderdeel van de interventie? Welke processen moeten er worden getriggerd door de interventie? Het kan gaan om cognitie, gedrag of emotie van individuen, interacties of van een groep.
Specifieke IM
Interventie Beschrijf een specifiek onderdeel van de interventie
Mechanismen Welke directe resultaten worden verwacht van dit onderdeel van de interventie? Welke processen moeten er worden getriggerd door de interventie? Het kan gaan om cognitie, gedrag of emotie van individuen, interacties of van een groep.
Specifieke IM
Interventie Beschrijf een specifiek onderdeel van de interventie
Mechanismen Welke directe resultaten worden verwacht van dit onderdeel van de interventie? Welke processen moeten er worden getriggerd door de interventie? Het kan gaan om cognitie, gedrag of emotie van individuen, interacties of van een groep.
Werkbladen Workshop (zelfonderzoek)
ecbo
5
Dit document is gedownload van www.kennisinontwikkeling.nl een pilot van de ecbo-programmalijn Effectief beroepsonderwijs voor het delen van inzichten van lopend onderzoek. Bezoek www.ecbo.nl voor meer informatie over ecbo-onderzoek.
Stap 2: HOE Werk in teams de onderzoeksaanpak uit m.b.v. de werkvellen. 1 Aantonen dat je interventie is ingevoerd zoals bedacht Wat zijn de (hoofd)kenmerken van je interventie: hoe kun je laten zien dat dit gerealiseerd is. Hoofd-CIMO
Hoofdkenmerken Interventie
Hoe zichtbaar?
Bron van bewijs
Hoe zichtbaar?
Bron van bewijs
1 2 3 4 5 …
Specifieke IM
Hoofdkenmerken Interventie 1 2 3 4 5 …
Werkbladen Workshop (zelfonderzoek)
ecbo
6
Dit document is gedownload van www.kennisinontwikkeling.nl een pilot van de ecbo-programmalijn Effectief beroepsonderwijs voor het delen van inzichten van lopend onderzoek. Bezoek www.ecbo.nl voor meer informatie over ecbo-onderzoek.
2
Aantonen dat interventie werkt (dat wil zeggen de verwachte mechanismen in werkelijkheid optreden)
Welke mechanismen verwacht je dat er zullen optreden. Hoe kun je “zien” dat deze optreden (welke gedragskenmerken horen daarbij?) Hoe ga je deze inzichtelijk maken? Ga je bevragen/observeren/gebruik maken van bestaande bronnen bv. tussentijdse beoordelingen). Hoe frequent ga je dat doen? Hoe kun je aantonen dat deze vaker optreden dan voor de interventie (en dus aannemelijk maken dat ze het gevolg zijn van de interventie) Treden er nog onverwachte mechanismen op? Hoofd-CIMO/Specifieke IM
Verwachte mechanismen
Bijbehorende gedragskenmerken
1
a
Bij wie?
Hoe inzichtelijk maken?
Wanneer ?
b c 2
a b c
3
a b c
Onverwachte mechanismen 1 2 3
Werkbladen Workshop (zelfonderzoek)
ecbo
7
Dit document is gedownload van www.kennisinontwikkeling.nl een pilot van de ecbo-programmalijn Effectief beroepsonderwijs voor het delen van inzichten van lopend onderzoek. Bezoek www.ecbo.nl voor meer informatie over ecbo-onderzoek.
3
Inspanningsoverzicht
Wanneer is vastgesteld wat je wilt inzichtelijk wilt maken, hoe je dat gaat doen en wanneer kun je ook vastleggen wie de data gaan verzamelen en welke acties er nodig zijn. HOOFD-CIMO/ Specifieke IM
Operationalisatie (de kenmerken waarin de I/M zichtbaar wordt)
Interventie
Mechanisme 1
Mechanisme 2
…..
Inzichtelijk maken door middel van: -observatie -vragenlijst -secundaire analyse
Beoogde respondenten (bij wie?)
Wanneer?
Verantwoordelijk voor uitvoering (intern/extern)
Uit te zetten acties (ontwikkelen meetinstrumenten, inhuren externe onderzoekers, training interne onderzoekers)
a b c d 1 2 3 1 2 3 1 2 3
Werkbladen Workshop (zelfonderzoek)
ecbo
8
Dit document is gedownload van www.kennisinontwikkeling.nl een pilot van de ecbo-programmalijn Effectief beroepsonderwijs voor het delen van inzichten van lopend onderzoek. Bezoek www.ecbo.nl voor meer informatie over ecbo-onderzoek.