Rapportage voor Eindreview SURF Nationaal Actie Plan e-Learning 2006
Nationale Kennisbank Basisvaardigheden Wiskunde
Datum: 27 december 2007 Penvoerder: Universiteit van Amsterdam Consortium: Fontys, HHS, HS Zuyd, OUNL, RUG, TUD, TU/e, RUL, UM, UT, UU, UvA, VU
1.
Inhoudsopgave
Rapportage voor Eindreview................................................................................................ 1 Nationale Kennisbank Basisvaardigheden Wiskunde ............................................................... 1 1. Inhoudsopgave ........................................................................................................ 2 2. Samenvatting .......................................................................................................... 3 3. Karakteristieken van het project ................................................................................. 4 3.1. Doelen .............................................................................................................. 4 3.2. Resultaten ......................................................................................................... 5 3.3. Projectorganisatie............................................................................................... 6 4. Verslag Werkpakketten ............................................................................................. 8 4.1. Verslag Werkpakket Portaal ................................................................................. 8 4.2. Verslag Werkpakket Content .............................................................................. 10 4.3. Verslag Werkpakket Implementatie .................................................................... 12 4.4. Verslag Werkpakket Communicatie ..................................................................... 19 4.5. Verslag Werkpakket Projectmanagement............................................................. 22 5. Evaluatie ............................................................................................................... 25 6. Conclusie............................................................................................................... 28 7. Standlijnenoverzicht ............................................................................................... 29 8. Kostenoverzicht in standaard SURF Formaat .............................................................. 31 9. Appendix: Verslag stuurgroep NKBW ........................................................................ 32
Nationale Kennisbank Basisvaardigheden Wiskunde – Rapport Midterm Evaluatie
2
2.
Samenvatting
U treft hier aan de eindrapportage van het project Nationale Kennisbank Basisvaardigheden Wiskunde. Dit project is gesubsidieerd door SURF in het kader van het Nationaal Actie Programma e-Learning, dat zich richt op een verhoging van de participatiegraad in het Nederlands hoger onderwijs door de inzet van e-learning. Het project loopt tegen een achtergrond waarbij aan de ene kant het NAP-kader steeds verder vorm kreeg, en anderzijds de wiskunde aansluitproblematiek scherp gebleven is. Het wiskunde aansluitingsprobleem blijft in de nationale aandacht staan. Bijvoorbeeld was op 26 december een “Nationale Rekentoets” op televisie, waarbij de prijsuitreiking door Doekle Terpstra werd gedaan. Doekle Terpstra is voorzitter van de HBO-raad en heeft een aantal keren gewezen op de tekorten aan rekenvaardigheid bij de PABO-studenten. Dit project richt zich niet specifiek op rekenen, maar op het verwante terrein van algebraïsche vaardigheden. Het project kent een looptijd van één jaar. Deze looptijd is niet ingegeven door het idee dat doorstroomprojecten slechts zo kort hoeven te zijn, maar omdat de bestuurlijke en beleidsmatige horizon op dat moment niet langer was. Dit project wil in dit jaar een substantiële stap zetten in het bijeenbrengen van mensen en resultaten, maar heeft niet de pretentie dat het probleem na de periode van één jaar is opgelost. Een aantal activiteiten is erop gericht een goede uitgangspositie in de periode erna te bewerkstelligen. Inmiddels is door SURF een vervolgsubsidiekader op de eerste ronde Nationaal Actieprogramma e-Learning uitgezet. Partners in het consortium zijn van plan om een vervolgaanvraag te doen. Voorbereidingen vinden plaats in SIGMA verband. Zoals al in de vorige rapportages zichtbaar werd, kent dit project een overbesteding. Deze is met name te vinden in het werkpakket WP1 portaal. Dit is aangekaart bij het NAP-team van SURF, en er is ruimte gevonden voor een extra subsidie van 42.000 euro. Hiervoor is het projectteam SURF erkentelijk. Daarmee is nog sprake van bescheiden overbesteding in de grootteorde van 5% van het projectbudget. Omdat niet alle NAP-gelden besteed zijn, krijgen alle NAP-projecten nog de gelegenheid om een kleine projectuitbreiding te doen met name gericht op disseminatie. Hierin willen we aandacht besteden aan - monitor - stichting - artikelen in nationale tijdschriften - vorming redactieraad - performance-verbeteringen Wizmo Deze rapportage is anders opgebouwd dan de vorige rapportages. Het inhoudelijk eindrapport E11 is verschenen en op de slotbijeenkomst verspreid. Daarom bevat deze rapportage E8 enkel de evaluatieve bevindingen en de meer projectmatige zaken. Ten aanzien van de deliverables is het goed op te merken dat de deliverables A2 nog niet gereed is, maar wel ten tijde van de eindreview. De deliverable C6 met de “Gegevens effectmeting” wordt opgenomen in de monitor, die begin 2008 verschijnt. De afronding van de monitor en de deliverable D6 “publicaties in diverse media” zijn onderdeel van de projectuitbreiding.
Nationale Kennisbank Basisvaardigheden Wiskunde – Rapport Midterm Evaluatie
3
3.
Karakteristieken van het project
Dit deel is ongewijzigd ten opzichte van de vorige reviews. De ambitie van het Nationaal Actie Programma e-learning is de participatiegraad te verhogen door in-, door- en uitstroom te bevorderen en door uitval te reduceren. Dit project beoogt daar met woord en daad aan bij te dragen. Om de impact en de effecten kwantitatief te benaderen wordt een meetprotocol opgezet om het doorstroomverloop van voor tot voorbij de drempel te kunnen onderzoeken. Alhoewel hier ook historische data meegenomen kunnen worden, is het niet realistisch om te verwachten dat binnen de projectperiode die feitelijk één onderwijscyclus bevat structurele verbeteringen geconstateerd worden. Parallel aan deze longitudinale metingen wordt ook onderzocht in hoeverre de ‘stakeholders’ van mening zijn dat de problematiek adequaat tegemoet wordt getreden. Hierbij is er vanuit gegaan dat binnen de projectperiode een nulmeting en effectmeting worden uitgevoerd. Bij dit project wordt in samenwerking met de Special Interest Group SIGMA een Community of Practice als “eigenaar” opgezet waaraan zowel gebruikers als ontwikkelaars deelnemen. Dit concept behoeft verdere uitwerking. Hiervoor is binnen het project een traject “business model” uitgezet onder directe verantwoordelijkheid van de projectleider. De continuïteit is een belangrijk terugkerend punt in de besprekingen met de stuurgroep en met de klankbordgroepen per instelling. Voor het portaal is bewust gekozen voor de lange termijn ontwikkeling bij SURF van LOREnet, die mede gedragen wordt door het E-merge consortium. Dit project is van groot belang om de aansluiting VO – HO structureel te verbeteren. Door het VO –leraren en leerlingen– in contact te brengen met de gevraagde wiskundige vaardigheden op het niveau van de opgaven zelf, niet alleen de eindtermen, ontstaat bij het VO een beter beeld. Omgekeerd leiden intensieve contacten van HO-docenten met het VO tot meer inzicht in de kennis en vaardigheden die de instromende studenten hebben en hoe die in het HO tot hun recht kunnen komen. In de implementatietrajecten van dit projectvoorstel is expliciet aandacht voor de verbeterde contacten VO-HO. Dit project heeft een nationale ambitie, en beoogt een groot participerend draagvlak te creëren met partijen uit HO en VO. De directe belanghebbenden van het projectresultaat zijn de opleidingen in natuurwetenschappelijke, technische en economische richtingen. Veel instellingen maken dan ook deel uit van het consortium, en binnen instellingen vaak nog verscheidene faculteiten en afdelingen.
3.1.
Doelen
Het project is geslaagd als bij de deelnemende instellingen de aansluitingsproblematiek substantieel verminderd is. Onderzocht worden hiertoe studieresultaten en beeldvorming bij studenten, docenten en management uit HO en VO. Naast nulmetingen en resultaatmetingen worden groepen longitudinaal gevolgd omdat uitval later kan optreden. Dit zal binnen de projectperiode opgestart worden, maar de periode van een jaar is te kort om hier voldoende data te kunnen verzamelen. De operationele doelen zijn: 1. bij alle deelnemende partners implementatietrajecten starten, ontwikkelen, verbeteren en uitvoeren, op zo'n manier dat a. de aansluitingsproblematiek in te meten parameters wordt omschreven en uitgedrukt, opdat verandering en effect kunnen worden omschreven en vastgesteld; b. de doelgroepen student, docent en manager aangetoond tevreden zijn door metingen vooraf en later te vergelijken;
Nationale Kennisbank Basisvaardigheden Wiskunde – Rapport Midterm Evaluatie
4
c. er structurele metingen plaatsvinden die op de langere termijn effecten zijn gericht door middel van longitudinaal onderzoek; d. alle informatie en materialen voortgekomen uit het project die een instelling nodig heeft om te komen tot een effectief aansluitingstraject, beschikbaar zijn voor opleidingen die nu niet in het consortium zitten conform een nader uit te werken business model; 2. breed het gesprek aangaan met de geïnteresseerden wiskunde docenten VO en HO om docenten goed over en weer te informeren over de huidige ontwikkelingen en studenten een zo vloeiend mogelijke overgang op het gebied van wiskundevaardigheden te bieden. De primaire doelgroep wordt gevormd door de docenten die betrokken zijn bij het aansluitonderwijs. De secundaire doelgroep wordt gevormd door de docenten VO, management en de studenten en scholieren in de aansluitperiode.
3.2.
Resultaten
Het project richt zich op de volgende resultaten: 1. ‘good practices’ verzamelen en etaleren; 2. een portaal dat de zoek-en-vind cyclus ondersteunt, eventueel online hulp verleent, doorverwijst en toegang biedt tot de materialen, de betrokken mensen en de ervaringen 3. beschikbaar maken, beschikbaar stellen, aanvullen, aanpassen en zonodig uitbreiden van content van de eerdere projecten; 4. implementatietrajecten bij alle instellingen gericht op het doelgericht inzetten van het beschikbare materiaal; 5. een nationaal gebruikersplatform inrichten met betrokkenheid van het VO-veld; 6. technisch onderzoek naar standaardisatie en opslag in LCMS en afstemming met LOREnet; 7. kwaliteitszorg opzetten van systeem, materiaal en didactiek in de praktijk; 8. uitgebreid communicatietraject dat informerend voor zowel HO als VO is; 9. business model opzetten voor continuïteit en uitbreiding na de projectperiode; 10. aanbevelingen opstellen voor verdere inhoudelijke, didactische en functionele ontwikkelingen. ‘Good Practices’ van onderwijstrajecten die dienen ter verbetering van de aansluiting. We starten hierbij met de resultaten van de projecten tot nu toe, zoals Web-spijkeren (www.webspijkeren.nl zie “handboek”). Daarnaast worden de verscheidene trajecten bij de partners geïnventariseerd. De Portaal dient een uniforme, coherente toegang te bieden tot de bestaande materialen, fora, online hulp, maar ook de FAQ’s, ervaringen, contactpersonen, etc. Hierbij wordt als startpunt de materialen van de bestaande projecten genomen. Er wordt zoveel mogelijk aangesloten bij de LOREnet architectuur voor de goede vindbaarheid van materialen. Voor de Content wordt het startpunt gevormd door de materialen van bestaande en afgeronde projecten. Bij de vraagarticulatie in de implementatietrajecten zal de behoefte geadresseerd worden met betrekking tot uitbreiding en aanpassing. In overleg tussen vrager en aanbieder wordt content verder ontwikkeld. De implementatietrajecten van het aansluitonderwijs starten met een precieze vraagarticulatie die uitgezet wordt tegen het aanbod van de content. Daarna worden de keuzes vastgelegd en de ontwikkeling van het traject in gang gezet. Voorzover de onderwijscyclus het toelaat wordt het aansluitonderwijs daadwerkelijk uitgevoerd en geëvalueerd. Voor de implementatietrajecten wordt in dit project een model gevolgd waarbij in elk geval assessments, remediatie, contact VO– HO en inbedding in ELO aan bod komen. Voor sommige instellingen is het implementatietraject al gevorderd, anderen staan nog aan het begin. Een implementatietraject doorloopt de volgende stappen:
Nationale Kennisbank Basisvaardigheden Wiskunde – Rapport Midterm Evaluatie
5
• • • • • • •
vergelijking eigen situatie met die van anderen; assessment vanuit eigen perspectief van de good practices; vaststellen gewenste didactische scenario’s, tools en content; combinaties van gebruikers en ontwikkelaars vormen met overeenkomstige keuzes; aanpassingen, aanvullingen en uitbreidingen definiëren en uitvoeren; het onderwijs uitvoeren met flankerend gebruikersonderzoek; evalueren van proces en product, aanpassingen voorbereiden.
Met het oog op de continuïteit van het verworvene is het verstandig om snel te starten met het inrichten van een platform voor gebruikers, waarbinnen het delen van kennis en ervaringen plaats vindt. Het zal onderzocht worden of de SURF Special Interest Group Mathematics Activities (SIGMA) bereid is om als een dergelijk platform op te treden. Hiermee wordt in feite een ‘community of practice’ gevormd die tevens kan optreden als kwaliteitsbeheerder van de materialen en resultaten. Technisch onderzoek naar de standaardisatie en naar de inpassing van de materialen in Learning Content Management Systemen wordt uitgevoerd. Waar mogelijk vindt ook de daadwerkelijke realisatie plaats, maar gezien het feit dat wiskundeteksten met de gangbare formules niet door de huidige standaarden laten dekken, dient hier enig voorbehoud gemaakt te worden. Zo worden bijvoorbeeld geparametriseerde vragen zoals die in het MathMatch project gangbaar zijn, niet gedekt door de QTI-standaard. Kwaliteitsborging van de verschillende onderdelen van het project zal worden opgezet. Hierbij wordt de gangbare verbetercyclus gehanteerd, met de fases • plannen • uitvoeren • evalueren • verbeteren Binnen elk werkpakket wordt deze cyclus geïmplementeerd en doorlopen. Om de kloof te dichten tussen beide zijden van de aansluiting is een zorgvuldig communicatietraject tussen VO en HO van belang. Startpunt is elkaar te informeren van ontwikkelingen, ervaringen en meningen. Het wordt nagestreefd om rondom de drempel van de aansluiting op de werkvloer en op beleidsniveau dichter tot elkaar te komen. Het consortium is een vereniging van HO-instellingen, en de door de minister ingestelde vernieuwingscommissie wiskunde wordt uitgenodigd om tot de adviesgroep toe te treden. Een solide business model is nodig om continuïteit te waarborgen. We streven na dat materialen om niet ter beschikking komen van het hoger onderwijs. Echter zijn bij productie en uitlevering producten van derden gemoeid, met een verscheidenheid aan licentievormen. In het project wordt een schat aan ervaringen opgedaan. Hieruit worden de ‘lessons learned’ gedistilleerd en als aanbevelingen aan zowel het Voortgezet als het Hoger Onderwijs in Nederland aangeboden.
3.3.
Projectorganisatie
De projectorganisatie bestaat uit een aantal onderdelen • Stuurgroep, die de “probleemeigenaren” vertegenwoordigt en die bestuurlijke borging biedt voor het project. • Adviesraad, waarin belangrijke partijen uit het VO en HO veld vertegenwoordigd zijn. • Klankbordgroep per instelling, waarin beslissers, voor het project belangrijke personen en de contactpersoon voor de instelling zijn opgenomen. De klankbordgroep heeft de functie om per instelling de structurele implementatie optimaal te borgen. De rol van de contactpersonen bij de instelling is dat zij het werk bij de instelling beleggen. Bij de mensen die in het project werken, maken we onderscheid tussen
Nationale Kennisbank Basisvaardigheden Wiskunde – Rapport Midterm Evaluatie
6
• • •
Kernteam met daarin de werkpakketleiders en de projectleider; Coördinatoren per instelling; Volledige projectteam.
Om het werk aan het project te structuren is het opgedeeld in vier werkpakketten, met daarnaast een vijfde werkpakket projectmanagement. De projectdoelen zijn het implementeren van aansluittrajecten voor wiskundeonderwijs op basis van een aanbod van eerder ontwikkeld materiaal dat via een webportaal aangeboden wordt; en communicatie tussen de partijen voor en na de drempel bevorderen aan de hand van concreet materiaal, in het bijzonder tussen VO en HO. De werkpakketten zijn dan ook: A. Portaal: gericht op toekomstvaste ontsluiting van het aanwezige en ontwikkelde materiaal met speciale aandacht voor het zoek-en-vind proces; B. Content: in dit werkpakket wordt het aanwezige materiaal geïnventariseerd, aangepast, verder ontwikkeld en voor ontsluiting voorbereid, C. Implementatietrajecten: in dit werkpakket worden de implementatietrajecten ontworpen, uitgevoerd, geëvalueerd en ingebed in staande organisatie; D. Communicatie: in dit werkpakket wordt de communicatie naar andere HO-instellingen en de communicatie VO-HO over wiskundevaardigheden ondergebracht. Het gaat om het over en weer goed informeren en het vergroten van de ontvankelijkheid, om disseminatieactiviteiten zoals presentaties op bijeenkomsten, video, publicaties in vaktijdschriften. E. Projectmanagement: Hierin is ondergebracht projectleiding, projectmonitoring, onderzoek, business model, afstemming met derden, administratie, juridische zaken w.o. licenties. WP-A WP-B WP-C WP-D WP-E
Portaal Content Implementatie Communicatie Projectmanagement
Piet van der Zanden Hans Cuypers Evert van de Vrie Vincent Jonker Leendert van Gastel
TUD TU/e OU UU UvA
De werkpakketten worden elk getrokken door een coördinator. De vier coördinatoren vormen samen met de projectleider het kernteam voor het project. Het kernteam komt tweewekelijks bij elkaar met face-to-face of afstandsvergaderingen. Het heeft een initiërende en monitorende rol voor het project. Het volledige projectteam komt aan het einde van elke fase bij elkaar. Het project wordt met een kick-off bijeenkomst gestart. Fase1 Fase2 Fase3 Fase4
2006/11/01 2007/02/01 2007/06/01 2007/11/01
— — — —
2007/01/31 2007/05/31 2007/10/31 2007/11/30
Definitiefase Ontwikkelfase Uitvoeringsfase Afrondingsfase
Bij alle werkpakketten worden vier fases gehanteerd: • 2006/11/01 — 2007/01/31: Definitiefase, waarin er tijd beschikbaar is om inventarisaties en gefundeerde keuzes te maken; • 2007/02/01 — 2007/05/31: Ontwikkelfase, waarin ontwerp en ontwikkelwerk plaats vindt; • 2007/06/01 — 2007/10/31: Uitvoeringsfase waarin het aansluitonderwijs uitgevoerd en geëvalueerd wordt; • 2007/11/01 — 2007/11/30: Afrondingsfase, waarin de rapportages en het werk aan deliverables worden afgerond.
Nationale Kennisbank Basisvaardigheden Wiskunde – Rapport Midterm Evaluatie
7
4.
Verslag Werkpakketten
4.1.
Verslag Werkpakket Portaal
Algemeen De medewerkers van het werkpakket portaal en content hebben tijdens de slotbijeenkomst op 30 november gezamenlijk teruggeblikt op de afgelopen projectperiode van NKBW. Hieronder volgt eerst een korte samenvatting van de evaluatie op die dag, waarna een uitgebreider reactie volgt. Korte samenvatting van de evaluatie onder voorzitterschap van Hans Cuypers: Positief: - Wizmo is een mooi product dat heel wat mogelijkheden voor de toekomst biedt - Mooi design - Plezierige samenwerking en enthousiast team - Beta-versie gereed met basisfunctionaliteiten - Samenwerking met India verliep (ondanks afstand) naar behoren Voor verbetering vatbaar: - Duidelijke scheiding hoofdfunctionaliteiten en bijzaken - Inschatting van programmeerwerk - Inschatting beschikbaarheid programmeurs - Duidelijke communicatie naar gebruikers over wat Wizmo wel en niet kan - Verwachtingspatroon was verkeerd
De resultaten in een notendop Het werkpakket portaal heeft gewerkt aan het in de praktijk toepassen van repository technologie. Over het algemeen worden tot nu toe repositories binnen bibliotheken toegepast met een beperkte set van meestal een 8-tal metadatavelden gericht op het medium boek of artikel. De bekendste metadatavelden voor boeken en artikelen zijn titel, auteur, jaar, uitgever en ISBN nummer. Voor het onderwijs is internationaal het zogenaamde Learning Object Metadata (LOM) schema gangbaar met wel 58 mogelijke metadatavelden voor leermaterialen en cursusstructuren. Voor het NKBW project is uiteindelijk gekozen om 20 velden verplicht te stellen en een 16-tal als gewenst te beschouwen. De bekenste velden zijn titel, omschrijving, sleutelwoorden, aggregatieniveau, bestandsformaat, locatie, soort leerbron, beoogde eindgebruiker, auteursrechten en classificatie. De metadata discussie en taxonomie van wiskundige leerobjecten en onderwerpen was lastig vast te stellen, maar heeft geresulteerd in een afspraak die jaren zal worden gevolgd. Voor de inzet van repositorytechnologie is geleund op de kennis die de twee LOREnetprojecten hebben voortgebracht. Echter hebben die alleen technische mogelijkheden geëxploreerd. Het toepassen binnen een domein vergt een aanzienlijk diepgaander aanpak. Ter verduidelijk wordt gerefereerd naar de resultaten van zoekmachines die binnen enkele tellen een lijst met duizenden resultaten toont, maar het is dan alsnog lastig om te vinden waarnaar je op zoek was. Die lijsten kunnen worden gegenereerd door documenten full-text te doorzoeken en allerlei relaties mee te nemen van doorverwijzing en gekenmerkte categorieën. Bij NKBW echter wordt een kwaliteitszoektocht geëist, hetgeen een andere aansturing van de repository vereiste. De kwaliteitszoektocht aan de hand van de metadata wordt aangevuld met getoonde feedback van de gebruiker in de vorm van positieve en negatieve duimpjes, met professionele reviews, met gebruikersannotaties, en met sterren die worden toegekend aan de hand van ratings. Het zoeken en vinden van ontoegankelijke repository technologie vereist een gebruikersvriendelijke benadering voor student en docent, zodat een portaal omgeving werd ingezet om als interface te dienen tussen gebruiker en repository. Omdat het portaal met de
Nationale Kennisbank Basisvaardigheden Wiskunde – Rapport Midterm Evaluatie
8
naam Wizmo toegang zal bieden tot zowel lokaal opgeslagen leerobjecten als verwijzing naar online omgevingen voor inzet door docent en voor zelfstandig leren, zijn er 4 zoekstrategieën ingebouwd; enkelvoudig invulveld, tagcloud, geavanceerd zoeken, en het starten van de zoekopdracht door het selecteren van een paragraaf titel van een wiskundeboek of door het selecteren van een onderwerp in de MathTax taxonomie. Ter verdere ondersteuning van de student is samenwerking gezocht met WisFaq dat met online FAQ's - verdeeld over meer dan 40 categorieën - ruim 26.000 beantwoorde vragen ter beschikking stelt. Bovendien biedt WisFaq online hulp door de inzet van een 12-tal vrijwillige wiskunde experts. Omdat Wizmo naast het zoeken en vinden en beantwoorden van vragen eveneens de online samenwerkingscomponent stimuleert voor het delen van kennis omtrent de toepassing, de aanvulling, en het gebruik van de leermaterialen is onderweg besloten om een persoonlijke pagina in te bouwen met mogelijkheden voor persoonlijke instellingen, een buddy systeem voor het maken van vrienden, contacten en groepen, en een publiceer- en onderhoudsproces voor de 'eigen' leerobjecten. De genoemde functionaliteiten tesamen maken Wizmo en de onderliggende repository tot een uniek concept welke past bij de huidige inzet voor het delen van wiskunde leermaterialen en de social software movement die de maatschappij in een rap tempo bevangen. Vanwege de korte projectperiode van 1 jaar kon maximaal een beta-release worden opgeleverd.
Evaluatie door portaalbouwers (TU Delft) De mogelijkheid om mee te doen aan het Nationaal Aktie Programma in het project NKBW was voor ons een prachtige mogelijkheid om de ideeën van het E-merge Math Learning Space concept verder op te schalen en te professionaliseren. Alvorens mee te doen aan het NKBW project is intern overlegd met betrekking tot de capaciteit en kennis van medewerkers benodigd voor de diverse onderdelen, niet wetende dat er minimaal 3 concernsystemen vanuit hogerhand absolute voorrang zouden krijgen boven het werk voor derden (waaronder het NKBW project). Dit alles als gevolg van de reorganisatie bij de TU Delft. Door het inschakelen van een softwareontwikkelfirma uit India is getracht de uitval te compenseren, maar sommige onderdelen vereisten de specifieke kennis van 'overrule-de' collega’s en veroorzaakten vertragingen. Tijdens de looptijd bleek een gebrek aan ervaring met SURF projecten. De SURF-cultuur en aanpak is nogal tegenstrijdig aan onze gang van zaken binnen de TU Delft en E-merge. Wij zijn gewend om 'ill-structured' opdrachten exploratief te verkennen op zoek naar de optimale mix van gebruik en technologie, die zodra de functionaliteiten zijn vastgesteld onze koers bepaalt. Het is het eindprodukt van die koers waarnaar we streven en het is ook die boodschap die we verkondigen. Onze aanpak is tegenstrijdig aan de aanpak van het SURF project waar je eigenlijk het minimale moet beloven, opdat de deliverables haalbaar zijn en je daarmee de projectdoelen behaalt. Onze conclusie is dat de exploratieve wijze, zoals wij zo gewoon zijn om te doen, niet echt past bij de aanpak zoals die door ons ervaren is. Echter, in een eventueel vervolgproject NKBW2 valt het exploratieve karakter van Wizmo weg en kan een normaal ontwikkelingstraject worden gevolgd met duidelijke productonderdelen en mijlpalen. Bovendien is de looptijd van 2 jaar voldoende om het portaal in de gerede staat te brengen zoals voorgestaan. Het kan in NKBW2 strak en scherp worden afgebakend en daarmee gemakkelijker geleid.
Nationale Kennisbank Basisvaardigheden Wiskunde – Rapport Midterm Evaluatie
9
4.2.
Verslag Werkpakket Content
Inleiding Binnen het werkpakket Content van het NAP project Kennisbank Basisvaardigheden Wiskunde werd remediërend studiemateriaal Wiskunde verzameld en vervaardigd. Dit materiaal wordt via Wizmo aan de verschillende participerende instellingen en hun studenten beschikbaar gesteld. Het studiemateriaal werd tevens gedeeltelijk gebruikt in de verschillende implementatietrajecten binnen het project. Centraal binnen het werkpakket Content stond het verzamelen, ontwikkelen en beschikbaar stellen van studiemateriaal. Het studiemateriaal werd in leerstofmodulen vervaardigd en aangeboden. Deze leerstofmodulen bestaan uit onderwijsmateriaal dat kan variëren van toetsen, tot gehele cursussen, en van dictaten tot video’s. Bij de ontwikkeling en het aanbieden van lesmateriaal stonden drie aspecten voorop: • kwaliteit, • bruikbaarheid en • beschikbaarheid. Voor de kwaliteit van het studiemateriaal staan op de eerste plaats natuurlijk de ontwikkelaars garant. Echter, een onafhankelijke kwaliteitscontrole van het materiaal is opgestart. Om de bruikbaarheid van het lesmateriaal te garanderen dan wel te verhogen, werden de lesmodulen van metadata, voorzien. Hiermee is het lesmateriaal geclassificeerd en geïndexeerd. Metadatering van het materiaal maakt het mogelijk gericht naar voor een gebruiker geschikt materiaal te zoeken. Om de verschillende Nederlandse instellingen in het hoger onderwijs gebruik te kunnen laten maken van de binnen het project gemaakte en aangeboden studiematerialen, zullen duidelijke afspraken worden gemaakt over de wijze waarop het materiaal aan deze gemeenschap beschikbaar wordt gesteld. Hierbij worden afspraken over copyrights, licenties, etc., vastgelegd. De binnen het werkpakket Content uitgevoerde activiteiten worden hieronder afzonderlijk besproken en geëvalueerd.
Vaststellen format en metadatering Gedurende de definitiefase is het format van een leerstofmodule vastgelegd. In het bijzonder werd vastgesteld welke (meta)data aan een onderwijsmodule toegekend kan en moet worden. Hierbij is gestreefd naar aansluiting aan reeds bestaande (internationale) standaarden (IMS, LOM, SCORM, LoreNet), met aanpassing aan specifieke eisen van het project. Het vaststellen van het format voor metadatering bleek moeilijker dan verwacht. De bestaande standaarden sluiten niet altijd op elkaar aan en kennen vele verschillende versies. Ook bieden sommige velden binnen de bestaande metadatastandaarden te weinig speelruimte om de leerobjecten goed te kunnen beschrijven. Uiteindelijk is gekozen voor het gebruik van de LOMstandaard. Als onderdeel van de metadata is tevens een klassificatie gemaakt van de voor de aansluiting relevante wiskunde. Hier is voortgebouwd op de Living Math Taxonomy. Deze taxonomie heeft tot voordeel dat ze uitbreidbaar is. Voor het aanleveren van content is afgesproken de metadata zo volledig mogelijk moet worden aangeboden. Hoewel de leveranciers van content dit als een grote opgave beschouwden, is dit toch door allen uitgevoerd. Het resultaat is dat we nu een repository van leerobjecten hebben die goed en volledig gemetadateerd is. Helaas is door de vertraagde oplevering van het portaal een uitgebreide gebruikerstest niet mogelijk geweest. Hierdoor blijft de vraag enigszins open of de
Nationale Kennisbank Basisvaardigheden Wiskunde – Rapport Midterm Evaluatie
10
gekozen metadatering ook effectief is voor het goed zoeken en vinden van de leerobjecten binnen de repository.
Leerstofontwikkeling In de ontwikkelfase is door de verschillende partners de leerstofontwikkeling uitgevoerd. De ontwikkelde leerstof overdekt een groot aantal verschillende onderwerpen binnen de wiskunde en varieert van interactieve toetsen en applets tot uitgebreide dictaten. Aan de hand van wensen van implementatieprojecten zijn verschillende modules ontwikkeld en aangepast. Dit heeft geresulteerd in rijke en uitgebreide repository. Bij de -
aanvang van het project werden de volgende risico's onderkent Slechte aansluiting van content bij wensen van gebruikers. Te weinig capaciteit voor aanmaak van gewenste content. Gebruik van content is aan licenties en andere voorwaarden gebonden, waardoor het gebruik niet voor iedereen mogelijk is. - De content is slecht vindbaar voor de potentiële gebruiker.
Doordat er een grote hoeveelheid aan materiaal binnen het project beschikbaar is gekomen, is het derde punt nauwelijks van belang geweest. De versnipperring van capaciteit voor het maken van nieuwe content heeft er wel toe geleid dat niet alle wensen van gebruikers vervuld konden worden. Hierdoor is de aansluiting van content bij de wensen van de implementatieprojecten niet altijd goed gelukt. De gesignaleerde problemen zijn ten dele opgelost doordat de contentmakers ook buiten het kader van het NKBW zijn doorgegaan met de ontwikkeling en aanpassing van hun materialen. Dit heeft echter wel vertraging opgeleverd. Veel materiaal was pas aan het eind van de zomer klaar voor gebruik. Het inzetten in implementatieprojecten werd hierdoor bemoeilijkt. Door de vertraging bij het portaal is ook de vindbaarheid van de content in het geding geweest. Via onderlinge contacten en ander communicatiekanalen dan het portaal, is toch voldoende bekend gemaakt welk materiaal beschikbaar was.
Kwaliteitszorg Een evaluatieprotocol voor de evaluatie van binnen dit project ontwikkelde en aangepaste content is opgesteld. Aan het eind van de ontwikkelfase is ruimte gemaakt voor het uitvoeren van de evaluaties. Een groot aantal leerobjecten is geëvalueerd. Door de late oplevering van veel content is het protocol echter niet altijd geheel uitgevoerd. Gebruikersevaluaties ontbreken vaak nog. Een uitgebreide controle van de metadata heeft wel plaatsgevonden.
Conclusies Het werkpakket content heeft de in het project gestelde hoofddoelen bereikt: er is een repository met een groot aantal leermiddelen van hoge kwaliteit beschikbaar gekomen; er is samenwerking tussen verschillende contentleveranciers in gang gezet evenals uitwisseling van kennis en resources. Echter door de korte tijdspanne waarin het project moest worden uitgevoerd en de versnippering van de resources, is een aantal zaken minder ver uitgewerkt dan misschien gehoopt of heeft vertraging opgelopen. De tijdige verspreiding en beschikbaarheid van content heeft hieronder geleden. Dit heeft tot gevolg gehad dat de implementatieprojecten vaak voor eigen materiaal hebben gekozen en zich onafhankelijk hebben opgesteld van door anderen te maken content.
Nationale Kennisbank Basisvaardigheden Wiskunde – Rapport Midterm Evaluatie
11
4.3.
Verslag Werkpakket Implementatie
Algemeen Onderdeel van het project Nationale Kennisbank Basisvaardigheden Wiskunde waren 17 implementatieprojecten (werkpakket Implementatie). Doel van de implementatieprojecten was de ontwikkelde portal en beschikbare content in te zetten bij de uitvoering van het ‘aansluitonderwijs’. Studenten die met de implementatieprojecten bereikt werden, konden hun wiskundekennis verhogen en met meer kans op succes hun opleiding starten en volgen. Reeds vroeg in het NKBW-project zijn de implementatieprojecten gedefinieerd. Implementatieprojectplannen moesten in januari 2007 worden ingediend. In de plannen moest opzet en uitvoering van het beoogde aansluitonderwijs worden gedefinieerd, alsmede de behoefte aan online content. In het voorjaar 2007 zijn de voorbereidingen getroffen voor het aansluitonderwijs, dat bij sommige instellingen voor of in de zomer van 2007 van start ging. De meeste instellingen voerden de onderwijsactiviteiten uit in de periode september – november 2007. In november 2007 zijn door alle implementatieprojecten eindrapportages opgesteld, waarin de uitgevoerde activiteiten en de bereikte resultaten zijn beschreven. In onderstaande tabel wordt een overzicht gegeven van de implementatieprojecten. Gebruik / ontwikkeling van onderwijsmaterialen
Aantal studenten dat bereikt werd
Achtergrond van de studenten
Engelstalige theorie (eigen website: www.econ.uu.nl/ wiskunde) Oefenopgaven en Diagnostische tests (via Digitale Wiskunde oefenomgeving – DWO – www.fi.uu.nl/dwo en www.fi.uu.nl/dwo/en) Digitale wiskunde omgeving
250
Vwo Wiskunde A1,2 (#150), Buitenlandse studenten (#100)
120
Vwo (NT, NG) Hbo
Online syllabus
30
Zomercursus met werkcolleges
Online studiematerialen
15
Dirk Tempelaar
Online wiskunde cursus met geïntegreerde toetsen
Online cursus (ALEKS)
200
Dirk Tempelaar
Zomercursus statistiek
Off- en online materiaal (ALEKS)
10
Havo, vwo met wiskunde deficiëntie Voornamelijk buitenlandse aspirant bachelor studenten Voornamelijk buitenlandse aspirant bachelor studenten bachelor studenten
Instelling / opleiding
Implementatieprojectleider
Universiteit Utrecht / bacheloropleiding Economie
Yolanda Grift
Universiteit Utrecht / bacheloropleiding Scheikunde
Annik van Keer, Egbert Mulders
Universiteit Utrecht / James Boswell Instituut Universiteit Maastricht / bacheloropleiding Econometrie
Simon Berdenis van Berlekom
Dirk Tempelaar
Universiteit Maastricht / bacheloropleiding Bedrijfskunde en economie Universiteit Maastricht / masteropleidingen Governance en Manage-
Opzet van de onderwijsactiviteiten in het implementatieproject Entreetoets Wiskundepracticum Digitale oefenen toetsomgeving
Pre-toets Remediëring via hoor- en werkcolleges en spreekuut Post-toets online hulp, studieavonden
Nationale Kennisbank Basisvaardigheden Wiskunde – Rapport Midterm Evaluatie
12
ment learning Universiteit Twente / bacheloropleiding Elektrotechniek Universiteit Twente / bacheloropleiding Elektrotechniek / kansrekening Open Universiteit Nederland / bacheloropleiding Informatica Open Universiteit Nederland / bacheloropleiding Milieuwetenschappen Rijksuniversiteit Groningen / bacheloropleiding Natuurwetenschappen en technologie Fontys Hogescholen / 4 bacheloropleidingen Haagse Hogeschool / bacheloropleiding ICT en media TU Delft / bacheloropleidingen
Brigit Geveling, Cora Salm
Instaptoets Herstelonderwijs
Oefenopgaven gerelateerd aan Elektrotechniekonderwijs
40
Vwo
Jan-Kees van Ommeren
Extra oefenopgaven bij cursus kansrekening
Interactieve applets Digitale vragenbank
20
Tweedejaars studenten
Jan Timmerman
Voorkennistoets Opfrisonderwijs op deelonderwerpen Hertoetsen op deelonderwerpen Voorkennistoets Opfrisonderwijs op deelonderwerpen Hertoetsen op deelonderwerpen Toetsen Opfrisonderwijs
Digitale toetsen Online studiemateriaal
30
Zeer uiteenlopend
Digitale toetsen Online studiemateriaal Mathmatch classes
25
Zeer uiteenlopend
Maple TA toetsen
160
Vwo
Hans van de Loo
Ingangstoets Zelfstudie Eindtoets
Toetsbank in n@tschool
300
Mbo Havo (NG, NT)
Ron Neijhof
Ingangstoets Werkcolleges Eindtoets
Schriftelijk materiaal Online toetsen
20
Mbo Havo (NT)
Wim Caspers
Instaptoets (3TU) Opfrisonderwijs Eindtoets Instaptoets (3TU) Zelfstudie met begeleiding Eindtoets Vaardigheidstraining Oefentoetsen Eindtoets
Schriftelijk en online materiaal
1500
Vwo (NG, NT) Hbo
Online studiemateriaal
1000
Vwo (NG, NT)
Maple TA toetsen
150
Vwo
Cursus basiswiskunde met zelftesten
Maple TA toetsen Schriftelijk materiaal
100
Vwo
Jikke van Wijnen
Leon Tolboom
TU Eindhoven / bacheloropleiding Wiskunde en informatica
Hans Cuypers
Universiteit van Amsterdam / bacheloropleiding Natuurwetenschappen wiskunde informatica Vrije Universiteit / bacheloropleidi ng Exacte wetenschappen
Chris Zaal
Corrie Quant
Eén implementatieproject is niet van de grond gekomen: het implementatieproject van Hogeschool Zuyd, faculteit Economie. Het gebrek aan personele capaciteit en het ontbreken van een focus waren hiervoor de redenen.
Nationale Kennisbank Basisvaardigheden Wiskunde – Rapport Midterm Evaluatie
13
Door de beperkte looptijd van het NKBW-project is uiteindelijk nauwelijks gebruik gemaakt kunnen worden van de portal. De portal zal vooral na het NKWB project ingezet kunnen blijven worden in het kader van het wiskunde aansluitonderwijs. Wel is veel content (wiskunde studiemateriaal, leerteksten, toetsen, etc.) gebruikt die al bij de instellingen aanwezig was of in het kader van dit project is ontwikkeld. De in het kader van het project ontwikkelde content is aan het einde van het project ingevoerd in de portal, zodat ze ook na de projectperiode voor alle partijen beschikbaar zal zijn en blijven. In deze rapportage gaan we nader in op de implementatieprojecten. Van alle projecten wordt een korte beschrijving gegeven. Vervolgens worden algemene conclusies getrokken die relevant zijn voor het aansluitonderwijs in het algemeen en het ondernemen van vervolgactiviteiten in het bijzonder. Via de NKBW-implementatieprojecten zijn uiteindelijk meer dan 4.000 studenten actief aan de slag gegaan met het verbeteren van hun wiskundekennis. Daarmee heeft het NKBW-project een duidelijke impact gehad op het hoger onderwijs in Nederland en het bestrijden van de ‘wiskunde aansluit problematiek’. De implementatieprojecten Universiteit Utrecht, faculteit Economie De economieopleiding wordt gevolgd door studenten uit zowel Nederland als elders. Het onderwijs wordt dan ook verzorgd in het Nederlands en in het Engels. Vanwege de verschillende achtergronden en het matige kennisniveau van de Nederlandse studenten is extra aandacht nodig voor wiskunde. Na een entreetoets worden practica aangeboden, parallel aan het gewone onderwijs. Tevens wordt een digitale oefen- en toetsomgeving (zowel Nederlands- als Engelstalig) ingezet. Uiteindelijk is het gelukt om het slagingspercentage van het reguliere wiskundevak positief te beïnvloeden. Universiteit Utrecht, faculteit Scheikunde Studenten van de bacheloropleiding Scheikunde hebben aan het begin van het eerste studiejaar een voorkennistoets (pretoets) gemaakt. Studenten die zwak scoorden werd geadviseerd bij te spijkeren, voornamelijk om de algebraïsche vaardigheden te verbeteren. Daar zijn extra hoor- en werkcolleges voor georganiseerd, alsmede een individueel spreekuur. Aan het einde van het bijspijkertraject is een posttoets afgenomen, waarop duidelijk beter werd gescoord dan op de pretoets. Universiteit Utrecht, James Boswell Instituut Voor toelating tot sommige universitaire opleidingen is het vwo-vak wiskunde B1 vereist. Studenten die dat vak niet hebben kunnen in plaats daarvan een cursus doen bij het James Boswell Instituut. Voor toelating tot die cursus moet een instaptoets worden gedaan. Ter voorbereiding op die instaptoets is een cursus Basisvaardigheden ontwikkeld. De cursus Basisvaardigheden wordt online aangeboden en kan in de zomermaanden door studenten worden gedaan. Aanvullend op de cursus zijn enkele contactavonden gehouden en kon online hulp worden gevraagd. Deelnemers aan de cursus Basisvaardigheden scoorden substantieel hoger op de instaptoets dan degenen die niet aan de cursus hadden deelgenomen. Universiteit Maastricht, Economie De opleiding economie van de Universiteit Maastricht trekt veel buitenlandse studenten. Die hebben een grote variatie in wiskundekennis. De Nederlandse studenten die starten met de opleiding hebben niet altijd voldoende wiskundevoorkennis. Aan alle studenten wordt een online bijspijkercursus (ALEKS) aangeboden die voorafgaande aan het studiejaar kan worden gedaan.
Nationale Kennisbank Basisvaardigheden Wiskunde – Rapport Midterm Evaluatie
14
Zo’n 25% van de 800 eerstejaars neemt deel aan de bijspijkercursus, waarvan de helft met een substantiële inzet. Studenten die deelnemen aan de cursus oordelen positief. Uit evaluaties blijkt dat Nederlandse studenten zwakker dan hun buitenlandse collega’s scoren op enkele specifieke onderdelen, in het bijzonder algebraïsche rekenvaardigheden. Universiteit Maastricht, Econometrie Voor studenten die starten met de opleiding Econometrics and operations research is een zomerschool georganiseerd die startte aan het einde van de zomer en doorliep in het eerste onderwijsblok van het studiejaar. Studiemateriaal met veel oefenopgaven is ontwikkeld en studiebijeenkomsten werden georganiseerd. Doelstelling was het verhogen van het studiesucces van de studenten. Alhoewel dat cijfermatig niet kon worden aangetoond, oordeelden de studenten positief over de zomerschool. Universiteit Maastricht, Management of learning en School of Governance Voor studenten van beide masteropleidingen is een zomercursus Statistiek ontwikkeld, waarbij gebruik is gemaakt van het online systeem ALEKS en een studieboek. Studenten waren afkomstig uit de gehele wereld en veel hadden maar beperkt tijd ter beschikking om in de cursus te investeren. Ook de online toegang was soms problematisch vanuit afgelegen regio’s. Effect van de zomercursus is nog niet vast kunnen stellen, immers pas verderop in de masteropleiding moet dat tot uitdrukking komen. Universiteit Twente, faculteit Elektrotechniek Studenten maken aan het begin van het eerste jaar een instaptoets. Zij die onvoldoende scoorden waren verplicht mee te doen aan een tweede toets. Daartussen zijn werkcolleges gehouden waarop onder andere is gewerkt met speciaal ontwikkelde vraagstukken, waarin vooral wiskunde toegepast in het domein aan bod komt. De tweede toets werd veel beter gemaakt dan de instaptoets. Studenten waarderen de domeingebonden vraagstukken zeer. Ze voelen zich dan minder aangesproken op hun wiskundedeficiëntie, maar raken gemotiveerd om wiskunde beter te bestuderen om het goed toe te kunnen passen. Universiteit Twente, faculteit Elektrotechniek / kansrekening Tweedejaars studenten Elektrotechniek ervaren kansrekening als een moeilijk vak, zowel met betrekking tot modellering als wiskundige vaardigheden. Bij het vak zijn applets gebruikt om het modelleren te oefenen en tevens is een vragenbank gebruikt met extra opgaven. Het bleek lastig om tijdens de colleges gebruik te maken van de elektronische mogelijkheden en studenten hebben nog weinig met de vragenbank gewerkt. De oordelen van studenten over het vak waren echter al positiever, al zat er nog geen stijging in de tentamenresultaten. Open Universiteit Nederland, faculteit Natuurwetenschappen Studenten van de Open Universiteit zijn niet gebonden aan vaste startmomenten voor een cursus of opleiding, hun vooropleidingen lopen sterk uiteen, evenals kenmerken als leeftijd, woonplaats, etc. In het implementatieproject is nagegaan of een diagnostische toets en een zelfbeoordelinginstrument studenten beter zicht kunnen geven op hun studiekansen. Tevens is remediërend materiaal aangeboden om voorkennishiaten weg te werken en de studiedoorstroming te bevorderen. Gebleken is dat studenten duidelijk behoefte hebben om wiskundekennis op te halen, of nieuwe onderwerpen te bestuderen, om met meer zelfvertrouwen en een grotere kans op succes hun studie te vervolgen. Open Universiteit Nederland, faculteit Informatica Studenten die starten met een cursus aan de Open Universiteit hebben zeer diverse achtergronden. Om na te gaan of ze voldoende wiskundekennis hebben om met de cursus Discrete wiskunde A te kunnen starten is een online voorkennistoets ontwikkeld en
Nationale Kennisbank Basisvaardigheden Wiskunde – Rapport Midterm Evaluatie
15
geïmplementeerd. Na de toets vernemen studenten welke onderdelen ze nog onvoldoende beheersen en krijgen ze advies over online studiemateriaal. Na betreffende materialen bestudeerd te hebben, kunnen ze over die onderwerpen opnieuw (deel)toetsen maken. Tijdens dit implementatieproject bleek er nog onvoldoende geschikt online remediëringsmateriaal aanwezig te zijn. Vooralsnog leken vooral de betere studenten gebruik te maken van de nieuwe mogelijkheden. Technische Universiteit Eindhoven Voor studenten is interactief lesmateriaal ontwikkeld om algebraïsche vaardigheden te ontwikkelen en te oefenen. Zowel studenten van de TUE, als leerlingen in het middelbaar onderwijs hebben gebruik gemaakt van de materialen. De ontwikkeling van goede interactieve content is erg arbeidsintensief. Het is echter de moeite waard als er grote aantallen studenten en leerlingen gebruik van kunnen maken. De contacten met het middelbaar onderwijs die hierdoor ontstonden waren zeer waardevol en helpen de kenniskloof tussen middelbaar en hoger onderwijs te overbruggen. Technische Universiteit Delft In samenwerking met de andere TU’s is een instaptoets ontwikkeld, die bij alle studenten is afgenomen. Aansluitend daarop is opfrisonderwijs aangeboden (werkcolleges) en konden studenten gebruik maken van online oefen- en toetsmateriaal (MathMatch). In dit implementatieproject is een groot aantal studenten bereikt. Tevens heeft het opfrisonderwijs een vaste plek verworven in het onderwijsaanbod van de TUDelft en heeft het aandacht gekregen van docenten en opleidingen om de algebraïsche vaardigheden naar een hoger peil te brengen. Rijksuniversiteit Groningen Voor studenten van de opleiding Natuurwetenschappen zijn online toetsen, op basis van MapleTA ontwikkeld. Studenten die in eerste instantie onvoldoende scoorden, konden nog twee keer herkansen. Tussendoor zijn enkele werkcolleges aangeboden en konden studenten in zelfstudie met online leermaterialen aan de gang. Studenten oordeelden positief over de aangeboden mogelijkheden. Veel studenten die eerst onvoldoende scoorden haalden een hoger niveau op de herkansingen. Een overtuigend effect in het vervolgonderwijs kon nog niet worden aangetoond. De faculteit Bedrijfskunde was geïnteresseerd in de opzet en wil soortgelijke activiteiten ontplooien voor de eigen studenten. Universiteit van Amsterdam Voor studenten van de natuurwetenschappelijke opleidingen zijn er vaardigheidstrainingen georganiseerd. Er is uitdrukkelijk voor gekozen niet met een instaptoets te beginnen, maar pas halverwege de trainingen oefentoetsen te introduceren. De trainingen worden afgesloten met een toets waarmee een bonuspunt voor een reguliere cursus kan worden verdiend. In het kader van het implementatieproject zijn de toetsen ontwikkeld en/of verbeterd en hebben ze een betere plaats in het curriculum gekregen. Daarbij is gebruik gemaakt van MathMatch producten. Studenten oordeelden daar positief over. Het kennisniveau van de deelnemende studenten is gestegen, al heeft een korte vaardigheidstraining maar een beperkte invloed. Vrije Universiteit Voor studenten van 3 opleidingen is een college Basiswiskunde verzorgd. Bij dit college zijn 10 digitale zelftoetsen ontwikkeld, op basis van MapleTA. De studenten hebben maar weinig gebruik gemaakt van de zelftesten; 25 % maakte 5 of meer zelftesten. De studenten die de zelftesten maakten, scoorden wel beter op het tentamen. Studenten waardeerden het college Basiswiskunde, maar achten de zelftesten niet erg nuttig. De tentamenresultaten waren echter laag. Overwogen wordt om meer op persoonlijke begeleiding en ondersteuning in te zetten in plaats van voort te borduren op online mogelijkheden. Fontys Hogescholen
Nationale Kennisbank Basisvaardigheden Wiskunde – Rapport Midterm Evaluatie
16
Bij 4 opleidingen is een in n@tschool ontwikkelde toetsbank ingezet. De opleidingen hebben ingangstoetsen afgenomen, vooral als signaal naar de studenten. Na de toets konden studenten deelnemen aan cursussen en gebruik maken van online zelfstudiemogelijkheden. Na afloop is opnieuw een toets afgenomen. Alhoewel studenten positief oordeelden over de geboden mogelijkheden, kon er geen stevige stijging van het wiskundeniveau worden vastgesteld. Online zelfstudiemogelijkheden lijken voor deze doelgroepen nog niet erg geschikt. Mogelijk dat het substantieel verhogen van de wiskundekennis ook een langer traject nodig heeft dan slechts enkele maanden. Haagse Hogeschool Voor studenten van de opleiding Technische informatica zijn instap- en vervolgtoetsen ontwikkeld. Tussendoor zijn colleges en practica gegeven en is gebruik gemaakt van zelf ontwikkelde onderwijsmaterialen. Doel van de activiteiten was het verhogen van de wiskunde basisvaardigheden en doorstroming mogelijk maken naar universitair masteronderwijs. Alhoewel maar een beperkt aantal studenten heeft geparticipeerd, zijn beide doelen bereikt. Van alle NKBW implementatieprojecten zijn afzonderlijke eindrapportages beschikbaar (www.nkbw.nl). De afzonderlijke implementatieproject-eindrapportages zijn niet in deze eindrapportage opgenomen, om de omvang van deze eindrapportage beperkt te houden. Patronen in opfrisonderwijs De implementatieprojecten die in het kader van het project Nationale Kennisbank Basisvaardigheden Wiskunde zijn uitgevoerd kennen een grote diversiteit. Verschillende instellingen en onderwijssystemen, verschillende doelgroepen en omstandigheden vereisen steeds een specifieke invulling. Desalniettemin zijn er enkele grove patronen te herkennen. Opfrisonderwijs vooraf, parallel, of just in time Bij enkele opleidingen (OU, UM, UU/JBI) wordt er nadrukkelijk voor gekozen om studenten voorafgaande aan het reguliere onderwijs zonodig bij te spijkeren. Reeds vroegtijdig worden de studenten benaderd en geadviseerd een voorkennistoets te doen en eventueel ontbrekende kennis op te frissen of bij te spijkeren. Dergelijk voorbereid onderwijs is veelal niet verplicht, kosteloos, in zelfstudievorm en gaat uit van het eigen verantwoordelijkheidsbesef van studenten voor zijn of haar eigen studieloopbaan. Studenten die zich daar niet op aangesproken voelen nemen veelal niet deel en starten zonder verdere voorbereidingen het reguliere onderwijs. Het merendeel van de opleidingen biedt extra wiskunde onderwijs veelal parallel aan, aan het reguliere onderwijs. Vaak is er een starttoets om na te gaan of de wiskundekennis op voldoende niveau is. Als dat niet het geval is, kan worden bijgespijkerd, al dan niet verplicht en afgesloten met een eindtoets. Veelal valt het opfrisonderwijs buiten het normale studieprogramma en telt het niet mee bij de studielast. De starttoets is informatief voor studenten en docenten; men weet wat er te doen staat. Voor studenten is de toets nogal eens confronterend: men heeft immers het voorbereidend onderwijs succesvol afgesloten, maar scoort nu toch laag. Slechts in een enkel geval (Universiteit Maastricht, Management of learning en School of Governance en Universiteit Twente, faculteit Elektrotechniek / kansrekening) worden er verderop tijdens de opleiding mogelijkheden geboden om specifieke wiskundig vaardigheden te ontwikkelen die op dat moment relevant zijn voor de opleiding. Onduidelijk is of studenten die deel hebben genomen aan de bijspijker- en opfriscursussen bij de start van hun opleiding, in een later fase van hun studie, nog eens teruggrijpen op de betreffende cursussen. Juist de ‘just in time’ leermogelijkheden zouden goed kunnen profiteren van altijd aanwezig online studiemogelijkheden. Zelfstudie of groepswerk Vrijwel alle opfris- en bijspijker cursussen die parallel aan het reguliere onderwijs worden gegeven, bestaan uit een combinatie van groepsactiviteiten (colleges, practica) en zelfstudie
Nationale Kennisbank Basisvaardigheden Wiskunde – Rapport Midterm Evaluatie
17
(eventueel met online materialen). De cursussen voorafgaande aan het reguliere onderwijs zijn alle vrijwel volledig gebaseerd op zelfstudie. Daardoor is ook studie op afstand mogelijk, hetgeen vooral interessant is voor studenten die van elders uit de wereld in Nederland willen komen studeren, of studenten die hun studie met andere activiteiten (werk, gezin) moeten combineren. De verhouding zelfstudie/groepswerk bij opfrisonderwijs parallel aan het reguliere onderwijs varieert behoorlijk. Bepalende factor lijkt hier vooral budget en beschikbare docentcapaciteit te zijn. Voor zover er om didactische redenen voor een zelfstudieaanpak wordt gekozen, komt duidelijk naar voren dat dat een goede opzet en aansturing vereist. De huidige generatie studenten lijkt nog niet in staat om een goed eigen leertraject te doorlopen in een open online leeromgeving. Conclusies Organisatie 1 De implementatieprojecten konden voortvarend worden opgezet en uitgevoerd, omdat ze aansloten bij initiatieven en behoeftes die al binnen de instellingen en opleidingen speelden. 2 Door de onderlinge onafhankelijke opzet van de implementatieprojecten ontstonden er geen vertragingen in de projectuitvoering. 3 Tussen de verschillende implementatieprojecten is weinig onderlinge kennisuitwisseling tot stand gekomen. Alleen de onderlinge review van de implementatieprojectvoorstellen en de algemene presentaties op bijeenkomsten en in rapportages heeft geleid tot het kennisnemen van elkaars activiteiten. 4 De eindrapportages van de implementatieprojecten waren alle van goede kwaliteit en tijdig gereed. Inhoudelijk 5 Er was binnen de implementatieprojecten veel ruimte voor een eigen invulling van doelstellingen en werkwijzen. In een vervolgproject kan duidelijker gestuurd worden, bijvoorbeeld om te komen tot een betere inzet van zelfstudiemateriaal, of contextgebonden wiskundeonderwijs. 6 Doordat de portal Wizmo te laat beschikbaar kwam kon daar geen gebruik van worden gemaakt in de implementatieprojecten, en was het tevens lastig de ontwikkelde materialen tijdig aan te leveren. Het realiseren van eigen oplossingen om online materialen beschikbaar te stellen heeft tot extra inspanningen geleid. 7 Er was nog te weinig online content beschikbaar. Ook waren delen van de content niet voor iedereen toegankelijk, wat het gebruik hinderde. Materiaal dat er wel was, was niet altijd geschikt voor zelfstudie. Didactisch 8 Bijspijker- en opfrisonderwijs moet een duidelijk positie in het curriculum (of als voorkennisvereiste) krijgen, wil het daadwerkelijk effect sorteren. 9 Online onderwijs draagt het risico in zich te verworden tot vrijblijvend onderwijs. Studenten (en docenten) zullen met deze nieuwe vorm van onderwijs om moeten leren gaan. Een strakke structurering lijkt voor veel studenten momenteel nog belangrijk. 10 Instaptoetsen waarop laag wordt gescoord worden door studenten als confronterend en demotiverend ervaren. Strategisch 11 De diversiteit in opleidingen ‘vóór’ en ‘ná’ de aansluiting is groot. Ook het beheersingsniveau van studenten over het onderwijs dat ze gevolgd hebben is divers. Hoe goed het onderwijs op middelbaar en hoger niveau ook op elkaar afgestemd wordt, er zal altijd behoefte zijn aan onderwijs om hiaten weg te werken. Het kan daarbij gaan om opfrissen, bijspijkeren, maar ook om bestudering van nieuwe onderwerpen, noodzakelijk voor een specifieke opleiding of cursus.
Nationale Kennisbank Basisvaardigheden Wiskunde – Rapport Midterm Evaluatie
18
4.4.
Verslag Werkpakket Communicatie
Algemeen Het is verstandig gebleken om een apart werkpakket in te richten voor ‘communicatie’. Als je over de aansluitproblematiek tussen twee ‘systemen’ (voortgezet onderwijs en hoger onderwijs) wilt praten, dan zal je minimaal er voor moeten zorgen dat van beide partijen mensen om tafel gaan zitten om tot een gezamenlijke probleemaanpak te komen. In dit eindverslag blikken we nog kort terug op de ondernomen stappen.
Bijeenkomsten Het betreft hier geen overzicht van alle bijeenkomsten die gehouden zijn in het kader van NKBW. Dat zou een lange lijst opleveren, voor besprekingen van het kernteam, stuurgroep, resonansgroep, teams van de diverse werkpakketten en de bijeenkomsten per participerende instelling. We beperken ons hier tot de bijeenkomsten die gehouden zijn in het kader van het op gang brengen van een goede communicatie over de doelstellingen, werkwijze en uitkomsten van het NKBW-project. datum 23 april
doelgroep nkbwuitwisselingsbijeenkomst
#mensen 75
•
•
10 november
nvvw-studiedag (docenten wiskunde vo) – totaal twee workshops
30
•
•
13 en 14 november
surf-onderwijsdagen
25
•
conclusie pos: goede onderwerpen, levendig debat: 23 april kan gezien worden als de followup van de ‘ontstaans-bijeenkomst’ van nkbw, maart 2006. Het was goed te constateren dat er een belangrijke stap was gezet in het debat over de aansluiting. neg: te weinig docenten uit het vo: docenten vo kunnen zich niet makkelijk vrij maken voor dergelijke ‘studie’-dagen. En, NKBW was op dit tijdstip van het project nog vrijwel onbekend in het vo. pos: herkenning (bij het vo) over de stappen die bij nkbw genomen zijn: in twee workshops (1 over de portal Wizmo en 1 over de analyse van vo- en ho-toetsen) werd duidelijk dat er een groeiende belangstelling is bij docenten vo om zich met de aansluitingsproblematiek bezig te houden. neg: te weinig docenten uit het ho: voor deze studiedag geldt dan weer dat ho-docenten niet apart afreizen naar een vo-bijeenkomst om daar in discussie te gaan. dit kan wellicht een jaar later (2008) effectiever worden uitgevoerd. pos: herkenning vanuit andere hoinstellingen (en ook andere vakken) dat met de uitkomsten van nkbw iets gedaan kan worden: opvallend was dat men sterke interesse heeft in de gebouwde constructie bij
Nationale Kennisbank Basisvaardigheden Wiskunde – Rapport Midterm Evaluatie
19
•
30 november
nkbw-slotbijeenkomst
40
•
•
Wizmo.nl, en dan met name vragen heeft over de relatie tussen portal en community (iets waar we bij NKBW ook nog weinig ervaring mee hebben). neg: te weinig mensen bereikt: de aantallen vielen tegen en het was een zeer uiteenlopende groep qua interesse (iets wat overigens te verwachten valt bij surf onderwijs dagen) pos: goede slotbijeenkomst zowel het ‘interne’ deel (voor het project) als het externe deel konden goed ingevuld worden met oog voor evaluatie en een toegespitste kijk vooruit richting een mogelijk nkbw-2 traject neg: iets te weinig mensen gezien de behaalde resultaten op de diverse punten was het goed geweest voor de disseminatie als een grotere groep mensen was komen luisteren (te veel concurrentie met andere prioriteiten in deze tijd van het jaar is het vermoeden)
Wat in ieder geval bereikt is, is dat er in dit samenwerkingsverband veel kennis is van de netwerken uit beide gebieden (vo en ho). Hier kan in het vervolg eenvoudig op voortgebouwd worden.
Website Gedurende het project is een website onderhouden: www.nkbw.nl
Aantal unieke bezoekers per maand Voor interne communicatie is overigens gebruik gemaakt van Surfgroepen. Het kernteam heeft regelmatig met behulp van Breeze overleg gevoerd. Met NKBW is afgesproken dat deze website nog minimaal 1 jaar door het Fi zal worden gehost. Met de mensen van SIGMA zal afgestemd worden hoe de inhoud ook op andere plekken kan worden getoond (door fysiek kopieren van materiaal of verwijzen). Voor alle duidelijkheid: de website Wizmo.nl staat helemaal los van de projectwebsite nkbw.nl
Nieuwsbrief De NKBW-nieuwsbrief is iedere maand uitgekomen. Alle berichten uit de twaalf nieuwsbrieven zijn na te lezen op: http://www.fi.uu.nl/nkbw/rss/welcome.html Wat betreft de actualiteit van de berichtgeving zal vanaf 1 december 2007 aangesloten worden op de berichtgeving vanuit SIGMA.
Nationale Kennisbank Basisvaardigheden Wiskunde – Rapport Midterm Evaluatie
20
Overdracht naar SIGMA In een aparte overdrachtsbrief tussen NKBW en SIGMA zullen zaken met betrekking tot overdracht van materialen worden vastgelegd. SIGMA (special interest group van surf w.b. wiskunde) behartigt ook voor de komende periode de belangen van docenten en andere betrokkenen als het gaat om wiskunde en de wiskundeaansluiting in het hoger onderwijs. Daarmee zet het een traditie voort die is ingezet als ‘belangenbehartiger’, ook ten opzichte van eerdere Surfprojecten zoals: • Webspijkeren • MathMatch NKBW voegt zich thans toe aan dit lijstje met een ‘erfenis’ die interessant is voor de verdere ontwikkeling van oplossingen voor het aansluitprobleem wiskunde. De coordinatie van SIGMA is in handen van Leendert van Gastel (vz) en Natasa Brouwer (coordinator). Concreet biedt NKBW de volgende producten aan voor overdracht: • alle (digitale) documenten/bronnen uit de werkpakketten: o portal o content o implementatie o communicatie o management/onderzoek • gebruikte adressenlijsten waarin contacten zijn opgenomen met: o vo: wisfaq, wisbase, nvvw, wiskundeonderwijs.nl, ctwo, kennisnet, wiskunde d steunpunten, vo-raad, etc. o ho: surf, lica, etc. o algemeen: ocw, platform beta-techniek, surf, laks, mbo-raad, hbo-raad , etc.
Conclusie NKBW heeft een stap kunnen zetten zoals uitgestippeld in het werkplan, maar er zal ook in de toekomst een stevige investering nodig zijn om de mensen uit het vo en de mensen uit het ho dichter bij elkaar te brengen om gezamenlijk aan de oplossing van de geconstateerde problemen te kunnen werken.
Nationale Kennisbank Basisvaardigheden Wiskunde – Rapport Midterm Evaluatie
21
4.5.
Verslag Werkpakket Projectmanagement
Algemeen Het doel van het werkpakket projectmanagement is het coördineren van de werkzaamheden, het afstemmen met de probleemeigenaren, subsidiegevers en partijen in het veld, en het afleggen van verantwoording over de werkzaamheden en budgetten. Ook twee projectactiviteiten die overkoepelend zijn aan de werkpakketten, te weten onderzoek en business model, waren hier ondergebracht.
Consortium Het consortium bestaat uit de volgende instellingen: Fontys, HHS, HS Zuyd, OUNL, RUG, TUD, TU/e, RUL, UM, UT, UU, UvA, VU. De instellingen RUL en VU waren in het begin onvoldoende betrokken bij de projectuitvoering. Gaande het traject is het mogelijk gebleken om deze partijen er toch goed bij te betrekken, RUL vooral als in WP2, VU vooral in WP3. In de afsprakenbrieven is dit goed vastgelegd. HS Zuyd is tegen een fnuikend capaciteitsprobleem aangelopen en heeft uiteindelijk een zeer kleine taak in WP3 uitgevoerd.
Onderzoek Van het gedane onderzoek treft u verslag in het projecteindrapport E11. Het betreft • vergelijking van toetsen • beeldvorming bij docenten VO • verkennend onderzoek bij JCU • effectmeting en tevredenheidmeting bij de implementatietrajecten. Er wordt nu, na de projectperiode, nog gewerkt aan de monitor. Deze verschijnt begin 2008.
Business model Het projectstandpunt ten aanzien van het business model is dat zoveel mogelijk om niet wordt gedeeld, en dat de gemeenschap van mensen betrokken bij het aansluitonderwijs zoveel mogelijk erbij wordt betrokken. Hierbinnen bevindt zich de suite van diensten voor docenten HO en VO, en leerlingen en studenten. Op de instellingen die hier van profiteren kan een beroep worden gedaan om bij te dragen aan de continuïteit. Dit business model is in Deliverable E10 uitgewerkt, met daarin clusters van taken die bij een duurzame inrichting te onderscheiden zijn. E-merge heeft aangeboden om in de periode tot en met september 2009 de hosting en onderhoud voor zijn rekening te nemen. De exacte randvoorwaarden worden nog in een brief vastgelegd. Verder zijn de eerste stappen tot de oprichting van de Stichting “Vrienden van Open Wiskundecontent” genomen. Bovendien zal in de komende periode ook de mogelijkheden van een vervolgproject onderzocht worden. Er is veel bereidheid bij projectpartners hiervoor. In SIGMA-verband zullen verdere plannen en voorstellen gevormd worden. Omdat niet alle NAP-gelden besteed zijn, krijgen alle NAP-projecten nog de gelegenheid om een kleine projectuitbreiding te doen met name gericht op disseminatie. De verdere operationalisatie van het business model willen we hierbij onderbrengen.
Stuurgroep Er is een bijeenkomst geweest op vrijdag 19 oktober 2007. Op de agenda stond, naast de status en een demonstratie, de uitwerking van het business model. Het verslag van de bijeenkomst is als bijlage toegevoegd. De stuurgroep toonde zich tevreden met de behaalde resultaten, en stelt zich met kracht op achter het gekozen business model en een aanvraag voor een vervolgproject.
Nationale Kennisbank Basisvaardigheden Wiskunde – Rapport Midterm Evaluatie
22
Tussentijdse Review Op 3 oktober 2007 heeft de tussentijdse term review door de Commissie Projectbewaking van SURF voor het project Nationale Kennisbank Basisvaardigheden Wiskunde plaats gevonden. De belangrijkste bevindingen zijn: - Overbesteding bij portaal. De reviewers snijden de overbesteding bij het werkpakket Portaal aan, en geven ter overweging om manieren te vinden om die aan te vatten. - Vertraging bij andere pakketten. De vertraging bij het portaal heeft zijn weerslag op de andere werkpakketten. Het aanleveren van content en de reviewing is later dan gepland op gang gekomen. Bij de implementatieprojecten is geen vertraging opgetreden, maar is – anders dan gehoopt – er geen gebruik van het portaal gemaakt, omdat deze pas aan het einde van de periode in bètaversie beschikbaar was. Wel is de content over en weer veel uitgewisseld, maar nog zonder de centrale rol van de portaal. Vanaf de eerste review is dit risico onderkend, binnen een project van 13 maanden was dit ook meer hoop dan zekerheid. De leden van dit consortium willen een vervolgproject inzetten, en daarbij is de uitgangsituatie op basis van de huidige projectresultaten juist zeer gunstig. - Business Model. De reviewers benadrukken het grote belang van een robuust business model. Dit heeft met de gemeenschap van docenten te maken, waarbinnen we voor SIGMA een belangrijke rol zien. Met de community manager van SIGMA is contact opgenomen, en ook met Petra Boezerooy die bij SURF de SIGs onder haar hoede heeft. Het heeft ook te maken met de hosting en onderhoud. Hierbij heeft het E-merge consortium aangegeven dat zij tot september 2009 garant willen staan. Ten derde heeft het te maken met een aanspreek/coördinatiepunt, waar een bescheiden financiering voor nodig is. Naar aanleiding van de reactie van de reviewers is een herziene versie van het business model voor de stuurgroepvergadering van 19 oktober opgesteld. Hierin is als vertrekpunt het aanbieden van open content voor wiskunde genomen, en wordt hiervoor een stichting in het leven geroepen. Bij de leden van de Stuurgroep heeft dit tot zeer positieve reacties geleid.
Adviesraad In de adviesraad zijn belangrijke partijen uit het VO en HO veld vertegenwoordigd. In overleg met SURF is afgesproken dat deze adviesraad ook zich buigt over de ontwikkelingen bij SIGMA. Het is immers niet zinvol om daarvoor een aparte adviesraad op te zetten. De adviesraad bestaat uit de volgende leden • Roel van Asselt (Saxion, LICA) namens de vernieuwingscommissie wiskunde; • Herman ten Napel namens de Resonansgroep Wiskunde; • Fleur van den Bosch namens Interstedelijk Studentenoverleg ISO; • Henk Rozenhart namens de Nederlandse Vereniging van Wiskundeleraren NVvW; • Eva Kunst en Sywert van Lienden namens Landelijk Aktiecomité Scholieren LAKS; • Leonie Blom namens Platform Bèta Techniek. De taak voor de adviesraad is om het projectteam te adviseren over de koers van het project, het betrekken van het VO en HO veld, en de inzet van de resultaten na de projectperiode. Bij de bijeenkomsten zal het kernteam van het project aanwezig zijn. Op 26 juni heeft de eerste bijeenkomst plaatsgevonden. De problematiek is in de breedte besproken, waarbij bleek dat met de brede samenstelling van de raad deze zeer verschillende visies kan huisvesten. De adviesraad uitte haar zorg over het didactiseren: hoe de algebraïsche vaardigheden te onderwijzen, en in welke tijd? Ook werd het zorgpunt genoemd dat er onvoldoende verankering op het niveau van managers (hbo-raad, vsnu-raad, mbo-raad) plaatsgevonden heeft. Verder werd er veel verwacht van het onderzoek. Als een toekomstig groot probleem werd de aansluiting HBO-WO master genoemd. Een tweede bijeenkomst heeft vanwege agendaproblematiek nog niet plaatsgevonden.
Projectadministratie Zoals eerder gerapporteerd heeft het enige tijd geduurd voordat de uitbestedingsvoorwaarden en het addendum daarbij met andere accountingspelregels vastgelegd waren. Op basis daarvan is
Nationale Kennisbank Basisvaardigheden Wiskunde – Rapport Midterm Evaluatie
23
een model afsprakenbrief opgesteld en die heeft onder de partners gecirculeerd. Inmiddels zijn deze brieven getekend retour. De accountingsregels maken de verantwoording van de partners zelf groter, maar leiden ook tot hogere accountantskosten. Dit gevolg is aan het NAP-team meegedeeld. Inmiddels is bekend dat in het vervolgsubsidiekader er een eenvoudiger administratiemethodiek gehanteerd kan worden met een vast uurtarief. Wij waarderen dit.
Organisatie Bijeenkomsten Op 30 november is de slotbijeenkomst van NKBW geweest. Hierbij was de ochtend besloten en gericht op de evaluatie door alle projectteamleden. Deze is per werkpakket uitgevoerd (portaal en content samen), en daarna plenair doorgesproken. Om goed contact te houden met het NAPteam van SURF waren zij ook uitgenodigd. Helaas waren Christien Bok en Peter Fest verhinderd. Gelukkig kon Tom Dousma, programmamanager SURF Educatief, wel aanwezig zijn. Hij heeft het project ook een spiegel voorgehouden. De discussie met hem werd door de teamleden zeer gewaardeerd. Het middagdeel was openbaar, en van een meer feestelijk tintje. Wim Liebrand, directeur van SURF, heeft de site wizmo.nl officieel in gebruik genomen, en het eerste exemplaar van het eindrapport E11 in ontvangst genomen. Het grootste deel van het programma was gewijd aan de presentatie van de onderzoeksresultaten. Daarnaast heeft Beatrice Boots, programmaregisseur HO, Platform Bèta Techniek, vanuit haar perspectief gereflecteerd op de aansluitingsproblematiek en de resultaten van NKBW. Als laatste onderdeel kreeg de projectleider gelegenheid om af te sluiten met een reflectie en het aangeven van enige zichtlijnen voor een vervolgproject. Deelnemers kregen een wizmok mee naar huis. De doos was nadien helemaal leeg!
Nationale Kennisbank Basisvaardigheden Wiskunde – Rapport Midterm Evaluatie
24
5.
Evaluatie
Zijn de doelen bereikt? Terugkijkend op de projectdoelen uit het Controlling Document, kunnen we met tevredenheid vaststellen dat de doelen bereikt zijn. -
Bij alle deelnemende partijen implementatietrajecten uitvoeren. Ja. dit is (op één na) gelukt.
-
Aansluiting monitoren. Ja, de monitor is ontwikkeld, en wordt nu – na de projectperiode – uitgevoerd. Van de meer kwantitatieve doelen kan dan pas bepaald worden in hoeverre zij gehaald zijn.
-
Materialen delen via een portaal. Ja, de portaal is er in bèta versie. Er zijn veel materialen opgenomen van veel instellingen.
-
Breed gesprek VO-HO. Ja, er zijn op veel vlakken en niveau’s uitwisselingsmomenten geweest in een situatie met veel partijen en verschillende maten van wederzijds begrip. De NKBW-activiteiten worden als constructief gezien. VO-instellingen zijn gemotiveerd om in een vervolgproject te participeren.
Daarmee is het probleem van de tekort schietende algebraïsche vaardigheden bij de wiskundeaansluiting nog niet opgelost, maar er is wel door veel instellingen in gezamenlijkheid een goede stap gezet. Deze stap creëert een goede uitgangspositie om verder gezamenlijk aan dit probleem te werken.
Lessons Learned Aan het einde van dit project kijken we ook procesgericht terug. Hiervoor is het ochtenddeel van de slotbijeenkomst van 30 november gebruikt. Tom Dousma merkte bij die bijeenkomst op dat de punten die genoemd werden op deze evaluatiebijeenkomst de lijst met risico’s uit het Controlling Document in grote mate volgen. Hierin is een risicoanalyse opgenomen die in de Risk Review met A. Udink ten Cate namens de WTR besproken is. Een aantal risico’s zijn in het begin al goed ondervangen door keuzes in het project (periode van onderwijs, grote projectoverhead). Bij een aantal risico’s treedt de gebeurtenis wel op, maar is het effect goed onder controle (partner valt uit de boot, korte voorbereidingstijd). Sommige risico’s kunnen pas optreden in een latere fase (geen effect kunnen vaststellen, didactische vooronderstellingen incorrect, continuïteit niet gewaarborgd). Er doemen ook nieuwe risico’s op • Afhankelijkheden tussen werkpakketten. De werkpakketten kennen elk hun eigen dynamiek. Echter kunnen afhankelijkheden maken dat er op elkaar gewacht wordt. Dit is zo goed mogelijk ondervangen door het kernteam door daar alert op te zijn, en met inhoudelijke en logistieke detailplanning te komen. • Grote buitenkant van het project: er zijn veel mensen en instanties geïnteresseerd in het project. Dat is een goede zaak, maar vergt ook tijd. Inmiddels is er een informatieve website en is er een flyer over het project. Het meeste tijd gaat zitten in de weerbarstige risico’s. Je houdt er zo goed mogelijk rekening mee, maar ze treden op en ze belasten het project. Met onze inzichten achteraf lopen we de lijst van risico’s door.
-
Korte voorbereidingstijd
Dit gegeven was voor het project al bekend, en is ondervangen door een definitiefase van een maand in te plannen. Voor projecten van een dergelijke omvang is dit zinnig om “de neuzen dezelfde kant op te krijgen”.
Nationale Kennisbank Basisvaardigheden Wiskunde – Rapport Midterm Evaluatie
25
-
Grote projectoverhead
Het blijkt dat een groot project als dit goed kan verlopen. Binnen de werkpakketten was er heldere aansturing, en de afstemming tussen de werkpakketten gebeurde in het kernteam. Veel aandacht is aan de communicatie besteed, maar toch was er misschien niet genoeg zorg of elk projectteamlid voldoende uit het project kon halen. Dankzij een uitvoerig Controlling Document en een effectief gebruikte definitiefase was er voldoende structuur aan het project, en bleef de projectoverhead in verhouding.
-
Partner valt uit de boot
Was bij aanvang van het project het consortium nog niet helemaal stabiel, na de definitiefase zijn hier geen problemen meer opgetreden. Het is nuttig gebleken om een heldere afsprakenbrief op te stellen.
-
Tekortschietende personele inzet
Grote druk lag en ligt bij de portaalbouwers en bij de mensen van de implementatietrajecten. Met grote inzet is hier werk verricht, en de planning is zeer strak gehouden. Ook voor de kernteamleden bleek het niet altijd eenvoudig om de tijd die zo’n groot project nodig heeft, te vinden naast de andere werkzaamheden. Dankzij de motivatie van de betrokkenen en voortdurende aandacht van het kernteam is dit risico toch aardig onder controle gebleven.
-
Uitlopen software ontwikkeling portaal
Vanwege de grote tijdsdruk is direct vanaf de start van het project gekozen om meerdere ontwerpteams parallel aan het werk te zetten. Dit vergt extra inzet voor de afstemming binnen het werkpakket naast de toch al hoge afstemmingsgraad die het project met zich meebrengt. De samenwerking met India verliep soms zeer vlot, maar kende ook momenten van te weinig gestuurde activiteit. Het project had vanwege de looptijd nauwelijks ruimte voor vertraging. Zoals we zagen aankomen, is de begroting voor de portaal overschreden. SURF bleek gelukkig bereid om een deel van deze kosten op zich te nemen. Nu, aan het einde van de projectperiode ligt er een goed begin (beta-versie) van een portaal van hoge kwaliteit.
-
Metadata discussie niet klaar
Door de essentiële keuzes voor de metadatering zijn in de definitiefase gemaakt. Echter heeft het in de ontwerpfase enige tijd gekost om alle details vast te leggen (bijvoorbeeld welke versie van de LOM metadata gehanteerd wordt, welke XML binding, welke vocabulaires gebruikt worden voor de verschillende velden. Aan het begin van de uitvoeringsfase bleek de import van leerobjecten vlot te verlopen, de goede keuzes zijn gemaakt. Punt van aandacht blijft het communiceren over de gemaakte keuzes. Binnen SIGMA verband, dus niet NKBW, wordt de verdere ontwikkeling van de metadatastandaard gemaakt.
-
Complexe administratie
De oorspronkelijke uitbestedingsvoorwaarden leidde tot een uitvoering en een accounting die zeer complex was vanwege het feit dat er met “werkelijke kosten” werd gewerkt. Om dit op een accountabele manier te administreren zodat de accountant van de penvoerder dit kan controleren is veel werk. Voor het vervolgproject is besloten dat er een uniform uurtarief gaat gelden, en wordt de administratieve last veel minder. Uiteindelijk duurde het lang voordat de afsprakenbrieven/subcontracten in model aanwezig waren, daarna was de afhandeling door alle partijen vlot gedaan. De partners met kosten hoger dan 30.000 euro dienen nog een accountantsverklaring aan SURF te overleggen.
Nationale Kennisbank Basisvaardigheden Wiskunde – Rapport Midterm Evaluatie
26
-
Kloof VO-HO te groot
Na de bijeenkomst met de adviesraad werd het aan het kernteam eens te meer duidelijk hoe groot de kloof is, maar ook dat de er behoefte blijft voor een condensatiepunt voor de aansluitingsactiviteiten. Met deze blik wordt steeds meer naar SIGMA gekeken omdat die in principe continuïteit kan bieden, in tegenstelling tot een kortlopend project. Overleg met SIGMA is hier gewenst. Ondertussen blijkt in de voorbereidingsfase van het vervolgproject dat het VO graag intensief bij een vervolgproject betrokken wordt.
-
Te weinig inzet personeel voor implementatie
Met het uitwerken van de implementatieprojectplannen hebben de diverse instellingen ook scherp gekregen welke capaciteit voor de uitvoering moet worden ingezet. Omdat uitvoering van de plannen later plaats vond, was er voldoende tijd beschikbaar om dat goed voor te bereiden. Slecht bij één instelling traden toch capaciteitsproblemen op, en kon de eigen planning niet waargemaakt worden.
-
Periode van onderwijs past niet in project
Alle implementatieprojecten hebben hun planning zo kunnen plooien dat ze binnen het schema van het totale project vallen, al zullen enkele activiteiten nog doorlopen tot na het einde van het NKBW-project (maar zullen daar dan niet meer uit gefinancierd worden).
-
Materialen te laat gereed
Uit de analyse van de vraag en het aanbod van studiemateriaal bleek dat de vraag veelal gedekt wordt door reeds bestaand materiaal. Dit materiaal moet echter in de meeste gevallen nog geschikt gemaakt worden voor gebruik binnen de implementatieprojecten. De ontwikkelaars en gebruikers van de content werden in contact met elkaar gebracht om samen de voortgang van deze aanpassingen te plannen en te monitoren. Dit vergde veel regie van het kernteam omdat de portaal nog niet beschikbaar was. Uiteindelijk werkt een dergelijke “markt” pas als de ontsluiting goed via aan portaal gewaarborgd is.
-
Geen effect kunnen vaststellen
Tijdens de loopperiode van het project is een monitor ontwikkeld en is een start gemaakt met het verzamelen van de gegevens. Op dit moment wordt er gewerkt aan de verwerking van de gegevens om de kwantitatieve effecten te kunnen vaststellen, dus of het risico optreedt kan nog niet vastgesteld worden. In de contacten met de werkgroep monitoring van SURF-NAP is ter sprake gekomen welke indicatoren zinvol zijn. De leden van werkgroep gaven aan dat bij dit project voor een beperkte set gekozen is waarop het project zelf weinig directe invloed heeft. Hun advies ten aanzien van het onderhavige risico is om ook indicatoren op te nemen waarop het project meer directe invloed heeft. Dit kunnen ook indicatoren van meer kwalitatieve aard zijn.
-
Didactische vooronderstellingen incorrect
Pas in de afrondingsfase van het project zijn de onderwijsperiodes afgelopen en kunnen de ervaringen goed uitgewisseld worden. In het verslag over de implementatieprojecten komt dit punt ook aan de orde.
-
Continuiteit is niet gewaarborgd
Het business model is hierop gericht. Het model is gereed, de uitwerking volgt begin 2008 in het kader van het disseminatievervolgproject.
Nationale Kennisbank Basisvaardigheden Wiskunde – Rapport Midterm Evaluatie
27
6.
Conclusie
Al met al is het een bijzonder project vanwege de gekozen open structuur gebaseerd op gezamenlijke probleembeleving, visie en ambitie bij alle partners. De wil om ervaringen en leerobjecten te delen is groot gebleken, en zo ook de energie om de doelen daadwerkelijk te behalen. Veel tijd van het kernteam kostten de volgende punten: gebruikers & leveranciers bij elkaar brengen, hoe te communiceren? afstemming werkpakketten dislocatie onderzoek administratie vertraging portaal verwachtingenmanagement balans HO-VO in onderzoek Aspecten die weinig aandacht van het kernteam vroegen, waren: mobiliseren energie prachtige content! Web 2.0 potentie portaal stap in convergentie VO-HO Voor de projectleider was de kwaliteit van de werkpakketleiders een belangrijke factor voor het succes. Als laatste onderdeel volgt een vooruitblik voorbij de projecthorizon. Hiervoor baseren we ons op de presentatie van de projectleider op de slotbijeenkomst. Waar Waar
staan we? Parels in de content beta-versie portaal gereed behoefte blijft want het onderliggende probleem is er nog competent consortium bestuurlijke steun begin convergentie VO-HO stimulerend business model willen we naar toe? 1.0 versie portaal verbinding WisFaq gebruik en evaluatie content vernieuwing, review, verbetering content uitbouw gemeenschap met moderatoren WisFaq, SIGMA, reviewers, gebruikers standaardisatie toetsen (doel: exit=instap) onderzoek naar dimensies van aansluiting door VO en HO samen
Wat ondernemen we op dit moment? Vervolgproject is ingezet Business model wordt in werking gezet Uitvoeren van monitor Uitwerken van disseminatieproject. Mede dankzij de subsidiering door SURF is het mogelijk gebleken om het nationaal spelende probleem van de aansluiting wiskunde gezamenlijk bij de horens te vatten en substantiële stappen te ondernemen richting de vermindering van deze weerbarstige problematiek.
Nationale Kennisbank Basisvaardigheden Wiskunde – Rapport Midterm Evaluatie
28
7.
Standlijnenoverzicht
Fases van het project Fase1 Fase2 Fase3 Fase4
2006/11/01 2007/02/01 2007/06/01 2007/11/01
— — — —
2007/01/31 2007/05/31 2007/10/31 2007/11/30
Definitiefase Ontwikkelfase Uitvoeringsfase Afrondingsfase
Deliverables Hieronder volgt een overzicht van de deliverables van het project, met de verantwoordelijke instelling en de fase waarin het opgeleverd is. Bij sommige deliverables zijn meer fases aangekruist. Bij het laatste kruisje werd de definitieve versie opgeleverd. Tussenversies zijn te zien in de eerdere aangekruiste fases om de groei van het werk te kunnen volgen. Per verstreken fase worden met groen de deliverables gemarkeerd die aan SURF opgeleverd zijn, met rood de deliverables waarbij vertraging opgetreden is. Ten aanzien van de deliverables is het goed op te merken dat de deliverables A2 “technisch ontwerp” nu nog niet gereed is, maar in de maand januari. De deliverable C6 met de “Gegevens effectmeting” wordt opgenomen in de monitor, die begin 2008 verschijnt. Dit geldt ook voor D6 “Publicaties in diverse media”. Deze twee onderdelen worden opgenomen in de extra projectaanvraag voor besteding van de overgebleven NAPgelden. De deliverable C5 is te vinden op http://www.fi.uu.nl/nkbw/downloads/ . De deliverable D7 “gebruikersplatform” is ondergebracht bij SIGMA (http://elearning.surf.nl/sigma/) als gemeenschap van mensen die actief zijn op het gebied van wiskundeaansluiting. De deliverables A11, B7, C7, D8 zijn niet los aangeleverd, maar maken onderdeel uit van dit verslag. De deliverable E11, het inhoudelijk eindrapport, is bijgevoegd, maar tevens te vinden op http://www.fi.uu.nl/nkbw/downloads/, en is in duizendvoud gedrukt.
Label
Deliverabe
Type
A1 A2 A3 A4 A5 A6 A7 A8 A9 A10 A11 B1 B2 B3 B4 B5
Functioneel ontwerp Portaal-Demonstrator Technisch ontwerp Portaal-Demonstrator Portaal-Demonstrator op 15-01-2007 Vormgeving Portaal Documentatie Portaal Stappenplan Testen Handleiding invoeren leermiddelen Productie, beheer en onderhoudfuncties Acceptatierapport Aanbevelingen voor toekomst Portaal Eindrapportage werkpakket Portaal Definitie van format voor leerstofmodules Inventarisatie bestaand materiaal Inventarisatie gewenst materiaal Richtlijnen Evaluatie leerstofmodules Leerstofmodules
Doc Doc Softw Images Doc Doc Doc Doc Doc Doc Doc Doc Doc Doc Content
Nationale Kennisbank Basisvaardigheden Wiskunde – Rapport Midterm Evaluatie
Trekker
Fase1
Fase2
Fase3
TUD TUD TUD TUD TUD TUD TUD TUD TUD TUD TUD TU/e TU/e TU/e TU/e TU/e
x
x
x x
x x x x
Fase4
x x x x x x
x x x x x
x
29
B6 B7 C1 C2 C3 C4 C5 C6 C7 D1 D2 D3 D4 D5 D6 D7 D8 E1 E2 E3 E4 E5 E6 E7 E8 E9 E10 E11
Evaluatie leerstofmodules Eindrapportage werkpakket Content Implementatieprojectplannen Draaiboek implementatieprojectplan Basisgegevens nulmeting Verslagen contacten met vooropleidingen Verslagen uitgevoerd onderwijs (incl evaluatie) Gegevens effectmeting Eindrapportage WP Implementatie Communicatiekalender Good practices Uitwisselingsbijeenkomsten Afstemming bestaande netwerken Onderzoek toetspraktijk VO en HO Publicaties op diverse media Gebruikersplatform Eindrapport werkpakket Communicatie Projectinrichting (administratie, website) Verslag definitiefase Plan ontwikkelfase Verslag ontwikkelfase Plan uitvoeringsfase Verslag uitvoeringsfase Plan afrondingsfase Verslag afrondingsfase Onderzoek Business model Eindrapport
Doc Doc Doc’s Doc’s Data Doc’s Doc’s Data Doc Doc Doc Verslag Verslag Doc Publi’s Verslag Doc Doc Doc Doc Doc Doc Doc Doc Doc Doc Doc Doc
Nationale Kennisbank Basisvaardigheden Wiskunde – Rapport Midterm Evaluatie
TU/e TU/e OU OU OU OU OU OU OU UU UU UU UU UU UU UU UU UvA UvA UvA UvA UvA UvA UvA UvA UvA UvA UvA
x
x x
x x x x x x x x x x x
x
x x x x x x x x x x x x x
x x
x x x
30
8.
Kostenoverzicht in standaard SURF Formaat
Nationale Kennisbank Basisvaardigheden Wiskunde – Rapport Midterm Evaluatie
31
9.
Appendix: Verslag stuurgroep NKBW
Utrecht, 19 oktober 2007
Aanwezig • • • • • • •
Kees de Groot, onderwijsdirecteur exacte wetenschappen, fnwi, uva (voorzitter) Paul Rullmann, cvb-lid tudelft, voorzitter e-merge Henk Hanson, opleidingsdirecteur natuurwetenschap en techniek, rug Marthie Meester, directeur hogeschool toegepaste natuurwetenschappen, fontys Piet van der Zanden, tudelft, werkpakket portal Vincent Jonker, universiteit utrecht, werkpakket communicatie (verslag) Leendert van Gastel, uva, projectleider
1 Opening, voorstelronde, vaststelling van de agenda Kees de Groot opent de vergadering en ieder stelt zich voor. We stellen de agenda vast.
2 Verslag vergadering 16 maart 2007 Naar aanleiding van het verslag: Er is een vraag over de vertraging in de portal-ontwikkeling. Piet (projectleider portal) licht toe dat er een maand vertraging is ten opzichte van de oorspronkelijke planning (1 oktober in plaats van 1 september). Dat is ongunstig geweest voor het actueel inzetten van Wizmo.nl in de implementatieprojecten. Wel is alle content die nodig was binnen de implementatieprojecten op eigen website beschikbaar gesteld. Ook wordt opgemerkt dat momenteel de website Wizmo.nl traag is. Piet licht toe dat dit een tijdelijk probleem is.
3a Presentatie status project door projectleider Leendert geeft een overzicht van de tussenproducten: • Wizmo.nl met verschillende typen content • Content • Implementatie • Communicatie • Onderzoek • Business model (dit punt wordt niet toegelicht, omdat dit later in de agenda aan bod komt)
3b Reacties op projectvoortgang en discussie Ten eerste unaniem waardering voor het verrichte werk. Daarna discussiëren we over enkele punten. • Er is zorg over de implementatieprojecten en in hoeverre er effect gemeten kan worden van de project-inspanningen (vanaf september 2007 is er binnen de projecttijd eigenlijk slechts 2 maanden – september-oktober – om het effect te meten, omdat november gebruikt moet worden als rapportage maand). Leendert licht toe dat een nulmeting mogelijk is (we kunnen de gegevens van het aanvangsniveau goed vaststellen). Een en ander is er vervolgens op gericht om de ‘aansluitingsmonitor’ (het jaarlijks vaststellen van
Nationale Kennisbank Basisvaardigheden Wiskunde – Rapport Midterm Evaluatie
32
•
het ‘aansluitingsprobleem’ vo-ho) over de komende jaren te institutionaliseren. SURF heeft hier aandacht voor in het vervolg van de NAP-tender. Er is zorg over de ‘dekking’ van het materiaal (zijn alle probleemgebieden voorzien van materiaal) en over de eventuele ‘overladenheid’ van de website (te veel materiaal over hetzelfde onderwerp). Piet licht toe dat de interface van Wizmo er op gericht is dat de gebruiker (student en docent) met eenvoudige acties (o.a. het beoordelen van de content met ‘duimpje op’ en ‘duimpje neer’).
4 Vervolgproject Leendert licht een en ander toe aan de hand van enkele sheets. • Opschaling en consolidatie • Incorporatie van WisFaq, inclusief gemeenschap van moderatoren • Standaardisatie van instaptoetsen en exittoetsen • VO als partner: scholen en commissies • Onderzoek als basis voor overeenstemming • Versteviging business model Er is algemene instemming met deze uitgangspunten om een vervolproject aan te vragen. Helaas is er minder geld beschikbaar in de tweede ronde van NAP, maar moet ons dat er niet van weerhouden een poging te doen. We overwegen kort wat er zou gebeuren als er geen vervolgsubsidie loskomt. Dit is onzeker. Er is een acuut (en sterk gevoeld) probleem, dus instellingen zullen zeker bereid zijn hier ‘eigen geld’ bij in te zetten. Verder is onderzoek naar mogelijkheden bij het Platform betatechniek veelbelovend. Zorg er ook voor dat ontwikkelingen rondom Wiskunde D en NLT hierbij kunnen incorporeren.
5 Businessmodel Leendert licht een en ander kort toe. Het idee is in te zetten: • Open content aanpak • Creative Commons licentie voor auteursrecht • Stichting ‘Open Content voor Wiskunde’ (in analogie van Merlot uit Amerika) • Regelt hosting • Afspraken met SIGMA Je kunt met een dergelijke stichting ook bestuurlijke beïnvloedingsmogelijkheden regelen (door bijv. cvb-leden en schooldirectie-leden in stichtingsbestuur o.i.d. te plaatsen. Ga op instellingsniveau zitten met deze aanpak (niet op faculteitsniveau), en vraag een meerjarige licentie per instelling. Met € 4.500,- per instelling bijvoorbeeld. Denk daarbij ook aan hbo-instellingen, maar alleen als je iets te bieden hebt.
Wvttk, rondvraag en sluiting De stuurgroep geeft aan met plezier dit werk uitgevoerd te hebben.
Nationale Kennisbank Basisvaardigheden Wiskunde – Rapport Midterm Evaluatie
33