20/08/2012
Item Development and Review Workshop
Divisi Ujian Tulis
Komite Bersama Uji Kompetensi Dokter Indonesia Bandung, 15 Maret 2008
Tahap Penjaminan Mutu UKDI Input
Process
Output
1. Review Process 1. Blueprinting 2. Item Writer Standard 3. Item Reviewer Standard 4. ICT support
2. Try-out 3. Examination guideline 4. Report on Examination
•
Criterionreference.
•
Standard setting exercise
5. Feedback process. 6. Item Bank
1
20/08/2012
Aspek Review ?
Aspek Review • Isi
• Struktur
2
20/08/2012
Contoh Kasus 1: isi? Seorang pria 20 tahun, sehat, sebelumnya masuk perawatan rumah sakit dengan keluhan nyeri mendadak pada dada sebelah kiri, ECG normal, foto paru-paru terlihat pneumotorak. Prosedur apa yang akan anda lakukan : A. Observasi. B. Barium meal. C. Torakotomi. D. Torakostomi. E. Torakostomi + intubasi.
SKDI • Pneumothoraks (3a dan 3b) • 3b. Mampu membuat diagnosis klinik berdasarkan pemeriksaan fisik dan pemeriksaanpemeriksaan tambahan yang diminta oleh dokter (misalnya : pemeriksaan laboratorium sederhana atau X-ray). Dokter dapat memutuskan dan memberi terapi pendahuluan, serta merujuk ke spesialis yang relevan (kasus gawat darurat). Torakotomi, torakostomi tidak ada dalam list keterampilan dokter umum.
3
20/08/2012
Lesson Learnt pada isi • Apakah secara isi, topik soal yang ditanyakan esensial? • Rujukan: Standard Kompetensi Dokter Indonesia (SKDI) dan blueprinting UKDI.
Bagan Alir Proses Review Soal baru
Esensial
Scanning isi soal terkait topik soal Tidak esensial
Dikembalikan
Review struktur
4
20/08/2012
Struktur?
Struktur • Vignette • Lead in • Option
5
20/08/2012
Bagan Alir Proses Review Soal baru
Esensial
Scanning isi soal terkait topik soal Tidak esensial
Dikembalikan
Review struktur
Vignette
Contoh Kasus 2: vignette? Seorang laki-laki berusia 55 tahun datang dengan nyeri dada kiri yang hebat sejak 2 jam yang lalu saat sedang senam pagi. Nyeri dirasakan menjalar ke lengan kiri, tidak hilang dengan istirahat. Pasien adalah perokok berat. Kakak tertua meninggal mendadak 2 tahun yang lalu saat latihan tenis. Apakah pemeriksaan yang paling tepat saudara minta untuk memastikan diagnosis pasien di atas? A. Foto thorax dan EKG B. Echocardiografi dan EKG C. Echocardiografi dan enzim CPK D. EKG dan enzim CPK E. Foto thorax dan Echocardiografi
6
20/08/2012
Komponen Vignette – Jenis kelamin, Umur (e.g. laki-laki 45 tahun) a. Kasus spesifik wanita kehamilan b. Kasus anak-anak, dewasa, geriatri? - Tempat pelayanan/setting (IGD) - Keluhan Utama - Durasi - Gejala penyerta dan keterangan pasien lainnya - Pemeriksaan fisik - Pemeriksaan penunjang
Lesson learnt pada vignette - Bahasa yang digunakan pada vignette - Vignette terlalu pendek (tidak lengkap), atau terlalu panjang (tidak terkait logika option). - Urutan vignette tidak sistematik (HT, PD, HT, PD, PP).
7
20/08/2012
Next step?
Bagan Alir Proses Review Soal baru
Esensial
Scanning isi soal terkait topik soal Tidak esensial
Dikembalikan
Review struktur
Vignette
Lead-in
8
20/08/2012
Kasus 3: Lead in? Seorang wanita umur 30 tahun mengeluh ada benjolan sebesar 1,5 cm dibawah telinga kanan yang diderita selama 4 tahun. Pada pemeriksaan, lesinya padat dan keras, dapat digerakkan, N.VII, fungsi baik, tidak teraba pembesaran kelenjar getah bening. Diagnosisnya kasus ini adalah : A. Kistoadenoma limfomatosum (Warthin tumor). B. Karsinoma Muko-epidermoid tahap awal. C. Tumor campur jinak. D. Tumor campur ganas. E. Adenokarsinoma sel asinar.
Lesson learnt pada Lead-in • Menggunakan kata tanya secara langsung, sehingga dapat memenuhi “close the option rule”
9
20/08/2012
Next step?
Bagan Alir Proses Review Soal baru
Esensial
Scanning isi soal terkait topik soal Tidak esensial
Dikembalikan
Review struktur
Vignette
Lead-in
Option
10
20/08/2012
Kasus 4: Option? Seorang pria, berusia 60 tahun, dibawa ke bagian gawat darurat oleh seorang polisi, yang menemukannya dalam keadaan tergeletak tidak sadarkan diri di sisi jalan. Setelah memastikan bahwa saluran pernafasan dalam keadaan tidak tersumbat, langkah pertama dalam manajemen adalah administrasi intravena: A. pemeriksaan cairan serebrospinal B. glukosa dengan vitamin B1 (thiamine) C. CT scan kepala D. fenitoin E. diazepam
Lesson learnt pada Option • Homogen: gramatikal, semantik, panjangpendek. • Hindari absolutisme: selalu, tidak pernah. • Hindari konvergensi. • Hindari kesamaan istilah dengan vignette. • Hindari urutan yang tidak sistematis menyulitkan. • Hindari kalimat: bukan salah satu di atas
11
20/08/2012
Bagan Alir Proses Review Soal baru
Esensial
Scanning isi soal terkait topik soal Tidak esensial
Dikembalikan
Review struktur
Vignette
Lead-in
Option
Checkpoint • Bagaimanakah step mereview soal?
12
20/08/2012
Apa saja yang perlu ditelaah ? • Materi : – Relevansi: Kongruensi – Bahasa – Tingkat kesulitan (tingkat kompetensi) – Klasifikasi : e.g. Dasar atau klinik?
Apa saja yang perlu ditelaah ? • Struktur : – Stem – Lead in – Option
• Kesimpulan – Komentar umum dan saran – Diterima/revisi/dikembalikan
13
20/08/2012
Struktur Soal : Item Flaws • • • • •
Grammatical Cues Logical Cues Istilah yang absolut Jawaban benar yang panjang Pengulangan kata dari badan soal ke jawaban • Konvergensi soal • Pilihan jawaban yang panjang, kompleks, atau duplikasi
( ) Ya ( ) Ya ( ) Ya ( ) Ya
( ) Ya ( ) Tidak ( ) Ya ( ) Tidak ( ) Ya ( ) Tidak
• Pilihan yang berupa angka tidak diurut sesuai dengan besarnya • Pilihan yang mengandung unsur frekuensi suatu kejadian bersifat multi interpretasi • Pilihan jawaban tidak paralel dan urutan tidak logis • Penggunaan BSSD (bukan salah satu di atas pada pilihan jawaban) • Badan soal terlalu panjang, sulit, dan kompleks
( ) Tidak ( ) Tidak ( ) Tidak ( ) Tidak
( ) Ya ( ) Tidak ( ) Ya ( ) Tidak
( ) Ya ( ) Tidak ( ) Ya ( ) Tidak ( ) Ya ( ) Tidak
14
20/08/2012
Komentar Umum Reviewer
ID Soal : Kesimpulan Hasil Review ( ) Diterima tanpa perbaikan ( ) Diterima dengan perbaikan ( ) Perlu konfirmasi pembuat soal ( ) Tidak perlu konfirmasi dengan pembuat soal ( ) Dikembalikan kepada pembuat soal ( ) memerlukan perbaikan keseluruhan ( ) Berpotensi diterima dengan perbaikan
Saran Perbaikan
Tanggal: (DD) / (MM) / (YY) Tanda Tangan Reviewer
Nama Jelas :
15
20/08/2012
Exercise Seorang mahasiswa pria, 25 tahun datang ke rumah sakit dengan keluhan panas badan sejak 2 minggu yang lalu yang mulai secara gradual dan berlangsung remiten. BAB mencret lebih kurang 2 kali sehari. Pada pemeriksaan fisik ditemukan keadaan umum yang sakit sedang, apatis, hepatomegali 2 jari dibawah arcus costae. Hb 14,2 gr/dL, leukosit 4200 /mm3, trombosit 172000/mm3. Pertanyaan: Apa tindakan diagnosis yang akan anda lakukan pada pasien ini? Pilihan jawaban: A. Pemeriksaan Hemaglutinasi test untuk dengue B. Pemeriksaan Widal I dan II, Kultur darah dan feses untuk salmonela C. Pemeriksaan Widal I dan II. D. Pemeriksaan apus tebal darah untuk malaria/ DDR E. Feses rutin dan kultur
Komentar
16
20/08/2012
Alasan penolakan • Isi tidak esensial • Isi terlalu spesialistis. • Isi tidak realistis, terlalu teoritis (status gizi tanpa tabel tumbuh kembang). • Tidak ada vignette. • Vignette tidak berfungsi
Next step? Bekerja dalam kelompok untuk mereview soal-soal menggunakan formulir review yang ada.
17
20/08/2012
• Feedback terhadap pembuat soal?
18
