Aufgabenbeispiele
Einige Ergebnisse psychologischer Untersuchungen deuten darauf hin, es sei unter bestimmten Bedingungen für das Behalten förderlicher, auf eine Frage selbst eine Antwort zu produzieren, statt aus einer Auswahl von Alternativen die korrekte Lösung wieder zu erkennen. Der Short Answer Aufgabentyp zwingt den Lerner dazu, sich intensiv um ein Erinnern zu bemühen, erfordert mehr geistige Anstrengung als Wiedererkennen und führt im Erfolgsfalle zu einem verstärkten Behalten. Insofern wäre es nützlich, für bestimmte Übungszwecke den Short Answer Aufgabentyp zugrunde zu legen. Da dieser aber Schreibarbeit erfordert und manchmal etwas höhere Anforderungen an die Auswertung stellt, ergibt sich die Frage, wie man die Vorteile dieses Aufgabentyps nutzen könnte, ohne die Nachteile in Kauf nehmen zu müssen. Eine Variante wäre etwa, die Antwort nur im Geiste beantworten zu lassen und auf Wunsch dann die korrekte Antwort rückzumelden, z. B.:Wer hat die Relativitätstheorie erfunden ? Albert EinsteinHierbei muss der Lerner die Korrektheit selbst überprüfen. Ein möglicher Nachteil könnte darin vermutet werden, manche Lerner würden diese Art der Fragestellung nicht ernst nehmen und direkt die Lösung anfordern.
Nachfolgende Aufgabenkonstruktion stellt eine Mischung aus Short-Answer und MC dar. Zunächst sollte der Lerner über die Frage nachdenken und eine Antwort mental vorbereiten. Danach kann er durch Mausklick die MC-Aufgabe anfordern und seine Antwort anklicken, die dann objektiv ausgewertet wird. Park, J. (2005) konnte den Vorteil einer ähnlichen Variante [Computerized Modified Multiple-Choice (CMMT)] gegenüber einfachen MC-Aufgaben in 2 Experimenten belegen und verweist auf ein drittes erfolgreiches Experiment. Leider fehlt in diesen Experimenten ein Vergleich zum echten Short Answer- Aufgabentyp. Bei Park ist der gesamte Test in bestimmter Weise aufgebaut und die Antwortzeit für die MC-Aufgabe beschränkt. Die Rückmeldungen folgen erst nach Beantwortung aller Aufgaben.
Hier wird lediglich das Grundprinzip verdeutlicht: "The crux of this manipulation is to force students to solve the problem as if they were solving an open-ended question but to respond in a multiple-choice format." Park, J. (2005).
Einen zusätzlichen Vorteil dieses Aufgabentyps für Übungszwecke sehe ich darin, Fragen zu ermöglichen, die eventuell mehr oder ungewöhnlichen Text als Antwort verlangen und sehr schwer automatisiert mit Short Answer auf Richtigkeit überprüft werden können.
Die Wegnahme eines positiven Reizes als Konsequenz auf unerwünschtes Verhalten ist eine Form von ...
Wie lautet der erste Satz des Artikel 1.1 des Grundgesetzes der Bundesrepublik Deutschland ?
In der Versuchsplanung unterscheidet man mehrere Variablenarten.
An dem Namen der Variable kann man nicht direkt die Art der Variablen erkennen.
Die Variable Lärm kann je nach Funktion in einer Untersuchung angesehen werden als..
Aufgabe mit Antwortanforderung
Nachfolgendes Beispiel kommt der Konzeption von Park näher,
da es unmissverständlich zu einer aktiven Antwort auffordert,
Hierbei wird aber nur die MC-Aufgabe ausgewertet.
Wie lautet das Testgütekriterium für nachfolgende Beschreibung ?
"Es soll keine Rolle spielen, wer die Testanweisung gibt,
die Testung überwacht, den Test auswertet oder interpretiert."
Wie könnte man ein Plagiat in der Dissertation sonst noch bezeichnen ?
Neue Aufgaben lassen sich "relativ einfach" konstruieren:zusammenfassend für Aufgabe 1
- Diese Seite unter neuem Namen abspeichern
- Jede Aufgabe beginnt mit einem <div id="eindeutiger Name"> und endet mit </div>
z.B. <div id="Aufgabe1">....gesamte Aufgabe ....</div>- Die Short Answer Fragestellung wird als Link definiert, der eine Funktion aufruft,
die als Parameter den id_Namen enthält
z.B. <a href="javascript:show('Aufgabe1')">2+2= ?</a>- Die MC-Aufgabe ist eingebettet in einen span Tag mit der Bezeichnung class="feedback"
also: <span class="feedback">.....die MC-Aufgabe....</span>- Hinweis: Jede Aufgabe muss einen anderen id-Namen beinhalten.
Die Seite selbst greift auf supertemplate.js zurück.<div id="Aufgabe1">
<a href="javascript:show('Aufgabe1')">Short Answer Frage</a>
<span class="feedback">.....die MC-Aufgabe....
</span>
</div>
Park (2010) überprüfte mit Hilfe seiner Methode Testkennwerte der SA- und MC-Aufgabenform, die hier ja den gleichen Aufgabenstamm umfassen. Erwartungsgemäß waren SA- Aufgaben schwieriger, d.h. sie führten zu geringeren Erfolgquoten als die Testergebnisse unter MC. Konsistenz und Testschärfe fielen beim SA-Aufgabentyp höher aus. Insgesamt korrelieren die Ergebnisse aus beiden Aufgabenformen in ansprechender Höhe und kommen nach der Minderungskorrektur an eine Korrelation von 1 heran.
MC mit vorausgehendem Short Answer im Vergleich zu klassischem MC
Butler, Huelser, Caruso, & Roediger (2008) untersuchten im Rahmen eines Laborexperimentes die Wirkung von klassischem MC, Parks CMMT sowie klassischem Short Answer auf die Behaltensleistung 8 Tage nach der Testung. Die Probanden wurden in der Übung den drei Aufgabentypen zugewiesen (between factor) und beantworteten ein Teil der Aufgaben mit sowie ohne Feedback (within factor). Der Posttest enthielt sowohl klassische MC- wie Short Answer Aufgaben. Im Behaltenstest ergaben sich einige sehr diffizile Interaktionen zwischen Übungsaufgabentyp, Testung (mit bzw. ohne Feedback) und Aufgabentyp im Posttest, wobei die Ergebnisse von CMMT in der Regel zwischen MC und Short Answer lagen. Die Autoren kommen hinsichtlich des Aufgabentyps CMMT zu den Ergebnis: "The results indicate that CMMT produces slightly better retention than MC when feedback is given, making it a viable option for the classroom." Die positive Wirkung des Feedback ließ sich im Übrigen eindruckvoll belegen. Insgesamt fielen die Behaltensunterschiede zwischen den einzelnen Aufgabentypen jedoch recht gering aus und bestätigen meiner Meinung nach die bisherigen Befunde der empirischen Forschung, der Aufgabentyp einer Übung habe relativ geringe Auswirkungen auf die Behaltensleistung (Jacobs 2006). Zeitmessungen während der Übung erbrachten deutlich längere Bearbeitungszeiten für klassisches Short Answer, was im Einklang mit etlichen Vergleichsstudien steht, bei gelegentlich günstigeren Behaltenswerten von SA meist aus dem Blickfeld gerät und erneut die These untermauert, man könne in derselben Zeit deutlich mehr MC- als Short-Aufgaben bearbeiten.
CMMT nahm höchstens soviel Zeit in Anspruch wie einfaches MC, bestätigt somit den Zeitvergleich von Park & Choi (2008) und widerlegt einen möglichen Einwand, Vorteile von CMMT gegenüber MC würden mit Zeitnachteilen erkauft werden.
Schaap (2013) untersuchte die Auswirkungen zweier MC-Test-versionen [generate response versus direct choice] mit KCR-Feedback auf das langfristige Behalten. In der Lernaneignungsphase lasen die Probanden 20 Minunten lang zunächst einen Text über den Mount Pinatubo (Umfang ca. 3000 Worte). Danach wurden die Probanden nach Zufall auf nachfolgende Testversionen aufgeteilt:Die Bearbeitung jeder Aufgabe war Zeit beschränkt [insgesamt 25 Sekunden] und führte dazu, dass beide Testvarianten sowie die Studiermethode gleiche Bearbeitungszeiten aufwiesen. Als Lernerfolgtest diente ein klassischer MC-Test mit identischen Fragen wie im Übungstest, der allen Probanden eine Woche später ohne Zeitbegrenzung zur Bearbeitung vorgelegt wurde. Zwischen beiden Testversionen sowie der reinen Studiervariante ließen sich keinerlei Unterschiede feststellen. Die Probanden der generate response MC- Gruppe empfanden die Testbearbeitung jedoch signifikant anstrengender als die Probanden der übrigen Lernmethoden.
- generate response MC [zunächst die Short Answer Frage schriftlich beantworten, dann die MC-Aufgabe anklicken, anschließend Feedback]
- direct choice MC condition [übliches MC-Format mit Rückmeldung der korrekten Antwort]
- restudying. Die korrekt beantworteten MC-Fragen studieren
Schaap (2013) referierte auch die Studien von Crocker & Schmitt (1987) sowie Sensenig (2010, experiment 2a and 2b), die ebenfalls keine Vorteile der speziellen MC-Methode nachweisen konnten.
MC mit vorausgehendem Short Answer im Vergleich zu klassischem MC und SA
Smith und Karpicke (2013) Überprüften in insgesamt 4 Experimenten die Wirksamkeit von 4 Übungsmethoden
- Reines Studieren
- MC mit KCR Feedback
- Short Answer mit KCR Feedback
- Hybrid format questions (erst Short Answer beantworten, dann MC mit Feedback)
Zunächst mussten die Probanden einen Text oder mehrere Texte lesen. Anschließend bearbeiteten sie die Übungsmethoden. Nach einer Woche folgte der Behaltenstest in Form von identischen- sowie Inferenzfragen im MC- und Short-Answer-Format.
Insgesamt deuten die Ergebnisse aller Experimente ziemlich konsistent auf vergleichbare Behaltensleistungen aller 3 Testübungsmethoden hin. MC-Aufgaben führten gelegentlich zu etwas besseren Erfolgsquoten bei Inferenzfragen. Die Autoren machten auch Angaben zu den Übungszeiten der einzelnen Aufgabenformate, wobei sie aber nur die Zeiten für die korrekten Antworten mitteilten. Erwartungsgemäß erforderte die Bearbeitung der MC-Fragen weniger Übungszeit als die der Short-Answer-Aufgaben. Da das Hybrid-questing-format beide Aufgabentypen vereinigt, wundert es nicht, dass bei dieser Methode die Bearbeitungszeit noch deutlich höher ausfiel. Unter dem Gesichtspunkt einer effizienten Übung bietet der Aufgabentyp "erst Short-Answer, dann MC mit KCR-Feedback" den Ergebnissen dieser Studie zufolge eher Nachteile gegenüber den einfachen Aufgabenformaten.
Literatur:
Jacobs, B. (20006). Die Auswirkungen von Short-Answer- und Multiple Choice-Übungsaufgaben auf das Lernergebnis. URN: urn:nbn:de:bsz:291-psydok-7609 URL: http://psydok.sulb.uni-saarland.de/volltexte/2006/760/Park, J. (2005). Learning in a New Computerized Testing System. Journal of Educational Psychology, 97(3), 436-443. Park, J. (2010). Constructive multiple-choice testing system. British Journal of Educational Technology, 41 (6) 1054–1064Park, J. & Choi, B.-C. (2008). Higher retention after a new take-home computerised test. British Journal of Educational Technology, 39 (3). 538–547.Butler, A. B., Huelser, B. J., Caruso, C. A., & Roediger, H. L. (2008, May). Examining Park’s (2005) computer modified multiple-choice testing procedure. Poster presented at the 20th Annual Convention of the Association for Psychological Science, Chicago, IL. [PDF]Schaap, L. (2013). DO YOU REMEMBER WHAT YOU KNOW? Towards an Understanding of the Cognitive Processes Involved in the Testing Effect. Dissertation. Erasmus Universiteit Rotterdam.Smith, M. A., & Karpicke, J. D. Retrieval Practice with Short-Answer, Multiple-Choice, and Hybrid Tests. http://learninglab.psych.purdue.edu/downloads/inpress_Smith%26Karpicke_Memory.pdf [6.9.2013]
zurück zu Übungsaufgaben stellen mit JavaScript- Ergänzung
created 16.11.2005: last update 9.9.2013; Bernhard Jacobs