zurück zu Übersicht
Zunächst die Frage frei beantworten (Covert Short-Answer vor MC) !


Einige Ergebnisse psychologischer Untersuchungen deuten darauf hin, es sei unter bestimmten Bedingungen für das Behalten förderlicher, auf eine Frage selbst eine Antwort zu produzieren, statt aus einer Auswahl von Alternativen die korrekte Lösung wieder zu erkennen.  Der Short Answer Aufgabentyp zwingt den Lerner dazu, sich intensiv um ein Erinnern zu bemühen, erfordert mehr geistige Anstrengung als Wiedererkennen und führt im Erfolgsfalle zu einem verstärkten Behalten. Insofern wäre es nützlich, für bestimmte Übungszwecke den Short Answer Aufgabentyp zugrunde zu legen. Da dieser aber Schreibarbeit erfordert und manchmal etwas höhere Anforderungen an die Auswertung stellt, ergibt sich die Frage, wie man die Vorteile dieses Aufgabentyps nutzen könnte, ohne die Nachteile in Kauf nehmen zu müssen. Eine Variante wäre etwa, die Antwort nur im Geiste beantworten zu lassen und auf Wunsch dann die korrekte Antwort rückzumelden, z. B.:

Wer hat die Relativitätstheorie erfunden ? Albert Einstein 
Hierbei muss der Lerner die Korrektheit selbst überprüfen. Ein möglicher Nachteil könnte darin vermutet werden, manche Lerner würden diese Art der Fragestellung nicht ernst nehmen und direkt die Lösung anfordern.

Nachfolgende Aufgabenkonstruktion stellt eine Mischung aus Short-Answer und MC dar. Zunächst sollte der Lerner über die Frage nachdenken und eine Antwort mental vorbereiten. Danach kann er durch Mausklick die MC-Aufgabe anfordern und seine Antwort anklicken, die dann objektiv ausgewertet wird. Park, J. (2005) konnte den Vorteil einer ähnlichen Variante [Computerized Modified Multiple-Choice  (CMMT)] gegenüber einfachen MC-Aufgaben  in 2 Experimenten belegen und verweist auf ein drittes erfolgreiches Experiment. Leider fehlt in diesen Experimenten ein Vergleich zum echten Short Answer- Aufgabentyp. Bei Park ist der gesamte Test  in bestimmter Weise aufgebaut und die Antwortzeit für die MC-Aufgabe beschränkt. Die Rückmeldungen folgen erst nach Beantwortung aller Aufgaben.

Hier wird lediglich das Grundprinzip verdeutlicht: "The crux of this manipulation is to force students to solve the problem as if they were solving an open-ended question but to respond in a multiple-choice format." Park, J. (2005).

Einen zusätzlichen Vorteil dieses Aufgabentyps für Übungszwecke sehe ich darin, Fragen zu ermöglichen, die eventuell mehr oder ungewöhnlichen Text als Antwort verlangen und sehr schwer automatisiert mit Short Answer auf Richtigkeit überprüft werden können.

Aufgabenbeispiele
 
Aufgabe 1
Wie heißt der Begründer der Psychoanalyse ?

Aufgabe 2
 Beschönigender Begriff der Finanzbehörden für "Zwangsabgabe Ost" ?

Aufgabe 3
 Die Wegnahme eines positiven Reizes als Konsequenz auf unerwünschtes Verhalten ist eine Form von ...

Aufgabe 4
 Wie heisst der bekannte Satz von Heidegger über das Nichts ?

Aufgabe 5
 Wie lautet der erste Satz des Artikel 1.1 des Grundgesetzes der Bundesrepublik Deutschland ?

Aufgabe 6  [Beispiel für eine komplexere Aufgabe mit mehreren möglichen korrekten Antworten]
In der Versuchsplanung unterscheidet man mehrere Variablenarten.
An dem Namen der Variable kann man nicht direkt die Art der Variablen erkennen.
Die Variable Lärm kann je nach Funktion in einer Untersuchung angesehen werden als..


Aufgabe mit Antwortanforderung

Nachfolgendes Beispiel kommt der Konzeption von Park näher,
da es unmissverständlich zu einer aktiven Antwort auffordert,
Hierbei wird aber nur die MC-Aufgabe ausgewertet.
Aufgabe 1 mit expliziter Antwortaufforderung
Wie lautet das Testgütekriterium für nachfolgende Beschreibung ?
"Es soll keine Rolle spielen, wer die Testanweisung gibt,
die Testung überwacht, den Test auswertet oder interpretiert."

Aufgabe 2 mit expliziter Antwortaufforderung
Wie könnte man ein Plagiat in der Dissertation sonst noch bezeichnen ?

Alle Aufgaben neu bearbeiten
Neue Aufgaben lassen sich "relativ einfach" konstruieren: zusammenfassend für Aufgabe 1
<div id="Aufgabe1">
    <a href="javascript:show('Aufgabe1')">Short Answer Frage</a>
        <span class="feedback">.....die MC-Aufgabe....
        </span>
</div>

 
Park (2010) überprüfte mit Hilfe seiner Methode Testkennwerte der SA- und MC-Aufgabenform, die hier ja den gleichen Aufgabenstamm umfassen. Erwartungsgemäß waren SA- Aufgaben schwieriger, d.h.  sie führten zu geringeren Erfolgquoten als die Testergebnisse unter MC. Konsistenz und Testschärfe fielen beim SA-Aufgabentyp höher aus. Insgesamt korrelieren die Ergebnisse aus beiden Aufgabenformen in ansprechender Höhe und kommen nach der Minderungskorrektur an eine Korrelation von 1 heran.


CMMT im Vergleich zu MC und Short Answer
 
Butler, Huelser, Caruso, & Roediger (2008) untersuchten im Rahmen eines Laborexperimentes die Wirkung von klassischem MC, Parks CMMT sowie klassischem Short Answer auf die Behaltensleistung 8 Tage nach der Testung. Die Probanden wurden in der Übung den drei Aufgabentypen zugewiesen (between factor) und beantworteten ein Teil der Aufgaben mit sowie ohne Feedback (within factor). Der Posttest enthielt sowohl klassische MC- wie Short Answer Aufgaben. Im Behaltenstest ergaben sich einige sehr diffizile Interaktionen zwischen Übungsaufgabentyp, Testung (mit bzw. ohne Feedback) und Aufgabentyp im Posttest, wobei die Ergebnisse von CMMT in der Regel zwischen MC und Short Answer lagen. Die Autoren kommen hinsichtlich des Aufgabentyps CMMT zu den Ergebnis: "The results indicate that CMMT produces slightly better retention than MC when feedback is given, making it a viable option for the classroom." 

Die positive Wirkung des Feedback ließ sich im Übrigen eindruckvoll belegen. Insgesamt fielen die Behaltensunterschiede zwischen den einzelnen Aufgabentypen jedoch recht gering aus und bestätigen meiner Meinung nach die bisherigen Befunde der empirischen Forschung, der Aufgabentyp einer Übung habe relativ geringe Auswirkungen auf die Behaltensleistung (Jacobs 2006). Zeitmessungen während der Übung erbrachten deutlich längere Bearbeitungszeiten für klassisches Short Answer, was im Einklang mit etlichen Vergleichsstudien steht, bei gelegentlich günstigeren Behaltenswerten von SA meist aus dem Blickfeld gerät und erneut die These untermauert, man könne in derselben Zeit deutlich mehr MC- als Short-Aufgaben bearbeiten. 

CMMT nahm höchstens soviel Zeit in Anspruch wie einfaches MC, bestätigt somit den Zeitvergleich von Park & Choi (2008) und widerlegt einen möglichen Einwand, Vorteile von CMMT gegenüber MC würden mit Zeitnachteilen erkauft werden.


MC mit vorausgehendem Short Answer im Vergleich zu klassischem MC
 
Schaap (2013) untersuchte die Auswirkungen zweier MC-Test-versionen [generate response versus direct choice] mit KCR-Feedback auf das langfristige Behalten. In der Lernaneignungsphase lasen die Probanden 20 Minunten lang zunächst einen Text über den Mount Pinatubo (Umfang ca. 3000 Worte).  Danach wurden die Probanden nach Zufall auf nachfolgende Testversionen aufgeteilt: Die Bearbeitung jeder Aufgabe war Zeit beschränkt [insgesamt 25 Sekunden] und führte dazu, dass beide Testvarianten sowie die Studiermethode gleiche Bearbeitungszeiten aufwiesen. Als Lernerfolgtest diente ein klassischer MC-Test mit identischen Fragen wie im Übungstest, der allen Probanden eine Woche später ohne Zeitbegrenzung zur Bearbeitung vorgelegt wurde. Zwischen beiden Testversionen sowie der reinen Studiervariante ließen sich keinerlei Unterschiede feststellen. Die Probanden der generate response MC- Gruppe empfanden die Testbearbeitung jedoch signifikant anstrengender als die Probanden der übrigen Lernmethoden.

Schaap (2013) referierte auch die Studien von Crocker & Schmitt (1987) sowie Sensenig (2010, experiment 2a and 2b), die ebenfalls keine Vorteile der speziellen MC-Methode nachweisen konnten.

MC mit vorausgehendem Short Answer im Vergleich zu klassischem MC und SA

Smith und Karpicke (2013) Überprüften in insgesamt 4 Experimenten die Wirksamkeit von 4 Übungsmethoden

Zunächst mussten die Probanden einen Text oder mehrere Texte lesen. Anschließend bearbeiteten sie die Übungsmethoden. Nach einer Woche folgte der Behaltenstest in Form von identischen- sowie Inferenzfragen im MC- und Short-Answer-Format.

Insgesamt deuten die Ergebnisse aller Experimente ziemlich konsistent auf vergleichbare Behaltensleistungen aller 3 Testübungsmethoden hin. MC-Aufgaben führten gelegentlich zu etwas besseren Erfolgsquoten bei Inferenzfragen. Die Autoren machten auch Angaben zu den Übungszeiten der einzelnen Aufgabenformate, wobei sie aber nur die Zeiten für die korrekten Antworten mitteilten. Erwartungsgemäß erforderte die Bearbeitung der MC-Fragen weniger Übungszeit als die der Short-Answer-Aufgaben. Da das Hybrid-questing-format beide Aufgabentypen vereinigt, wundert es nicht, dass bei dieser Methode die Bearbeitungszeit noch deutlich höher ausfiel. Unter dem Gesichtspunkt einer effizienten Übung bietet der Aufgabentyp "erst Short-Answer, dann MC mit KCR-Feedback" den Ergebnissen dieser Studie zufolge eher Nachteile gegenüber den einfachen Aufgabenformaten. 
 

Literatur:

Jacobs, B. (20006). Die Auswirkungen von Short-Answer- und Multiple Choice-Übungsaufgaben 
   auf das Lernergebnis.
   URN: urn:nbn:de:bsz:291-psydok-7609
   URL: http://psydok.sulb.uni-saarland.de/volltexte/2006/760/
Park, J. (2005). Learning in a New Computerized Testing System. Journal of Educational 
   Psychology, 97(3), 436-443.

Park, J. (2010). Constructive multiple-choice testing system.
   British Journal of Educational Technology, 41 (6) 1054–1064
Park, J. & Choi, B.-C. (2008). Higher retention after a new take-home computerised
   test. British Journal of Educational Technology, 39 (3). 538–547.
Butler, A. B., Huelser, B. J., Caruso, C. A., & Roediger, H. L. (2008, May). Examining 
  Park’s (2005) computer modified multiple-choice testing procedure. Poster presented 
  at the 20th Annual Convention of the Association for Psychological Science, Chicago, IL. [PDF]
Schaap, L. (2013). DO YOU REMEMBER WHAT YOU KNOW? Towards an Understanding of the Cognitive 
  Processes Involved in the Testing Effect. Dissertation. Erasmus Universiteit Rotterdam.
Smith, M. A., & Karpicke, J. D. Retrieval Practice with Short-Answer, Multiple-Choice, 
and Hybrid Tests. 
http://learninglab.psych.purdue.edu/downloads/inpress_Smith%26Karpicke_Memory.pdf  [6.9.2013] 

zurück zu Übungsaufgaben stellen mit JavaScript- Ergänzung
created 16.11.2005: last update 9.9.2013; Bernhard Jacobs