Eine Metaanalyse ist eine Zusammenfassung von Primär-Untersuchungen zu Metadaten, die mit quantitativen und statistischen Mitteln arbeitet. Sie versucht frühere Forschungsarbeiten quantitativ bzw. statistisch zusammenzufassen und zu präsentieren. Der Unterschied zur systematischen Übersichtsarbeit (auch „Review“ genannt) liegt darin, dass ein Review die früheren Forschungsdaten und -publikationen kritisch würdigt, während die Metaanalyse nur die quantitative und statistische Aufarbeitung der früheren Ergebnisse umfasst.
Metaanalysen werden in allen Forschungsgebieten durchgeführt, in welchen empirische Daten anfallen. Dazu gehören Sozialwissenschaften, Medizin und viele Naturwissenschaften.
Eine Zusammenfassung mehrerer Metaanalysen wird wiederum als Meta-Meta-Analyse bezeichnet.
In den letzten Jahren haben neben traditionellen Metaanalysen, die direkte Effekte von Interventionen vergleichen, indirekte Vergleiche und Netzwerk-Metaanalysen an Bedeutung gewonnen. Denn so können mehrere Effekte z. B. von Medikamentenstudien gleichzeitig und im gegenseitigen Vergleich untersucht werden.
Schöpfung des Begriffs
Der Begriff wurde 1976 vom Psychologen Gene V. Glass (* 1940) in seinem Artikel „Primary, Secondary and Meta-Analysis of Research“ eingeführt. Er definiert Metaanalyse als […] analysis of analyses. I use it to refer to the statistical analysis of a large collection on analysis results from individual studies for the purpose of integrating the findings. (deutsch: „[…] Analyse von Analysen. Damit meine ich die statistische Analyse einer großen Sammlung von Analyse-Ergebnissen mehrerer Einzelstudien, die dadurch zusammengeführt werden sollen.“). Durchgeführt wurde die erste Metaanalyse jedoch bereits 1904 von Karl Pearson, der die Teststärke von Studien mit wenigen Probanden durch Zusammenfassung erhöhen wollte.
Einsatzgebiete und Gründe
Metaanalysen ermöglichen die Zusammenfassung von verschiedenen Untersuchungen zu einem wissenschaftlichen Forschungsgebiet. Dabei werden die empirischen Einzelergebnisse inhaltlich homogener Primärstudien zusammengefasst. Ziel ist eine Effektgrößeneinschätzung. Es soll untersucht werden, ob ein Effekt vorliegt und wie groß dieser ist.
Gründe für die Durchführung von Metaanalysen sind unter anderem:
- Aus mancherlei Gründen sind die Stichproben der Primärstudien viel zu klein, um verlässliche Ergebnisse zu bringen, die auf ähnliche Fälle übertragbar sind. Wenn viele Untersuchungen geeignet zusammengefasst werden, so kann das damit gewonnene Ergebnis aufgrund der größeren Gesamtzahl von Stichproben zuverlässiger sein.
- Häufig benutzen die Primärstudien unterschiedliche Methoden, Definitionen oder ziehen ihre Stichproben nicht aus derselben Grundgesamtheit. Zudem gibt es Faktoren, die einzelne Ergebnisse beeinflussen können. In einer Metaanalyse kann festgestellt werden, welche Einflüsse es gibt und wie stark diese sind und ob trotzdem ein valides Gesamtbild möglich ist.
- Nicht zu unterschätzen ist, dass die Durchführung von Metaanalysen (und auch Reviews) relativ kostengünstig ist, und trotzdem wertvolle Ergebnisse liefert. Sie liefert für ein gesamtes Forschungsgebiet die Grundlage, um die künftigen Forschungstätigkeiten zu skizzieren.
- Der Publikationsbias, d. h. das Verhältnis zwischen positiven Befunden und „negativen“, also nicht-signifikanten Ergebnissen, kann ermittelt werden.
Methode
Eine Metaanalyse umfasst sämtliche Elemente des sozialwissenschaftlichen Forschungsprozesses, wie sie auch bei einer Primärforschung vollzogen werden (Cooper 1982; Schnell et al. 1995).
- Am Beginn stehen die Auswahl eines geeigneten Forschungsproblems sowie die genaue Eingrenzung des Forschungsgegenstandes.
- Die Datenerhebung besteht im Fall publikationsbasierter Metaanalysen in einer systematischen und möglichst erschöpfenden Literaturrecherche.
- Im Anschluss daran werden die Informationen in den gesammelten Publikationen codiert und elektronisch aufbereitet.
- Die eigentliche (statistische) Datenanalyse besteht in der Regel aus zwei Schritten: der Befundintegration und der anschließenden Heterogenitätsanalyse.
- Abschließend sind die Ergebnisse angemessen aufzubereiten und mit Bezug auf das Forschungsproblem zu interpretieren.
Das Verfahren der Metaanalyse ähnelt dem narrativen Review, das die einschlägige Literatur zu einem wissenschaftlichen Thema strukturiert vorstellt, vergleicht und mit kritischen Kommentaren versieht. Kritisiert wird die Subjektivität der Auswahl von Untersuchungen. Hier erreicht die Metaanalyse eine größere Objektivität, indem sie Kriterien für die Auswahl der Primärstudien für die Metaanalyse festlegt. Dadurch verringert sich allerdings die mögliche Anzahl der Untersuchungen, die in eine Metaanalyse aufgenommen werden können.
Die Zusammenfassung verschiedener Untersuchungen zu einem wissenschaftlichen Forschungsgebiet ist nur sinnvoll, wenn die Effektgrößen der einzelnen Untersuchungen Schätzungen einer gemeinsamen Populationseffektgröße sind. Es ist eine Homogenitätsprüfung notwendig.
Homogenitätsprüfungen gehen von einer einheitlichen Effektgröße Δ (sprich: Delta) aus. Δ ist ein universelles Effektgrößenmaß und entspricht der bivariaten Produkt-Moment-Korrelation. Es wird präferiert, da verschiedene statistische Kennwerte (z. B. r, t, F) in Δ transformiert werden können.
Die studienspezifischen Effektgrößen werden anschließend durch einen Signifikanztest auf Homogenität geprüft. Sind die Effektgrößen homogen, kann ein durchschnittlicher Δ-Wert berechnet werden, er entspricht der Schätzung der Populationseffektgröße und kann auf Signifikanz geprüft und hinsichtlich seiner Größe klassifiziert werden.
Liegen heterogene Effektgrößen vor, so kann man Strategien anwenden, die die Untersuchungen mit heterogenen Effektgrößen in homogene Subgruppen teilen. Anschließend sollte der Einfluss von Moderatorvariablen auf die Heterogenität bestimmt werden, dies geschieht varianz- oder clusteranalytisch. Bestehen keine direkten Annahmen über die Wirkung von Moderatorvariablen, kann auch eine Korrelation zwischen den Moderatorvariablen und den studienspezifischen Effektgrößen berechnet werden. Die Höhe der Korrelation beschreibt dabei den Einfluss der Moderatorvariablen auf die Heterogenität der einzelnen Effektgrößen.
Da Untersuchungsberichte häufig lückenhaft sind und teils nur über signifikante bzw. nicht-signifikante Ergebnisse berichtet wird, gibt es Verfahren, die es ermöglichen, auch diese Untersuchungen metaanalytisch zu verwenden (z. B. Auszählung, Vorzeichentest, Binomialtest und Berechnung der exakten Irrtumswahrscheinlichkeit, es resultiert die Stouffer-Prüfgröße). Mit Hilfe des ‚Fail-Safe N‘ (nach Rosenthal, 1979) lässt sich beim Vorliegen eines signifikanten Gesamttests ausrechnen, wie viele Studien mit einem mittleren Effekt der Größe Null noch zusätzlich vorhanden sein müssten, damit der Gesamttest nicht signifikant ist. Über die Berechnung des Fail-Safe N soll dem Problem begegnet werden, dass graue Literatur, also unveröffentlichte Untersuchungen, nicht erfasst wird (siehe unten).
Die Metaanalyse kann am Ende mit einer sogenannten Meta-Regression abgerundet werden. Mit Regressionsverfahren wird festgestellt, welche Eigenschaften der Einzelstudien (z. B. diagnostische Kriterien, Herkunft, Anzahl Probanden, …) zu welchen Effektstärken führen.
Praktiken und Werkzeuge der Open Science können Metaanalysen vereinfachen und ihre Nachnutzbarkeit steigern.
Diskussion der Methode
Garbage-in-Garbage-out-Problem
Kritisiert wird, die Ergebnisse einer Metaanalyse seien wenig valide, weil jede beliebige Untersuchung, unabhängig von ihrer methodischen Qualität, in die Metaanalyse eingeht. Allerdings kann der Einfluss der methodischen Qualität der Untersuchungen auf das Ergebnis der Metaanalyse kontrolliert werden, indem entweder Qualitätskriterien qualitativ hervorstehende Studien stärker gewichten, oder Ausschlusskriterien mangelhafte Studien ausschließen. Die Studien können nach methodischer Qualität gruppiert und separat ausgewertet werden.
Hervorzuheben ist hier, dass Studien mit einer geringen Anzahl Probanden oder Stichproben nicht per se mangelhaft sind.
Äpfel-Birnen-Problem
Kritisiert wird, dass Metaanalysen Untersuchungen mit unterschiedlichen Operationalisierungsvarianten zusammenfassen. Es wird gefordert, dass vor allem in Bezug auf die abhängige Variable homogene Operationalisierungen vorliegen müssen, da sie alle Indikatoren für das gleiche Konstrukt sein sollen. Andernfalls beziehen sich die Untersuchungen auf unterschiedliche Kriterien, eine Zusammenfassung wäre dann nicht sinnvoll.
Dieses Problem lässt sich ebenfalls damit beheben oder abmildern, indem die Studien nach Erscheinungszeitraum oder unterschiedlichen Definitionen/Operationalisierungen gruppiert und separat ausgewertet werden.
Schubladenproblem
(engl. File Drawer Problem): Häufig werden nur Ergebnisse publiziert, die angenommene Hypothesen bestätigen oder signifikante Ergebnisse aufweisen, während Untersuchungen mit nicht-signifikanten Ergebnissen nicht veröffentlicht werden (Publikationsbias). Dadurch erfolgt eine Verzerrung der metaanalytischen Ergebnisse, da diese die Existenz eines Effekts zu oft nachweisen. Unveröffentlichte Literatur bezeichnet man auch als graue Literatur. „Interessanterweise hatte die graue Literatur in der ehemaligen DDR als nicht zensierte Literatur meist einen höheren wissenschaftlichen Wert als die offizielle, staatlich kontrollierte Literatur.“ „Eine Liste der neuesten Diplomarbeiten und Dissertationen im Fach Psychologie ist halbjährlich der Psychologischen Rundschau beigelegt.“ Das Problem, an graue Literatur heranzukommen, wird bei Marylu C. Rosenthal (1994) behandelt.
Der Publikationsbias wird in jeder sorgfältigen Metaanalyse zum Beispiel mit dem Funnel-Plot abgeschätzt. Bereits zu Beginn einer Metaanalyse soll aber beurteilt werden, inwiefern und mit welchem Aufwand die graue, nicht publizierte Literatur beschafft und berücksichtigt werden soll. In der veröffentlichten Literatur finden sich aber nicht selten Hinweise auf nicht publizierte Forschungsergebnisse, und heutzutage ist es dank dem Internet einfach, Forscher um unveröffentlichte Daten anzufragen. Allerdings erzeugt dieses Vorgehen wiederum eine methodische Schwäche, die kaum zu beheben ist.
Problem der abhängigen Messungen
Dieses Problem tritt auf, wenn verschiedene (abhängige) Teilergebnisse an der gleichen Stichprobe erhoben worden sind. Dies kann etwa auftreten, wenn ein Wissenschaftler dasselbe Gesundheitsproblem mehrmals nacheinander im selben geografischen Gebiet untersucht hatte, und die Ergebnisse in mehreren Publikationen veröffentlichte. Da Untersuchungseinheiten von Metaanalysen aber Einzelstudien und nicht Teilstichproben sind, darf immer nur ein Ergebnis einer Untersuchung in die Metaanalyse mit eingehen, da andernfalls diese Untersuchung ein größeres Gewicht erhalten würde als eine Untersuchung, die nur mit einem Ergebnis in die Metaanalyse eingeht. Entweder beschränkt man sich auf das wichtigste oder aussagekräftigste Ergebnis unter den Teilergebnissen, oder man bildet das arithmetische Mittel als Schätzung des Gesamtergebnisses. Sind aber die Rohdaten aus allen Teilergebnissen vorhanden, lässt sich aber ein Gesamtergebnis rekonstruieren.
Literatur
- Harris M. Cooper: Scientific guidelines for conducting integrative research reviews. In: Review of Educational Research 52, 1982, ISSN 0034-6543, S. 291–302.
- Harris Cooper, Larry V. Hedges (Hrsg.): The Handbook of Research Synthesis. Russell Sage Foundation, New York NY 1994, ISBN 0-87154-226-9.
- Gene V. Glass: Primary, Secondary and Meta-Analysis of Research. In: Educational Researcher 5, 1976, ISSN 0013-189X, S. 3–8.
- Joachim Hartung, Guido Knapp, Bimal K. Sinha: Statistical meta-analysis with applications. J. Wiley & Sons, Inc., Hoboken NJ 2008, ISBN 978-0-470-29089-7, (Wiley Series in Probability and Statistics).
- John E. Hunter, Frank L. Schmidt, Gregg B. Jackson: Meta-Analysis. Cumulating research findings across studies. Sage Publications, Beverly Hills CA 1982, ISBN 0-8039-1864-X, (Studying organizations 4), (Empfehlenswerte Einleitung).
- Rainer Schnell, Paul B. Hill, Elke Esser: Methoden der empirischen Sozialforschung. 5. völlig überarbeitete und erweiterte Auflage. Oldenbourg Verlag, München u. a. 1995, ISBN 3-486-23489-7.
Weblinks
- (Einführung; PDF-Datei; 250 kB)
- (Tutorial)
- The Scientist, Sep. 15, 1997 (Memento vom 3. Mai 2000 im Internet Archive) Stephen P. Hoffert: Meta-Analysis Gaining Status In Science And Policymaking
- Probleme der Metaanalyse