A content analysis and methodological evaluation of meta-analyses on Turkish samples<p>Türkiye örnekleminde meta analiz çalışmalarının içerik analizi ve metodolojik değerlendirilmesi

Authors

  • Gülşah Başol Gaziosmanpaşa University
  • Mehmet Fatih Doguyurt
  • Seda Demir Hacettepe University

Keywords:

Content analysis, evaluation, methodological evaluation, meta-analysis, içerik analizi, değerlendirme, metodolojik değerlendirme, meta analiz

Abstract

This content analysis study aims to methodologically evaluate the appropriateness of meta-analyses, conducted on Turkish samples on a variety of topics. Through an exhausting literature review, 80 meta-analyses were gathered together and coded into a detailed Meta-Analysis Evaluation Form.  The form consisted of 59 items (1 = Not Present, 2 = Present and 3 = Not Mentioned) both regarding the study and substantial characteristics. Two researchers coded the studies and the reliability of the coding of five studies indicated no problems with consistencies of the codings (Kappa= .90). According to the results, the most often encountered problem in meta-analyses was reporting both the fixed and random effects analyses without making a priori decision about the model choice. It was found that 60.0% of the meta-analyses investigated by the current study excluded studies conducted abroad which resulted underrepresentation of the literature.  Furthermore, the studies suffered from a small sample size issues. The methodology (how the studies were selected, coding form, reliability of the codings and etc.) was not explained clearly in more than a quarter of the studies. Therefore, it would be hard to claim that they have sufficient level of internal and external validity. It was hoped that researchers may benefit from the results of the current study to conduct better quality meta-analysis in the future.

 

Özet

Bu içerik analizi çalışmasının amacı Türkiye'de yapılan meta analiz çalışmalarının metodolojik değerlendirmesinin yapılmasıdır. Meta Analiz Değerlendirme Formu üzerinden Türkiye literatüründeki 80 meta analiz çalışması kodlanmıştır. Değerlendirme formu çalışmaların künyelerini ve meta analiz yönteminin kullanımındaki çeşitlenmeyi içeren 59 (Evet-Hayır-Belirtilmemiş şeklinde cevaplanabilecek) maddeyi kapsamaktadır. İki araştırmacı kodlamaları gerçekleştirmiş ve öncesinde beş çalışmalık bir pilot çalışma üzerinden kodlamaları arasındaki uyum hesaplanmış ve Kappa katsayısı (Kappa= .90) yeterli düzeyde bulunmuştur. Sonuçlara göre meta analiz çalışmalarındaki en belirgin problem herhangi bir tercihte bulunmaksızın sabit ve rasgele etkiler modellerinin birlikte rapor edilmesidir. Çalışmaların %60'ında yurtdışı çalışmalar dahil edilmeksizin Türkiye örneklemindeki çalışmaları kullanarak meta analiz yapılmıştır. Yurtdışı çalışmalara yer veren meta analizlerde ise sayının çok düşük olduğu dolayısıyla örneklemin temsil ediciliğinin düşük olduğu görülmüştür. Meta analizlerde örneklem büyüklüğünün sayıca çok yetersiz olduğu ya da olmadığı görülmüştür. Çalışmaların dörtte birinden fazlasında metodoloji bölümünde çalışmaların nasıl toplandığı, kodlama formu, kodlamaların güvenirliği gibi konular açıklanmamıştır. Bu durum ilgili meta analiz çalışmalarının güvenirlik ve geçerliğini düşürmektedir. Mevcut değerlendirme çalışmasının, gelecekte meta analiz konusunda çalışacak araştırmacılara metodolojik bakımdan daha kaliteli araştırmalar ortaya koymaları hususunda katkı sağlayacağı beklenmektedir.

Downloads

Download data is not yet available.

Metrics

Metrics Loading ...

Author Biographies

Gülşah Başol, Gaziosmanpaşa University

Assoc. Prof.,  Gaziosmanpaşa University Faculty of Education, Department of Educational Measurement and Evaluation

Mehmet Fatih Doguyurt

M.A., Gaziosmanpaşa University

Seda Demir, Hacettepe University

Ph.D. Student, Hacettepe University, Institute of Educational Science, Department of Educational Measurement and Evaluation

References

Açıkel, C. (2009). Meta-analiz ve kanıta dayalı tıp’taki yeri. Klinik Psikofarmakoloji Bülteni, 19, 164-172.

Balcı, A. (2012). Türkiye’nin coğrafi konum özelliklerini tasvire dayalı etkinliklerle öğretmeye yönelik nitel bir araştırma. Marmara Coğrafya Dergisi, 26, 216-259.

Basol-Gocmen, G. (2004). Meta-analizin genel bir değerlendirilmesi. Sakarya Üniversitesi Eğitim Fakültesi Dergisi, 7, 209–214.

Basol, G., & Akın, U. (2006). 2001-2006 yılları arasında Türkiye’ de eğitim alanında belli başlı indeksli dergilerde yayımlanan araştırma makalelerinin metodolojik bakımdan değerlendirilmesi [Öz]. XV. Ulusal Eğitim Bilimleri Kongresi Bildiri Özetleri, 132, XV. Ulusal Eğitim Bilimleri Kongresi, Muğla Üniversitesi, Muğla.

Basol, G., & Kocak, R. (2010). A methodological evaluation of the content of Turkish Journal of Counseling between 2000-2009. Procedia - Social and Behavioral Sciences, 2(2), 4377-4382.

Borenstein, M., Hedges, L. V., Higgins, J. P. T., & Rothstein, H. R. (2009). Introduction to meta-analysis. West Sussex, UK: John Wiley.

Burns, R., & Burns, R. (2008). Business research methods and statistics using SPSS. London: Sage Publications Inc.

Canlar, Ş. (2011). Yeni antifungal ajanların güvenilirliği: Sistematik derleme ve meta-analiz. Yayımlanmamış uzmanlık tezi, Hacettepe Üniversitesi Tıp Fakültesi, Ankara.

Cooper, H., & Hedges, L. V. (1994). The handbook of research synthesis. New York: Sage.

Çetindaş, V. B., Avcı, Ç. B., Süslüer, S. Y., Eroğlu, Z. ve Gündüz, C. (2012). Meta-analiz: Türk toplumunda MTHFR c.677C>T polimorfizmi ve kanser ilişkisi. Ege Tıp Dergisi, 51(4), 221-228.

Daniel, Larry G. (1996). Kerlinger's research myths. Practical Assessment, Research & Evaluation, 5(4). Retrieved from http://PAREonline.neton July 25, 2015.

Durlak, J.A. (2009). How to select, calculate, and interpret effect sizes. Pediatric Psychology, 34(9), 917-928.

Egger, M. (1997). Bias in meta-analysis detected by a simple, graphical test. British Medical Journal, 315, 629-634.

Gore, S. M., Jones, I. G., & Rytter, E. F. (1977). Misuse of statistical methods: A critical assessment of articles in BMJ from January to March, 1976. British Medical Journal, 1,85-87.

Hedges, L. V. (1982b). Fitting categorical models to effect size from a series of experiments. Journal of Educational Statistics, 7, 119-137.

Hedges, L. V., & Olkin, I. (1985). Statistical methods for meta-analysis. Orlando, FL: Academic Press.

Higgens, J. P.T., Thompson, S. G., & Spiegelhalter, D. J. (2008). A re-evalaution of random effects meta-analysis. Journal of Royal Statistical Society: Series A, 172(1), 137-159.

Hunter, J. E., & Schmidt, F. L. (2000). Fixed effects versus random effects metanalaysis models: Implications for cumulative research knowledge. International Journal of Selection and Assessment, 8, 275-292.

Gavaghan, D.J., Moore, A. R., & McQay, H. J. (2000). An evaluation of homogeneity tests in meta-ananlysis in pain using simulations of patient data. Pain, 85, 415-24.

Grissom, R. J., & Kim, J, J. (2005). Effect sizes for research: A broad practical approach. Mahwah, NJ: Erlbaum.

Kaya, M. F. (2013). Coğrafya eğitiminde yönelimler: 2012 yılına kadar yapılan lisansüstü tezler üzerine bir meta-analiz çalışması. Marmara Coğrafya Dergisi, 27, 282-313.

Kerlinger, F. N., & Pedhazur, E. J. (1973). Multiple regression in behavioral research. New York: Holt, Rinehart and Winston, International Journal of Selection and Assessment, 8(4), http://onlinelibrary.wiley.com/doi/10.1111/1468-2389.00156/

Lane, D. M. (2014). Online Statbook. Retrieved from http://onlinestatbook.com/2/index.html on March 22, 2015.

Levine, J. M., & Moreland, R. L. (1998). Small groups. In: Gilbert, D., Fiske, S., & Lindzey, G. (Eds.). The handbook of social psychology, 4th Ed., Vol. 2. Boston: McGraw-Hill.

Lipsey, M. W., & Wilson, D. B. (2001). Practical meta-analysis. London, New Delhi: Sage Publications, Inc.

Lesley, S., Clarke, M., & Tierney, J. (1995). The use of individual patient data in systematic reviews. Statistics in Medicine, 14, 2057-2079.

Meho, L. I. (2007). The Rise and Rise of Citation Analysis. Physics World, 202, 32-36.

Mullen B. (1990). Advanced BASIC meta-analysis. Hillsdale, New Jersey: Hove and London.

Rosenthal, R. (1979).The "file drawer problem" and tolenrance for null results. Psychological Bulletin, 86(3), 638-641.

Rosenthal, R. (1984).Meta-analytic procedures for social research. Beverly Hills, CA: Sage.

Rosenberg, M. S., Adams, D. C., & Gurevitch, J. (2000). Meta Win: Statistical software for meta-analysis. Sunderland, MA: Sinauer Associates.

Sağlam, M., & Yüksel, İ. (2007). Program değerlendirmede meta-analiz ve meta değerlendirme yöntemleri. Dumlupınar Üniversitesi, Sosyal Bilimleri Dergisi, 18, 175-188.

Shelby, L. B. & Vaske, J. J., (2008). Understanding meta analysis: A review of the methodological literature, Leisure Sciences, 30(2), 96-110.

Schroll, J. B. Moustgaard, R., & Gotzsche, P. C. (2011). Dealing with substantial heterogeneity in Cochrane reviews. Cross-sectional study. BMC Medical Research Methodology, 11(22), http:77www.biomedcentral.com/1471-2288/11/22

StatDirect (2015). Retrieved from http://www.statsdirect.com/help/default.htm#meta_analysis/heterogeneity.htm

Şahin, F. (1999). Meta analizinin tıp’ta kullanımı ve bir uygulama. Yayımlanmamış doktora tezi, Osmangazi Üniversitesi Sağlık Bilimleri Enstitüsü.

Şahin, M.C., Tekdal M. (2005). Internet Tabanlı Uzaktan Eğitimin Etkililiği: Bir Meta-Analiz Çalışması. Akademik Bilişim Konferansı- 05 4-6 Şubat 2005 - Gaziantep Üniversitesi -Gaziantep.

Tak, B., Erdur, D. A., & Kitapçı, N. (2011). Türkiye’de örgütsel bağlılık yazını (2002-2010): Bir meta analiz çalışması. İşletme Fakültesi Dergisi, 12(2), 335-353.

Wang, M. C., & Bushman, B. J. (1998). Using the normal quantile plot to explore meta-analytic data sets. Psychological Methods, 3(1), 46-54.

Yapıcı A. (2012). Türk toplumunda cinsiyete göre dindarlık farklılaşması: Bir meta-analiz denemesi. Fırat Üniversitesi İlahiyat Fakültesi Dergisi, 17, 1-34.

Downloads

Published

2016-02-11

How to Cite

Başol, G., Doguyurt, M. F., & Demir, S. (2016). A content analysis and methodological evaluation of meta-analyses on Turkish samples&lt;p&gt;Türkiye örnekleminde meta analiz çalışmalarının içerik analizi ve metodolojik değerlendirilmesi. Journal of Human Sciences, 13(1), 713–744. Retrieved from https://j-humansciences.com/ojs/index.php/IJHS/article/view/3460

Issue

Section

Educational Evaluation, Measurement and Research