A content analysis and methodological evaluation of meta-analyses on Turkish samples<p>Türkiye örnekleminde meta analiz çalışmalarının içerik analizi ve metodolojik değerlendirilmesi
Keywords:
Content analysis, evaluation, methodological evaluation, meta-analysis, içerik analizi, değerlendirme, metodolojik değerlendirme, meta analizAbstract
This content analysis study aims to methodologically evaluate the appropriateness of meta-analyses, conducted on Turkish samples on a variety of topics. Through an exhausting literature review, 80 meta-analyses were gathered together and coded into a detailed Meta-Analysis Evaluation Form. The form consisted of 59 items (1 = Not Present, 2 = Present and 3 = Not Mentioned) both regarding the study and substantial characteristics. Two researchers coded the studies and the reliability of the coding of five studies indicated no problems with consistencies of the codings (Kappa= .90). According to the results, the most often encountered problem in meta-analyses was reporting both the fixed and random effects analyses without making a priori decision about the model choice. It was found that 60.0% of the meta-analyses investigated by the current study excluded studies conducted abroad which resulted underrepresentation of the literature. Furthermore, the studies suffered from a small sample size issues. The methodology (how the studies were selected, coding form, reliability of the codings and etc.) was not explained clearly in more than a quarter of the studies. Therefore, it would be hard to claim that they have sufficient level of internal and external validity. It was hoped that researchers may benefit from the results of the current study to conduct better quality meta-analysis in the future.
Özet
Bu içerik analizi çalışmasının amacı Türkiye'de yapılan meta analiz çalışmalarının metodolojik değerlendirmesinin yapılmasıdır. Meta Analiz Değerlendirme Formu üzerinden Türkiye literatüründeki 80 meta analiz çalışması kodlanmıştır. Değerlendirme formu çalışmaların künyelerini ve meta analiz yönteminin kullanımındaki çeşitlenmeyi içeren 59 (Evet-Hayır-Belirtilmemiş şeklinde cevaplanabilecek) maddeyi kapsamaktadır. İki araştırmacı kodlamaları gerçekleştirmiş ve öncesinde beş çalışmalık bir pilot çalışma üzerinden kodlamaları arasındaki uyum hesaplanmış ve Kappa katsayısı (Kappa= .90) yeterli düzeyde bulunmuştur. Sonuçlara göre meta analiz çalışmalarındaki en belirgin problem herhangi bir tercihte bulunmaksızın sabit ve rasgele etkiler modellerinin birlikte rapor edilmesidir. Çalışmaların %60'ında yurtdışı çalışmalar dahil edilmeksizin Türkiye örneklemindeki çalışmaları kullanarak meta analiz yapılmıştır. Yurtdışı çalışmalara yer veren meta analizlerde ise sayının çok düşük olduğu dolayısıyla örneklemin temsil ediciliğinin düşük olduğu görülmüştür. Meta analizlerde örneklem büyüklüğünün sayıca çok yetersiz olduğu ya da olmadığı görülmüştür. Çalışmaların dörtte birinden fazlasında metodoloji bölümünde çalışmaların nasıl toplandığı, kodlama formu, kodlamaların güvenirliği gibi konular açıklanmamıştır. Bu durum ilgili meta analiz çalışmalarının güvenirlik ve geçerliğini düşürmektedir. Mevcut değerlendirme çalışmasının, gelecekte meta analiz konusunda çalışacak araştırmacılara metodolojik bakımdan daha kaliteli araştırmalar ortaya koymaları hususunda katkı sağlayacağı beklenmektedir.
Downloads
Metrics
References
Açıkel, C. (2009). Meta-analiz ve kanıta dayalı tıp’taki yeri. Klinik Psikofarmakoloji Bülteni, 19, 164-172.
Balcı, A. (2012). Türkiye’nin coğrafi konum özelliklerini tasvire dayalı etkinliklerle öğretmeye yönelik nitel bir araştırma. Marmara Coğrafya Dergisi, 26, 216-259.
Basol-Gocmen, G. (2004). Meta-analizin genel bir değerlendirilmesi. Sakarya Üniversitesi Eğitim Fakültesi Dergisi, 7, 209–214.
Basol, G., & Akın, U. (2006). 2001-2006 yılları arasında Türkiye’ de eğitim alanında belli başlı indeksli dergilerde yayımlanan araştırma makalelerinin metodolojik bakımdan değerlendirilmesi [Öz]. XV. Ulusal Eğitim Bilimleri Kongresi Bildiri Özetleri, 132, XV. Ulusal Eğitim Bilimleri Kongresi, Muğla Üniversitesi, Muğla.
Basol, G., & Kocak, R. (2010). A methodological evaluation of the content of Turkish Journal of Counseling between 2000-2009. Procedia - Social and Behavioral Sciences, 2(2), 4377-4382.
Borenstein, M., Hedges, L. V., Higgins, J. P. T., & Rothstein, H. R. (2009). Introduction to meta-analysis. West Sussex, UK: John Wiley.
Burns, R., & Burns, R. (2008). Business research methods and statistics using SPSS. London: Sage Publications Inc.
Canlar, Ş. (2011). Yeni antifungal ajanların güvenilirliği: Sistematik derleme ve meta-analiz. Yayımlanmamış uzmanlık tezi, Hacettepe Üniversitesi Tıp Fakültesi, Ankara.
Cooper, H., & Hedges, L. V. (1994). The handbook of research synthesis. New York: Sage.
Çetindaş, V. B., Avcı, Ç. B., Süslüer, S. Y., Eroğlu, Z. ve Gündüz, C. (2012). Meta-analiz: Türk toplumunda MTHFR c.677C>T polimorfizmi ve kanser ilişkisi. Ege Tıp Dergisi, 51(4), 221-228.
Daniel, Larry G. (1996). Kerlinger's research myths. Practical Assessment, Research & Evaluation, 5(4). Retrieved from http://PAREonline.neton July 25, 2015.
Durlak, J.A. (2009). How to select, calculate, and interpret effect sizes. Pediatric Psychology, 34(9), 917-928.
Egger, M. (1997). Bias in meta-analysis detected by a simple, graphical test. British Medical Journal, 315, 629-634.
Gore, S. M., Jones, I. G., & Rytter, E. F. (1977). Misuse of statistical methods: A critical assessment of articles in BMJ from January to March, 1976. British Medical Journal, 1,85-87.
Hedges, L. V. (1982b). Fitting categorical models to effect size from a series of experiments. Journal of Educational Statistics, 7, 119-137.
Hedges, L. V., & Olkin, I. (1985). Statistical methods for meta-analysis. Orlando, FL: Academic Press.
Higgens, J. P.T., Thompson, S. G., & Spiegelhalter, D. J. (2008). A re-evalaution of random effects meta-analysis. Journal of Royal Statistical Society: Series A, 172(1), 137-159.
Hunter, J. E., & Schmidt, F. L. (2000). Fixed effects versus random effects metanalaysis models: Implications for cumulative research knowledge. International Journal of Selection and Assessment, 8, 275-292.
Gavaghan, D.J., Moore, A. R., & McQay, H. J. (2000). An evaluation of homogeneity tests in meta-ananlysis in pain using simulations of patient data. Pain, 85, 415-24.
Grissom, R. J., & Kim, J, J. (2005). Effect sizes for research: A broad practical approach. Mahwah, NJ: Erlbaum.
Kaya, M. F. (2013). Coğrafya eğitiminde yönelimler: 2012 yılına kadar yapılan lisansüstü tezler üzerine bir meta-analiz çalışması. Marmara Coğrafya Dergisi, 27, 282-313.
Kerlinger, F. N., & Pedhazur, E. J. (1973). Multiple regression in behavioral research. New York: Holt, Rinehart and Winston, International Journal of Selection and Assessment, 8(4), http://onlinelibrary.wiley.com/doi/10.1111/1468-2389.00156/
Lane, D. M. (2014). Online Statbook. Retrieved from http://onlinestatbook.com/2/index.html on March 22, 2015.
Levine, J. M., & Moreland, R. L. (1998). Small groups. In: Gilbert, D., Fiske, S., & Lindzey, G. (Eds.). The handbook of social psychology, 4th Ed., Vol. 2. Boston: McGraw-Hill.
Lipsey, M. W., & Wilson, D. B. (2001). Practical meta-analysis. London, New Delhi: Sage Publications, Inc.
Lesley, S., Clarke, M., & Tierney, J. (1995). The use of individual patient data in systematic reviews. Statistics in Medicine, 14, 2057-2079.
Meho, L. I. (2007). The Rise and Rise of Citation Analysis. Physics World, 202, 32-36.
Mullen B. (1990). Advanced BASIC meta-analysis. Hillsdale, New Jersey: Hove and London.
Rosenthal, R. (1979).The "file drawer problem" and tolenrance for null results. Psychological Bulletin, 86(3), 638-641.
Rosenthal, R. (1984).Meta-analytic procedures for social research. Beverly Hills, CA: Sage.
Rosenberg, M. S., Adams, D. C., & Gurevitch, J. (2000). Meta Win: Statistical software for meta-analysis. Sunderland, MA: Sinauer Associates.
Sağlam, M., & Yüksel, İ. (2007). Program değerlendirmede meta-analiz ve meta değerlendirme yöntemleri. Dumlupınar Üniversitesi, Sosyal Bilimleri Dergisi, 18, 175-188.
Shelby, L. B. & Vaske, J. J., (2008). Understanding meta analysis: A review of the methodological literature, Leisure Sciences, 30(2), 96-110.
Schroll, J. B. Moustgaard, R., & Gotzsche, P. C. (2011). Dealing with substantial heterogeneity in Cochrane reviews. Cross-sectional study. BMC Medical Research Methodology, 11(22), http:77www.biomedcentral.com/1471-2288/11/22
StatDirect (2015). Retrieved from http://www.statsdirect.com/help/default.htm#meta_analysis/heterogeneity.htm
Şahin, F. (1999). Meta analizinin tıp’ta kullanımı ve bir uygulama. Yayımlanmamış doktora tezi, Osmangazi Üniversitesi Sağlık Bilimleri Enstitüsü.
Şahin, M.C., Tekdal M. (2005). Internet Tabanlı Uzaktan Eğitimin Etkililiği: Bir Meta-Analiz Çalışması. Akademik Bilişim Konferansı- 05 4-6 Şubat 2005 - Gaziantep Üniversitesi -Gaziantep.
Tak, B., Erdur, D. A., & Kitapçı, N. (2011). Türkiye’de örgütsel bağlılık yazını (2002-2010): Bir meta analiz çalışması. İşletme Fakültesi Dergisi, 12(2), 335-353.
Wang, M. C., & Bushman, B. J. (1998). Using the normal quantile plot to explore meta-analytic data sets. Psychological Methods, 3(1), 46-54.
Yapıcı A. (2012). Türk toplumunda cinsiyete göre dindarlık farklılaşması: Bir meta-analiz denemesi. Fırat Üniversitesi İlahiyat Fakültesi Dergisi, 17, 1-34.
Downloads
Published
How to Cite
Issue
Section
License
Authors can retain copyright, while granting the journal right of first publication. Alternatively, authors can transfer copyright to the journal, which then permits authors non-commercial use of the work, including the right to place it in an open access archive. In addition, Creative Commons can be consulted for flexible copyright licenses.
©1999 Creative Commons Attribution-ShareAlike 4.0 International License.