The purpose of study is to examine the reliability of analytical rubrics and checklists developed for the assessment of story writing skills by means of generalizability theory. The study group consisted of 52 students attending the 5th grade at primary school and 20 raters in Mersin University. The G study was carried out with the fully crossed hxpxg (story x rater x performance task) design, where the scoring keys were determined as fix facet. Decision Study was carried out by changing the task facet conditions. As a result, it was observed in both scoring keys that the sources of variance related to the stories had a high variance percentage in the main effects while "hp (story and rater interaction effects)" a high variance percentage in the interaction effects. The highest variance in the design belongs to the interaction effect "hpg (story, rater and performance task interaction effects)". This can be an indicator for the existence of different sources of variability and error, which are not included in the design. Examining the G and phi coefficients calculated for both scoring keys, it was determined that scoring with analytic rubrics is more reliable and generalizable. According to the decision studies, it was decided that the number of tasks used in this study is to be most appropriate.
Araştırma uzaktan eğitimde öğretici konumunda bulunanların çevrimiçi ölçme ve değerlendirmeye yönelik özyeterlik düzeylerini açığa çıkarmaya yönelik geçerli ve güvenilir bir ölçme aracı geliştirmek amacıyla gerçekleştirilmiştir. Bu amaca yönelik olarak yazılan 70 madde dokuz uzmanın değerlendirmesine sunularak kapsam geçerliği sağlanmaya çalışılmıştır. Hesaplanan kapsam geçerlik oranı ve kapsam geçerlik indeksleri sonucunda ölçek deneme formunda 49 madde yer almasına karar verilmiş ve ölçek çevrimiçi ortamda öğretmen ve öğretim elemanlarının gönüllü olarak cevaplamalarına sunulmuştur. 316 veri ile gerçekleştirilen açımlayıcı faktör analizi sonucunda ölçeğin iki bileşen altında gruplanan ve toplam 25 madde ile temsil edilen yapısına karar verilmiştir. Ölçeğin karar verilen yapısının sınanması amacıyla 202 veri üzerinden doğrulayıcı faktör analizi gerçekleştirilmiştir. Gerçekleştirilen doğrulayıcı faktör analizi sonucunda maddelere ilişkin standartlaştırılmış yük değerlerinin 0,43 ile 0,87 arasında değişkenlik gösterdiği, tüm t değerlerinin istatistiksel olarak anlamlı olduğu ve hesaplanan uyum indekslerinin de mükemmel/kabul edilebilir düzeyde olduğu görülmüştür. Ölçeğin açıkladığı toplam varyans oranı %65,895 ve ölçeğe ilişkin hesaplanan Cronbach Alpha güvenirlik katsayısı 0,958 ve McDonald Omega katsayısı ise 0,962'dir. Ayrıca alt faktörlere ilişkin hesaplanan birleştirici güvenirlik katsayısının sırasıyla 0,95 ve 0,93; yakınsak geçerliğin 0,611 ve 0,537 olduğu ve ıraksak geçerliğin de her iki faktör için de sağlandığı görülmüştür. Elde edilen bulgular geliştirilen ölçeğin bilimsel ve psikometrik açıdan geçerli ve güvenilir bir ölçme aracı olduğunu göstermektedir.
The goal of this study is to determine the reliability of the performance points of dentistry students regarding communication skills and to examine the scoring reliability by generalizability theory in balanced random and fixed facet (mixed design) data, considering also the interactions of student, rater and duty. The study group of the research consists of the 16 dentistry students who took communication skills elective course in Hacettepe University in 2014-2015 academic year. In the study, the variability sources are taken as student (s), rater (r), occupation (o) and task (t). 16 students are assigned with 16 different duties and whether the students fulfill the duties is rated by 8 raters from two different occupation groups, 4 standard patients and 4 academicians. On these facets using different designs G study has been performed. Within the scope of this study the sxrxt design where all variability sources are crossed; sx(o:r)xt design where the occupation nested on rater as the result of scoring of the students by two different occupation groups as standard patient and academicians; sxaxt and sxspxt facets where rater facet is taken as fixed facet according to occupation groups (sp: Standard Patient, a: Academician) were examined. For each design estimated variance components are discussed separately.
scite is a Brooklyn-based organization that helps researchers better discover and understand research articles through Smart Citations–citations that display the context of the citation and describe whether the article provides supporting or contrasting evidence. scite is used by students and researchers from around the world and is funded in part by the National Science Foundation and the National Institute on Drug Abuse of the National Institutes of Health.