Assessing transformation methods for group comparisons under violated assumptions: type I error rate and test power / [Avaliação de métodos de transformação para comparações de grupos sobre pressupostos violados: taxa de erro tipo I e poder do teste]

ABSTRACT

ABSTRACT In this study, some transformation methods that are applied when the assumptions of analysis of variance are not met are evaluated in terms of type I error rate and the test power, under circumstances with different distributions, number of groups, number of observations, variance ratios, and different standard deviation differences. The data set used in the study consisted of random numbers generated from N (0,1), and χ2(3) distributions using the random function of the Numpy library in the Python programming language. The logarithmic, square root and root transformations were evaluated on ANOVA based on simulation combinations. It was observed that the transformation techniques of taking the square root after adding 0.5 and 0.375 to the data were relatively more reliable compared to other transformations in terms of type I error rate. However, in every case, type I error rate determined at the beginning of the experiment increased both before and after the transformation was applied. In particular, interestingly, the third and fourth degree root transformations gave better results of test power in the right skewed distribution. In addition, we compared the transformation techniques in question to determine the normality of the data and the homogeneity of variances by a real data.

RESUMO

RESUMO Neste estudo, alguns métodos de transformação, aplicados quando as premissas da análise de variância não são cumpridas, são avaliados em termos de taxa de erro tipo I e poder de teste, em circunstâncias com diferentes distribuições, número de grupos, número de observações, razões de variância e diferenças de desvio-padrão. O conjunto de dados utilizados no estudo consistiu em números aleatórios gerados a partir das distribuições N(0,1) e χ2(3), utilizando a função aleatória da biblioteca Numpy, na linguagem de programação Python. As técnicas de transformação logarítmica, raiz quadrada e raiz foram avaliadas na ANOVA, com base em combinações de simulação. Observou-se que as técnicas de transformação de tomar a raiz quadrada após adicionar 0,5 e 0,375 aos dados foram relativamente mais confiáveis em comparação com outras transformações em termos de taxa de erro tipo I. No entanto, em todos os casos, a taxa de erro tipo I determinada no início do experimento aumentou tanto antes quanto depois da aplicação da transformação. Em particular, curiosamente, as transformações de raiz de terceiro e de quarto grau deram melhores resultados de poder de teste na distribuição assimétrica à direita. Além disso, foram comparadas as técnicas de transformação em questão para determinar a normalidade dos dados e a homogeneidade das variâncias por meio de dados reais.