Excesso de zeros nas variáveis observadas: estudo de caso em experimento com brócolis

Abstract

ALESSANDRO DAL'COL LÚCIO ( 2 ); MARA RÚBIA MACHADO COUTO ( 3 ); JORGE NADIR TREVISAN ( 2 ); GUSTAVO ADOLFO KLIPPEL MARTINS ( 2 ); SIDINEI JOSÉ LOPES ( 2 ) RESUMO Em olericultura o interesse é a produção de produtos comercializáveis. Nesses experimentos, comumente, são avaliadas variáveis tais como a fitomassa das cabeças e ramificações comerciais e não comerciais da planta. No entanto, essas variáveis possuem uma característica particular que está relacionada com a presença ou ausência da estrutura comercial da planta no momento da colheita, o que resulta em valores zeros para essas variáveis, gerando certa variabilidade e afetando a análise de variância dos dados. Assim, este trabalho teve por objetivo definir uma transformação adequada para as variáveis observadas em experimentos com a cultura do brócolis, realizados em diferentes épocas do ano, visando estabilizar a variabilidade gerada pela presença de valores zeros nas múltiplas colheitas. Analisaram-se quatro experimentos com a cultura do brócolis utilizando a família de transformações de Box-Cox, com uma adaptação de Yamamura apresentada em 1999, devido a presença de valores nulos. Concluiuse que para experimentos com brócolis a transformação mais adequada para as variáveis cabeças comerciais e não comerciais, e ramificações comerciais e não comerciais foi logarítmica para cultivos no inverno, na primavera e no verão. Para cultivos no outono, a transformação indicada para as variáveis cabeças comerciais e não comerciais e ramificações não comerciais foi "inverso da raiz quarta", enquanto para ramificações comerciais, "inverso da raiz quadrada". Palavras-chave:Transformação de dados; Box-Cox; variabilidade; análise de variância. ABSTRACT EXCESS OF ZERO VALUE IN VARIABLES: STUDY OF CASE IN BROCCOLI FIELD EXPERIMENTSThe major purpose of vegetable crops production systems is the profitable and economically viable yield of marketable products. Numerous field experiments with vegetable crops are carried out to determine biomass of weekly and heads production of marketable and non-marketable variables. However these variables possess the particular characteristic related to their presence or absence of the commercial structure of the plant at harvest time, what implicates in zero values for those variables, generate variability and affect variance analyses. This paper deals with the search of applicable transformations for variables studied in broccoli field experiments conducted in different planting times attempting to stabilize the variabilily resulting from the presence of zero values in multiple harvests. Due to the presence of zero values, broccoli experiments were analyzed using an adaptation of the BoxCox transformation family found in Yamamura in 1999. The most adequate transformation found for marketable and non-marketable heads and side shoots of broccoli grown in winter, spring and summer was the logarithmical. For marketable and non-marketable heads and non-marketable side shoots for fall-grown broccoli the inverse fourth root and to marketable side...

Transformação Dos Dados Por Postos Alinhados Em Experimento De Avaliação Da Qualidade Do Extrato De Tomate / Data Transformation by Aligned Posts in Tomato Extract Quality Assessment Experiment

“…As transformações tradicionais recomendadas são logarítmicas, raiz quadrada, raiz quadrada recíproca e arco-seno, tendo como objetivo conseguir homogeneidade de variâncias e uma distribuição aproximadamente normal (COUTO et al 2009, CUSTÓDIO & BARBIN 2009, LÚCIO et al 2010, LÚCIO et al 2011. Entretanto, como as variáveis analisadas são quantitativas contínuas, a transformação recomendada segundo BARBIN (2003) é a logarítmica.…”

<b>Data transformation: an underestimated tool by inappropriate use

“…As much as these flaws could compromise experiments, they do not cause heteroscedasticity in a data set. The major generators of heterogeneous variance for ANOVA models are the presence of zeros in the data set and the choice of treatments with previously expected discrepant answers (the so-called effect of scale), as seeds in viability extremes, i.e., 10 and 90% of germination (Bartlett, 1936;Ahrens et al, 1990;Sakia, 1992;Lúcio, Couto, Trevisan, Martins, & Lopes, 2010). The presence of zeros was the main cause of data heteroscedasticity of hard seeds of Parkia pendula and Senna macranthera, and the reason for these data to stay heteroscedastic even when transformed.…”