Neural networks for vector quantization of speech and images

Krishnamurthy, Ashok; Ahalt, Stanley C.; Melton, Douglas E.; Chen, P.

doi:10.1109/49.62823

Cited by 156 publications

(67 citation statements)

References 21 publications

Supporting

Mentioning

Contrasting

Unclassified

Order By: Relevance

“…O conjunto dos vetores de treino § -dimensionaisé dividido em dois subconjuntos, vetores-código, por meio de algum algoritmo de treinamento de dicionários, como por exemplo, algoritmo LBG (Linde-Buzo-Gray) [5], algoritmos de aprendizagem não-supervisionada [11][12][13] e algoritmos fuzzy [14].…”

Section: O Projeto Dos Dicionáriosunclassified

Construção de Dicionários Voltados para a Redução da Complexidade Computacional da Etapa de Codificação da Quantização Vetorial

Madeiro¹,

Lopes²,

Neto³

et al. 2016

Anais Do 6. Congresso Brasileiro De Redes Neurais

View full text Add to dashboard Cite

IntroduçãoA quantização vetorial [1, 2], que pode ser vista como uma extensão da quantização escalar em um espaço multidimensional, encontra-se fundamentada na Teoria da Distorção Versus Taxa [3], formulada por Shannon, segundo a qual um melhor desempenhoé obtido codificando-se blocos de amostras (istoé, vetores) ao invés de amostras individuais (istoé, escalares). Em outras palavras, essa teoria ressalta a superioridade da quantização vetorial (QV) sobre a quantização escalar [4]. Matematicamente, a quantização vetorial pode ser definida como um mapeamento ¥ de um vetor de entrada

show abstract

Section: O Projeto Dos Dicionáriosunclassified

Construção de Dicionários Voltados para a Redução da Complexidade Computacional da Etapa de Codificação da Quantização Vetorial

Madeiro¹,

Lopes²,

Neto³

et al. 2016

Anais Do 6. Congresso Brasileiro De Redes Neurais

View full text Add to dashboard Cite

show abstract

“…1, pp. [3][4][5][6][7][8][9][10][11][12][13][14][15]2008 Para tamanhos de dicionários menores que 512, a evolução do método proposto é beneficiada se o algoritmo for inicializado com dicionários projetados por Lee et al O estudo do efeito de elevar o número de aplicações do módulo de otimização local no método proposto pode ser observado na Figura 8 para a imagem Clock codificada a 0,5625 bpp. Baseado nesse estudo, recomenda-se que duas iterações de Lee et al sejam utilizadas no método proposto para a obtenção de melhores dicionários em estágios incipientes do processo evolutivo.…”

Section: Learning Andunclassified

“…Outras abordagens têm sido utilizadas em projeto de dicionários, como por exemplo: algoritmo de Kohonen [14] e outros algoritmos não-supervisionados [15][16][17][18][19][20][21][22][23]; relaxação estocástica [24]; algoritmos fuzzy [25,26].…”

unclassified

Um Algoritmo Memético Para A Otimização De Quantizadores Vetoriais

Azevedo¹,

Azevedo²,

Júnior³

et al. 2008

L&NLM

View full text Add to dashboard Cite

Resumo -O presente artigo apresenta um Algoritmo Memético (AM) para a otimização de quantizadores vetoriais. O AM proposto atualiza os dicionários produzidos a cada geração de um Algoritmo Genético (AG) modificado mediante a aplicação de iterações de uma versão acelerada do algoritmo Linde-Buzo-Gray (LBG). A partir de simulações envolvendo compressão de imagens, observa-se que o AM proposto leva a melhores dicionários em uma quantidade menor de gerações, quando comparado a um AG integrado ao algoritmo LBG convencional, produzindo, portanto, melhores valores de relação sinal-ruído de pico para as imagens reconstruídas. Finalmente, a complexidade da busca pelo Vizinho Mais Próximo (VMP) no método proposto é reduzida mediante a utilização de uma busca por distância parcial (PDS).Palavras-Chave -Quantização vetorial, computação evolutiva, algoritmos meméticos, codificação de imagens.Abstract -This paper presents a Memetic Algorithm (MA) for optimizing vector quantizers. The proposed MA updates the codebooks produced at each generation of a modified Genetic Algorithm (GA) by applying iterations of an accelerated version of the Linde-Buzo-Gray (LBG) algorithm. From simulation results involving image compression, it is observed that the proposed MA leads to better codebooks, in a smaller number of generations, when compared to the GA guided by the standard LBG, leading to better peak signal-to-noise results for the reconstructed images. Finally, the complexity of the search for the nearest neighbour in the proposed MA is reduced by the usage of a Partial Distance Search (PDS).

show abstract

“…There are two consequences of neuron underutilization, namely suboptimal performance and sensitivity to initial conditions. Neuron underutilization will lead to suboptimal performance in some applications, and has been noticed by many researchers in applications including classification [8], [9], [21], vector quantizer design [10], [11] and pdf estimation [15], [16]. Let us elaborate the effect of neuron underutilization problem on each of these applications as follows.…”

Section: B Implications Of Neuron Underutilizationmentioning

confidence: 99%

A class of competitive learning models which avoids neuron underutilization problem

Choy

Siu

1998

IEEE Trans. Neural Netw.

View full text Add to dashboard Cite

Abstract-In this paper, we study a qualitative property of a class of competitive learning (CL) models, which is called the multiplicatively biased competitive learning (MBCL) model, namely that it avoids neuron underutilization with probability one as time goes to infinity. In the MBCL, the competition among neurons is biased by a multiplicative term, while only one weight vector is updated per learning step. This is of practical interest since its instances have computational complexities among the lowest in existing CL models. In addition, in applications like classification, vector quantizer design and probability density function estimation, a necessary condition for optimal performance is to avoid neuron underutilization. Hence, it is possible to define instances of MBCL to achieve optimal performance in these applications.Index Terms-Multiplicatively biased competitive learning, neuron underutilization problem, vector quantization.

show abstract

Neural networks for vector quantization of speech and images

Cited by 156 publications

References 21 publications

Construção de Dicionários Voltados para a Redução da Complexidade Computacional da Etapa de Codificação da Quantização Vetorial

Construção de Dicionários Voltados para a Redução da Complexidade Computacional da Etapa de Codificação da Quantização Vetorial

Um Algoritmo Memético Para A Otimização De Quantizadores Vetoriais

A class of competitive learning models which avoids neuron underutilization problem

Contact Info

Product

Resources

About