Enhancing k-nearest neighbors forecasting using discrete wavelet transform

Abstract

The work in this thesis analyses how it is possible to enhance k-Nearest Neighbors forecasting with the use of wavelet decomposition through lifting. Lifting is able to represent all the standard wavelets, as well as non-linear or second generation wavelets. This makes that the decomposition of the signals is better suited for forecasting tasks. In order to get the most out of lifting, its coefficients were evolved. This decision was made because only standard wavelets used for music analysis have been considered to enhance forecasting. Evolving freely the coefficients allows us to have, in theory, the best first and second generation wavelets at our disposal. While research has been done using the wavelet transform, not so much has been made in the field of electric power demand and consumption. We also present results that outperform those that were obtained in previous research for the time series presented in this thesis. Yet the main contribution comes in proposing a quasi-optimal wavelet for decomposing signals in the aforementioned field, given that, to the day in which this thesis was written, there has been no attempt to evolve wavelets for forecasting, and the wavelet broadly used for forecasting tasks is the Daubechies 5, which this thesis proves that is not the optimal, even in the Daubechies wavelet family.

El trabajo de esta tesis analiza cómo es posible mejorar el pronóstico de k-Nearest Neighbors con el uso de la descomposición wavelet a través de lifting. El lifting es capaz de representar todas las wavelets estándar, así como las wavelets no lineales o de segunda generación. Esto hace que la descomposición de las señales esté mejor adecuada para las tareas de pronóstico. Para sacar mayor provecho al lifting, sus coeficientes son evolucionados. Esta decisión fue tomada dado que solo se han usado wavelets estándar para análisis musical para mejorar el pronóstico. El evolucionar libremente los coeficientes nos permite tener, en teoría, las mejores wavelets de primera y segunda generación a nuestra disposición. A pesar de que se ha investigado el uso de la transformada wavelet, no se ha hecho mucho en el campo de demanda y consumo de potencia eléctrica. También se presentan resultados que superaron aquellos que fueron obtenidos en investigaciones pasadas para las series de tiempo presentadas en esta tesis. A ‘un así, la mayor contribución consiste en proponer una wavelet cuasi-óptima para descomponer señales en el campo mencionado, dado que, hasta el día que esta tesis fue escrita, no ha habido intentos de evolucionar wavelets para pronóstico, y la wavelet generalmente usada para tareas de pronóstico es la Daubechies 5, la cual prueba esta tesis que no es ´optima, incluso en la familia Daubechies.