Echo State Networks. Teoremas inútiles y reglas incorrectas.

Abstract

Las Redes de Estado de Eco (Echo State Networks, ESN) son un modelo de aprendizaje basado en conexiones recurrentes, especialmente adaptado al tratamiento de series temporales. Diversas publicaciones han mostrado su capacidad para afrontar tareas habituales en este campo, como predicción, clasificación y codificación de series temporales. Sin embargo, este éxito ha estado limitado a aplicaciones específicas. Como ocurre con muchos modelos en el ámbito del Aprendizaje Automático, la falta de una fundamentación matemática rigurosa dificulta su aplicabilidad con carácter general. Por una parte, existen teoremas no constructivos, cuyas condiciones son imposibles de chequear en la práctica. Por otra parte, se han propuesto diversas reglas empíricas de diseño, pero que en realidad no resultan ser ni necesarias ni suficientes para la obtención de resultados satisfactorios. En esta charla, tras una presentación general de los métodos de aprendizaje, examinaremos el problema del diseño de ESN, dando una visión panorámica de las ideas relevantes. Mediante ejemplos, observaremos las ventajas y limitaciones de las diversas ideas, prestando especial atención a alguna propuesta muy reciente que puede suponer un salto significativo en este campo.