Computational properties of delay-coupled systems

Abstract

[eng] In this research work we study the computational properties of delay-coupled systems. In particular, we use a machine learning technique known as reservoir computing. In machine learning, a computer learns to solve di↵erent tasks using examples and without knowing explicitly their solution. For the study of the computational properties, a numerical toolbox, written in Python, was developed. This toolbox allows a fast implementation of the di↵erent scenarios described in this thesis. Using a reservoir computer, we studied several computational properties, focusing on its kernel quality, its ability to separate di↵erent input samples and the intrinsic memory capacity. This intrinsic memory is related to the delayedfeedback of the reservoir. We used a delay-coupled system as reservoir to study its computational ability in three di↵erent kinds of tasks: system’s modeling, time-series prediction and classification tasks. The system’s modeling task was performed using the Nonlinear Autoregressive Moving Average (of ten steps), NARMA10. The NARMA10 model creates autoregressive time series from a set of normally distributed random sequences. The reservoir computer learns how to emulate the system using only the sequence of random numbers and the autoregressive time series, but without knowing the equations of the NARMA10. The results of our approach are equivalent to those published by other authors and show the computational power of our method. For the time-series prediction tasks, we used three kinds of time series: a model that gives the variations in temperature of the sea surface that provoke El Niño phenomenon, the Lorenz system and the dynamics of a chaotic laser. Di↵erent scenarios were explored depending on the nature of the time series. For the prediction of the variation in temperature of the sea surface, we perform estimations of one, three and six months in advance. The error was measured as the Normalized Root Mean Square Error (NRMSE). For the di↵erent prediction horizons, we obtained errors of 2%, 8% and 24%, respectively. The classification tasks were carried out for a Spoken Digit Recognition (SDR) task and a real-world biomedical task. The SDR was used to illustrate different scenarios of a machine learning problem. The biomedical task consists on the automatic classification of heartbeats with cardiac arrhythmias. We use the MIT-BIH Arrhythmia database, a widely used database in cardiology. For comparison purposes, we followed the guidelines of the Association for the Advancement of Medical Instrumentation for the evaluation of arrhythmia-detector algorithms. We used a biostatistical learning process named logistic regression that allowed to compute the probability that a heartbeat belongs to a particular class. This is in contrast to the commonly used linear regression. The results obtained in this work show the versatility and efficiency of our implemented reservoir computer. Our results are equivalent and show improvement over other reported results on this problem under similar conditions and using the same database. To enhance the computational ability of our delay-coupled system, we included a multivariate scheme that allows the consideration of di↵erent variables of a system. We evaluated the influence of this multivariate scenario using a timeseries prediction and the classification of heartbeat tasks. The results show improvement in the performance of the reservoir computer in comparison with the same tasks in the univariate case.

[spa] En esta tesis se estudian las propiedades computacionales de sistemas acoplados con retraso. En particular la técnica de machine learning, conocida como reservoir computing, es utilizada. En esta técnica el ordenador aprende a resolver tareas a partir de ejemplos que se han dado previamente pero sin indicarle de forma explícita la forma de resolver estos problemas. El desarrollo de este trabajo incluye la creación de una herramienta computacional, escrita en lenguaje Python para la ejecución de los diferentes escenarios presentados en este trabajo. Con la implementación de un sistema acoplado con retraso, hemos estudiado las propiedades de cómputo de este tipo de sistemas, interesándonos principalmente en la calidad del sistema acoplado, su habilidad de separación de elementos distintos y su capacidad intrínseca de memoria, la cual está asociada a la presencia de una retroalimentación retrasada. El sistema se ha usado para demostrar el poder de cálculo que ofrecen los sistemas acoplados con retraso. Se utilizaron tres tipos de tareas: modelado, predicción de series de tiempo y clasificación. El modelado se realizó utilizando el sistema Nonlinear Autoregressive Moving Average de 10 pasos (NARMA10). Este sistema, construye series temporales autoregresivas a partir de series de números aleatorios. El ordenador basado en reservoir aprende a emular este sistema (sin conocer de forma explícita las ecuaciones del mismo) a partir de las secuencias de números aleatorios y las series temporales autoregresivas. Los resultados obtenidos son equivalentes a los publicados por otros autores, demostrando el poder computacional de este método. Para la predicción de series temporales se usaron modelos de variación de temperatura que provocan la aparición del fenómeno de El Niño, el sistema de Lorenz en régimen caótico y la dinámica de un laser caótico. Las estimaciones de series temporales se realizaron bajo diversas circunstancias dependiendo de la naturaleza de las series. Para el caso de El Niño, se realizaron predicciones a uno, tres y seis meses con errores de estimación, determinados por el Normalized Root Mean Square Error (NRMSE) de 2%, 8% y 24%, respectivamente. Como primera tarea de clasificación, se utilizó la tarea de Spoken Digit Recognition y se utilizó para ilustrar diferentes escenarios posibles de un sistema acoplado con retraso. La segunda tarea de clasificación y la mas exhaustiva, se realizó en un problema real de origen biomédico: la clasificación de latidos cardiacos para el caso de arritmias. Se utilizo la base de datos MIT-BIH Arrhythmia la cual ha sido ampliamente usada en cardiología. Por motivos de comparación de resultados, se siguieron las recomendaciones dadas por la Association for the Advancement of Medical Instrumentation para la evaluación de algoritmos detectores de arritmias. Se utilizo un método de entrenamiento del reservoir computer llamado regresión logística en lugar del comúnmente usado: la regresión lineal. La regresión logística nos permite obtener como resultado la probabilidad de que un latido cardiaco pertenezca a una clase u a otra. Los resultados obtenidos demuestran la versatilidad y eficacia de nuestro método de calculo, ya que son equivalentes e incluso mejores a los resultados publicados por otros trabajos bajo circunstancias similares de evaluación y utilizando la misma base de datos. Para mejorar la capacidad de computación del sistema con retraso, se incluyeron variables dinámicas adicionales en nuestro sistema para evaluar el efecto en la predicción de series de tiempo y la clasificación de latidos cardíacos. Los resultados mostraron una mejora sustancial en comparación con el caso en que sólo una variable o canal del electrocardiograma fue usado para realizar la tarea dada.

[cat] En aquesta tesi s’estudien les propietats computacionals de sistemes acoblats ambretard. En particular, hemutilitzat la tècnica de "machine learning" coneguda com reservoir computing. En aquesta tècnica, l’ordinador aprèn a resoldre tasques a partir d’exemples que s’han donat prèviament però sense indicar-li de forma explícita la forma de resoldre aquests problemes. El desenvolupament d’aquest treball inclou la creació d’una eina computacional, escrita en llenguatge Python per a l’execució dels diferents escenaris presentats en aquest treball. Amb la implementació d’un sistema acoblat amb retard, hem estudiat les propietats de còmput d’aquest tipus de sistemes, interessant-nos principalment en la qualitat del sistema acoblat, la seva habilitat de separació d’elements diferents i la seva capacitat intrínseca de memòria, la qual està associada a la presència d’una retroalimentació retardada. El sistema s’ha fet servir per demostrar el poder de càlcul que ofereixen els sistemes acoblats amb retard. Es van utilitzar tres tipus de tasques: modelatge, predicció de sèries de temps i classificació. El modelatge es va realitzar utilitzant el model "Nonlinear Autoregressive Moving Average" de 10 passos (NARMA10). Aquest model, construeix sèries temporals autoregresivas a partir de sèries de nombres aleatoris. L’ordinador basat en "reservoir computing" aprèn a emular aquest model (sense conèixer de forma explícita les equacions del mateix) a partir de les seqüències de nombres aleatoris i les sèries temporals autoregresivas. Els resultats obtinguts són equivalents als publicats per altres autors, demostrant el poder computacional d’aquest mètode. Per a la predicció de sèries temporals es van usar models de variació de temperatura que provoquen l’aparició del fenomen de El Niño, el sistema de Lorenz en règim caòtic i la dinàmica d’un làser caòtic. Les estimacions de sèries temporals es van realitzar sota diverses circumstàncies depenent de la naturalesa de les sèries. Per al cas d’El Niño, es van realitzar prediccions a un, tres i sis mesos amb errors d’estimació, determinats pel "Normalized Root Mean Square Error" (NRMSE) de 2%, 8% i 24%, respectivament. Com a primera tasca de classificació, es va utilitzar la tasca de "Spoken Digit Recognition" i s’han il·lustrat diferents configuracions possibles d’un sistema acoblat amb retard. La segona tasca de classificació i la més exhaustiva, es va realitzar en un problema real d’origen biomèdic: la classificació de batecs cardíacs per al cas d’arítmies. Es va utilitzar la base de dades "MIT-BIH Arrhythmia", la qual ha estat àmpliament usada en cardiologia. Per motius de comparació de resultats, es van seguir les recomanacions donades per la "Association for the Advancement of Medical Instrumentation" per a l’avaluació d’algoritmes detectors d’arítmies. Es va utilitzar un mètode d’entrenament del reservoir computer anomenat regressió logística en lloc del comunament usat: la regressió lineal. La regressió logística ens permet obtenir com a resultat la probabilitat que un batec cardíac pertanyi a una classe o a una altra. Els resultats obtinguts demostren la versatilitat i eficàcia del nostre mètode de càlcul, ja que són equivalents i fins i tot millors als resultats publicats per altres treballs sota circumstàncies similars d’avaluació i fent servir la mateixa base de dades. Per millorar la capacitat de computació del sistema amb retard, es van incloure variables dinàmiques addicionals en el nostre sistema per avaluar l’efecte en la predicció de sèries de temps i la classificació de batecs cardíacs. Els resultats van mostrar una millora substancial en comparació amb el cas en que només una variable o canal de l’electrocardiograma va ser usat per realitzar la tasca donada.