MemCouple

Hochleistungsrechnen in memristiven Matrizen durch Thermische Kopplung

Partner

Stephan_Menzel_transparent

Dr. Stephan Menzel

Elektronische Materialien (Peter-Grünberg-Institut 7), FZ Jülich

Martin_Ziegler_MemrisTec_quad

Prof. Dr. Martin Ziegler

Lehrstuhl für Mikro- und Nanoelektronische Systeme, Institut für Mikro- und Nanoelektronik, TU Ilmenau

Projektbeschreibung

Trotz der beeindruckenden Erfolge im Bereich des maschinellen Lernens ist die künstliche Intelligenz (KI) immer noch weit von der natürlichen Intelligenz entfernt. Sie versteht nicht, was sie lernt, und arbeitet daher bei kognitiven Aufgaben ineffizienter. Heutiges maschinelles Lernen läuft auf seriellen von-Neumann-Computern, was den Trainingsprozess unflexibel und energieintensiv macht. Hier arbeitet die Biologie anders: Das menschliche Gehirn ist ein massives paralleles Netzwerk von Neuronen, das sich in funktionell spezialisierte Regionen unterteilt, die als kontextabhängige, selbstorganisierte und flüchtige Teilnetzwerke operieren und sich aufmerksamkeitsabhängig alle 0.5 bis 2 s ändern. Dies führt zu einem der rätselhaftesten Fragen in der kognitiven Neurowissenschaft, dem so genannten Bindungsproblem, dass eng verbunden ist mit dem Verständnis des Zusammenhangs zwischen der Dynamik des Netzwerks und seiner Konnektivität, d. h. dem Verständnis von räumlich-zeitlichen Mustern. Hier ist die neuronale Plastizität ein entscheidender Faktor, der zu einer strukturellen Konnektivitätsmatrix synaptischer Gewichte führt, die die Gesamtfunktion des Netzwerks bestimmt. Um den Weg zur kognitiven Elektronik zu ebnen, soll im Projektvorhaben die Bildung von zeitlich-räumlichen Mustern in memristiven Crossbar-Arrays emuliert und für unkonventionelle Rechenparadigmen nutzbar gemacht werden. Dazu wird das thermische Übersprechen in memristiven Crossbarstrukturen ausgenutzt. Die Eigenschaften und das Design der memristiven Bauelemente und der Crossbarstruktur werden dabei so ausgelegt, dass lokale Lernregeln etabliert werden, die geeignete Plastizitätsmechanismen implementieren, um räumlich-zeitlich Muster zu generieren und die Systemdynamik am dynamischen Kipppunkt (edge-of-chaos) stabilisieren. Die experimentelle Untersuchung wird durch die Entwicklung variabler kompakt Modelle für die memristiven Bauelemente und Modelle auf Array-Ebene ergänzt, die thermische Kopplungseffekte zwischen den Bauelementen in Raum und Zeit berücksichtigen. Dadurch sollen Designregeln für memristive Crossbar-Arrays abgeleitet werden, die eine möglichst effiziente Ausnutzung der thermischen Kopplungseffekte ermöglichen. Um optimale Trainingseigenschaften für memristive neuronale Netze zu gewährleisten, sollen Plastizitätsmechanismen so implementiert werden, dass die Systemdynamik nahe des Kipppunktes stabilisiert wird. In diesem kritischen Zustand haben neuronale Netze maximale Leistung in Bezug auf Empfindlichkeit, Dynamik, Korrelationslänge, Informationsübertragung und Suszeptibilität. Hier besteht ein besonderes Ziel darin, thermisches Übersprechen und Leckströme zu nutzen, um assoziative Lernmechanismen zu initiieren, um damit ein neuromorphes System zu entwickeln, dass mit dem geringstmöglichen Schaltkreis-Overhead arbeitet und eine minimale Anzahl von Eingangs- und Ausgangsneuronen besitzt.

Projektmitarbeitende

Daniel_Schoen

Daniel Schön

Elektronische Materialien (Peter-Grünberg-Institut 7), FZ Jülich