Neuronale Wissensrepräsentation und antizipierende hierarchische Speicher

Abstract

Neurowissenschaftliche Erkenntnisse über Struktur und Funktion des Neokortex lassen eine Neuorientierung auf dem Gebiet der künstlichen neuronalen Netze ratsam erscheinen. Es gilt, seine tiefe und hierarchische Architektur, seine universelle Fähigkeit, nicht nur räumliche sondern simultan auch zeitliche Muster zu erkennen und zu antizipieren, technisch zu realisieren. Dabei spielt auch ein aktuelles Modell der neuronalen Wissensrepräsentation, Sparse Coding, eine wichtige Rolle. Neben Deep Learning-Netzen, sind auch hierarchisch-temporale Speicher (HTM) ein vielversprechender Ansatz auf diesem Gebiet. Lernalgorithmen für HTM werden vorgestellt und mit Hilfe der openHTM-Plattform, die eine frei verfügbare Version des kommerziellen Grok-Systems ist, erste Experimente durchgeführt.

Neuroscientific insights into neocortical structure and function motivate reorientation in the field of artificial neural networks. It is desirable to seek technical solutions which exhibit its deep and hierarchical architecture and its universal ability to detect and anticipate spatio-temporal patterns. A current model of neural knowledge representation, sparse coding, is instrumental in achieving this goal. Among other concepts like deep learning, hierarchical-temporal memory (HTM) is a promising approach. Learning algorithms for HTM are discussed, and simple experiments with the openHTM-platform, a free and open source version of the commercial Grok system, are presented.