Global Temporal Dynamic

Dyskusja
Opisane tutaj badania są motywowane czasową dynamiką żywych układów nerwowych, a zwłaszcza zdolnościami czasowymi ludzi i wyższych zwierząt. Nasze mózgi mogą reagować na sygnały zmieniające się w czasie, mogą generować zmienne w czasie wzorce, mogą przetwarzać informacje (myśleć) w czasie, mogą reprezentować koncepcje i obrazy mentalnie dla dowolnych przedziałów czasowych i mają różne stany trwającej, samopodtrzymującej się aktywności ( obudzony, podniecony, śpiący). Co więcej, wydaje się, że mamy automatycznie związane z czasem umiejętności i dynamikę, takie jak rozpoznawanie czasoprzestrzennych wzorców w miarę ich występowania; koordynacja wewnętrznego przetwarzania w mózgu, pomimo braku widocznego kontrolnego zegara czasu; oraz obecność samopodtrzymującej się aktywności dynamicznej w wielu obszarach mózgu, poprzez oscylacje (np. neurony oddechowe) lub inną bardziej złożoną aktywność ciągłą („aktywność spontaniczna”). Ta szeroka gama możliwości czasowych i zmienna w czasie aktywność wskazuje na czasowo dynamiczną sieć neuronową, która powoduje te procesy. Do tej pory wiele modeli neuronowych wykazuje zdolności mapowania wzorców, ale brakuje im dynamiki i zachowania czasowego systemów, które mają modelować.
Zbadaliśmy szereg paradygmatów dotyczących dynamicznej aktywności w sieciach neuronowych. Pokazaliśmy, jak prosty model sieci neuronowej może rozwijać dynamiczne atraktory, samopodtrzymującą się aktywność i chaos. Sterowanie parametrem g, mnożnikiem masy, umożliwia modulację dynamiki z przejściem od prostego atraktora stałego punktu do chaosu. Po wygenerowaniu chaotycznych wzorców aktywności w sieci neuronowej możemy zastosować wzór bodźca i zablokować sieć w atraktorze cyklu granicznego. Ten scenariusz stanowi potencjalny sposób wykonywania rozpoznawania wzorców i klasyfikacji sygnałów. Ponieważ systemy dynamiczne mogą mieć skomplikowane granice basenu dla swoich atraktorów, istnieje powód, by oczekiwać zwiększonej wydajności i możliwości generalizacji z tego typu podejścia.
Opracowanie wielu atraktorów w sieci neuronowej można osiągnąć za pomocą metody akrecyjnej z zaburzeniami wagi. W wynikowej sieci zestaw stanów początkowych wywołuje swój własny atraktor. Zadania obliczeniowe w klasyfikacji wzorcowej i pamięci asocjacyjnej można zrealizować za pomocą różnych stanów początkowych wywołujących różne atraktory dynamiczne.
W dynamicznych sieciach binarnych eksploracja basenów atraktorowych i elastyczność tych basenów przyciągania wykazywały możliwości, aby atraktory były znacznie wyższe niż liczba pamięci w statycznej sieci Hopfielda (0,15n). Przy zaledwie pięciu neuronach w dynamicznej sieci binarnej można wykonać tysiące klas basenów - podziały wzorów na różne baseny.
Aby wyszkolić specyficzny atraktor w sieć neuronową, przeszkolono sieć neuronową z opóźnieniami w celu wygenerowania trajektorii zamkniętej pętli. Przeszkolona sieć generuje tę trajektorię pomimo głośnych warunków początkowych i różnych początkowych segmentów. Rezultatem jest solidny generator sygnałów i ścieżek do zastosowań komunikacyjnych i sterujących.
Pociągi impulsowe dodają nowy wymiar przetwarzania czasoprzestrzennego w biologicznych układach nerwowych. Czasowe wzory impulsów nerwowych i synchronizacji między zespołami neuronów są przypuszczalnymi kodami przetwarzania informacji i reprezentacji. Aktywność odpalania neuronów i zespołów neuronowych może odzwierciedlać transjenty i atraktory dynamiczne nałożone na strukturę pociągu impulsowego biologicznego przetwarzania neuronowego.
Ogólny problem rozpoznawania i generowania sygnałów czasoprzestrzennych wydaje się rozwiązywalny za pomocą dynamicznych sieci neuronowych, chociaż wiele pozostaje jeszcze do zrobienia. Zdolność do generowania i trenowania samopodtrzymującej się aktywności, opartej na dynamicznych atraktorach oscylacyjnych, przedstawiono we wstępnych wynikach opisanych tutaj.