Global Temporal Dynamic

Discussão
A pesquisa aqui descrita é motivada pela dinâmica temporal dos sistemas neurais vivos e especialmente pelas habilidades temporais de humanos e animais superiores. Nossos cérebros podem responder a sinais variáveis ​​no tempo, gerar padrões variáveis ​​no tempo, processar informações ao longo do tempo, representar conceitos e imagens mentalmente em intervalos arbitrários de tempo e ter diferentes estados de atividade contínua e auto-sustentada ( acordado, excitado, dormindo). Além disso, parece que temos automaticamente habilidades e dinâmicas relacionadas ao tempo, como o reconhecimento de padrões espaço-temporais à medida que ocorrem; coordenação do processamento interno no cérebro, apesar de nenhum relógio de tempo aparente controlar; e a presença de actividade dinâmica auto-sustentada em muitas áreas do cérebro, através de oscilação (por exemplo, neurónios respiratórios) ou outra actividade continuada mais complexa (“actividade espontânea”). Essa ampla variedade de recursos temporais e atividade variável no tempo aponta para uma rede neural temporal dinâmica que envolve esses processos. Até hoje, muitos modelos neurais mostram habilidades de mapeamento de padrões, mas carecem da dinâmica e do comportamento temporal dos sistemas que pretendem modelar.
Nós exploramos uma série de paradigmas que dizem respeito à atividade dinâmica em redes neurais. Nós ilustramos como um modelo simples de uma rede neural pode desenvolver atratores dinâmicos, atividade auto-sustentada e caos. O controle sobre o parâmetro g, um multiplicador de peso, permite a modulação da dinâmica com uma progressão de um simples atrator de ponto fixo para o caos. Uma vez que geramos padrões de atividade caótica em uma rede neural, podemos aplicar um padrão de estímulo e bloquear a rede em um atrator de ciclo limite. Este cenário representa uma maneira potencial de realizar reconhecimento de padrões e classificação de sinais. Como os sistemas dinâmicos podem ter limites de bacia complicados para seus atratores, há motivos para esperar um maior desempenho e recursos de generalização a partir desse tipo de abordagem.
O desenvolvimento de múltiplos atratores em uma rede neural pode ser realizado por meio de um método acréscimo com perturbações de peso. Na rede resultante, um conjunto de estados iniciais evoca seu próprio atrator. Tarefas computacionais em classificação de padrões e memória associativa podem ser realizadas através de diferentes estados iniciais evocando diferentes atratores dinâmicos.
Em redes binárias dinâmicas, a exploração de bacias de atratores e a flexibilidade dessas bacias de atração mostraram que as capacidades de atratores são consideravelmente mais altas que o número de memórias na rede estática Hopfield (0.15n). Com apenas cinco neurônios em uma rede binária dinâmica, milhares de classes de bacia - divisões de padrões em diferentes bacias - podem ser realizadas.
Para treinar um atrator específico em uma rede neural, uma rede neural com atrasos de tempo foi treinada para gerar uma trajetória de loop fechado. A rede treinada gera essa trajetória apesar das condições iniciais ruidosas e com diferentes segmentos iniciais. O resultado é um gerador robusto de sinal e caminho para aplicações de comunicação e controle.
Os trens de impulso acrescentam uma nova dimensão do processamento espaço-temporal nos sistemas neurais biológicos. Padrões temporais de impulsos nervosos e sincronismos entre conjuntos de neurônios são códigos putativos para processamento e representação da informação. A atividade de disparo de neurônios e conjuntos neurais poderia refletir transientes e atratores dinâmicos sobrepostos à estrutura do trem de impulsos do processamento neural biológico.
O problema geral de reconhecimento e geração de sinais espaço-temporais parece ser solucionável com redes neurais dinâmicas, embora ainda haja muita pesquisa a ser feita. A capacidade de gerar e treinar a atividade auto-sustentada, baseada em atratores oscilantes dinâmicos, é mostrada nos resultados preliminares descritos aqui.