The RationalistSkip to content
Biologiczne neurony używają dwukierunkowej propagacji->ANNs?

This plot has expired

Sections of Forum » Nauka
Date of addingAuthorTitle
15-05-2024 08:44Jarek Duda (1185 points)Biologiczne neurony używają dwukierunkowej propagacji->ANNs?
Propagacja sygnału w biologicznych neuronach jest dość symetryczna, np. "it is not uncommon for axonal propagation of action potentials to happen in both directions" ( journals.a(*)act/10.1103/PhysRevE.92.032707 ), mają znacznie lepsze uczenie "one-shot-learning" niż sztuczne, świadomość, etc.

Natomiast obecne sztuczne sieci neuronowe (ANN) są trenowane pod jednokierunkową propagację, poprzez trochę brute-force backpropagation ... raczej dość inaczej niż biologiczne.

Więc pytanie czy nie warto rozważyć wielokierunkowe sztuczne neurony ... tylko jak je zaprojektować, trenować, może wzorując się biologicznymi?



Konstrukcja z diagramu nad którą pracuję ( arxiv.org/pdf/2405.05097 ) to neurony zawierające model rozkładu łącznego połączeń:

- podstawiając część wejść dostajemy rozkłady warunkowe dla pozostałych - możemy propagować informację w dowolnym kierunku, nie tylko wartości ale i rozkłady,

- degeneruje się do tych modnych teraz KAN ( Kolmogorov-Arnold Network) jeśli ograniczymy się do zależności między parami zmiennych - można świadomie dodać między trójkami i wyżej,

- daje wiele nowych możliwości trenowania - np. bezpośrednią estymacją/updatem, czy dekompozycją tensorową ... może ewolucja biologiczna nauczyła się używać któryś z nich?

Jakby ktoś miał przemyślenia ...

Update: na KW rozwinęła się dyskusja: forum.kopa(*)nieść-do-sztucznych/
Author can remove replies violating regulations or out of topic.



Back to the list of plots działu Nauka 
To write in this plot, you have to sign in


[ Cooperation ] [ Advertise ] [ Map of the site ] [ F.A.Q. ] [ Store ] [ Sign up ] [ Contact ]
The Rationalist © Copyright 2000-2018 (English section of Polish Racjonalista.pl)
The Polish Association of Rationalists (PSR)