1 Jak działa mózg? Uwagi dla modelarzy. Włodzisław Duch Katedra Informatyki Stosowanej Uniwersytet Mikołaja Kopernika, Toruń, PL Google: Duch XXIV Szkoła Zimowa IF PAN, luty 2007 1

2 Czym się zajmujemy 1 1.Rozwojem teorii i zastosowań metod inteligencji obliczeniowej (np. sieci neuronowe, logika rozmyta), uczeniem maszynowym, selekcją informacji, systemami do dogłębnej analizy danych (data mining) oraz rozumienia danych (reguły logiczne, wizualizacja). Zastosowaniami do analizy kwestionariuszy (np. psychometrycznych) i wspomagania diagnostyki medycznej. Ghostminer, nasz system programów data mining (sprzedawany przez Fujitsu) używany jest do analizy danych w kilku szpitalach klinicznych w USA i w firmach bioinformatycznych. Obecnie pracujemy w KIS nad całkiem nowym systemem. Na zjeździe firmy Bayern Diagnostics prowadziliśmy warsztaty na temat zastosowania sieci neuronowych w diagnostyce medycznej; zainteresowanie głównie analizami hematologicznymi. 2.Bioinformatyką, genomiką i modelowaniem komputerowym w medycynie molekularnej – dr hab J. Meller w Cincinnati Children’s Hospital Research Foundation. 2

3 Czym się zajmujemy 2 5.Analizą języka naturalnego. Wykorzystnie inspiracji neurokognitywnych (pamięć rozpoznawcza, semantyczna, epizodyczna) pracujemy nad systemami interpretacji tekstów medycznych, korzystając z ontologii UMLS. Zastosowania: annotacje semantyczne, biling, wspomaganie prac badawczych, systemy wyszukiwania informacji. Doktoranci w Cincinnati + Gdańsku. 3.Informatyką i robotyką neurokognitywną. Funkcjonalnymi modelami neuronowymi funkcji mózgu: pamięci, uwagi, wyższych czynności poznawczych, procesami twórczymi. NTU Singapur + dwa złożone projekty EU, koordynowane przez KCL. 4.Rozwój i stymulacja zdolności poznawczych u niemowląt, patent „ Układ aktywnego stymulatora ośrodków mowy, zwłaszcza niemowląt i dzieci”, projekt inteligentnej kołyski i zabawek kognitywnych. 3

4 Jak patrzeć na mózg? Zależy to od pytań, na które chcemy znaleźć odpowiedź. Riken Brain Science Inst: protecting, understanding & creating the brain. Większość wykładów tej szkoły jest albo na poziomie molekularnym, albo na poziomie psychologicznym. Farmakologia odpowiada na pytania podstawowe, ważne dla medycyny, bada elementarne procesy i ich związek z zachowaniem. Psychologia poszukuje wyjaśnień najczęściej na poziomie opisowym. Co trzeba wiedzieć by stworzyć sztuczny mózg? Na wiele pytań można odpowiedzieć tylko z perspektywy ekologicznej i ewolucyjnej: dlaczego świat jest taki, jaki jest? Bo tak się zrobił... Dlaczego kora ma budowę kolumnową i warstwową? Dlaczego jedzenie bulw ignamu w czasie pory deszczowej stanowi religijne tabu? Nawet skrajni redukcjoniści nie szukają odpowiedzi na takie pytania wyłącznie na poziomie molekularnym... 4

5 Od molekuł... 10 -10 m, poziom molekularny: kanały jonowe, synapsy, własności błon komórkowych, biofizyka, neurochemia, psychofarmakologia, umysł z perspektywy molekuł (Ira Black, 1994)? 10 -6 m, pojedyncze neurony: neurochemia, LTP, LTD, biofizyka, neuronauki obliczeniowe (CS), modele wielokomorowe neuronów, impulsy, neurofizjologia. 10 -3 m, funkcjonalne grupy neuronów: kolumny korowe (10 4 -10 5 ), synchronizacja, kodowanie populacyjne, mikroobwody, zapisy wieloelektrodowe, Local Field Potentials, neurodynamika wielkiej skali, neuroanatomia i neurofizjologia. 10 -4 m, małe sieci: synchronizacja impulsujących neuronów, rekurencja, neurodynamika, układy wielostabilne, generatory wzorców, zwoje neuronów, efekty pamięci, zachowania chaotyczne (semi-liquid state), „kod neuronowy” (kodowanie informacji), neurofizjologia... 5

6 … do zachowania … do zachowania 10 -2 m, sieci mezoskopowe: mapy czuciowo-ruchowe, kodowanie populacyjne, samoorganizacja, teorie pola średniego, teorie ośrodków ciągłych, EEG, MEG, metody obrazowania PET/fMRI... 10 -1 m, pola transkorowe, obszary funkcjonalne mózgu: uproszczone modele kory, struktury podkorowe, działania sensomotoryczne, integracja funkcji, wyższe czynności psychiczne, pamięć robocza, świadomość; (neuro)psychologia, psychiatria komputerowa... Teraz zdarza się cud... 1 m, CUN, cały mózg i organizm: świat wewnętrzny, zachowania inten- cjonalne, działania celowe, myślenie, język, psychologia behawioralna... FSA, aproksymacje symboliczne (sztuczna inteligencja). Gdzie podziała się psyche, perspektywa wewnętrzna? Lost in translation: sieci => automaty skończone => zachowanie Alternatywa: przestrzenie psychologiczne => zdarzenia mentalne. 6

7 Poziom systemowy 7

8 Podejście neurokognitywne Computational cognitive neuroscience: szczegółowe modele funkcji poznawczych i neuronów, pierwsza doroczna konferencja 11/2005. Informatyka neurokognitywna: uproszczone modele wyższych czynności poznawczych, myślenia, rozwiązywania problemów, uwagi, języka, kontroli zachowania i świadomości. Wiele spekulacji, ponieważ nie znamy szczegółów procesów zachodzących w mózgu, ale modele jakościowe wyjaśniające rezultaty eksperymentów psychofizycznych oraz przyczyny chorób psychicznych i zespołów neuropsychologicznych rozwijają się szybko od ~ 1995 r. Nawet proste mózgo-podobne przetwarzanie informacji daje rezultaty podobne do prawdziwych; złożoność mózgu nie jest głównym problemem! Brain As Complex System (BRACS, EU Project) centralne założenie: najważniejsza jest ogólna neuroanatomiczna struktura kory i obszarów podkorowych mózgu, należy ją w modelach zachować. “Roadmap to human level intelligence” – workshopy na WCCI’06 ++ 8

9 Model transformacji Przetwarzanie informacji, pomijane sprzężenia zwrotne: redukcja ilości informacji (kategoryzacja), działania senso-motoryczne. Myocardial Infarction ~ p(MI|X) SexAge Smoking ECG: ST Pain Intensity Pain Duration Elevation 0.7 5 1  1 3 65 Inputs: Output weights Input weights 9

10 Model samoorganizacji Topograficzne reprezentacje w licznych obszarach mózgu: bodźców czuciowych, w korze ruchowej i móżdżku, wielomodalne mapy orientacji w wzgórkach czworaczych górnych, mapy w układzie wzrokowym i tonotopiczne mapy kory słuchowej. Najprostszy model (Kohonen 1981): konkurencja między grupami neuronów i lokalna kooperacja. Neurony reagują na sygnały dostrajając swoje parametry tak, by wszystkie bodźce były analizowane i by bodźce do siebie podobne analizowane były przez sąsiednie neurony. 10

11 Model dynamiczny Silne sprzężenia zwrotne, stany kolektywne, neurodynamika. Najprostszy model (Hopfield 1982): pamięć skojarzeniowa, uczenie w oparciu o regułę Hebba, dynamika synchroniczna, neurony dwustanowe. Wektor potencjałów wejściowych V(0)=V ini, czyli wejście = wyjście. Dynamika (iteracje)  sieć Hopfielda osiąga stany stacjonarne, czyli odpowiedzi sieci (wektory aktywacji elementów) na zadane pytanie V ini (autoasocjacja). Jeśli połączenia są symetryczne to taka sieć dąży do stanu stacjonarnego (atraktor punktowy). t = dyskretny czas. 11

12 Model biofizyczny EPSP, IPSP Spike Soma Synapses 12

13 Problemy neurologiczne Co wynika z modelowego myślenia? Padaczka: dodatnie sprzężenie zwrotne jest tu ogólną metaforą, zbyt słabe hamowanie prowadzi do ognisk silnych pobudzeń, ale o wiele więcej można się dowiedzieć z modeli biofizycznych. Wyniki: szczegółowe modele biofizyczne komórek piramidowych i neuronów wstawkowych w hipokampie (CA3), poznano mechanizm synchronizacji, zbadano wpływ różnych substancji chemicznych. Częstości 200-600 Hz (phi) obserwowane w niektórych rodzajach padaczki nie da się wygenerować w modelach bez synaps elektrotonicznych na aksonach (kompleksy białkowe koneksyny). Wystarczą dwie takie synapsy/neuron (Traub, Jefferys). Jak wpłynąć na koneksyny by zablokować synchronizację? Potrzebne są modele na poziomie dynamiki molekularnej. 13

14 Udary i reorganizacja kory Reprezentacje topograficzne mogą ulegać reorganizacji na skutek udaru, uszkodzenia nerwu lub amputacji części ciała. W wyniku stymulacji (lub jej braku) na stepuje szybka ekspansja (lub kontrakcja) obszarów w korze S1 reagujących na bodźce. Proste modele SOM dają jakościowo poprawne wyniki. Uwzględnienie wzgórza daje efekt „odwrotnego powiększenia”, czyli wielkość obszaru kory zależy odwrotnie proporcjonalnie od wielkości pola recepcyjnego. Wyzwanie: kończyny fantomatyczne. Reorganizacja projekcji wzgórzowych w tym przypadku osiąga 10 mm, zwykle obszar projekcji jest rzędu 1 mm. Być może powstają nowe połączenia. 14

15 Model reorganizacja kory Reprezentacje topograficzne mogą ulegać reorganizacji na skutek udaru, uszkodzenia nerwu lub amputacji części ciała. W wyniku stymulacji (lub jej braku) na stepuje szybka ekspansja (lub kontrakcja) obszarów w korze S1 reagujących na bodźce. Proste modele SOM dają jakościowo poprawne wyniki. Uwzględnienie wzgórza daje efekt „odwrotnego powiększenia”, czyli wielkość obszaru kory zależy odwrotnie proporcjonalnie od wielkości pola recepcyjnego. Wyzwanie: kończyny fantomatyczne. Reorganizacja projekcji wzgórzowych w tym przypadku osiąga 10 mm, zwykle obszar projekcji jest rzędu 1 mm. Być może powstają nowe połączenia. 15

16 Model szybkiej reorganizacji Szczegółowy model w oparciu o symulator GENESIS. M. Mazza et al, J. Computational Neuroscience 16 (2004) 177-201 Ręka: 512=32*16 receptorów, dłoń 4x32 + 4 palce 8x12, ciałka Meissnera, wysyłają realistyczne ciągi impulsów do części brzuszno-boczno-tylniej (VPL) wzgórza; receptory AMPA, GABA i NMDA. VPL: neurony przekaźnikowe wzgórza i neurony wstawkowe. Kanały jonowe: Na, Ca, trzy rodzaje kanałów K dla neuronów przekaźnikowych, i 3 kanały dla wstawkowych Liczne parametry ustalone doświadczalnie 16

17 Model VPL Siatka 16x16=256 neuronów przekaźnikowych 128 neuronów wstawkowych: wejścia z ręki przez receptory AMPA, z innych neuronów przekaźnikowych przez receptory AMPA i NMDA, hamowanie przez receptory GABA. Tabele prawdopodobieństw połączeń pomiędzy neuronami oparte na neuroanatomicznych danych: komórka łączy się z sąsiednimi w promieniu R c, z niektórymi (p=0.5) w pierścieniu R c -R e, eliptycznie dla połączeń miedzy neuronami przekaźnikowymi z kanałami NMDA, oraz neuronami wstawkowymi z kanałami GABA. 17

18 Kora 3b Modelowane warstwy II, IV i V, każda 32x32=1024. Typy neuronów: A: neurony gwiaździste warstwy IV, B: wstawkowe koszyczkowe. C: piramidalne z warstwy III, D: piramidalne z warstwy V, szybkie hamujące GABA; Neurony piramidowe mają po 8 segmentów, gwiaździste 5, neuronów pobudzających jest 3072, wstawkowe mają 2 segmenty i jest ich razem 1536, po 512 w każdej warstwie. 18

19 Połączenia 3b A, neurony gwiaździste warstwy IV, mają wejścia ze wzgórza oraz innych neuronów tej warstwy. B, wstawkowe łączą się z różnymi pobudzającymi. C i D, piramidalne III i V, mają wejścia wzgórzowe i z warstwy II, IV i V. Probabilistycznie określone połączenia. Równania na prądy/potencjały całkowano z krokiem czasowym 0.05 ms na komputerze osobistym, 1 s = ok. 1 godz. symulacji. Można prześledzić tworzenie się stabilnych map topograficznych na poziomie jądra VPL i kory. 19

20 Symulacje Symulacje przypadkowo wybranych fragmentów 2x2 receptorów ręki. 1 s= 20.000 pobudzeń, Aktywność VPL stabilizuje się już po 500 ms, a kory w warstwie II i V po 750 ms, i IV po 800 ms. Jasne pola = słaba reakcja, ciemne >10 impulsów/s Obserwacje:  Reprezentacja dłoni jest mniejsza niż palców.  Warstwa IV ma najbardziej precyzyjne odwzorowanie, zgodnie z faktami.  Granice reprezentacji ciągle fluktuują. 20

21 Amputacja Po osiągnięciu stabilności i obserwacji powstałych map (900 ms) odcinamy palec = stymulację. Po następnych 400 ms obserwujemy zmiany. Część neuronów nie reaguje na żadne pobudzenia ale reprezentacje palca 1 i 3 zwiększyły swój obszar, zwłaszcza w warstwie II i V, w mniejszym stopniu w warstwie IV i wzgórzu. Eksperymenty pokazują podobną szybką ekspansję i reorganizację reprezentacji, po której następuje wolniejsza konsolidacja. Stabilność map wynika z równowagi pobudzenia i hamowania; reorganizacja jest wynikiem zaniku hamowania i wzrostu aktywności receptorów NMDA. W modelu brakuje jeszcze plastyczności LTP. 21

22 Pamięć Ze względu na czas trwania: 1.LTM - pamięć długotrwała - lata. Kora + hipokamp. 2.Pamięć krótkotrwała (STM), robocza (WM), operacyjna - sekundy do minut, przy ciągłym odświeżaniu godzin; aktualizuje kombinacje stanów LTM. Stan dynamiczny mózgu. 3.Pamięć natychmiastowa, ikonograficzna, pętla fonologiczna - od ułamków do kilku sekund. Lokalny stan dynamiczny. Ze względu na rodzaje pamięci. 1.Pamięć rozpoznawcza (recognition memory) - już to widziałem, choć nie mogłem sobie przypomnieć (kora śród- i około-węchowa). 2.Pamięć opisowa (deklaratywna): epizodyczna i semantyczna. 3.Pamięć nieopisowa (niedeklaratywna): proceduralna, odruchów warunkowych (gotowości reakcji, dyspozycyjności), habituacja- sentetyzacja (nieasocjacyjna) oraz torowanie (priming). 4.Pamięć jawna (świadoma, explicit) i utajona (nieświadoma, implicit). 5.Pamięć emocjonalna - często utajona, ale dzięki połączeniom hipokamp-kora przejściowa-ciało migdałowate bywa jawna. 22

23 Cechy neuronowych modeli pamięci 1.Zdolność do rozpoznawania uszkodzonych wzorców – adresowalność kontekstowa. 2.Czas nie zależy od liczby zapamiętanych wzorców. 3.Uszkodzenie części macierzy połączeń nie prowadzi do zapomnienia konkretnych wzorców - brak lokalizacji. 4.Interferencja (mylenie się) dla podobnych wzorców jest częstsza niż dla wzorców odmiennych. 5.Przepełnienie pamięci (macierzy wag) prowadzi do chaotycznego zachowania. Wniosek: najprostsze systemy rozproszone wykazują cechy typowej pamięci skojarzeniowej. 23

24 Pamięć epizodyczna Pamięć trwała jest rezultatem stanów atraktorowych minikolumn kory mózgu, zapisana jest w synapsach w sposób rozproszony. Pamięć epizodyczna - odtworzenie stanu mózgu w momencie epizodu. Układ neuromodulacji reguluje plastyczność hipokampa i kory. Pamięć średnioterminowa może być zapisana w sieciach hipokampa jako wskaźniki do kolumn kory. 24

25 Powstawanie trwałej pamięci Model TraceLink, Jaap Murre. 25

26 Amnezja wsteczna Główna przyczyna: utrata łączy do kory. Objawy: gradienty Ribota czyli im starsze wspomnienia tym lepiej pamiętane. 26

27 Amnezja następcza Główna przyczyna: uszkodzenie systemu neuromodulacji. Wtórnie: następuje utrata łączy z korą. Objawy: brak możliwości zapamiętania nowych faktów. 27

28 Amnezja semantyczna Objawy: Trudności w znajdowaniu słów, rozumieniu, zapamiętanie nowych faktów wymaga ciągłego powtarzania. Główna przyczyna: uszkodzenie łączy wewnątrzkorowych. 28

29 Symulacje modelu Murre, Meeter (2004): uszkodzenie łączy wewnątrzkorowych. 200 kolumn korowych; 42 kolumny hipokampa; neuromodulacja wpływa na parametry, ale nie jest explicite uwzględniana. Binarne neurony stochastyczne, prawd. wysłania impulsu zależy od pobudzeń i hamowania, szybkiego bądź powolnego (spontaniczne). Połączenia wewnątrz i pomiędzy neuronami – bez ograniczeń. Uczenie Hebbowskie (Singer 1990), szybkość uczenia w korze mała. Nakrywanie wzorców: spore w hipokampie, niewielkie w korze. Symulacje normalnego uczenia i przypominania: akwizycja - szybkie uczenie, hipokamp. konsolidacja - powolne korowe, spontaniczne przypominanie; testowanie - częściowe wektory, ile kolumn prawidłowo pobudzonych? Dostajemy: ~potęgowe prawo zapominania, gradienty Ribota i amnezję wsteczną (RA); chwilową amnezję globalną (TGA) w wyniku zaniku aktywności w hipokampie; amnezję następczą (AA) i jej korelacje z RA; izolowaną RA, pamięć utajoną i wiele innych efektów... 29

30 Pamięć semantyczna Jak z epizodów, obserwacji, tworzy się systematyczna wiedza o świecie, zawarta w pamięci semantycznej? Sieci autoasocjacyjne potrafią utworzyć interesujące reprezentacje wewnętrzne (McClleland-Naughton-O’Reilly, 1995). Na wejściu sieci mamy węzły reprezentujące konfiguracje pobudzeń rozpoznanych obiektów, np. pine, oak, oraz kategorie ogólne, np. trees, plants. Dodatkowe wejścia pomagają określać własności, np. „jest czymś” (ISA), ma, może... Na wyjściu mamy obiekty wejściowe (sprzężenie zwrotne), oraz czasowniki typu „lata, biega”. 30

31 Odległości semantyczne Odległość pomiędzy wektorami aktywacji po wytrenowaniu sieci można przedstawić w postaci dendrogramu, pokazującego naturalne podobieństwa i klastry. W miarę uczenia się sieci podobne obiekty dają bliskie sobie i hierarchicznie zorganizowane wzorce pobudzeń ukrytych elementów. Skalowanie wielowymiarowe pozwala na pokazanie relacji odległości pomiędzy obiektami w wielowymiarowych przestrzeniach, np. minimalizując sumę kwadratów różnic odległości  (R ij  r ij ) 2 Odległości R ij można wziąść z aktywacji ukrytych neuronów; z opisu obiektów za pomocą predykatów, lub z eksperymentów psychologicznych – wyniki są barzo podobne. 31

32 Mapy semantyczne: MDS i SOM 32

33 MDS na danych eksperymentalnych Odległości = uśrednione czasy reakcji 33

34 Degeneracja pamięci w AD Degeneracja pamięci, np. w chorobie Alzheimera, może być związana z utratą słabych synaps. Jak wpłynie taka utrata na pojemność pamięci? Odpowiedzi - na razie tylko w oparciu o modele Hopfielda. Kompensacja - pozostałe synapsy mogą się zaadoptować do nowej sytuacji. Jaka kompensacja jest najlepsza? d - stopień uszkodzenia k=k(d) funkcja kompensacji Silne synapsy ulegają dalszemu wzmocnieniu. Samo d nie świadczy jeszcze o stopniu uszkodzenia pamięci. Możliwe są różne objawy przy tym samym stopniu uszkodzenia d. 34

35 Kompensacja Poprawne odpowiedzi jako funkcja ułamka (0.2 i 0.6) usuniętych połączeń bez i z kompensacją. Zmiana wielkości basenów atrakcji uszkodzonej sieci w wyniku uczenia bez (górne kółko) i z kompensacją (dolne kółko): widać znaczne zmniejszenie się rozmiarów dominujących atraktorów. Małe baseny => silna interferencja, halucynacje. Duży basen – ubóstwo skojarzeń i myśli. 35

36 Pamięć i atraktory Za pamięć biologiczną odpowiedzialne są sieci atraktorowe. Modele wyrastające z sieci Hopfielda dają tylko atraktory punktowe, zbyt proste by porównywać wyniki z pomiarami neurofizjologów. DMS, Delayed Match to Sample - małpa musi nauczyć się sekwencji wielu obrazów; w fazie testu po krótkiej prezentacji jednego obrazu i przerwie rzędu 30 s ma pokazać sekwencję kilku obrazów. Wysoka aktywność (20 Hz) neuronów w obszarze IT i PF do 30 sekund po prezentacji, pomiary z wielu elektrod. Korelacje czasowe przechodzą w korelacje aktywności neuronów. Model Amita i wsp. pozwala odtworzyć takie krzywe korelacji. 36

37 Organizacja hierarchiczna Dokładniejsze modele: przepływ informacji i kooperacja elementów na różnym poziomie wymaga hierarchicznej i modularnej organizacji: 6 warstw, neurony => mikrokolumny ~ 110 neuronów. Kolumny kory (ok. 1 mm 2 ), 10 5 neuronów = 10 3 mikrokolumn. Małe wyspecjalizowane struktury kory, wewnątrz zakrętów; całe mapy pobudzenia dochodzące z zewnątrz (przez komórki piramidowe). 37

38 Trochę neurodynamiki Uproszczone modele impulsujących neuronów w kolumnach można zastosować do opisu dynamiki uczenia. Nowe atraktory => nowe obiekty umysłu. PDF: p(aktywnosci kolumny| obserwacja danej cechy) Etap 1: pojedyncza kolumna reaguje na sygnały. Etap 2: kilka kolumn reaguje na różne sygnały. Etap 3: pojawia się skorelowana aktywność wielu kolumn. 38

39 Pamięć robocza Pamięć robocza (WM) jest aktywna, konieczna by powstały wrażenia świadome, jest oparta na chwilowych stanach wielostabilnego układu. Czas trwania ~ sekund, pojemność 7±2 obiekty (Miller 1956). Testy: głównie nieskorelowane słowa/liczby/symbole. Porcjowanie: grupowanie prostszych obiektów w obiekty wyższego rzędu, mechanizm uczenia „divide and conquer”, pozwala pamiętać więcej pomimo ograniczeń pojemności pamięci. Dla obiektów wzrokowych WM mieści tylko 4±2 obiekty - np. chińskie znaki jeśli ktoś nie zna chińskiego. Jak uzasadnić „magiczną” liczbę 7? Niewiele modeli WM. Lester Ingber, SMNI, Statistical Mechanics of Neocortical Interactions. Teoria statystyczna, uśrednianie po mikro i minikolumnach. Mała pojemność: interferencja niezależnych atraktorów. 39

40 Eksperymenty A-not B Piaget (1954) - eksperymenty A-not B z niemowlętami i małpami; interakcja LTM-WM. E - eksperymentator, N - niemowlę, A, B - miejsca 1. N obserwuje, jak E chowa zabawkę w A, po krótkiej przerwie ją tam znajduje; powtarza się to kilka razy. 2. N obserwuje, jak E chowa zabawkę w B, ale po krótkiej przerwie szuka zabawki nadal w A. Uczenie faworyzuje A, aktywacja WM (kora prefrontalna) B. Lezje kory prefrontalnej u rezusów i N dają silny efekt A-not B. Konkurencja pomiędzy uczeniem synaptycznym (pamięcią długotrwałą) i aktywacjami dynamicznymi. Symulacje - Munakata (1998) i wielu innych autorów. 40

41 Płyn neuronowy Na ile prawdziwa jest metafora mózg-komputer? Czy mózg liczy tak jak komputer czy jak zwijające się białko? Neuronowy płyn (Maass 2001): kolumny działają prosto! „Płyn neuronowy”: przypadkowo połączone neurony w kolumnie, nie ma stanów ustalonych, impulsy zaburzają mikroobwody kolumn, nie ma kodowania ani „wewnętrznych reprezentacji”. Wystarczy zdolność do wzajemnego odróżniania zaburzonych stanów! Taki system ma moc maszyny Turinga działającej w czasie rzeczywistym. Tysiące mikroobwodów, dziesiątki neurotransmiterów i modulatorów, wiele typów neuronów i synaps. Dlaczego kolumna jest tak złożona? Czy jej struktura jest genetycznie zaprogramowana? Jak kodowana jest informacja w sieci neuronów? 41

42 PodsumowaniePodsumowanie Szczegółowe modele problemów neurologicznych dają wyniki porównywalne z eksperymentami. Proste modele dają ciekawe jakościowe przewidywania, czasami wskazówki terapeutyczne. Jest wiele modeli problemów neurologicznych, pamięci, zespołów neuropsychologicznych, chorób psychicznych (spekulatywne). Brakuje modeli pnia mózgu (M. Arbib, Mózg i jego modele 1972). Zachowanie w znacznej mierze sprowadza się do automatyzmów. Funkcje wymagające świadomości: utrzymywanie informacji w pamięci roboczej, nowe kombinacje operacji, zachowania intencjonalne. Zbudowanie modelu umysłu uwzględniające perspektywę wewnętrzną jest nadal wielkim wyzwaniem – potrzebne są modele geometryczne? Szkic: WD, Geometryczny model umysłu. Kognitywistyka i Media w Edukacji, Vol. 6 (2002) 199-230; WD, Neurokognitywna teoria świadomości, Kognitywistyka i Media w Edukacji, T.5 (2) 2001, pp. 47-67. 42

43 Automatyzacja działania Uczenie się nowych zachowań: początkowo świadome, aktywacja dużych obszarów mózgu, działanie staje się w końcowym etapie automatyczne, nieświadome, pozostają dobrze zlokalizowane aktywacje obszarów mózgu. Uczenie się możliwe jest dzięki krytyce (reinforcement), wymaga zbierania informacji o skutkach działania i oceny na ile skuteczne są planowane i wykonywane działania. Relacje zapamiętanych epizodów (LTM) do obecnych wyników (WM) i oczekiwań wymagają ocen i porównań (Gray – subiculum, podpora), po których następują reakcje emocjonalne, uwolnienie dopaminy, zwiększenie plastyczności połączeń umożliwiające szybkie uczenie się wyspecjalizowanych modułów kontrolujących elementarne kroki. Pamięć robocza jest niezbędna do zbierania informacji, uwaga do kontroli, błędy są bolesne, trzeba je pamiętać i korygować. Świadome przeżywanie wiąże się z krytyką (reinforcement), nie ma „transferu do nieświadomości”; czy jest to główna funkcja świadomości? 43

44 Paradoks Centralny Centralny Paradoks kognitywistyki: w jaki sposób ze zliczania impulsów przez neurony powstać może świat wewnętrzny, sens i znaczenia pojęć, emocje, świadomość? Czy nauki kognitywne zbliżają nas do rozwiązania tego paradoksu? Jest to na razie mieszanka psychologii poznawczej, psychofizyki, neurobiologii, lingwistyki, sztucznej inteligencji, filozofii umysłu... W psychologii jest bardzo niewiele praw ogólnych (w większości psychofizycznych) i niewiele mało fenomenologii. Psycho-logia straciła psyche? Nauki kognitywne nie mają dobrego modelu umysłu, jest wiele filozoficznych problemów leżących u ich podstaw (Searle, Chalmers, Nagel, Jackson...). Searle: neurony mają tajemnicze „moce przyczynowe”... 44

45 Mind the Gap Przepaść pomiędzy neuronaukami a psychologią „potoczną” jest tak duża, że wielu filozofów uważa ją za nie do pokonania. Czy możliwa jest sensowna teoria umysłu? Roger Shepard, Toward a universal law of generalization for psychological science (Science, Sept. 1987): „Nie potrzeba nam więcej danych czy też bardziej wyrafinowanych danych, ale odmienne podejście do problemu”. Definicja robocza: Umysł jest podzbiorem możliwych do uświadomienia procesów zachodzących w mózgu. Jak opisać dynamikę tych procesów by dostać zadawalający (geometryczny?) obraz umysłu? 45

46 Mózgo-podobne obliczanie Stany mózgu są czasoprzestrzennymi pobudzeniami neuronów. Widzę, słyszę i czuję... stany swojego mózgu! Np. ślepota zmian. Słodycz, swędzenie, głód... to fizyczne stany mózgu/organizmu. Procesy poznawcze działają na perceptach, dalece przetworzonych danych zmysłowych. Rejestry komputera są dyskretne a stany mózgu są ciągłe, „ubrane” w wiele skojarzeń i potencjalnych relacji. Świat wewnętrzny jest wynikiem relacji pomiędzy stanami mózgu, substratu tworzącego przestrzeń umysłu (global neuronal workspace) – komputery niczego podobnego nie mają... 46

47 Model „Platoński”: motywacja Platon wierzył w rzeczywistość świata umysłu, idealnych form rozpoznawanych przez intelekt. Metafora Platona: postrzegamy zaledwie cienie idealnego świata rzucane na ściany jaskini, w której jesteśmy uwięzieni. (rysunek: Marc Cohen) Prawdziwe obiekty umysłu to cienie neurodynamiki! W jaki sposób się tworzą i jak je opisać? 47

48 Geometria umysłu Roger Shepard (1994): prawa psychologiczne należy formułować w odpowiednich przestrzeniach. Makroskopowe własności są wynikiem oddziaływań na poziomie mikroskopowym. Opis ruchu jest niezmienniczy w odpowiednich przestrzeniach. Przestrzenie Euklidesowe - transformacja Galileusza. Pseudo-Euklidesowe (3+1) - transformacja Lorentza. Riemanna - transformacje w układzie przyspieszającym. Zachowanie, decyzje - rezultat neurodynamiki. Opis na poziomie neurodynamiki: zbyt trudny. Logika i symbole - zbyt uproszczona; opis geometryczny najlepszy? Jakie przestrzenie należy użyć by znaleźć ogólne prawa zachowania? Przestrzenie psychologiczne (K. Lewin 1938): obszar, w którym można umieścić elementy naszego doświadczenia, zdarzenia mentalne. 48

49 Prawa uniwersalne? „Siły, dynamika”: w P-przestrzeniach o minimalnej liczbie wymiarów. Odległości: malejące z wzrastającym podobieństwem obiektów. Uniwersalne prawo generalizacji bodźców zmysłowych: w odpowiedniej przestrzeni zależność jest eksponencjalna. D, odległość, obliczona procedurą MDS z postrzeganego podobieństwa; G(D), prawdopodobieństwo reakcji na wyuczony bodziec (D=0). 49

50 Struktura P-przestrzeni. P-przestrzenie: jakie wymiary? Jakie relacje do bodźców fizycznych? Informacje docierające z siatkówki do kory wzrokowej są szkicowe! Niezmienniczość postrzeganego koloru K(x, ) = I( )S(x, ). Postrzeganie stałego koloru wymaga 6 receptorów, a są 3. Fizyka ruchu wyobrażanych obiektów: geometria kinematyczna. Trajektorie ruchu pozornego: linie geodezyjne obrotu i przesunięcia, a więc jest to ruch helikalny. Położenie sztywnego obiektu: wyróżniony punkt + kąty, czyli rozmaitość 6-D, iloczyn półprosty grup E + =R 3  SO(3). Linie geodezyjne: rodzina 1-par. podgrup, odpowiadających helikalnym trajektoriom geometrii kinematycznej. Częściowa symetria obiektów upraszcza strukturę przestrzeni. Eksperymenty psychofizyczne pozwalają na określenie struktury tej 6- wymiarowej przestrzeni. Interpretacja kształtów obiektów wymaga większej liczby wymiarów. Rozpoznawanie: ruch po geodezyjnej w stronę prototypu kształtu obiektu. 50

51 Model umysłu Model hierarchiczny: wykrywanie cech - mapy topograficzne, kora sensoryczna rozpoznawanie obiektów - pamięć długotrwała pamięć robocza - bieżąca kontrola, przeżywana teraźniejszość. 51

52 Uczenie się kategorii Kategoryzacja w psychologii - wiele teorii. Klasyczne eksperymenty: Shepard et. al (1961), Nosofsky et al. (1994) Problemy o wzrastającym stopniu złożoności, podział na kategorie C 1, C 2, 3 binarne własności: kolor (czarny/biały), rozmiar (mały/duży), kształt ( ,  ). Typ I : jedna własność określa kategorię. Typ II: dwie własności, XOR, np. Kat A: (czarny,duży) lub (biały,mały), kształt dowolny. Typ III-V: jedna własność + coraz więcej wyjątków. Typ VI: brak reguły, wyliczanka Trudności i szybkość uczenia się: Typ I < II < III ~ IV ~ V < VI 52

53 Dynamika kanoniczna Co dzieje się w mózgu w czasie uczenia się kategorii na przykładach? Złożona neurodynamika najprostsza dynamika (kanoniczna). Dla wszystkich reguł logicznych można napisać odpowiednia równania. Dla problemów typu II, czyli XOR: Przestrzeń cech 53

54 Wbrew większości Lista: choroby C lub R, symptomy PC, PR, I Choroba C kojarzy się z symptomami (PC, I), choroba R z (PR, I); C występuje 3 razy częściej niż R. (PC, I) => C, PC => C, I => C. Przewidywania „wbrew większości”: Chociaż PC + I + PR => C (60%) to PC + PR => R (60%) Baseny atraktorów neurodynamiki? PDF w przestrzeni {C, R, I, PC, PR}. Interpretacja psychologiczna (1996): PR ma znaczenie ponieważ jest to symptom wyróżniający, chociaż PC jest częstszy. Aktywacja PR + PC częściej prowadzi do odpowiedzi R ponieważ gradient w kierunku R jest większy. 54

55 Powiązania  Przestrzenie umysłu jako arena zdarzeń mentalnych, np. Mind as motion, ed. R.F. Port, T. van Gelder (MIT Press 1995)  P. Gärdenfors „Conceptual spaces”.  K. Levin, siły psychologiczne.  G. Kelly, Personal Construct Psychology.  R. Shepard, uniwersalne prawa psychologii.  P. Johnson-Laird, modele mentalne.  D. Marr (1970) “krajobraz probabilistyczny”.  C.H. Anderson, D.C. van Essen (1994): mapy PDF Sup. Collic  S. Edelman: “neural spaces”, rozpoznawanie obiektów.  Lingwistyka: problemy analizy semantycznej rozwiązać można za pomocą „przestrzeni konceptualnych” (concept spaces).  Strumień myśli, zdanie jako trajektoria w przestrzeni umysłu, np: J. Elman, „Language as a dynamical system”. 55

56 Podsumowanie  Model Platoński - redukowalny do neurodynamiki, ale interpretowalny na poziomie psychicznym.  Nowy spójny paradygmat dla kognitywistyki?  Poszukiwanie niskowymiarowych reprezentacji zdarzeń mentalnych i uproszczonej dynamiki.  Sieć neuronowa realizująca model Platoński znajduje użyteczne zastosowania techniczne, daje model intuicji. Otwarte pytania:  Matematyczny opis p-ni o zmiennej liczbie wymiarów.  Geometryczne unaocznienie nawet prostych eksperymentów wymaga wielowymiarowych przestrzeni.  Jeśli odległości  prawd. przejść to są niesymetryczne, a takie modele geometryczne są trudne do wyobrażenia. Przestrzeń Finslera?  Wyzwanie: od neurodynamiki => przestrzeni cech dla kategoryzacji.  Symulator modelu dynamicznego, redukcja dynamiki.  Na ile taki model może być przydatny, na ile będzie zadawalający? 56

57 Dziękuję za uwagę Google: Duch => Papers 57