1 Belief Nets Autor: inż. 2013r źródło tła:

2 źródło: http://www.cs.cmu.edu/~15381/Plan prezentacji sieć neuronowa trochę historii matematyka nauka prosty neuron belief nets idea możliwości problemy źródło: 2/

3 Sieć neuronowa 3/

4 Sieć neuronowa - historiaPawłow odruch warunkowy 1904 Ramon y Oajal opis struktury sieci nerwowej 1906 Einthoven rejestracja biopotencjałów tkanek 1924 Hodgikin i Iluxley model propagacji sygnału w aksonie 1963 4/

5 Sieć neuronowa - biologiaJądro centrum obliczeniowe Dendryty wejścia neuronu Synapsy furta wejściowa wzmacniacz wejść wstępna modyfikacja Wzgórek aksonu wyjście Akson połączenia do kolejnych neuronów źródło: 5/

6 Sieć neuronowa - matematykawejścia – dendryty wagi – synapsy blok sumujący – jądro blok aktywacji – wzgórek aksonu wyjście - akson źródło: zależnie funkcji f(ϕ) różne przebiegi wyjścia neuronu źródło: 6/

7 Sieć neuronowa - strukturasieci jednokierunkowe jedna warstwa wiele warstw sieci rekurencyjne sieci komórkowe źródło: źródło: źródło: 7/

8 Sieci neuronowe - naukabez uczenia się sieć jest bezużyteczna idea nauki typy nauki nadzorowane z nauczycielem wektory wejściowe i pożądane wektory wyjściowe zadanie systemu to nauczenie się funkcji najlepiej opisującej przykłady i pożądane wyjście ze wzmocnieniem system nie jest oceniany nie po każdym przypadku jest nagradzana/karana za generowane pakiety rozwiązań nienadzorowane systemowi dostarczamy wektory wejściowe bez pożądanych wyjść system ma sam odkryć występujące w zbiorze regularności źródło: 8/

9 Perceptron 9/

10 źródło: http://www.generation5.org/content/1999/perceptron.aspPerceptron – co to? najprostszy model Rosenblatt 1958 wiele (>10 000) wejść klasyfikator najprostszy algorytm nauki uczenie dąży do uzyskania najlepszych wag synaps ograniczenia tylko zbiory liniowo separowalne więcej warstw nic nie zmienia źródło: 10/

11 Perceptron - zastosowanierozpoznawanie obrazów klasyfikacja obiektów na podstawie predefiniowanego zestawu cech personalizacja treści google facebook źródło: źródło: źródło: 11/

12 Perceptron - ograniczenianawet wiele warstw nie daje nieliniowości ale może dawać ciekawsze wyniki proste kwalifikowanie nauka dąży do zoptymalizowania wag synaps do otrzymania wyniku jak z danych wzorcowych strojenie mechanizmu problem ze zbiorami nieseparowalnymi liniowo źródło: 12/

13 Belief Nets 13/

14 źródło: http://en.wikipedia.org/wiki/Bayesian_networkBelief Nets -idea inna zasada działania przedstawia związki między zdarzeniami w oparciu o prawdopodobieństwo trudna nauka nie wiadomo, które dendryty zostały pobudzone przez wrażenie proces stochastyczny najbardziej elastyczny typ sieci neuronowej najogólniejszy źródło: 14/

15 Belief Nets – możliwościDziś biologia medycyna biomonitoring wyszukiwanie semantyczne wspomaganie decyzji AI w grach Jutro? większa moc CPU = większa złożoność sieci źródło: Neural Networks for Machine Learning Lecture 13 15/

16 źródło: Neural Networks for Machine Learning Lecture 13Belief Nets – kłopoty Nauka tego typu sieci ma bardzo dużą złożoność obliczeniową Stany określone prawdopodobieństwem Algorytm wake-sleep – rozwiązaniem problemu źródło: Neural Networks for Machine Learning Lecture 13 źródło: praca własna 16/

17 Belief Nets – wake-sleep algorithmfaza dnia neurony uczą się na podstawie wejść (kierunek przepływu informacji jest taki jak przy rozpoznawaniu) uczy warstwy „w głąb” faza nocy neurony uczą się generując wyjścia i starają się ustalić jakie wejścia najprawdopodobniej ustaliłyby dane wyjście. Na tej podstawie zmienia się prawdopodobieństwo, że dany sygnał pobudzi w fazie dnia daną reakcję nauka warstw „do zewnątrz” neuron uczy się poprzez łączenie danych wrażeń ze sobą z zestawu testowego, po czym gdy „śpi” to jego „sny” spajają i nadają kształt wagom źródło: Neural Networks for Machine Learning Lecture 13 17/

18 Belief Nets – food for thoughtfizyczna realizacja możliwości dziś – internet jako Internet – samoświadoma Sieć komputery kwantowe – efekty kwantowe czy my tak działamy? na nasze mózgi też działają efekty kwantowe cyfrowa realizacja cudu świadomości? człowiek – biologiczna maszyna? kwestie etyczne kryterium uznania za samoświadomości czy powinniśmy tworzyć świadome życie w krzemie status etyczny cyfrowej świadomości 18/

19 Belief Nets – food for thoughtkolejny krok w ewolucji człowiek skażony biologicznością, chorobą, śmiercią samoświadoma sieć neuronowa – byt doskonalszy on człowieka? konsekwencje AI – pomoc ludzkości, czy apokalipsa? Terminator, Matrix, Diuna pokojowa kooperacja przyszłość kopiowanie umysłu umierającego i tworzenie AI? 19/

20 Dziękuję za uwagę