Cilj je kolegija upoznati studente s važnim suvremenim dostignućima i novim trendovima u kognitivnoj znanosti. U fokusu je kolegija prediktivno procesiranje, nova paradigma u kognitivnoj znanosti, koja predstavlja objedinjeni teorijski okvir za razumijevanje percepcije, mišljenja i djelovanja. Prediktivno procesiranje se razvilo iz prediktivnog kodiranja, važne paradigme u okviru teorijske računarske neuroznanosti. Dok je prediktivno kodiranje u velikoj mjeri bilo ograničeno na istraživanje vida, prediktivno je procesiranje poopćilo njegov teorijski okvir na proučavanje spoznaje uopće. Nakon kraćeg uvodnog konceptualnog i povijesnog kontekstualiziranja prediktivnog procesiranja, prvi će dio kolegija biti posvećen Shannonovoj teoriji informacije i Bayesijanskim metodama u računarskoj neuroznanosti - dvama teorijskim temeljima prediktivnog kodiranja. Nastavljajući se na to, drugi će dio kolegija predstaviti glavne teorijske postavke prediktivnog procesiranja pri čemu će u fokusu biti ideje Karla Fristona, kao i njihova filozofska recepcija (Hohwy, Clark). Posljednji će dio kolegija predstaviti najznačajnije primjene prediktivnog procesiranja na druga područja istraživanja, ali i ukazati na glavne kritičke prigovore upućene ovom teorijskom okviru u cjelini.
Kolegij se izvodi u trećem semestru studija Primijenjena kognitivna znanost, a nositelji kolegija su Matija Jelača i Dario Bojanjac.
Plan nastave s preporučenim čitanjima:
- Uvod u kolegij. Prediktivno procesiranje - osnovni pojmovi i povijest ideje.
Frederic P. Schuller, Introduction/Logic of propositions and predicates, od 20. minute
Frederic. P. Schuller, Axioms of set Theory, odlično predavanje za one koji imaju viška vremena i interesa
Jeffrey Kaplan, Russell's Paradox - a simple explanation of a profound problem, video
Veritasium, Math's Fundamental Flaw, najdublji problemi logike
- Osnovni pojmovi teorije vjerojatnosti. Što je vjerojatnost i kako ju mjeriti? Uvod u teoriju komunikacija.
Art of the Problem, Why do we need Digital Communication?, video
Adam Kucharski, How a Group of MIT Students Gamed the Massachusetts State Lottery, članak
- Shannonovi postulati teorije informacija. Iznenađenje kao mjera informacije.
Intelligent Systems Lab, Information Theory Basics, video
Liberty's Highlights Podcast, Why is Claude Shannon so Important?
Lex Fridman podcast, Claude Shannon at MIT: The best master's thesis in history
Notion podcast, Experts gather to talk about the impact of Richard Hamming
- Entropija. Karakterističan skup i ekviparticija.
Claude E. Shannon, Prediction and Entropy of Printed English
Aurélien Géron, A Short Introduction to Entropy, Cross-Entropy and KL-Divergence, video
Veritasium, The Most Misunderstood Concept in Physics, video
Artem Kirsanov, The Key Equation Behind Probability, video
- Shannonov teorem o kompresiji i Shanonov teorem o kodiranju.
Art of the Problem, Entropy is the limit of compression, video
Art of the Problem, Error correction codes, video
- Bayesov teorem. Bayesijanska statistika.
3Blue1Brown, Bayes theorem, the geometry of changing beliefs, video
Veritasium, The Bayesian Trap, video
Numberphile, Monty Hall Problem, video
Zachary Crockett, The Time Everyone “Corrected” the World’s Smartest Woman, članak
Thurber and Oliver, The Monty Hall Problem, članak
John Sweeney, I fought for Sally Clark and other cot death mothers. I’m still haunted by their fate, članak
- Bayesijanski pristupi u računarskoj neuroznanosti.
- Prediktivno kodiranje 1 - percepcija kao kauzalno zaključivanje; percepcija i Bayesovo pravilo; minimiziranje prediktivne pogreške.
- Prediktivno kodiranje 2 - prediktivna pogreška, kontekst i preciznost; djelovanje i očekivano iskustvo; aktivno zaključivanje u percepciji.
- Načelo slobodne energije (Friston).
Karl Friston, Free Energy Principle, video
Shamil Chandaria, The Free Energy Principle and predictive processing, video
Thomas Paar, Active Inference, podcast
Lex Fridman Podcast #99, Karl Friston: Neuroscience and the Free Energy Principle
- Prediktivni um - prediktivno kodiranje i problem odnosa uma i tijela (Hohwy).
- Prediktivno procesiranje i utjelovljena spoznaja (Clark).
- Aktivno zaključivanje i enaktivna spoznaja. Aktivno zaključivanje kao objedinjena teorija spoznaje i kulture.
- Prema Bayesijanskoj mehanici.
- Glavni prigovori i otvorena pitanja o prediktivnom procesiranju.
Literatura iz područja prediktivnog procesiranja:
- T. Parr, Giovanni Pezzulo, K. J. Friston, Active Inference: The Free Energy Principle in Mind, Brain, and Behavior, The MIT Press, 2022, dostupno na linku
- J. Hohwy, The predictive mind. Oxford: OUP, 2013
- A. Clark, Surfing uncertainty: prediction, action, and the embodied mind. Oxford: OUP, 2016
Literatura iz područja Teorije informacija:
- E. Steinhart, More Precisely: The Math You Need to Do Philosophy, broadview press 2018
- F. Dretske, Knowledge and the Flow of Information. MIT Press, 1983
- J. Stone, Information Theory: A Tutorial Introduction. Sebtel Press 2022