Automati sa svojstvom učenja

Opis predmeta

Osnovne postavke i definicije strojnog učenja. Norme ponašanja učenih automata. Matematički modeli neurona i neuronskih mreža, klasifikacija učećih algoritama. Analiza klastera, reprezentacija znanja, kompresija i prikaz iz nekompletnih podataka. Osnove asocijativnog memoriranja informacije. Metode za obradu vremenski zavisnih uzoraka. Algoritmi učenja: Back-propagation s proširenjima, Kaskadna korelacija i Kohonen algoritam. Ekstrakcija svojstava natjecateljskim učenjem. WTA (Winner Take All) metoda. Učenje u interakciji sa okolinom - on line učenja, algoritam Sarsa i Q-učenje, Markovljevi modeli. Inteligentni agenti i samoadaptivno upravljanje komunikacijskim uslugama.

Opće kompetencije

Studenti će steći znanja o dizajniranju neuronskih mreža za rješavanje složenih zadataka iz područja strojnog učenja. Znanja za odabir kodnih tehnika i "fitness" funkcija za specifične zadatke, te razumijevanje o značenju umjetne neuronske mreže i "reinforcement" algoritama za područje umjetne inteligencije.

Ishodi učenja

  1. definirati pojam, metode i arhitekture karakteristične za strojna učenja
  2. objasniti način rada strojnog učenja i osnovnu namjenu
  3. primijeniti znanje o strojnom učenju u području telekomunikacijskih usluga
  4. analizirati funkcije strojno učenih komponenti i njihovo međudjelovanje u cilju odabira prikladnog rješenja
  5. analizirati organizaciju strojno učenog modela
  6. definirati osnovne komponente za realizaciju potrebne funkcije strojnim učenjem
  7. oblikovati modele za strojno učenje koje uključuju različite oblike prepoznavanja i samoadaptacije
  8. evaluirati i ocijeniti rješenja dobivena različitim metodama strojnog učenja

Oblici nastave

Predavanja

Predavanja, s materijalima i prezentacijom postavljenom unaprijed na web.

Provjere znanja

Međuispit i završni ispit.

Laboratorijske vježbe

Složene laboratorijske zadaće koje uključuju oblikovanje strojno učenih modela, postavljanje učećih i testnih parametara, provođenje postupaka učenja i testiranja te objašnjenja za dobivene rezultate.

Konzultacije

Redovite konzultacije sa nastavnikom u četiri tjedna termina.

Stjecanje vještina

Pretraživanje literature o modelima i metodama strojnog učenja. Izgradnja programskog okružja za dizajniranje i analizu modela strojnog učenja.

Programske vježbe

Modeliranje i testiranje primjenom programskih sustava za strojno učenje.

Ostali oblici skupnog ili samostalnog učenja

Domaće zadaće vezane uz studijske primjere modela za strojno učenje.

Način ocjenjivanja

Kontinuirana nastava Ispitni rok
Vrsta provjere Prag Udio u ocjeni Prag Udio u ocjeni
Laboratorijske vježbe 50 % 20 % 10 % 20 %
Domaće zadaće 50 % 10 % 5 % 10 %
Sudjelovanje u nastavi 0 % 5 % 0 % 0 %
Prisutnost 0 % 5 % 0 % 0 %
Međuispit: Pismeni 50 % 20 % 0 %
Završni ispit: Pismeni 50 % 20 %
Završni ispit: Usmeni 20 %
Ispit: Pismeni 50 % 40 %
Ispit: Usmeni 30 %
Napomena / komentar

Sve laboratorijske vježbe moraju biti obavljene, a svaka pozitivno ocijenjena.

Tjedni plan nastave

  1. Definicije znanja i inteligencije. Motivacija i područja primjene, osnovne postavke strojnog učenja. Markovljevi lanci i učeni automati. Deterministički i stohastički modeli. Vjerojatnosti stanja i akcija, te uzorci ponašanja učenih modela. Klasifikacija modela i metoda strojnog učenja. Modeli temeljeni na znanju.
  2. Biološka i matematički model neuronske mreže. Model neurona i arhitekture mreža, jednoslojne i višeslojne mreže. Mreže bez i sa povratnim vezama. Slučajno povezane mreže.
  3. Učenje pod nadzorom. Metode silaznog gradijenta, problem reprezentacije – analiza i prilagodba topološke strukture.
  4. Klasteri i analiza klastera. Metrike i distance, primjeri. Učenje jednoslojnih mreža. Hebb i Widrow-Hoff pravila učenja.
  5. Učenje višeslojnih mreža. Učenje internog prikaza pomoću signala pogreške – BP algoritam. Izbor učećih parametara, sposobnost generalizacije. Studijski primjeri iz područja upravljanja telekomunikacijskim prometom.
  6. Varijacije BP algoritma. Učenje s momentom i predikcija kod vremenski zavisnih uzoraka. Neuronska mreža s vremenskim kašnjenjem i “Backpropagation through time” algoritam.
  7. Postizanje optimalne topološke strukture - kriteriji, metode i algoritmi. Odabir aktivacijske funkcije u ovisnosti o strukturi klastera. Algoritam kaskadne korelacije.
  8. Međuispit.
  9. Asocijativnost, memorije, kompresija i očitanje iz nekompletnih podataka. Algoritmi učenja, topologije i kapaciteti.
  10. William - Zipser algoritam za učenje neuronske mreže s povratnom vezom u stvarnom vremenu. Elman i Jordan mreže.
  11. Pripremanje podataka za učenje. Odabir reprezentativnih uzoraka za učenje, testiranje i vrednovanje procesa učenja. Prevencija prekomjernog učenja i popravljanje svojstva generalizacije. Obojena Petrijeva mreža, komponente i svojstva modela.
  12. Učenje bez nadzora, ciljevi i primjene. Pronalaženje nakupina, redukcija dimenzija, topografski zapisi, otkrivanje skrivenih podataka. Samo-organizirajuće strukture. Varijante Kohonenovih neuronskih mreža i algoritmi učenja. “Winner take all” metoda. Studijski primjeri iz područja telekomunikacijskih usluga. Višestruki skupovi i graf stanja obojene Petri mreže.
  13. Osnove učenja ojačanjem. Bellmanova jednadžba. Model inteligentnog agenta, okoline, određivanje ciljeva i nagrađivanje akcija. Markovljevo svojstvo i Markovljevi procesi odlučivanja. Modeliranje protokola i komunikacijskih procesa obojenom Petrijevom mrežom.
  14. Pronalaženje znanja u bazama podataka. Konstrukcija stabla odlučivanja i pregled raspoloživih metoda. Pravila za generiranje stabla i izbacivanje redundantnih čvorova. Algoritmi ID3, C4.5 i C5. Projektni radni zadatak.
  15. Završni ispit.

Studijski programi

Sveučilišni diplomski
Telekomunikacije i informatika (profil)
Predmeti specijalizacije profila (1. semestar) (3. semestar)

Literatura

(.), Reinforcement Learning:An Introduction Richard S. Sutton, Andrew G. Barto MIT Press, Cambridge 1998,
(.), Neurodynamic programming Dimitri P. Bertsekas, John Tsitsiklis Athena Scientific, MIT 1996,
(.), Parallel Distributed Processing: Explorations in the Microstructure of Cognition David E. Rumelhart MIT Press 1987,
(.), Digitalni automati Mladen Tkalić Liber 1991,
(.), Learning automata - An Introduction K.S. Narendra, M.A.L. Thathachar Prentice Hall 1989,

Predavanja

Laboratorijske vježbe

Izvedba

ID 86446
  Zimski semestar
4 ECTS
R1 Engleski jezik
R1 E-učenje
30 Predavanja
0 Auditorne vježbe
15 Laboratorijske vježbe

Ocjenjivanje

85 izvrstan
70 vrlo dobar
60 dobar
50 dovoljan