Tantárgy adatlapja

Tárgy neve: Gépi tanulás robotikai alkalmazásai
Tárgy kódja: P-ITEEA-0048
Óraszám: N: 2/0/2, L: 0/0/0
Kreditérték: 5
Az oktatás nyelve: magyar
Követelmény típus: Kollokvium
Felelős kar: ITK
Felelős szervezeti egység: Pázmány Péter Katolikus Egyetem Információs Technológiai és Bionikai Kar
Tárgyfelelős oktató: Dr. Koller Miklós
Tárgyleírás:

Tantárgy neve:Gépi tanulás robotikai alkalmazásai
P-ITEEA-0048
Tárgyfelelős:Koller Miklós
Tantárgy oktatója:Koller Miklós
A tantárgy céljának rövid ismertetése:Gépi tanulási módszerek megismertetése, leghangsúlyosabban a megerősítéses tanulás (RL): hogyan használható kifejezetten robotikai problémák megoldására. A kurzus erősen támaszkodik Sergey Levine Deep Reinforcement Learning kurzusára az UC Berkeley-en.
Elsajátítandó elméleti ismeretanyag:

A főbb témakörök:

  • viselkedések felügyelt tanulása (supervised learning of behaviors, imitation learning);
  • bevezetés a megerosítéses tanulásba;
  • Policy gradiens módszer alapjai, háttere;
  • Q-függvény alapú módszerek alapjai, háttere;
  • Actor-critic algoritmus;
  • Policy gradiens finomhangolási lehetőségek;
  • Modell-alapú policy tanulás;
  • Felfedezési startégiák;
  • Inverz megerősítéses tanulás;
  • Transfer learning;
  • Meta-learning.
Elsajátítandó gyakorlati ismeretanyag:

A főbb gyakorlati feldatok (konkrét algoritmusok esetén kód-szkeleton kiadás után kiegészítés-tesztelés-átírás a feladat):

  • modell építés alapjai urdf pybullet-hez, mjcf MuJoCo-hoz, kapcsolódó szenzor-kiolvasás és aktuátor-meghajtás;
  • neurális hálózatok gyors ismétlo gyakorlat (hogyan tanítunk, mit kell nézni, tipikus hibák, stb);
  • imitation learning / dagger;
  • alapformájú q-learning;
  • alapformájú policy gradiens;
  • alapformájú actor-critic.
A 2-4 legfontosabb kötelező irodalom felsorolása bibliográfiai adatokkal (szerző, cím, kiadás adatai, (esetleg oldalak), ISBN):I. Goodfellow, Y. Bengio és A. Courville, Deep Learning. Cambridge, MA, USA: MIT Press, 2016. [Online].
R. S. Sutton és A. G. Barto, Reinforcement Learning: An Introduction, 2. kiad. Cambridge, MA, USA: MIT Press, 2018. [Online].
A 2-4 legfontosabb ajánlott felsorolása bibliográfiai adatokkal (szerző, cím, kiadás adatai, (esetleg oldalak), ISBN):C. M. Bishop, Pattern Recognition and Machine Learning. New York, NY, USA: Springer, 2006. [Online].
S. J. Russell és P. Norvig, Artificial Intelligence: A Modern Approach, 4. kiad. Hoboken, NJ, USA: Pearson, 2020. [Online].
Elmélet-gyakorlat aránya:Elméleti óra óraszáma: 2
Gyakorlati óra és labor óra óraszáma: 0 + 2
Az alkalmazott oktatási módszerek:Előadásnál: hagyományos frontális előadás diasorral, sok szemléltető ábrával és képletes alátámasztással.
Gyakorlatnál: rövid prezentációs áttekintés, majd kód-szkeleton kiadása, együttes elemzése és kiegészítése.
Az értékelés módja:Kollokvium
Az értékelés kritériuma:A gyakorlatok teljesítése kötelező, a gyakorlati anyag megoldásának gyakorlatvezető által történő elfogadása az aláírás feltétele, nem megfelelő megoldás esetén a gyakorlatvezető kérheti a gyakorlati anyag javítását.
Félévközi zárthelyi nincsen.
Az aláírás megszerzése után képződő kurzuszáró jegy kizárólag a vizsgán nyújtott teljesítményen múlik. a vizsgán az előadásokkal és gyakorlatokkal kapcsolatos kérdések és témák is lehetnek; a vizsga alapvetően szóbeli.
Jeles (5): érti a féléves anyagot a hallgató, meg is jegyezte a tudományos és technikai részleteket, önálló gondolatai vannak az egyes elvekkel és módszerekkel kapcsolatban, azok előnyeit és hátrányait helyesen mérlegeli.
Közepes (3): bizonyos részeket ért a hallgató, más részeket viszont nem teljesen a féléves anyagból. Részben legalább átlátja az eljárások és módszerek mögöttes működési alapját. Rábírható önálló gondolkodásra, tud javasolni vezérlési koncepciót és teljes problémakezelés esetén megoldási pipeline-t.
Elégtelen (1): nincsen tárgyi sem technikai tudása a féléves tananyaggal kapcsolatban; nem bírható rá önálló gondolkodásra.
(A jó (4) és elégséges (2) a fentebbi pontok között skálázódnak.)
Miként járul hozzá a tantárgy a KKK-ban megjelölt kompetenciaelemek megszerzéséhez:

Mérnökinformatikus alapképzés:
A tantárgy fejleszti a mérnökinformatikus képzésben szükséges gépi tanulási, adaptív vezérlési és intelligens rendszermodellezési kompetenciákat. A hallgatók megismerik a megerősítéses tanulás és a viselkedéstanulás alapjait, és képessé válnak robotikai problémákra alkalmazható tanuló algoritmusok megvalósítására, tesztelésére és értékelésére.

A tárgy az alábbi képzéseken vehető fel

mérnökinformatikus IANI-MI alapképzés (BA/BSc/BProf) Nappali magyar 7 félév ITK
Széchenyi 2020 - Magyarország Kormánya - Európai Unió, Európai Regionális Fejlesztési Alap - Befektetés a Jövőbe