Tantárgy adatlapja

Tárgy neve: Információ- és kódelmélet
Tárgy kódja: P-ITTAV-0006
Óraszám: N: 4/1/0, L: 0/0/0
Kreditérték: 5
Az oktatás nyelve: magyar
Követelmény típus: Kollokvium
Felelős kar: ITK
Felelős szervezeti egység: Pázmány Péter Katolikus Egyetem Információs Technológiai és Bionikai Kar
Tárgyfelelős oktató: Dr. Oláh András
Tárgyleírás:

Tantárgy neve:Információ- és kódelmélet
P-ITTAV-0006
Tárgyfelelős:Oláh András
Tantárgy oktatója:Oláh András
A tantárgy céljának rövid ismertetése:A tárgy célja, hogy a hallgatók megalapozott elméleti és gyakorlati ismereteket szerezzenek az információ- és kódelmélet alapvető fogalmairól, különös tekintettel a megbízható adatátvitel és a hatékony információreprezentáció kérdéseire.
Elsajátítandó elméleti ismeretanyag:

A kurzus bemutatja:

  • a forráskódolás és csatornakódolás elvi határait (Shannon tételek),
  • a hibajavító kódolás matematikai alapjait,
  • a tradicionális csatorna-hibajavító kódokolási technikákat (pl. Hamming kódok, Reed-Solomon kódok),
  • valamint a modern csatorna-hibajavító kódolások (pl. LDPC, Polar) működési elvét és alkalmazási kontextusát.

A tárgy didaktikai egységek az alábbiak:

  • Információelméleti alapok: az entrópia, együttes entrópia, feltételes entrópia valamint a kölcsönös információ definíciója és tulajdonságai. A tipikus halmaz definíciója és tulajdonságai IT források esetén.
  • Forráskódolás: az unikálisan dekódolható kódok tulajdonságai. A forrás kódolás tétele. A Shannon-Fano, Huffman, és aritmetikus kódolás és teljesítőképességük vizsgálata. Az LZ-alapú tömörítési eljárások.
  • Hibajavító kódolás: a diszkrét memóriamentes forrás modellje. A memóriamentes csatorna modell (AWGN csatorna és BSC), a bit-hiba valószínűség és a jel-zaj viszony összefüggése.
  • Hibajavító lineáris és ciklikus kódok: bináris és q-áris Hamming-kódok, Reed–Solomon-kódok. A csatornakapacitás definíciója és számítása szimmetrikus csatornák esetén. A csatornakódolás tétele.
Elsajátítandó gyakorlati ismeretanyag:

A tárgy hangsúlyt fektet arra, hogy a hallgatók:

  • megértsék a QoS-kommunikáció alapelveit,
  • képesek legyenek különböző kódolási megoldások összehasonlítására megbízhatóság, komplexitás és hatékonyság szempontjából,
  • felismerjék az elméleti korlátok és a gyakorlati megvalósítások közötti kompromisszumokat.

A kurzus célja nem konkrét ipari szabványok betanítása, hanem olyan időtálló szemlélet és gondolkodásmód kialakítása, amely alapot ad a modern digitális kommunikációs rendszerek, adattárolási megoldások és információfeldolgozó algoritmusok megértéséhez és továbbfejlesztéséhez.

A 2-4 legfontosabb kötelező irodalom felsorolása bibliográfiai adatokkal (szerző, cím, kiadás adatai, (esetleg oldalak), ISBN):Előadás és gyakorlati jegyzetek
T. M. Cover and J. A. Thomas, Elements of Information Theory, 2nd ed. Hoboken, NJ, USA: John Wiley & Sons, 2006. ISBN: 978-0-471-24195-9.
L. Györfi, S. Győri, and I. Vajda, Információ- és kódelmélet. Budapest, Hungary: Typotex, 2010. ISBN: 978-963-279-166-1.
A 2-4 legfontosabb ajánlott felsorolása bibliográfiai adatokkal (szerző, cím, kiadás adatai, (esetleg oldalak), ISBN):D. J. C. MacKay, Information Theory, Inference, and Learning Algorithms. Cambridge, UK: Cambridge University Press, 2003. ISBN: 978-0-521-64298-9.
S. Lin and D. J. Costello Jr., Error Control Coding: Fundamentals and Applications, 2nd ed. Upper Saddle River, NJ, USA: Pearson, 2004. ISBN: 978-0-13-042672-7.
T. Richardson and R. Urbanke, Modern Coding Theory. Cambridge, UK: Cambridge University Press, 2008. ISBN: 978-0-521-85229-6.
K. Sayood, Introduction to Data Compression, 5th ed. Waltham, MA, USA: Morgan Kaufmann, 2017. ISBN: 978-0-12-415796-7.
Elmélet-gyakorlat aránya:Elméleti óra óraszáma: 4
Gyakorlati óra és labor óra óraszáma: 1 + 0
Az alkalmazott oktatási módszerek:Frontális előadás és gyakorlat (tábla használatával), ami kiegészül moodle tananyagokkal (az előadások és gyakorlatok videóanyag) és projektmunkákkal.
Az értékelés módja:Kollokvium
Az értékelés kritériuma:

Évközi számonkérés:

  • TV – Tananyag rövid tematikus videóinak megtekintése (Moodle, kb. 60 videó): 30 pont
  • MM – Műhelymunka (Moodle, 4 projekt): 40 pont
  • kZH – kis ZH-k (személyes, 3 db): 30 pont
  • nZH – nagy ZH (személyes, 1 db): 100 pont
  • BP – Bónuszpontok szerezhetők az előadásokon való aktív részvételért

Az aláírás feltételei:

  • minimum 75% részvétel
  • nZH minimum 40 pont
  • TV + MM + kZH + BP minimum 40 pont

Vizsgaidőszak számonkérései:

  • VZH – vizsga ZH: 100 pont
  • Szóbeli vizsga pontszám ill. jegykerekítés céljából.

Pontszámítás: (A képlet célja az évközi és vizsgaidőszaki teljesítmény kiegyensúlyozott figyelembevétele, illetve a normalizálás 100-as skálára.)

Score = ((TV + MM + kZH + nZH + BP) + VZH) / 3

A pontszámból megadott (és a kurzus elején meghirdetett) küszöbök szerint lesz a végleges jegy.

Miként járul hozzá a tantárgy a KKK-ban megjelölt kompetenciaelemek megszerzéséhez:

Mérnökinformatikus alapképzés:
A tantárgy fejleszti a mérnökinformatikus képzéshez szükséges információelméleti, kódolási és kommunikációs rendszerszemléleti kompetenciákat. A hallgatók képessé válnak a forrás- és csatornakódolás elméleti alapjainak, a hibajavító kódok működésének, valamint a megbízható adatátvitelhez és hatékony információreprezentációhoz kapcsolódó mérnöki kompromisszumok értelmezésére.

Molekuláris bionika mérnöki alapképzés:
A tantárgy fejleszti a molekuláris bionika mérnöki képzéshez szükséges információelméleti és jelfeldolgozási szemléletet. A hallgatók képessé válnak az információreprezentáció, adattömörítés és hibajavítás elméleti alapjainak megértésére, ami támogatja a biológiai jelek, mérési adatok és kommunikációs rendszerek korszerű feldolgozását.

A tárgy az alábbi képzéseken vehető fel

mérnökinformatikus IANI-MI alapképzés (BA/BSc/BProf) Nappali magyar 7 félév ITK
molekuláris bionika mérnöki IANI-MB alapképzés (BA/BSc/BProf) Nappali magyar 7 félév ITK
Széchenyi 2020 - Magyarország Kormánya - Európai Unió, Európai Regionális Fejlesztési Alap - Befektetés a Jövőbe