MATA2500 Informaatioteoria (2–6 cr)
Description
Sisältö
Kurssin tarkoituksena on johdatella informaation käsitteen ja sen matemaattisen analysoinnin perusideoihin. Kurssin rungon muodostavat seuraavat aiheet:
Informaation määritelmä
– Kolmogorov-kompleksisuus
– Entropia ja informaatio
Satunnaisuus ja informaatio
– Mitä on satunnaisuus?
– Kolmogorov- ja Chaitin-satunnaisuus
– Yhteyksiä kryptografiaan
Informaation ominaisuuksia
– Informaation yhteys energiaan
– Viestintä kohinaisella kanavalla (a la Shannon)
Informaation sovelluksia, esimerkiksi
– Bayesiläinen päättely
– Neuroverkot ja koneoppiminen
– Compressed sensing
– Integrated information theory
Suoritustavat
Kurssin perusosa (2 op) suoritetaan harjoitustehtävien perustehtävillä sekä kurssitentillä.
Kurssin matemaattinen laajennusosa (2 op) suoritetaan perusosan päälle tekemällä osaan liittyviä harjoitustehtäviä ja suorittamalla laajennusosan kurssitentti.
Kurssin soveltava lisätyö (2 op) suoritetaan harjoitustyöllä (essee tai ohjelmistoprojekti), joka käsittelee ja syventää jotakin kurssilla käydyistä tai siihen liittyvistä aiheista.
Arviointiperusteet
Arviointi perustuu kurssikokeeseen, harjoitustehtäviin sekä mahdollisen harjoitustyön arvosanaan.
Learning outcomes
-Laajennusosa: Opiskelija hallitsee informaation matemaattisen käytön ja osaa soveltaa sitä eri tilanteissa.
-Harjoitustyö: Opiskelija perehtyy omatoimisesti johonkin informaatioteorian haastavahkoon ominaisuuteen, johon kurssilla ei ole ehditty syventyä.
Additional information
Kurssin on tarkoitus toimia johdantona informaation perusominaisuuksiin matemaattisena käsitteenä.
Description of prerequisites
matematiikan perustiedoista on hyötyä.
Matemaattinen laajennos: Perehtyneisyys todistamiseen ja matemaattiseen päättelyyn (esim. Todistamisen perusteet). Kursseista JMA 1-2, Todennäköisyyslaskenta 1 ja Johdatus diskreettiin matematiikkaan on hyötyä.
Harjoitustyö: Aihe sovitetaan omaan osaamiseen.