MATA2500 Informaatioteoria (2–6 cr)

Study level:
Intermediate studies
Grading scale:
0-5
Language:
Finnish
Responsible organisation:
Department of Mathematics and Statistics
Curriculum periods:
2017-2018, 2018-2019, 2019-2020

Description

Sisältö

Kurssin tarkoituksena on johdatella informaation käsitteen ja sen matemaattisen analysoinnin perusideoihin. Kurssin rungon muodostavat seuraavat aiheet:
Informaation määritelmä
– Kolmogorov-kompleksisuus
– Entropia ja informaatio
Satunnaisuus ja informaatio
– Mitä on satunnaisuus?
– Kolmogorov- ja Chaitin-satunnaisuus
– Yhteyksiä kryptografiaan
Informaation ominaisuuksia
– Informaation yhteys energiaan
– Viestintä kohinaisella kanavalla (a la Shannon)
Informaation sovelluksia, esimerkiksi
– Bayesiläinen päättely
– Neuroverkot ja koneoppiminen
– Compressed sensing
– Integrated information theory

Suoritustavat

Kurssin perusosa (2 op) suoritetaan harjoitustehtävien perustehtävillä sekä kurssitentillä.

Kurssin matemaattinen laajennusosa (2 op) suoritetaan perusosan päälle tekemällä osaan liittyviä harjoitustehtäviä ja suorittamalla laajennusosan kurssitentti.

Kurssin soveltava lisätyö (2 op) suoritetaan harjoitustyöllä (essee tai ohjelmistoprojekti), joka käsittelee ja syventää jotakin kurssilla käydyistä tai siihen liittyvistä aiheista.

Arviointiperusteet

Arviointi perustuu kurssikokeeseen, harjoitustehtäviin sekä mahdollisen harjoitustyön arvosanaan.

Learning outcomes

-Perusosa: Opiskelilja osaa todistaa informaation matemaattisia perusominaisuuksia ja käyttää informaation käsitettä ongelmien ratkaisussa.
-Laajennusosa: Opiskelija hallitsee informaation matemaattisen käytön ja osaa soveltaa sitä eri tilanteissa.
-Harjoitustyö: Opiskelija perehtyy omatoimisesti johonkin informaatioteorian haastavahkoon ominaisuuteen, johon kurssilla ei ole ehditty syventyä.

Additional information

Kurssin on tarkoitus toimia johdantona informaation perusominaisuuksiin matemaattisena käsitteenä.

Description of prerequisites

Perusosa: Calculus 1-2, Lineaarinen algebra ja geometria. Todennäköisyyslaskennan ja diskreetin
matematiikan perustiedoista on hyötyä.

Matemaattinen laajennos: Perehtyneisyys todistamiseen ja matemaattiseen päättelyyn (esim. Todistamisen perusteet). Kursseista JMA 1-2, Todennäköisyyslaskenta 1 ja Johdatus diskreettiin matematiikkaan on hyötyä.

Harjoitustyö: Aihe sovitetaan omaan osaamiseen.

Completion methods

Method 1

Select all marked parts
Parts of the completion methods
x
Unpublished assessment item