JultikaUniversity of Oulu repository

Tässä pro gradu -tutkielmassa tutustutaan informaatioteoriaan ja sen sovelluksiin. Erityisesti tutkitaan salausmenetelmiä ja luonnollisia kieliä. Tutkielma on luonteeltaan teoreettinen ja lähteenä on käytetty pääasiassa J. Hoffsteinin, J. Pipherin ja J. H. Silvermanin kirjaa An Introduction to Mathematical Cryptography. Tutkielman rakenne noudattaa suurelta osin lähdekirjan käsittelyjärjestystä. Informaatioteoria perustuu todennäköisyyslaskentaan. Työssä tutustutaan aluksi todennäköisyysteorian perusteisiin. Teoriaosio rakentuu perusasioista kohti todennäköisyyslaskennan keskeisiä tuloksia, kuten Bayesin teoreemaa ja satunnaismuuttujan käsitettä. Työssä käsitellään myös erikoistapaus satunnaisalgoritmista. Seuraavaksi esitellään törmäysalgoritmit, joiden käyttöä tutkitaan esimerkiksi salausmenetelmissä käytettävän diskreetin logaritmin ongelman ratkaisemisessa. Tämän jälkeen päästään Claude Shannonin kehittelemään informaatioteorian perusteisiin. Käydään läpi murtamattoman salauksen vaatimukset. Entropian käsite on tärkeä informaation välityksessä, se kuvaa informaation sisältämää epävarmuutta. Lopuksi käytetään saatuja tuloksia ja perehdytään luonnollisten kielten informaatiosisältöön. Esitellään myös Shannonin ajatuksia uusien salakielten luomisesta yhdistelemällä vanhoja. Informaatioteorialle löytyy sovellutuksia niin tietoliikenteestä kuin muun muassa molekyylibiologiastakin. Shannonin läpimurto informaatioteorian kehityksessä käynnisti myös koodausteorian kehityksen ja sitä kautta mahdolliseksi tulivat esimerkiksi tietokonemaailmassa laajalti käytetyt koodit kuten zip- ja mp3-pakkaus.