University of Oulu

Myötäsyötteiset neuroverkot

Saved in:
Author: Käyrä, Jimi1
Organizations: 1University of Oulu, Faculty of Science, Mathematics
Format: ebook
Version: published version
Access: open
Online Access: PDF Full Text (PDF, 0.2 MB)
Pages: 24
Persistent link: http://urn.fi/URN:NBN:fi:oulu-202306142451
Language: Finnish
Published: Oulu : J. Käyrä, 2023
Publish Date: 2023-06-14
Thesis type: Bachelor's thesis
Tutor: Myllylä, Kari
Laitinen, Erkki
Description:

Tiivistelmä

Tämän kandidaatintutkielman tavoitteena on perehtyä neuraalilaskentaan, joka on koneoppimisen alalla laajasti käytetty ja erityisesti viime aikoina suosiotaan kasvattanut koneoppimisen menetelmä. Tutkielman alussa esitetään lyhyt johdatus koneoppimiseen aiheen taustan hahmottamiseksi. Neuraalilaskentaa toteutetaan keinotekoisilla neuroverkoilla, joista tässä työssä rajoitutaan tarkastelemaan myötäsyötteisiä neuroverkkoja. Myötäsyötteiset neuroverkot eivät sisällä syklejä, minkä ansiosta niillä on erityinen kerrosmainen rakenne. Keinotekoinen neuroverkko koostuu useista toisiinsa kytketyistä keinotekoisista neuroneista, jotka pohjautuvat karkeasti biologisen neuronin ja hermoston rakenteeseen sekä toimintaan.

Neuroverkon rakenteen tarkastelun lisäksi tutkielmassa perehdytään siihen, miten myötäsyötteisen neuroverkon lähtö määrätään syötteestä myötäsyöttöprosessin avulla. Myötäsyöttöprosessi etenee vaiheittain siten, että edeltävän kerroksen neuronien lähtöjä käytetään seuraavan kerroksen neuronien syötteinä. Näin jatkaen edetään verkon lähtökerrokseen, josta voidaan lukea koko verkon lähtö. Prosessi muotoillaan matriisiesitykseksi selkeyden ja laskentatehokkuudessa saavutettavien etujen vuoksi.

Lopuksi tarkastellaan neuroverkon opettamista. Työssä määritellään virhefunktio, joka kuvaa todellisten kohdemuuttujan arvojen ja verkon antamien ennusteiden välistä eroa. Tämän pohjalta neuroverkon opettaminen kuvataan optimointiongelmana, jossa tavoitteena on etsiä sellaiset malliparametrit, että virhefunktio saavuttaa pienimmän arvonsa. Tämä minimi etsitään gradienttilaskeutumisella, joka on eräs numeerinen optimointimenetelmä. Gradienttilaskeutumista varten tarvitaan virhefunktiosta malliparametrien suhteen lasketut osittaisderivaatat, jotka voidaan määrittää tehokkaasti vastavirta-algoritmin avulla. Vastavirta-algoritmin toiminnan tarkastelun jälkeen opetusalgoritmi kuvataan kokonaisuudessaan matriisimuodossa.

see all

Subjects:
Copyright information: © Jimi Käyrä, 2023. Except otherwise noted, the reuse of this document is authorised under a Creative Commons Attribution 4.0 International (CC-BY 4.0) licence (https://creativecommons.org/licenses/by/4.0/). This means that reuse is allowed provided appropriate credit is given and any changes are indicated. For any use or reproduction of elements that are not owned by the author(s), permission may need to be directly from the respective right holders.
  https://creativecommons.org/licenses/by/4.0/