Introduksjon til dyp læring

Vi tar tak i blesten rundt kunstig intelligens og dyp læring, og ser på hvilke muligheter og begrensninger dyp læring gir som et verktøy for data scientists, samt hvordan trening av nevrale nettverk egentlig fungerer.

Dyp læring

er en maskinlæringsmetode som bruker nevrale nettverk med flere interne lag til å løse spesifikke problemer.

Dyp læring har de siste årene vært motoren i kunstig intelligens, noe som har resultert i svært mange teknologiske nyvinninger. Eksempler inkluderer smarthøytalere, chatboter, oversetting av språk, sikkerhetssystemer basert på stemme- og ansiktsgjenkjenning, kjøreassistenter i biler, nye våpensystemer og automatiserte diagnoser i medisin.

Den rivende teknologiske nyvinningen har gjort at Norge har laget en nasjonal strategi for kunstig intelligens og EU er kommet på banen med etiske retningslinjer og forslag til regulering av den kunstige intelligensen

Emnet hjelper deg som jobber med implementering av nye teknologier til å forstå:

  1. hvilke muligheter som ligger i dyp læring
  2. hvilke grunnleggende begrensninger den dype læringen har 
  3. det gir deg partisk erfaring med bruk av nevrale nettverk 

Dag 1: Hvorfor har nevrale nettverk og dyp læring blitt en stor greie? 

Vi begynner med å se på de mange suksesshistoriene i kunstig intelligens og dyp læring for å identifisere hvilke problemer dyp læring er egnet for. Deretter vil vi diskutere hvor godt denne formen for kunstige intelligensen egentlig fungerer.

Vi vil, blant annet, se på hvorfor kunstig intelligens som bruker dyp læring, sliter med hallusinasjoner og ikke-menneskelig oppførsel. Videre vil vi dykke inn i matematikken som ligger bak maskinlæring.

Vi starter med en grundig gjennomgang av lineær regresjon – maskinlæringens svar på “Hello world” – før vi ser nærmere på hvordan et nevralt nettverk er konstrukert. I dagens siste undervisningstime diskuterer vi det vi har gjennomgått ved bruk av ulike diskusjonsoppgaver. 

Dag 2: Teorien bak trening av nevrale nettverk og de ulike nettverkslagene

Dagen starter med en gjennomgang av teorien bak treningsalgoritmene i dyp læring. Deretter ser vi nøyere på konvolusjonslag, poolinglag og residual connections, samt hvordan disse brukes i populære nettverksarkitekturer.

Mot slutten av dagen begynner vi med en innføring i python biblioteket PyTorch, som brukes for trening og testing av nevrale nettverk. I dagens siste undervisningstime diskuterer vi det vi har gjennomgått ved bruk av ulike diskusjonsoppgaver. 

Dag 3: Partisk implementering av nevrale nettverk

Denne dagen skal teorien vi har lært oversettes til kode. Dagen brukes til å gi en innføring i PyTorch samt koble det vi har lært frem til nå til det som skjer i datamaskinen.

Målet er at alle mot slutten av dagen kan trene sitt eget nevrale nettverk. I dagens siste undervisningstime vil det bli gitt ulike kodeoppgaver som alle får prøve seg på. 

Forkunnskaper 

Dette emnet har anbefalte forkunnskapskrav i matematikk og programmering. Det forutsettes for eksempel at deltakerne kjenner til programmeringsspråket Python og at man har studert noe matematikk på universitetsnivå tidligere.

Man bør ha god kjennskap temaene som dekkes i oppfriskningskurset i matematikk. Hvis det er lenge siden du har vært borti disse temaene, anbefales det sterkt å ta oppfriskningskurset.  

Foreleser

Portrettfoto av foreleser Vegard Antun

Vegard Antun er postdoktor i anvendt matematikk ved Universitetet i Oslo (UiO). Hans forskning er sentrert rundt dyp læring i vitenskapelige beregninger, med et særlig fokus på inverse problemer og bildeprosessering.

Et sentralt tema i Antuns forskning er å undersøke fundamentale barrierer ved bruk av nevrale nett i vitenskapelige beregninger. Han har en doktorgrad fra UiO.

I løpet av doktorgraden tilbrakte han til sammen ett år ved Cambridge Centre for Analysis, Universitetet i Cambridge, UK. Antun har undervisningserfaring fra emner innen numerisk analyse og har blant annet forelest førstesemesteremnet MAT-INF1100 – Modellering og beregninger.

Påmelding og datoer

Emnet arrangeres neste gang våren 2023.

  • Påmeldingsfrist for våren 2022: 12. desember 2022.
  • Dag én og to: 9.–10. januar 2023.
  • Dag tre: 16. januar 2023.
  • 4 undervisningstimer per dag, dagtid.
  • Innlevering av eksamensoppgave: 26 januar 2023.

Meld deg på og se formelle detaljer om emnet (emnebeskrivelse)

Les mer om programmet

Publisert 11. okt. 2021 14:04 - Sist endret 4. juli 2022 11:11