Introduksjon til dyp læring

Vi tar tak i blesten rundt kunstig intelligens og dyp læring, og ser på hvilke muligheter og begrensninger dyp læring gir som et verktøy for data scientists.

Dyp læring

er en maskinlæringsmetode som bruker nevrale nettverk med flere interne lag til å løse spesifikke problemer.

Dyp læring har de siste årene vært motoren i kunstig intelligens, noe som har resultert i svært mange teknologiske nyvinninger. Eksempler inkluderer smarthøytalere, chatboter, ansiktsgjenkjenning, selvkjørende biler, automatiserte våpensystemer og automatiserte diagnoser i medisin. Den rivende teknologiske nyvinningen har gjort at Norge har laget nasjonal strategi for kunstig intelligens og EU er kommet på banen med etiske retningslinjer og forslag til regulering av den kunstige intelligensen. Dette kurset hjelper deg som jobber med implementering av nye teknologier, til å forstå (1) hvilke muligheter som ligger i dyp læring, (2) hvordan det virker, og (3) hvilke grunnleggende begrensninger den dype læringen har.

Dag 1: Hvorfor har nevrale nettverk og dyp læring blitt en stor greie?

Vi begynner med å se på de mange suksesshistoriene i kunstig intelligens og dyp læring, for å identifisere hva kreves for å lage et vellykket produkt. Deretter vil vi diskutere hvor godt den kunstige intelligensen egentlig fungerer. Vi vil, blant annet, se på hvorfor kunstig intelligens som bruker dyp læring, sliter med hallusinasjoner og ikke-menneskelig oppførsel. Deretter vil vi introdusere nevrale nettverk – hjørnesteinen i dyp læring – og se på de vanligste måtene å trene, teste og evaluere suksess med disse nettverkene på. Til slutt møtes vi for en gruppesamling, hvor vi diskuterer disse temaene nærmere ved hjelp av ulike diskusjonsoppgaver.

Dag 2: Tren ditt eget nevrale nettverk

Denne dagen ser vi på en rekke praktiske aspekter ved dyp læring. Vi går gjennom ulike nettverksarkitekturer og vi ser nøyere på konvolusjoner og konvolusjonsnettverk. Vi vil også gi en innføring i PyTorch, som er et mye brukt Python-bibliotek for trening og testing av nevrale nettverk. Målet er at deltagerne ved slutten av dagen skal være i stand til å trene sitt eget nevrale nettverk. På den avsluttende gruppesamlingen jobber vi derfor med å sette opp nødvendig software, slik at alle kommer i gang. 

Dag 3: Om gapet mellom teori og praksis

Dyp læring er på full fart inn i samfunnet, industrien og forskningen. Til tross for dette preges treningen av nevrale nettverk av prøving og feiling med massive beregninger, og det diskuteres om dyp læring har blitt alkymi. Denne dagen tar vi et steg tilbake og ser på gapet mellom teori og praksis i dyp læring. Vi skal blant annet se hvordan god generalisering i dyp læring kan avhenge mer av nettverksarkitektur enn eksplisitt regularisering, og hvordan suksessfulle nevrale nettverk ikke nødvendigvis generaliserer godt i praksis. Mot slutten av dagen kommer vil til å gi et lite overblikk over ulike metoder for å forklare hva de nevrale nettverkene har lært. På dagens avsluttende gruppesamling diskuterer vi disse temaene nærmere. Her vil det også bli anledning til å spørre om prosjektoppgaven (eksamen). 

Foreleser

Portrettfoto av foreleser Vegard Antun

Vegard Antun er postdoktor i anvendt matematikk ved Universitetet i Oslo (UiO). Hans forskning er sentrert rundt dyp læring i vitenskapelige beregninger, med et særlig fokus på inverse problemer og bildeprosessering. Et sentralt tema i Antuns forskning er å undersøke fundamentale barrierer ved bruk av nevrale nett i vitenskapelige beregninger. Han har en doktorgrad fra UiO. I løpet av doktorgraden tilbrakte han til sammen ett år ved Cambridge Centre for Analysis, Universitetet i Cambridge, UK. Antun har undervisningserfaring fra emner innen numerisk analyse og har blant annet forelest førstesemesteremnet MAT-INF1100 – Modellering og beregninger.

Påmelding og kursdatoer

Kurset arrangeres første gang våren 2022.

  • Dag én og to: 21.–22. februar
  • Dag tre: 4. mars
  • 4 undervisningstimer per dag, dagtid
  • Innlevering av eksamensoppgave: uke 11, 2022

Meld deg på og se formelle detaljer om kurset (emnebeskrivelse)

Les mer om programmet

Publisert 11. okt. 2021 14:04 - Sist endret 2. nov. 2021 13:57