Agentiske løsninger, som er bygget rundt bruk av store språkmodeller (LLM), har vist evne til både å gjennomføre cyberangrep og å støtte forsvar mot dem. I denne oppgaven skal det lages et lukket testsystem der angreps- og forsvarsagenter spiller mot hverandre. Dette skal gjøres repetitivt, hvor agentene deler erfaringer om hvordan angrep ble gjennomført, hva som ble stoppet, hva som ble detektert osv, mellom hver runde av angrep. De kan da forbedre seg til neste runde, f.eks. gjennom patching, endre hva som monitores, detekteres osv. Hver runde kan ha ulikt mål, både fra offensiv og defensiv side.
Målet med oppgaven er blant annet å undersøke både ulike defensive og offensive kapabiliteter, hvor autonome agentene kan være, hvor gode de er til å lære og forbedre seg og eventuelle fallgruver. En annen interessant problemstilling er hvordan man bør sette opp slike eksperimenter på en trygg og sikker måte. Grunnet restriksjoner på Frontier AI-selskaper må man nok belage seg på bruk av mindre modeller uten slike sperrer.
Oppgaven er ambisiøs, og det kan være passende at to studenter jobber sammen på den, hvor en fokuserer på den offensive delen og en på den defensive delen, men det skal også være mulig å gjøre alene med et litt lavere ambisjonsnivå. For inspirasjon til oppgaven henvises det til [1].
Oppgaven kan innebære samarbeid med Nasjonal sikkerhetsmyndighet (NSM) og Forsvarets forskningsinstitutt (FFI), som betyr at studenter som velger oppgaven må da oppfylle FFIs krav til masterstudenter, som inkluderer at kandidaten skal kunne sikkerhetsklareres. Ta kontakt hvis du har spørsmål om dette.
[1] https://developer.nvidia.com/blog/building-an-adaptive-agentic-cybersecurity-system-with-nvidia-nemotron?ncid=so-link-598054