I tradisjonelle systemer skiller man mellom preventive og forsvarstiltak, hvor preventive tiltak for eksempel kan være tilgangskontroll, brannmurer, sikker arkitektur eller design, mens forsvarstiltak kan innebære overvåking, deteksjon og respons på angrep. Begge slike evner er nødvendige.
De siste årene har agentiske systemer, hvor flere KI-agenter med ulike mål og ekspertise jobber sammen for å oppnå et mål, blitt veldig populære. Man har også økende fokus på sikkerhet for slike systemer, og spesielt på preventive tiltak, for eksempel gjennom guardrails og sikker informasjonsflyt.
Denne oppgaven vil fokusere på overvåker og deteksjon i slike agentiske systemer. Dette innebære hva, hvor og hvordan man kan overvåke, hva slags angrep man kan detektere og hvordan (f.eks. signaturer eller anomalideteksjon). Et eksempel på et deteksjonssystem man kan utgangspunkt i er SentinelAgent [1].
Oppgaven kan gjøres i samarbeid med Forsvarets forskningsinstitutt (FFI). I så fall må kandidaten oppfylle FFIs krav til masterstudenter, som inkluderer at kandidaten må kunne sikkerhetsklareres. Ta kontakt hvis du har spørsmål om dette
[1] https://arxiv.org/html/2505.24201v1