Risiko og misbruk

Nasjonal sikkerhetsmyndighet mener at språkmodeller som kan finne og utnytte sårbarheter automatisk «er, eller er i ferd med å bli, en del det daglige risikobildet». Rådene til virksomhetene er å redusere hva som er eksponert mot internett, bytte ut utstyr som ikke lenger får sikkerhetsoppdateringer, ha faste rutiner for å tette kjente sårbarheter og logge godt. NSM påpeker at det finnes få uavhengige tester av Anthropics Mythos-modell, og at det som er kjent så langt, tyder mer på en stegvis forbedring enn på en revolusjon. Finans Norge ga lignende råd til medlemmene i april og skrev at tiden fra en sikkerhetsoppdatering publiseres til sårbarheten utnyttes, kan bli kortere. Rådene er gamle kjenninger fra sikkerhetsarbeidet, men etterslep kan dermed koste mer enn før.

Med Mythos valgte Anthropic å holde tilbake en ny toppmodell, med den begrunnelsen at den var for god til å finne og utnytte sikkerhetshull. I stedet fikk elleve store amerikanske selskaper tilgang som lanseringspartnere, sammen med over 40 organisasjoner som vedlikeholder kritisk programvare. Finans Norge påpekte at Anthropic har egeninteresse i å fremsnakke modellen, men ga likevel medlemmene råd om raskere patching. Michael Riegler ved OsloMet og Simula viste til at den britiske KI-sikkerhetsmyndigheten AISI hadde bekreftet evnene, og at lignende kan bygges med åpne modeller. NSM fulgte opp i mai med egne råd, og saken fikk ny aktualitet da Mythos 5 og Fable 5 ble stengt etter et amerikansk eksportdirektiv i juni.

En part i en boligtvist i Sør-Rogaland tingrett førte saken selv, uten advokat, og oppga at prosesskrivene var «assistert og supplert» av KI. Det ble til sammen rundt 700 sider. Motpartens advokat brukte over 150 timer på saken, og den tapende parten ble dømt til å dekke 443 812,50 kroner i sakskostnader. Saken viser en side ved KI i rettsvesenet som får mindre oppmerksomhet enn oppdiktede kilder, nemlig at det er blitt svært enkelt å produsere mye tekst, og at motparten likevel må lese alt. For den som fører sin egen sak, kan regningen bli stor hvis saken tapes.

I rapporten om KI i staten fra 2024 skrev Riksrevisjonen at offentlig sektor kan effektivisere oppgaver tilsvarende 155 000 årsverk. Det viste seg at tallet kom fra et Menon-notat fra 2023, der økonomene hadde brukt språkmodellen GPT-4 i beregningen, og forskere kalte anslaget usikkert og spekulativt. Riksrevisjonen erkjente at tallet burde vært forklart bedre og oppdaterte fotnoten i rapporten i oktober 2025. Tallet hadde da blitt sitert mange steder i debatten om KI i offentlig sektor. Saken er en påminnelse om å sjekke hvor et tall kommer fra før man bygger videre på det, også når det står i en rapport fra en tung institusjon.