Når datasystemene går amok

Både i Norge, Danmark, Storbritannia og Nederland har det vært store IT-skandaler som strekker seg over mange år og fremdeles gjør skade.

• I Norge har vi den pågående skandalen omkring Helseplattformen i Midt-Norge, som har foregått helt siden 2022 og som fremdeles ikke er løst.
• Danmark har hatt en rullerende skandale rundt datasystemet til skatteetaten som har foregått i 12 år.
• I Storbritannia førte et datasystem i postvesenet til at flere hundre ledere av lokale postkontor ble satt i fengsel.
• Nederlandske velferdsmyndigheter brukte feilaktige algoritmer som førte til at mange tusen familier ble beskyldt for bedrageri med trygdemidler.

Mønstrene i skandalene

Det er minst to mønstre i disse sakene: Det ene handler om at leverandørene gjør en dårlig jobb, men at de som har kjøpt systemene ikke vil innse det og fortsetter å forsvare et datasystem som har store svakheter. Det andre mønsteret handler om myndigheter som er preget av fordommer og som ikke tar ansvar for å følge lovverket.

Innføringen av Helseplattformen i Helse Midt-Norge som ble innført ved blant annet St. Olavs hospital i 2022 ble gransket av konsulentselskapet Boston Consulting Group (BCG) i fjor. Konsulentselskapet fant store problemer med den overordnede styringen av prosjektet, problemer som delvis handlet om at for mange kommandolinjer i prosjektet resulterte i ansvarspulverisering. Men de fant også at den amerikanske leverandøren Epic Systems ikke hadde gjort det de burde ha gjort, både i forhold til planene og i forhold til det som forventes av slike systeminstallasjoner.

BCG oppdaget i sine undersøkelser at "I kravspesifikasjonen til Helseplattformen var brukervennlighet et fokusområde, men dette har ikke blitt tilstrekkelig fulgt opp.» Ekstern evaluering av Helseplattformen (helse-midt.no)

I sitt forsvar for systemet har noen av de ansvarlige pekt på at mange av feilene skyldes brukere, men BCG peker på at når mange brukere gjør samme feil, tyder det på at systemer har for dårlig brukervennlighet.

Flere hundre i fengsel

I Storbritannia har et nytt TV-drama ført til at skandalen rundt datasystemet Horizon fra Fujitsu har gitt nye sjokk til politikere, media og publikum. Dette systemet ble innført i det britiske postvesenet Post Office i 1995, og det er blitt avslørt voldsomme feil i systemet. Disse feilene ble brukt av ledelsen i Post Office til å anklage ansatte for underslag. Raseriet har vært så kraftig at regjeringen har planer om å få vedtatt en egen lov som med ett pennestrøk sletter alle dommene som feilaktig er blitt idømt 900 tidligere ledere for lokale postkontor. 

Granskinger av the Post Offices ledelse har blitt startet på flere nivåer, gigantiske erstatningssummer er blitt lovet fra den britiske staten, og rettsaker kommer uten tvil til å kreve store summer i erstatning fra produsenten Fujitsu

Horizon skulle flytte bokføringen av betalinger på postkontoret fra papir til data. Datasystemet førte straks etter lanseringen til at mange ledere av lokale postkontor fikk underskudd i sine kassabeholdninger. De ble deretter beskyldt av Post Office ledere for underslag. Over 3500 slike lokale ledere ble anklaget for bedrageri, og 900 av dem ble altså kastet i fengsel.

Hundrevis av feil

Problemene med datasystemet var blitt rapportert mange ganger, men advarslene ble ikke tatt alvorlig. Det viste seg ved gransking av systemet at det var hndrevis av tekniske feil ved det. som at når postkontor-lederne opplevde at skjermen frøs, fortsatte systemet å lagre data hver gang.

En av de ansvarlige for utviklingen av datasystemet forklarte noe av problemet slik: “Of eight [people] in the development team, two were very good, another two were mediocre but we could work with them, and then there were probably three or four who just weren’t up to it and weren’t capable of producing professional code”. (The Guardian,9. januar 2024)

Dansk lovløshet

Det danske skattevesenets datasystem for verdifastsetting av eiendomsverdier har vært en rullende skandale i over 10 år. Skandalen begynte i 2011 da Riksrevisionen kom med skarp kritikk av dette systemet. De hadde funnet ut at danske grunneiere hadde betalt over 1,2 milliarder for mye i skatt siden 2005.

Bakgrunnen var at skattevesenet (Skat) oppdaget ganske snart etter at en ny lov om skattlegging av eiendom i ble innført i 2004  at loven førte til at mange grunneiere betalte ingenting i skatt. Istedenfor å få endret loven, som viste seg å ha svakheter, gikk skattevesenet inn og endret datasystemet som gjorde beregningene av eiendomsskatten. Dette var lovstridig, men systemet fortsatte å brukes på tross av mange advarsler fra medarbeidere og eksterne. Det var i tillegg en logisk feil i systemet som gjorde at folk betalte for mye i skatt.

Systematiske fordommer

Denne danske skandalen handler altså ikke bare om selve IT-systemet, men om hvordan det blir brukt av de ansvarlige for systemet. Og her hviler i siste instans det største ansvaret på departementene og direktoratene som styrte skatteetaten.

Ansvaret hvilte også på regjeringsnivå under skandalen som ble avslørt i Nederland i 2020. Der hadde velferdsetaten siden 2013 drevet rase- og klasseprofilering av mottakere av en rekke typer stønader for å beskylde dem for svindel. En algoritme som er bygd opp for å oppdage risiko for bedrageri med offentlige ytelser, er blitt programmert til å flagge etnisitet og lav inntekt. De som er blitt beskyldt for bedrageri har fått krav om å tilbakebetale enorme summer til myndighetene, noe som har ført mange av dem ut i fattigdom, og drevet enkelte til selvmord. Over 1000 barn har havnet i barnevernets hender på grunn av disse sakene.

En parlamentarisk gransking viste at det var institusjonelle fordommer hos myndighetene og bevisste forsøk på å skjule informasjon fra det nederlandske parlamentet. På grunn av denne skandalen måtte statsminister Mark Rutte og hans regjering gå av.

Eget tilsyn for algoritmer

Granskingen viste at en av årsakene til skandalen i Nederland er den totale mangelen på checks and balances i systemet som var ansvarlig for denne algoritmen. Hvis de ansvarlige hadde fått nok motstand kunne noe blitt gjort for å stanse systemet. En av de politiske følgene av skandalen har vært at det blir opprettet et Algoritmetilsyn under det nederlandske datatilsynet, et tilsyn som skal kontrollere og godkjenne algoritmer både i det offentlige og det private. Tilsynet skal blant annet sørge for at algoritmene er menneskefokusert

Det er en type tilsyn som blant annet suksessforfatter Inga Strumke har tatt til orde for i Norge. Et eksempel på hvordan slik tilsyn kan fungere: Den norske velferdsetaten NAV gjennomførte i 2021 et såkalt regulatorisk sandkasseprosjekt med testing av en algoritme som skulle avsløre risiko for langsiktig sykefravær.

Prosjektet ble gjennomført i regi av Datatilsynet, og førte til at algoritmen ble lagt på is, fordi den brøt med viktige regler for personvern. For at den skal kunne utvikles måtte det en endring til i lovverket, mente NAV og Datatilsynet