Interne AI-systemer gør uforvarende virksomheder til ulovlige kreditbureauer
Virksomheder, der bygger egne AI-værktøjer til kreditvurdering, risikerer at bryde loven og uforvarende underlægges strenge krav i EU's AI Act
Del artiklen påAf Lars Bennetzen
Mange virksomheder udvikler interne AI-modeller for at analysere samhandelspartneres økonomi og risiko. I praksis kan de dog ende med at agere som kreditoplysningsbureauer uden den nødvendige tilladelse. Ifølge fintech-virksomheden Risika er det en gråzone, som kan have juridiske konsekvenser i form af sanktioner.
- Når virksomheder laver deres egne DIY-kreditscore, bevæger de sig ind i et område, der er både komplekst og reguleret. Det kan ændre deres juridiske rolle, uden de nødvendigvis er opmærksomme på det, siger Timm Jeppesen, CEO i Risika.
Kreditoplysninger om personer og enkeltmandsvirksomheder er reguleret af GDPR, og systematiske kreditvurderinger kræver tilladelse fra Datatilsynet. Samtidig er AI-baseret kreditvurdering og profilering af fysiske personer klassificeret som højrisiko under EU’s AI Act. Allerede når virksomheden begynder at skrive kode eller træne modeller, træder forpligtelserne i kraft, selvom systemet endnu ikke er taget i brug.
- Vi taler om virksomheder, der i god tro har sat deres udviklere til at løse et forretningsmæssigt problem – og uden at vide det er endt som udbyder af et højrisiko-AI-system med tilhørende dokumentationskrav, tilsyn og potentielle bøder, siger Timm Jeppesen.
Grænsen for, hvornår et system falder ind under den tunge lovgivning, afhænger typisk af dets funktion i beslutningsprocessen. Der er stor juridisk forskel på, om systemet blot forbereder en menneskelig beslutning, eller om det selvstændigt træffer beslutninger om kunder.
- Det simple spørgsmål, virksomheder kan stille sig selv, er om deres system hjælper dem med at træffe en beslutning, eller om det træffer den selv. Dét svar placerer dem ofte på den ene eller anden side af loven, siger Timm Jeppesen.
Ud over den juridiske compliance kan de hjemmebyggede løsninger også udgøre en forretningsmæssig trussel på grund af manglende datakvalitet. Selvom AI kan behandle store mængder data hurtigt, er det ikke en garanti for præcision.
- Interne AI-modeller arbejder ofte på et datagrundlag, der er ufuldstændigt eller forkert fortolket. Samtidig kan fejl være svære at opdage, fordi systemerne fremstår overbevisende. Det øger risikoen for forkerte kreditvurderinger og dermed dårlige beslutninger, siger Timm Jeppesen.