AI Act er trådt i kraft – hvor er vi nu?
Baggrund
Formålet med AI Act er tredelt:
- at beskytte borgernes grundlæggende rettigheder,
- at skabe mere transparens og ansvarlighed i AI-systemer,
- fastholde innovation og lige markedsadgang for sikre AI-løsninger i hele EU.
AI Act bygger på en risikobaseret tilgang, hvor AI-systemer opdeles i kategorier. Systemer med uacceptabel risiko er forbudt, mens højrisikosystemer underlægges omfattende krav til dokumentation, risikostyring, menneskeligt tilsyn og CE-mærkning. Derudover indføres særlige regler om transparens, hvor virksomheder eksempelvis skal oplyse brugere, når de interagerer med en AI eller præsenteres for AI-genereret indhold. Lavrisikosystemer er underlagt få krav, men virksomheder kan vælge frivillige standarder for at styrke tilliden til deres løsninger.
Hvad medfører forordningen?
I februar 2025 trådte forbuddet mod AI-systemer med uacceptabel risiko i kraft. I august 2025 fulgte krav til udbydere af generelle AI-modeller, herunder dokumentationspligt og gennemsigtighed omkring træningsdata. Fra august 2026 blev de omfattende regler for højrisikosystemer sat i kraft, herunder inden for områder som biometrisk overvågning, kritisk infrastruktur, uddannelse, beskæftigelse og retshåndhævelse.
Med AI Act følger en række konkrete forpligtelser, som de fleste virksomheder i EU skal forholde sig til allerede nu. Først og fremmest indføres konformitetskrav, der betyder, at udviklere og brugere af AI-systemer skal leve op til standarder for gennemsigtighed, ansvarlighed og beskyttelse af borgernes grundlæggende rettigheder. Samtidig skal alle AI-løsninger underlægges en grundig risikovurdering, hvor potentielle trusler mod sikkerhed og rettigheder identificeres og håndteres systematisk. Forordningen skærper også kravene til dataetik og persondatabeskyttelse, idet AI-løsninger skal designes og anvendes i fuld overensstemmelse med GDPR og principperne for ansvarlig databehandling.
Virksomheder, der ikke overholder reglerne, risikerer betydelige bøder og juridiske konsekvenser. Det er derfor afgørende for virksomheder at opbygge solide processer for compliance og governance, så de både undgår sanktioner og samtidig kan skabe tillid til sine AI-løsninger.
Vil du vide mere?
Partner og IT-advokat Torsten Hylleberg har omfattende erfaring med rådgivning om brugen af AI og om AI-forordningens betydning for implementering og anvendelse af kunstig intelligens. Kontakt ham for en uforpligtende snak om jeres compliance.
