AI-förordningen: Vad behöver ditt företag tänka på?

AI-förordningen, även känd som AI-Act (AIA) trädde i kraft 1 augusti 2024. Syftet är att skydda individers hälsa, säkerhet och grundläggande rättigheter och skapa en enhetlig utgångspunkt för användning och utveckling av AI inom EU. Det kan vara svårt att veta vad förordningen innebär för dig och ditt företag, här är därför några av de viktigaste punkterna att känna till.

Vilka omfattas av detta?

AI-förordningen gäller alla AI-system som används inom EU även om företaget är baserat utanför EU. Både leverantörer (de som utvecklar AI-system) och tillhandahållare (de som använder eller tillgängliggör AI-system) behöver följa förordningen. Det kommer även specifika krav relaterat till produktsäkerhet.

Klassificering

Enligt förordningen klassificeras AI-system enligt olika risknivåer:

• Oacceptabel risk: Förbjudna sedan 1 februari 2025, t ex skapa ansiktsigenkänningsdatabaser eller poängsätta individer på ett sätt som leder till ogynnsam behandling
• Hög risk: Tillåtna men med strikta krav på dokumentation, riskhantering, transparens och säkerhet. T ex AI-system inom hälso- och sjukvårdssektorn och rekrytering
• Systemrisk: Tillåtna men reglerade med krav på dokumentation och transparens, t ex språkmodeller som Gemini och ChatGPT
• Begränsad risk: Ställer krav på transparens och information, t ex chattbotar för kundtjänst
• Minimal risk: Inga krav, t ex spamfilter i epost och rättstavningsprogram

Krav och Sanktioner

Förordningen kommer med flera krav, exempelvis för de AI-system som bedöms som hög risk ställs krav på att företag genomför en konsekvensbedömning av grundläggande rättigheter (FRIA). Det ställs även krav på utbildning av de som använder AI-system. Likt GDPR finns skyldighet att rapportera allvarliga incidenter samt risk för sanktionsavgift vid bristande efterlevnad.

Relation till andra regulatoriska krav

Jag har upplevt att det lätt glöms bort att andra lagstiftningar som GDPR fortfarande gäller. Kraven på laglighet, transparens och rättvishet vid användning av AI-tjänster måste fortsatt uppfyllas. Det innebär exempelvis att det finns begränsningar i hur beslutsfattande, med stöd av AI, får gå till och att det generellt behöver finnas rättslig grund för att hantera personuppgifter i olika AI-system och om det sker ska det vara med försiktighet.

Slutsats

AI-förordningen kan innebära stora förändringar i krav för företag som använder AI-system i sin verksamhet. Genom att redan nu anpassa verksamheten till efterlevnad av AI-förordningen bidrar ni både till en mer säker och rättvis användning av AI, samtidigt som ni minskar risken för sanktioner enligt förordningen.

Har ni frågor eller behöver stöd eller hjälp att navigera i detta? Tveka inte att kontakta oss på XLENT!