Setterwalls Tech Regulatoriska Nyhetsserie – AI Act

Vad: EU AI Act (AI Act) är en EU-förordning som syftar till att upprätta en rättslig ram för artificiell intelligens (AI) som är pålitlig, säker och respekterar grundläggande rättigheter.

Vem: AI Act kommer att gälla för alla AI-system antingen 1) utvecklade i EU, 2) som erbjuds på EU-marknaden och/eller 3) som används i EU (dvs. även tillämpliga på AI som utvecklats utanför EU om de används i EU ).

När: Europeiska kommissionen föreslog AI Act i april 2021, och den granskas för närvarande av Europaparlamentet och Europeiska unionens råd. Q3/Q4 2024 är det tidigaste som AI Acts krav kan bli tillämpliga.

Åtgärder: Några av de nyckelåtgärder som företag som omfattas av AI Act förväntas behöva vidta inkluderar:

1. Klassificering: Företag måste så snart som möjligt påbörja en inventering av sina AI-system och klassificera dem i enlighet med AI Act.
2. Genomföra riskbedömningar: Företag ska utföra riskbedömningar för AI-system som bedöms som högrisk enligt AI Act. Denna bedömning kommer att utvärdera den potentiella effekten av AI-systemet på grundläggande rättigheter, inklusive säkerhet och integritet, och avgöra om ytterligare skyddsåtgärder är nödvändiga.
3. Säkerställa transparens: AI- Act kräver att företag säkerställer transparens i utvecklingen och användningen av AI-system, inklusive att avslöja vilka typer av data som används, vilken algoritm som används och hur beslut fattas av AI-systemet.
4. Etablera mänsklig översyn: AI-system med hög risk måste ha mänsklig översyn, och möjlighet till mänskligt ingripande, för att säkerställa att AI-systemet fungerar säkert och korrekt.
5. Att följa tekniska standarder: AI Act fastställer tekniska standarder för AI-system, och företag måste se till att deras system följer dessa standarder.
6. Rapportera incidenter: Företag måste rapportera alla incidenter eller fel i AI-system som kan påverka grundläggande rättigheter eller säkerhet.
7. Säkerställande av datakvalitet: Företag måste se till att den data som används för att träna AI-system är korrekt, representativ och fri från partiskhet.
8. Att tillhandahålla information till användare: AI Act kräver att företag tillhandahåller tydlig information till användarna om hur AI-system fungerar, deras begränsningar och eventuella risker i samband med deras användning.

Tillämpning: Om en organisation bryter mot AI Act kan den få administrativa sanktionsavgifter på upp till 30 miljoner EUR eller 6 % av organisationens årliga globala bruttointäkter (mer än en GDPR-sanktion för en allvarlig överträdelse). Dessutom stödjer AI Act ett förbud mot användning av ett AI-system som bryter mot reglerna, och företaget kan behöva vidta korrigerande åtgärder för att åtgärda överträdelsen. I vissa fall kan en produktåterkallelse krävas om AI-systemet utgör en betydande risk för hälsa, säkerhet eller grundläggande rättigheter.

Gör en Setterwalls EU AI Act Gap Analysis och ta reda på vad din organisation behöver göra för att uppfylla kraven.