Vad innebär EU:s AI Act och vad betyder den för dig?
I juni 2024 antog EU en ny lagstiftning om artificiell intelligens, kallad AI Act, som är ett stort steg för att reglera AI-system inom Europa.
Lagen, som börjar gälla den 2 augusti 2026, syftar till att balansera innovation och skydd av medborgarnas rättigheter genom att införa regler för hur AI-system får användas.
Men vad innebär AI Act egentligen, och hur påverkar den företag och dig som individ?
Vad är syftet med AI Act?
AI Act är EU:s första lag för att reglera artificiell intelligens och skapa tydliga regler för hur AI-system ska utvecklas, användas och spridas inom EU.
Lagens huvudmål är att säkerställa att AI-teknologi används på ett säkert och etiskt sätt och att våra grundläggande rättigheter skyddas. Samtidigt strävar den efter att främja innovation och teknikens fördelar.
Det som lagen fokuserar särskilt på är AI-system med hög risk, vilket är system som exempelvis används inom sjukvården eller vid rekrytering. Dessa måste uppfylla striktare krav på bland annat säkerhet, transparens och rättvisa.
För att sådana system ska godkännas kräver lagen att de genomgår en omfattande certifieringsprocess. Denna process innebär att systemet måste testas och granskas noggrant för att säkerställa att det följer lagens regler, exempelvis genom att visa att det inte diskriminerar, att det är säkert och pålitligt, och att användarna får tydlig information om hur AI-systemet fungerar samt eventuella risker.
Om dessa certifieringskrav inte uppfylls får AI-systemet inte användas inom EU. Brister i certifieringsprocessen kan leda till förseningar i lanseringen eller till och med sanktioner för de företag som utvecklar systemen.
AI-akten bygger på en riskbaserad modell
AI-akten bygger i grunden på en modell som delar in alla AI-system i fyra olika kategorier beroende på den risk de innebär för samhället och individens rättigheter:
- Förbjudna AI-system: Dessa system anses vara så skadliga att de inte tillåts över huvud taget. Exempel på sådana system är AI som manipulerar människor utan deras medvetande, exempelvis genom subliminala tekniker, eller system för "social poängsättning," där individer övervakas och bedöms baserat på deras beteende etc.
- Hög risk: Detta är AI-system som kan påverka människors liv på ett allvarligt sätt, till exempel de som används inom sjukvården för att ställa diagnoser, inom rättsväsendet för riskbedömningar, eller vid rekryteringsprocesser för att avgöra en persons anställningsbarhet.
- Begränsad risk: Här hamnar system som används för mindre kritiska uppgifter, som chatbotar inom kundservice eller AI som genererar marknadsföringsmaterial. Dessa system måste tydligt informera användarna om att de interagerar med en AI, så att det inte uppstår missförstånd om vem de kommunicerar med.
- Minimal eller ingen risk: I denna kategori finns AI-system som spamfilter, röstassistenter eller rekommendationssystem på streamingtjänster. För dessa kräver AI Act ingen särskild reglering, eftersom risken för skada anses vara så låg.
Hur påverkar detta företag?
För företag innebär AI-akten att man kommer att behöva utvärdera hur man det används i verksamheten, särskilt om AI-systemen används i kritiska områden som hälso- och sjukvård, utbildning, rättsväsende eller anställningsprocesser eftersom dessa faktorer kommer att omfattas av striktare krav.
Om ens applikation dessutom definieras som en hög-risk applikation ställs det även mer omfattande krav på både dokumentation och certifiering för att bevisa att systemet uppfyller alla regler. Att inte följa dessa regler kan leda till kännbara sanktioner.
Om man exempelvis skulle lämna felaktig eller vilseledande information till tillsynsmyndigheten kan det leda till böter på upp till 7,5 miljoner euro eller upp till 1 % av företagets globala årsomsättning, beroende på vilket som är högst.
I EU:s AI Act beskrivs däremot något som de kallar för "regulatoriska sandlådor" med syftet att underlätta för små och medelstora företag. Dessa ska nämligen fungera som testmiljöer där man ska kunna utveckla och testa nya AI-system under övervakning utan att behöva möta de fulla regulatoriska kraven.
Tanken med dessa sandlådor är helt enkelt att de ska främja AI-innovation även för mindre företag, utan att skapa regulatoriska hinder.
Det bör dock sägas att AI-akten har fått en del kritik redan nu. Exempelvis finns det dem som befarar att den ökade regleringen kommer minska innovationstakten inom EU, då företag kan bli mer försiktiga med att experimentera. Hur detta faktiskt kommer att påverka innovation på lång sikt är dock svårt att säga.
Hur påverkar det dig som individ?
Från individens synvinkel ger AI Act ett ökat skydd mot de risker som AI kan medföra. AI-system som används för att fatta beslut som påverkar ditt liv, till exempel om du får ett lån, en försäkring eller ett jobb, måste vara rättvisa och transparenta.
Lagen skyddar dessutom dina grundläggande rättigheter genom att begränsa hur AI får användas i praktiken. Exempel på sådana system är AI som manipulerar människor på olika sätt utan deras medvetande.
En annan central del av AI Act är att du som individ har rätt att veta när du interagerar med ett AI-system. Om du till exempel chattar med en kundtjänst online, måste företaget tydligt informera dig om det är en AI som svarar. Detta gäller även i andra sammanhang där AI används, som för röstassistenter.
Slutligen stärker AI-akten dina rättigheter kring personuppgifter i AI-system. Du ska ha rätt till insyn i hur dina data används, och företag måste kunna visa att de hanterar uppgifterna ansvarsfullt.
Vill du veta mer? Då kan du läsa hela den svenska versionen på EU:s hemsida.