Den nya AI-förordningen

Under sommaren antogs Europas första AI-förordning/AI Act. Syftet är att säkerställa att AI-system i EU utvecklas och används på ett säkert, etiskt och transparent sätt, samtidigt som de främjar innovation och skyddar medborgarnas grundläggande rättigheter, allt under en enhetlig rättslig ram inom EU.

För företag innebär detta att man behöver säkerställa efterlevnaden för att undvika böter och sanktioner. Att vara compliant med AI-förordningen innebär att risken för skador minimeras och kan ge en konkurrensfördel genom att visa ansvarstagande affärsbeteende. Genom att integrera lagkraven så kan företag arbeta med innovation och tillväxt med hjälp av AI på ett säkert och hållbart sätt. Nedan finner ni kortfattad information om vad som kan vara bra att tänka på om ert företag använder eller utvecklar AI.

Viktiga legala aspekter:

• Datasäkerhet och kvalitetskrav: AI-system måste använda högkvalitativa data och säkerhetsåtgärder för att minimera riskerna för diskriminering, felaktig information och andra skador. AI ska vara pålitlig och uppfylla den grundläggande rätten till skydd av personuppgifter (GDPR).
• Transparenskrav: Användare måste informeras när de interagerar med AI-system, särskilt om systemet kan påverka deras rättigheter eller beslut.
• Stöd för innovation: Förordningen innehåller bestämmelser för att främja innovation genom exempelvis testmiljöer för AI, där företag kan testa nya teknologier i en kontrollerad miljö.
• Övervakning och tillsyn: Nationella tillsynsmyndigheter kommer att övervaka AI-system och se till att de följer förordningen.

Användning regleras med riskbaserad modell:

• Riskbaserad klassificering: AI-system klassificeras i olika riskkategorier (oacceptabel, hög, begränsad och minimal risk) med varierande krav beroende på risknivån. AI-system som anses utgöra en oacceptabel risk, såsom skadliga och manipulativa tekniker, förbjuds helt. AI-verktyg med hög risk (system inom kritiska områden såsom hälsa, säkerhet och rättsväsende) regleras med strikta krav på dokumentation, riskhantering och mänsklig tillsyn.
• Ansvar och regelefterlevnad: Företag och organisationer som utvecklar eller använder AI-system måste säkerställa att deras system följer de juridiska kraven och kan upprätthålla nödvändig dokumentation. De kan hållas ansvariga för eventuella överträdelser.
• Reglering av övervakning: Strikta begränsningar och krav för användning av AI i realtidsövervakning med biometriska data på offentliga platser. Förbud även mot väsentlig förvrängning av mänskligt beteende, utnyttjandet av sårbarhet eller social poängsättning.

Förordningen främjar samarbete med internationella partners för att harmonisera AI-regler och globala standarder. Den börjar gälla 24 månader efter den har trätt i kraft. Sverige måste införa effektiva, proportionerliga och avskräckande påföljder för bristande efterlevnad av förordningen.