I december 2023 nådde EU-politiker en viktig överenskommelse vad gäller förslaget till en AI-förordning. Även om lagen inte är helt färdig ännu, vet vi i stort sett vad den kommer att innehålla. Syftet med AI-förordningen är att skydda grundläggande rättigheter, demokrati och ekologisk hållbarhet, samtidigt som innovation inom Artificiell intelligens (AI) främjas.
Enligt överenskommelsen blir vissa användningar av AI helt förbjudna. Exempelvis får AI inte användas för biometrisk kategorisering utifrån känsliga attribut såsom politiska åsikter eller sexuell läggning. Det kommer också vara förbjudet att samla in profilbilder från nätet för ansiktsigenkänning eller läsa av människors känslotillstånd på jobbet eller i skolan.
Vissa AI-system som utgör hög risk får användas men måste då följa strikta regler. Det blir obligatoriskt att utvärdera hur dessa system påverkar mänskliga rättigheter. AI som kan påverka demokratiska val klassas till exempel som AI med hög risk. Vid användandet av modeller som utgör en hög risk måste förklaringar kunna ges på systemets agerande.
General Purpose AI, som kan användas för många ändamål, omfattas av krav på öppenhet. Leverantörer måste dokumentera systemet och dess källmaterial, och högriskmodeller måste uppfylla cybersäkerhetskrav och genomföra riskanalyser.
