EDPB och EDPS kommenterar förslaget till ändringar av AI-förordningen

I ett extrainsatt plenarmöte i veckan har EDPB och EDPS antagit ett gemensamt yttrande om EU-kommissionens så kallade AI-omnibus som innehåller förslag till ändringar av AI-förordningen i syfte att förenkla reglerna och stärka EU:s konkurrenskraft.

Kommissionen föreslår att det ska bli möjligt för leverantörer och tillhandahållare av alla slags AI-system och modeller att behandla särskilda kategorier av personuppgifter (såsom uppgifter om etnicitet eller hälsa) för att upptäcka och korrigera partiskhet. Det är enligt nuvarande regler bara möjligt för leverantörer av AI-system med hög risk. EDPB och EDPS rekommenderar att det tydliggörs att sådana uppgifter endast får användas för upptäckt och korrigering av partiskhet i avgränsade situationer där risken för negativa effekter av sådan partiskhet bedöms vara tillräckligt allvarlig.

EDPB och EDPS avråder från förslaget att ta bort skyldigheten för leverantörer att registrera AI-system när de bedömer att deras system inte utgör hög-risksystem trots att systemen faller inom de kategorier som listas som sådana. EDPB och EDPS anser att en sådan ändring skulle undergräva ansvarsskyldigheten.

I yttrandet välkomnas inrättandet av regulatoriska AI-sandlådor på EU-nivå för att främja innovation. EDPB och EDPS rekommenderar dock att det tydliggörs i AI-förordningen att behöriga dataskyddsmyndigheter ska involveras i sådant arbete när det gäller tillsyn av personuppgiftsbehandling.

Slutligen, uttrycker EDPB och EDPS oro över förslaget att skjuta upp införandet av centrala bestämmelser för högrisk-AI-system. Med tanke på den snabba utvecklingen inom AI-området uppmanar de medlagstiftarna att överväga om den ursprungliga tidsplanen kan bibehållas för vissa skyldigheter, såsom transparenskrav, och att i möjligaste mån minimera förseningar.