Hoppa till innehåll på sidan
IMY-bloggen

Frågor och svar om regulatorisk testverksamhet

Publicerad: 17 mars 2023
Sedan hösten 2022 har IMY tillsammans med Region Halland, Sahlgrenska Universitetssjukhuset och AI Sweden arbetat med ett pilotprojekt med regulatorisk testverksamhet. Pilotprojektet, som har handlat om federerad maskininlärning mellan två vårdgivare, är nu avslutat. Projektets slutsatser redovisas i en rapport som IMY presenterade vid ett webbinarium den 15 mars. Här besvarar vi de frågor som kom in under webbinariet.

 

Frågor om regulatorisk testverksamhet som arbetssätt

Grundtanken med IMY:s regulatoriska testverksamhet är att tillsynsmyndigheten ger utforskande, dialogbaserad vägledning på dataskyddsområdet till utvalda innovationsprojekt i utbyte mot att arbetet sammanfattas i en publik rapport som möjliggör lärande för fler. Därmed utvecklas praktiska exempel inom områden där både tekniken och juridiken är komplicerad, relativt ny och oprövad. Samtidigt bidrar arbetssättet till att öka IMY:s förståelse för ny teknik och hur den kan tillämpas.

IMY kan inte ge dispens från gällande regelverk, utan dataskyddsförordningen och annan dataskyddslagstiftning gäller fullt ut. Begreppet ”test” avser här att innovationsaktörer ges möjlighet att testa sina idéer och resonemang i nära dialog med oss som tillsynsmyndighet. Det kan vara ett sätt att snabba på en innovationsprocess och minska riskerna.

ICO i Storbritannien, CNIL i Frankrike och Datatilsynet i Norge genomför sedan ett par år tillbaka också regulatoriska testverksamheter där vägledning ges om tillämpliga dataskyddsregler.

En förutsättning för att få delta i ett av IMY:s projekt om regulatoriska testverksamhet är att den behandling av personuppgifter som ska vara föremål för testverksamheten inte redan har påbörjats. IMY kan aldrig lämna garantier om att ett visst projekt, en viss verksamhet eller en viss teknik inte kommer att bli föremål för tillsyn i framtiden. Men vi går inte in i en regulatorisk testverksamhet med intentionen att använda våra korrigerande befogenheter, utan med avsikten att ge vägledning.

En skillnad mot ett tillsynsärende är att IMY på förhand, tillsammans med övriga projektdeltagare, kommer överens om vilka frågor som testverksamheten ska fokusera på. I en tillsyn har tillsynsobjektet inte någon möjlighet att påverka vilka frågor som IMY ska granska. En annan skillnad är att IMY inte lämnar bindande besked i en regulatorisk testverksamhet, utan enbart ger vägledning.

IMY har haft ett team om cirka fem personer som på olika sätt deltagit i arbetet på deltid. I teamet har det funnits jurister, it- och informationssäkerhetsspecialister och projektledningskompetens.

Det är ett förhållandevis resursintensivt arbetssätt, men ungefär jämförbart med ett större tillsynsärende. Som jämförelse kan nämnas att Datatilsynet i Norge har mellan 7 och 9 miljoner norska kronor i årlig riktad finansiering för att driva sin regulatoriska testverksamhet.

En av förutsättningarna för att delta i IMY:s regulatoriska testverksamhet är att verksamheten kan godta att arbetet mynnar ut i en publik rapport. Att sprida kunskaper, lärdomar och bedömningar till så många som möjligt är en av grundtankarna bakom den regulatoriska testverksamheten.

Ja, i pilotprojektet har både Region Halland, Sahlgrenska Universitetssjukhuset och AI Sweden haft jurister som deltagit i projektet.

 

Frågor om pilotprojektet med federerad maskininlärning mellan två vårdgivare

Många av de bestämmelser som behandlas i slutrapporten kan också tillämpas av privata vårdgivare, till exempel att viss personuppgiftsbehandling kan ske med stöd av den rättsliga grunden uppgift av allmänt intresse enligt artikel 6.1 e i dataskyddsförordningen och att vissa känsliga personuppgifter, under vissa förutsättningar, kan behandlas med stöd av undantagsbestämmelsen i artikel 9.2 h i förordningen. Vad däremot gäller resonemanget som förs i slutrapporten avseende 6 kap. 5 § offentlighets- och sekretesslagen (se sidan 22 i slutrapporten) är det en bestämmelse som endast kan tillämpas av myndigheter och inte privata vårdgivare.

Nej, ingen av de deltagande parterna, dvs. Region Halland och Sahlgrenska Universitetssjukhuset, har själva testat att utföra några attacker mot maskininlärningsmodellerna. Däremot visar forskning inom detta område på att man genom attackmetoderna Membership Inference Attack och Model Inversion Attack skulle kunna återidentifiera eller återskapa personuppgifter som funnits i data som använts i träningen av en maskininlärningsmodell.

Huvudregeln enligt artikel 9.1 i dataskyddsförordningen är att det är förbjudet att behandla känsliga personuppgifter som till exempel uppgifter om hälsa. Personuppgifter om patienter inom hälso- och sjukvården utgör typiskt sett känsliga personuppgifter.

IMY:s bedömning i pilotprojektet har varit att undantaget som följer av artikel 9.2 h i dataskyddsförordningen kan vara tillämpligt. Det bör noteras att även artikel 9.3 i dataskyddsförordningen och 2 kap. 7 a § patientdatalagen måste iakttas. Ett mer utförligt resonemang avseende frågan om behandling av känsliga personuppgifter finns i slutrapporten (se bland annat sidorna 12 och 15 i slutrapporten).

Ja, om en myndighet vill få tillgång till uppgifter från en annan myndighet med stöd av 6 kap. 5 § offentlighets- och sekretesslagen är det en förutsättning att myndigheten begär ut sådana uppgifter från den andra myndigheten. Sådana uppgifter ska då lämnas ut förutsatt att uppgifterna inte är sekretessbelagda eller om det skulle hindra arbetets behöriga gång.

När man utvecklar maskininlärningsmodeller är eventuell bias alltid något som man behöver ta med i beaktande, särskilt inom hälso- och sjukvården. En åtgärd för att minska risken för bias i maskininlärningsmodeller är att se till att man har tillräckligt mycket och varierad träningsdata.

Genom att använda federerad träning skulle de deltagande parterna, inom ramen för detta projekt, kunna träna maskininlärningsmodellerna på en större mängd data som förmodligen också kommer från en mer varierad population. De deltagande parternas simulerade experiment visade på att detta skulle kunna ge mindre bias i maskininlärningsmodellerna.

 

Senast uppdaterad: 29 mars 2023
Senast uppdaterad: 29 mars 2023