Forskarhearing gav kunskap om generativa språkmodeller och integritetsfrämjande teknik

Integritetsskyddsmyndigheten (IMY) arbetar sedan 2021 med att ge vägledning till innovationsaktörer. En viktig del i det arbetet är att hålla oss och vårt nätverk ajour om aktuell forskning, pågående trender och nya företeelser inom teknik och integritet. Förra veckan genomförde vi en forskarhearing med två forskare från AI Sweden. Ungefär 50 personer lyssnade till deras presentationer på temat framtidsspaningar.

Språkmodeller – hur blir de till?

På hearingen fick vi höra om arbetet bakom språkmodellen GPT-SW3, en generativ språkmodell för de nordiska språken. Språkmodeller är inget nytt, men på senare tid har de blivit betydligt mer kraftfulla. Det finns flera oklarheter om vilken data som många av de stora generativa språkmodellerna som finns idag har tränats på. I ett försök att skapa en språkmodell med transparens och självständighet har AI Sweden tillsammans med ett antal partners arbetat med att ta fram GPT-SW3.

En språkmodell är en modell som kan tyda språk. Tjänster, så som chatbottar, kan dessutom ta instruktioner och utföra uppmaningar utifrån användarens önskemål. Språkmodellerna är begränsade till språk, men arbete pågår med liknande modeller för att kunna förstå bild och ljud. På så sätt kommer modellerna närmre det som kallas AGI, artificiell generell intelligens, även om det fortfarande är en bit kvar till dess.

AI som verktyg och skyddet för integritet

En devis för IMY är att ansvarsfull och hållbar innovation bygger in ett effektivt dataskydd från början. Vi är övertygade om att det går att främja innovation och tillväxt och samtidigt värna ett starkt integritetsskydd. Från IMY:s sida talar vi ofta om inbyggt dataskydd och dataskydd som standard. Detta är grundläggande krav som finns i dataskyddsförordningen (GDPR).

Den andra forskaren berättade om utmaningar när det kommer till att respektera integritet och samtidigt hålla en hög utvecklingstakt och hur detta kan hanteras. Hans presentation om integritetsfrämjande teknik handlade om hur integritet kan respekteras vid användning av AI. Bland annat talade forskaren om metoden federerad maskininlärning, vilket också var i fokus för IMY:s första pilotprojekt med regulatorisk testverksamhet.

Andra saker som berördes under presentationen var hur federering kan kombineras med integritetsstärkande tekniker som differential privacy (ett sätt att lägga till ”brus” i den analyserade datan för att göra det svårare att identifiera enskilda datapunkter) och secure aggregation (en metod för att inte dela all data utan endast aggregerade beräkningar). Inom dessa områden sker just nu mycket forskning.

Carin Sundhage, analytiker vid IMY:s innovationshubb
Per Nydén, jurist vid IMY:s innovationshubb