Projekt · Dnr 2025-03066 · Källa: Vinnova

LEAKPRO II: Operativ integritetsriskhantering för AI-system

Koordinator
Lindholmen Science Park AB, AI Sweden
Projekttid
2025-11-10 till 2027-11-10 (beslutat)
Beviljat bidrag
13 787 510 SEK
Diarienummer
2025-03066

Beskrivning

LeakPro är ett ramverk med öppen källkod som utvärderar hur AI-modeller, syntetiska data och federated learning-modeller kan läcka känslig information genom avancerade integritetsattacker. Projektet bygger vidare på detta genom att utöka attackmetoder, lägga till verktyg för skadebedömning och stärka kopplingen till regelverk. Målet är att göra LeakPro till ett tillförlitligt och praktiskt stöd för DPIA-processer och för säker delning av data och modeller i linje med gällande regelverk. Projektet kommer att leverera ett utökat LeakPro-ramverk med bredare täckning av integritetsattacker och verktyg för att bedöma risker för individer. Projektet ger även tydligare kopplingar mellan tekniska resultat och regulatoriska krav, så att organisationer kan genomföra mer objektiva och reproducerbara DPIA-processer. Den förväntade effekten är säkrare och mer medveten delning av data och modeller, starkare efterlevnad av gällande regelverk och ökat förtroende för AI-system över sektorer.

Öppna hos Vinnova

Hittar Vinnova inte sidan? Sök på diarienumret hos Vinnova.

Liknande

  1. Adversarial riskmodellering och optimering för resilient DISAC i 6G

    Chalmers Tekniska Högskola AB · 2026-03-31 · 2 157 000 SEK · Projekt

    Projektets syfte är att utveckla modeller och optimeringsmetoder för att hantera adversariella hot i distribuerade ISAC-system (DISAC) i 6G. Målet är att möjliggöra robusta, säkra och integritetsbevarande lösningar som bibehåller hög prestanda i närvaro av attacker och osäkerheter. Projektet förvänt…

  2. SARDIN - Systemdemo, Analys, Resurseffektivitet, Datadelning, Integritetsskydd, Nyttiggörande

    RISE RESEARCH INSTITUTES OF SWEDEN AB · 2023-11-01 · 9 738 359 SEK · Projekt

    Projektet visade att decentraliserad databehandling är tekniskt möjlig och juridiskt relevant, och kan bidra till att uppfylla integritetskrav inom EHDS. En systemdemonstrator för decentraliserad analys och integritetsskyddande tekniker (PETs) utvecklades. En spelmetodik togs fram som ett effektivt …

  3. SID: Säker datadelning för Industriell Digitalisering

    RISE RESEARCH INSTITUTES OF SWEDEN AB · 2023-11-01 · 6 225 250 SEK · Projekt

    Målet med projektet har varit att studera integritetsbevarande tekniker och möjliggöra för svensk industri att i större utsträckning använda dessa metoder. Projektet har genomfört fallstudier med metoderna differentiell integritet och federerad maskininlärning och analyserat hur väl information skyd…

  4. Eureka ITEA4 BASEECS - Beteendeanalys och simulering för miljömässigt och ekonomiskt hållbara system

    Linköpings universitet · 2026-11-01 · 12 368 619 SEK · Projekt

    Målet är att bygga trovärdiga och verifierbara digitala modeller som kan utvecklas i samma takt som det verkliga cyberfysiska systemet. Den centrala tekniska innovationen ligger i att integrera ingenjörsverktyg från olika discipliner – såsom modellering och simulering, dimensionering av utrustning o…

  5. Samverkansbaserad och integrerad HVB-modell för barn med komplexa behov

    GÖTEBORGS KOMMUN · 2026-10-01 · 500 000 SEK · Projekt

    Projektet syftar till att utveckla en samverkansbaserad HVB-modell för barn 9–12 år med komplexa sociala och psykiatriska vårdbehov. Genom sektorsövergripande samverkan mellan Göteborgs Stad, Västra Götalandsregionen, barnpsykiatri och habilitering ska projektet identifiera och hantera hinder som fö…