Projekt · Dnr 2023-03000 · Källa: Vinnova

LEAKPRO: Leakage Profiling and Risk Oversight for Machine Learning Models

Koordinator
Lindholmen Science Park AB, AI Sweden
Projekttid
2023-11-01 till 2025-11-01 (avslutat)
Beviljat bidrag
9 999 968 SEK
Diarienummer
2023-03000

Beskrivning

Projektets mål uppfylldes genom utvecklingen av LeakPro, en open source-mjukvara för att mäta informationsläckage i AI-modeller, syntetiska data och federerad inlärning. Verktyget stödjer flera modaliteter och modellarkitekturer och innehåller metoder som är state of the art LeakPro används nu i Scaleouts erbjudande och har även använts av Syndata i ett samarbete med IMY. Projektet resulterade i fyra publikationer, samarbeten med offentlig sektor och OECD samt utbildning av sju masterstudenter. Projektet förväntas bidra till säkrare och mer tillförlitlig användning av AI genom bättre metoder för att identifiera och mäta läckage av känslig information. LeakPro skapar långsiktig nytta som open source-plattform för forskning, industri och offentlig sektor, och stärker möjligheterna att utveckla AI-system som uppfyller krav på integritet, säkerhet och regelefterlevnad. Projektet bidrar även till fortsatt kompetensuppbyggnad och internationella samarbeten inom området.

Öppna hos Vinnova

Hittar Vinnova inte sidan? Sök på diarienumret hos Vinnova.

Liknande

  1. Utveckling av Avancerade AI- och Deep Learning-metoder för säkerhets korrigeringar

    Högskolan i Halmstad · 2024-10-01 · 130 511 SEK · Projekt

    Huvudsyftet med detta projekt var att utveckla robusta modeller som kan identifiera och förutsäga sårbarheter i öppen källkodsprogramvara. Forskaren utvecklade ett system för sårbarhetsförutsägelse baserat på tillämpning av avancerad AI-teknik. I detta samarbete uppnådde projektet lovande prestanda …

  2. Enabling Near-Patient Drug Discovery and Development

    Karolinska Institutet · 2023-02-28 · 17 060 585 SEK · Projekt

    Projektet har i huvudsak uppfyllt de mål som sattes från start. Vi har utvecklat och demonstrerat miniatyriserade, patientnära 3D-modeller i industriellt relevanta miljöer och visat att höginnehållsanalys kan användas i stor skala. Utöver planerade mål har projektet genererat stora, öppna dataset, n…

  3. EMDAI: Maskininlärningsbaserat beslutsstöd vid Sjukvårdens Larmcentral

    Akademiska Sjukhuset · 2017-10-01 · 3 136 802 SEK · Projekt

    Projektet har uppfyllt målen att utveckla och validera maskininlärningsmodeller för bruk vid Sjukvårdens Larmcentral, att utveckla ett mjukvarupaket med öppen källkod för att implementera de framtagna modellerna, samt att integrera dessa i ett användargränssnitt i utlarmningssystemet. För att komma …

  4. Internationellt utbyte inom Prediktiv Quality of Service för Trådlös Kommunikation

    Ericsson AB · 2024-11-22 · 400 000 SEK · Projekt

    Projektet uppfyllde målen genom att industridoktorand Oscar Stenhammar genomfört en sex månader lång utbytestermin vid NYU för att bedriva forskning kring prediktiva QoS-modeller för framtida 6G-system. Resultaten har dokumenterats i planerade vetenskapliga publikationer, som kommer ge nya insikter …

  5. A Design Framework for Women-Centered Mobility Hub

    Living Cities and Communities Digrans AB · 2023-08-15 · 952 335 SEK · Projekt

    Projektet uppfyllde målen och gav följande resultat: • A Design Framework for Women and Caregivers Centred Mobility Hubs, publicerad i form av ett open-source slide deck • En "think piece" om utmaningar, behov och möjligheter utifrån intressenter och intressegrupper som representerar användare • En …