Projekt · Dnr 2026-01570 · Källa: Vinnova

SAFE-CARE: Säkra Agent-ramverk och kodbaser genom AI-driven Red-Teaming miljöer

Koordinator
Lindholmen Science Park AB, AI Sweden
Projekttid
2026-07-01 till 2027-06-30 (beslutat)
Beviljat bidrag
1 000 000 SEK
Diarienummer
2026-01570

Beskrivning

SAFE-CARE är ett bilateralt innovationssamarbete Sverige–USA som syftar till att utveckla ett modulärt ramverk för AI-driven säkerhetsbedömning av kritisk programvara och agentiska AI-system. Projektet möter ett akut behov: proaktivt identifiera sårbarheter innan angripare utnyttjar samma generativa AI. Via två spår—AI-SAST i CI/CD och adversariell red-teaming av vårdassistenter—levererar vi validerade proof-of-concept, en säkerhetsguide och återanvändbara komponenter för svenska aktörer. Projektet levererar två validerade proof-of-concept: en AI-SAST-pipeline i CI/CD och en red-teaming-miljö för agentiska vårdassistenter. Resultatet inkluderar en säkerhetsguide, återanvändbara sandboxarkitekturer och öppen källkod där det är möjligt. Effekten blir minskade falska larm, verifierade sårbarheter utöver baslinjeverktyg och praktisk vägledning för svenska företag och offentlig sektor att bedöma AI-relaterad cybersäkerhetsrisk och stärka långsiktigt Sverige–USA-samarbete.

Öppna hos Vinnova

Hittar Vinnova inte sidan? Sök på diarienumret hos Vinnova.

Liknande

  1. ECSEL 2019 RIA VALUE3S

    RISE RESEARCH INSTITUTES OF SWEDEN AB · 2020-05-01 · 26 841 925 SEK · Projekt

    Projektmål: Utveckla ett ramverk för verifiering och validering (V&V). Övervinna begränsningarna för säkerhet, cybersäkerhet och privacy (SCP) för cyberfysiska system. Presentera ett generiskt V&V-arbetsflöde. Demonstrera användbarheten av det föreslagna ramverket genom realistiska piloter. Föreslå …

  2. Framework Study - League of International Testbeds

    SCANDINAVIAN CLEAN TECHNOLOGIES GROUP AB · 2020-11-11 · 200 000 SEK · Projekt

    Projektets syfte och mål var att, i en förstudie, etablera ett ramverk för testbäddssamarbete mellan SE och NL, för lärande och synergier, samt utveckla en struktur för en marknadsplats för testbäddar i ett europeiskt perspektiv. Ett sådant ramverk i form av en förstudie avseende de olika systemen i…

  3. OSIC: Ontology-driven Sustainable Industry Commons

    Industry Commons Foundation (insamlingsstiftelse) · 2021-07-12 · 300 000 SEK · Projekt

    OSIC -projektet var ett framgångsrikt samarbete mellan tre svenska partners: Industry Commons Foundation, Chalmers University of Technology och NCC, med ett syfte att skapa ett koncept, sätta ihop ett konsortium, designa en svensk industripilot och skriva ett framgångsrikt förslag för att kalla HORI…

  4. DEEPTECH Data-driven and Emerging Production Technologies for Circular Factories

    Kungliga Tekniska högskolan · 2025-11-01 · 1 500 000 SEK · Projekt

    DEEPTECH utgick ifrån en innovationsbaserad vision där Sverige är världsledande inom material- och produktionsteknologier för cirkularitet – inom de datadrivna och framväxande produktionstekniker som gör att cirkulära fabriker fungerar i industriell skala. Visionen formulerades utifrån den första Vi…

  5. Ramverk för Hållbar AI

    AI Sustainability Center Stockholm AB · 2019-05-02 · 10 000 000 SEK · Projekt

    Målet för projektet är att skapa förutsättningar, med ett kunskapsuppbyggt ramverk (innovationen), för organisationer att omfamna AI på ett etiskt ansvarsfullt sätt. Det väntas stärka svensk konkurrenskraft. Med samverkanspartners har innovationen utvecklats och testats. Centret har expanderat med e…