KI-SIGS

KI Space für intelligente Gesundheitssysteme

Primäres Ziel des österreichischen Teilprojektes PETAI (Privacy Secured Explainable and Transferable AI for Healthcare Systems) ist, das geplante KI-Ökosystem „KI-SIGS“ für den Gesundheitsbereich durch Cybersecurity-Funktionalitäten zu ergänzen, um die Vertraulichkeit von sensiblen Daten im Sinne des Datenschutzes zu gewährleisten. Dabei wird ein neuartiges informations-theoretisches Konzept entwickelt, das es ermöglicht, den etwaigen Informationsverlust sowie eine einhergehende Beeinträchtigung der Erklärbarkeit und Transparenz von Ergebnissen von KI-Modellen durch Datenschutzmaßnahmen wie Differential Privacy und Information-Theoretic Privacy zu quantifizieren.

Zielsetzung

Das Projektziel ist die Entwicklung eines neuartigen informations-theoretischen Frameworks zur Untersuchung und Optimierung des Gegensatzes zwischen Privatsphäre und Erklärbarkeit von Algorithmen für maschinelles Lernen im Zusammenhang mit Gesundheitsdaten.

Innovation

Die Innovation besteht in der Entwicklung eines informationstheoretischen Maßes, um beide Aspekte, Datenschutz im Sinne von Vertraulichkeit und Erklärbarkeit, zu quantifizieren. Dabei werden relevante Themen für den Einsatz von KI Modellen im Gesundheitswesen behandelt, die über den Stand der Technik hinausgehen: 

  • Wie kann die informationelle Privatsphäre optimiert werden, wenn die statistische Verteilung der Daten unbekannt ist?
  • Wie kann die Erklärbarkeit eines maschinellen/tiefen Lernmodells quantifiziert werden?
  • Wie kann das Zusammenspiel zwischen Privatsphäre, Erklärbarkeit und Nutzen untersucht werden?
  • Wie untersucht man die Auswirkung der Wahrung der Privatsphäre auf die Übertragbarkeit von Wissen aus einem Bereich in einen anderen verwandten Bereich?

Ergebnis

Das Ergebnis ist ein Software-Framework, das den Entwurf und die Analyse von KI-Modellen hinsichtlich Wahrung von Vertraulichkeit unterstützt und so die Grundlage für neue Standards und Best-Practices im Umgang mit Gesundheitsdaten und darauf beruhender KI Modelle schafft.

Projektpartner

Das Projektkonsortium erfüllt alle erforderlichen wissenschaftlichen & technologischen Kompetenzen durch die Projektpartner. Es erfolgt u.a. eine Kollaboration von norddeutschen KI-Instituten in Bremen, Hamburg und Schleswig-Holstein zusammen mit medizintechnischen Unternehmen und Partnern der Universitätskliniken.

Fördergeber

Das Projekt wird im Programm IKT der Zukunft vom Bundesministerium für Klimaschutz, Umwelt, Energie, Mobilität, Innovation und Technologie (BMK) gefördert.

          

Weitere Informationen

Mehr Informationen auf der Projektwebsite

 

 

Fischer Lukas

Research Manager Data Science
Telefon: +43 50 343 828