S3AI

Security and Safety for Shared Artificial Intelligence

Ausgangssituation

S3AI wird die Grundlagen für den Aufbau sicherer kollaborativer künstlicher Intelligenzsysteme schaffen: Methoden zur Wahrung der Privatsphäre, Schutz vor feindlichen Angriffen und Garantien für das beabsichtigte Verhalten des Systems.

Ziele und anvisierte technologische Entwicklungen

Der Ansatz basiert auf Methoden des Transfer Learning sowie der algebraischen Geometrie unter Ausnutzung geometrischer Strukturen im Inputraum, die durch Deep-Learning-Modelle induziert werden. Als Ergebnis erwarten wir theoretische Frameworks und Analysewerkzeuge an der Schnittstelle von Mathematik, Deep Learning und Informationssicherheit bezüglich

  • neuer DNN-Architekturen und damit zusammenhängender Lernstrategien zur Wahrung der Privatsphäre,
  • neuer Abwehrstrategien gegen gegnerische Angriffe und
  • neuer Methoden zur Beurteilung der Vertrauenswürdigkeit.

Kurzbeschreibung

Derzeit zeichnet sich ein Paradigmenwechsel in der künstlichen Intelligenz (KI) ab, um die Wiederverwendbarkeit von Deep Machine Learning Artefakten zu unterstützen und leistungsfähige kollaborative KI-Ökosysteme aufzubauen. Diese Entwicklung markiert den innovativen Wandel von der Datenfreigabe hin zur gemeinsamen Nutzung der verborgenen verteilten Repräsentation in Deep Learning Modellen. Diese Entwicklung hat vielfältige Auswirkungen auf die Nutzbarmachung von KI-Anwendungen und darauf beruhenden Geschäftsmodellen, insbesondere im Hinblick auf die Senkung der Entwicklungskosten durch die Wiederverwendung vorgefertigter Modelle und die Einsparung von Datenerfassungsaufwand.

Der noch weitreichendere Effekt ergibt sich jedoch aus der Erschließung von noch ungenützten Möglichkeiten für das Maschinelle Lernen aus Daten über Unternehmensgrenzen hinweg. Diese Möglichkeiten betreffen die Überwindung von Einschränkungen bei der Verfügbarkeit von annotierten Daten für qualitativ hochwertige, maßgeschneiderte Services oder etwa die Erschließung neuer innovativer Wege für kollaborative, KI-basierte Geschäftsmodelle zwischen Akteuren in einem sich formierenden Daten Markt.

Andererseits stellt diese aufkommende Technologie jedoch vor allem im Bereich der Sicherheit neue Herausforderungen. Als zentrale wissenschaftlich-technische Herausforderungen konzentriert sich S3AI daher auf Methoden zur Wahrung der Privatsphäre (privacy), zum Schutz vor feindlichen Angriffen durch Manipulation von Eingangsdaten (integrity) und zur Beurteilung (trust), ob bzw. inwieweit das KI-System das gewünschte Verhalten realisiert.

S3AI verfolgt einen “Sicherheit durch Design”-Ansatz gemäß dem Prinzip, dass diese Sicherheitsaspekte bereits in der Modell-Architektur berücksichtigt sein müssen. Wir werden dabei neuartige Modellarchitekturen entwickeln, die auf verteiltem Deep Transfer Learning basieren und mathematische Konzepte aus der algebraischen Geometrie und Regularisierung nutzen. In diesem Zusammenhang behandelt S3AI folgende Aspekte:

  • Varianten von Informationssicherheit: Grad der Wahrung der Privatsphäre und damit verbundene Anforderungen an die Informationssicherheit;
  • Varianten von Information Sharing: Daten Sharing (kein Modell), Representation Sharing (Teilmodell) und Modell Sharing (Vollmodell);
  • Varianten von Ausgangssituationen und Lernbedingungen wie Domain Adaptation, Multi-Task-Lernen, Multi-View-Lernen (Information Fusion);
  • verschiedene Klassen von Modellen und Anwendungen für Deep Learning.

Im Rahmen von S3AI wird das Software Competence Center Hagenberg (SCCH) mit renommierten nationalen und internationalen wissenschaftlichen Partnern zusammenarbeiten. Das Konsortium wird von Unternehmenspartnern aus verschiedenen Industriebereichen (Fertigung, Mobilität, Automatisierung, Datenanalyse, Toolanbieter, ...) ergänzt, was das hohe industrielle Interesse und die Relevanz der in S3AI behandelten Themen unterstreicht.

Partner

Wissenschaftliche Partner

  • Radon Institute of Computational and Applied Mathematics (RICAM) of Austrian Academy of Sciences
  • Research Institute for Symbolic Computation (RISC) at JKU (Linz)
  • Institute for Machine Learning at JKU (Linz)
  • Pattern Recognition and Applications Lab of University of Cagliari (Italien)
  • Dept. Elektrotechniek-ESAT/COSIC of the University of Leuven (Belgien)

Unternehmenspartner

  • kpibench GmbH
  • RUBBLE MASTER HMH GmbH
  • KTM
  • AVI Systems GmbH
  • PKE Holding AG
  • TissueGnostics GmbH

Projektdauer

01.01.2020 - 31.12.2023

Fördergeber

Das Projekt wird im Rahmen von COMET, Programmlinie Module, gefördert.

Kontakt

Bernhard A. Moser

Moser Bernhard A.

Research Director
Telefon: +43 50 343 833

Volkmar Wieser

Wieser Volkmar

Researcher Knowledge-Based Vision Systems
Telefon: +43 50 343 844

Werner Zellinger

Zellinger Werner

Researcher Knowledge-Based Vision Systems
Telefon: +43 50 343 867

zurück