CISC

Collaborative Intelligence for Safety Critical systems

Ausgangssituation, Problemstellung und Motivation

Die im April 2019 veröffentlichten Leitlinien der Europäischen Kommission zur Ethik in der künstlichen Intelligenz (KI) erkennen die Bedeutung eines "menschenzentrierten" Ansatzes für KI an, der die europäischen Werte respektiert. Es werden nun dedizierte Ausbildungsprogramme benötigt, um auf die Integration von "menschenzentrierter" KI in die europäische Innovation und Industrie vorzubereiten. KI sollte in der Lage sein, mit Menschen zusammenzuarbeiten (und sie nicht zu ersetzen). Sicherheitskritische Anwendungen von KI-Technologie sind "Human-in-the-Loop"-Szenarien, bei denen KI und Menschen zusammenarbeiten, wie z. B. bei Fertigungsprozessen, IoT-Systemen und kritischen Infrastrukturen. Das Konzept der kollaborativen Intelligenz ist in diesen Szenarien wesentlich. Das CISC EID wird 14 weltweit führende Collaborative Intelligence Scientists für sicherheitskritische Situationen fördern und ausbilden und eine Blaupause für die postgraduale Ausbildung in diesem Bereich liefern. Die Entwicklung von kollaborativen Intelligenzsystemen erfordert eine interdisziplinäre Kompetenz, die Fachwissen aus den Bereichen KI, Human Factors, Neuroergonomie und Systemsicherheitstechnik vereint. Diese interdisziplinären Fähigkeiten werden in traditionellen Ausbildungskursen auf keiner Ebene berücksichtigt. Das CISC-Trainingsprogramm wird Wissenschaftler für kollaborative Intelligenz ausbilden, die über das notwendige Fachwissen und die Fähigkeiten verfügen, um die wichtigsten Aufgaben bei der Entwicklung eines kollaborativen Intelligenzsystems auszuführen: (1) Modellierung der Dynamik des Systemverhaltens für Produktionsprozesse, IoT-Systeme und kritische Infrastrukturen (System Safety Engineering); (2) Entwurf und Implementierung von Prozessen, die in der Lage sind, Interaktionen zwischen automatisierten Systemen und den Menschen, die sie nutzen sollen, zu überwachen (Human Factors/Neuroergonomics); (3) Verwendung von Datenanalyse und KI, um neuartige Human-in-the-Loop-Automatisierungsparadigmen zu schaffen, um die Entscheidungsfindung zu unterstützen und/oder kritische Szenarien zu antizipieren; und (4) Umgang mit den rechtlichen und ethischen Implikationen bei der Verwendung von physiologisch aufzeichnenden, tragbaren Sensoren und menschlichen Leistungsdaten in KI-Algorithmen.

Projektdaten

Projektdauer: 4 Jahre (1 Januar 2021 - 31 Dezember 2024)

Budget: 3.605.667,12€ Gesamtprojektkosten und 3.605.667,12€ Förderungsbetrag

Fördergeber: EC H2020-MSCA-ITN-2020 (Marie Skłodowska-Curie Innovative Training Networks)

Projekthomepage: https://www.ciscproject.eu/

Projektpartner:

  • Technological Universtity Dublin, IR
  • Politecnico di Torino, IT
  • Mbraintrain Doo Beograd-Savski Venac, SRB
  • Universita Degli Studi Di Milano, IT
  • Mathema SRL, IT
  • Fakultet Inzenjerskih Nauka Univerziteta u Kragujevcu, SRB
  • Iris Manufacturing Research Company Limited by Guarantee, IR
  • Iveco, ES
  • European Digital SME Alliance, BE
  • Pilz Ireland Industrial Automation Distribution, IR
  • Adient Interiors D.O.O. Kragujevac, SRB
  • Hugin Expert AS, DE
  • SCCH, AT

Chasparis Georgios

Key Researcher Data Science
Telefon: +43 50 343 857