INTES – strategisches Projekt

Kontext und Motivation

Der rasante technologische Fortschritt in der Informatik im Allgemeinen und in jüngster Zeit auch in der KI hat nie dagewesene Möglichkeiten für die Digitalisierung unserer Welt geschaffen. Allerdings sind nicht alle Möglichkeiten, die technisch machbar sind, auch für die Nutzer akzeptabel und stehen im Einklang mit wichtigeren Werten unserer Gesellschaft und Umwelt.

Auf einer abstrakten Ebene bestimmt die Abstimmung einer digitalen Lösung, die in der Regel auf Software und KI-Technologien basiert, auf die Bedürfnisse und Erwartungen ihrer Nutzer und Interessengruppen ihre Gesamtqualität. Unser Ziel ist es daher, Systeme zu entwickeln, die Standards und Vorschriften (als allgemein vereinbarte Mindestvoraussetzungen für die Systemakzeptanz) einhalten, funktionale und nichtfunktionale Anforderungen erfüllen, die für den beabsichtigten Bereich und die betroffenen Parteien geeignet sind, und den Nutzer*innen und Interessengruppen einen klaren Nutzen bieten. Zu den Vorteilen gehören auch Beiträge zu den UN-Zielen für nachhaltige Entwicklung (SDGs), wie z. B. AI for Good.

Daher reicht es in unserem geplanten integrierten Software- und KI-Engineering-Zyklus nicht aus, technische Spezifikationen und Qualitätsaspekte zu berücksichtigen, sondern wir müssen einen ganzheitlicheren Blick auf die Qualität werfen. Eine solche Sichtweise wird unter anderem eine kontinuierliche Überwachung und Prüfung bei der Entwicklung und Weiterentwicklung künftiger Systeme beinhalten.

Es sind noch eingehende Forschungsarbeiten erforderlich, um die offenen Fragen im Zusammenhang mit den wichtigsten Qualitätsdimensionen zu klären, die Voraussetzung für eine angemessene Abdeckung durch Überwachungs- und Testkonzepte sind. Dazu gehören (1) Sicherheit und Integrität in datenzentrierten Lösungen, (2) Schutz des in Softwareprogrammen und KI-Modellen kodierten geistigen Eigentums, (3) Risiken durch die Anwendung neuer KI-gesteuerter Technologien sowie (4) Energie- und Ressourceneffizienz beim Aufbau und Betrieb künftiger Software und KI-Systeme.

Derzeit gibt es keinen umfassenden Rahmen, der die verschiedenen Qualitätsaspekte und -merkmale strukturieren und die laufenden und interagierenden Entwicklungen entlang verschiedener Qualitätsdimensionen erfassen kann.

Ziele

Das Gesamtziel dieses strategischen Projekts besteht darin, ein integriertes Tool-Ökosystem aufzubauen, das die Qualitätssicherung in einem breiten und ganzheitlichen Sinne unterstützt, der von technischen Eigenschaften bis hin zu Qualitätsaspekten reicht, die die menschlichen Nutzer*innen sowie die Gesellschaft und die Umwelt als allgemeine Interessengruppen betreffen. Dieses Ziel wird in den folgenden Unterzielen zusammengefasst:

• Entwurf und Architektur eines integrierten Werkzeug-Ökosystems. Wir wollen eine offene und erweiterbare Architektur entwerfen, die Ergebnisse wie Methoden, Techniken und Werkzeuge integrieren kann, die in verschiedenen Projekten des gesamten Forschungsprogramms des Zentrums entwickelt wurden. Dadurch erhalten wir ein vereinheitlichendes Ökosystem, das die Qualitätssicherung über den gesamten Software- und KI-Engineering-Zyklus hinweg unterstützt und die gezielte Integration von Funktionalitäten und Bausteinen aus unseren Forschungsbereichen erleichtert.
• Wissensgrafik zu Qualitätsaspekten, Normen und Vorschriften. Um die Qualitätssicherung in Angriff zu nehmen, muss das Ökosystem durch Wissen über Qualitätskriterien, ihre Relevanz im Kontext, ihre Zuordnung zu Standards und Vorschriften und darüber, wie diese gemessen, überwacht und sichergestellt werden können, ergänzt werden. Um die Herausforderungen bei der Erfassung und Modellierung des komplexen und inhärent unstrukturierten Wissens in diesem Bereich zu bewältigen, werden wir auf Ansätze wie Wissensgraphen (KGs) zurückgreifen. KGs bieten eine vielseitige Lösung für die Modellierung von Wissen und unterstützen gleichzeitig KI- und Software-Engineering-Methoden.
• Kontinuierliche Überwachung, Prüfung und Diagnose. Wir planen die Entwicklung eines Rahmens für die Selbstüberwachung und Selbstdiagnose von Produkten und Prozessen sowie einer Empfehlungsmaschine zur Bewertung der Konformität mit Qualitätsanforderungen, Normen und Vorschriften. Das erwartete Ergebnis umfasst Cloud-basierte Dienste, die in unsere Projekte integriert und von anderen Akteuren (z. B. von wissenschaftlichen und assoziierten Partner*innen bis hin zu europäischen Initiativen im Rahmen von AI4EU und GAIA-X) genutzt werden können, um Lösungen für ein breites Spektrum an gesellschaftlichen und ökologischen Fragen zu realisieren.

Erwartete Ergebnisse

• Offene und erweiterbare Architektur für ein vereinheitlichendes Tool-Ökosystem zur Integration und Beherbergung von Methoden, Techniken und Tools, die aus allen unseren Forschungsprojekten innerhalb des Zentrums stammen.
• Knowledge Graphs und Unterstützung für die Kodierung von komplexem, zusammenhängendem Wissen über Qualitätsanforderungen, Normen, Vorschriften, Politik und Richtlinien.
• Konzepte und prototypische Implementierung eines Frameworks für die kontinuierliche Überwachung und Konformitätsprüfung von Software und KI-basierten Systemen und deren Entwicklungsprozessen.
• Proof of Concept anhand ausgewählter Referenzprobleme, z. B. aus den Bereichen KI-Regulierung und Green IT/AI, die auch Anwendungsfälle aus dem Forschungsprogramm des Zentrums betreffen.
• Dissemination durch Cloud-basierten Diensten und Beitrag zu Ergebnissen im Rahmen von europäischen Projekten und Initiativen.

Fördergeber

Das Projekt wird im Rahmen von COMET – Competence Centers for Excellent Technologies durch BMK, BMAW, Land Oberösterreich und den wissenschaftlichen Partnern des SCCH gefördert. Das Programm COMET wird durch die FFG abgewickelt.