MONTE

FFG COMET, 2023 – 2026

Runtime monitoring and self-testing

Kontext und Motivation

Die zunehmende Komplexität und Heterogenität sowie die Dynamik der Systemevolution bringen die Fähigkeit, die Qualität von Systemen ausreichend zu sichern, an ihre Grenzen. Für die Qualitätssicherung von Softwaresystemen ist das Testen einer der bekanntesten und am weitesten verbreiteten Ansätze.

Vollständige Tests sind jedoch praktisch unmöglich und stehen in der Praxis im Widerspruch zu der Erwartung, kontinuierlich funktionale Erweiterungen in schnellen Zyklen zu liefern. Darüber hinaus ist es bei sich dynamisch entwickelnden Systemen eine große Herausforderung, angemessene Annahmen darüber zu treffen, wie die Systeme nach der Freigabe tatsächlich genutzt werden. Dies gilt insbesondere für KI-basierte Systeme, bei denen sich das Verhalten des Systems ändert, wenn sich die Umgebungsbedingungen ändern und neue Daten im Betrieb verfügbar werden.

Daher zielt dieses Projekt darauf ab, Laufzeitinformationen aus solchen komplexen Systemen im Betrieb für die Verbesserung und Anpassung von Software-Qualitätssicherungsmaßnahmen zu nutzen.

Erwartete Ergebnisse

  • Wir werden Unterstützung für das Monitoring komplexer, heterogener Systeme auf der Grundlage bestehender Lösungen bieten.
  • Es wird eine prototypische Implementierung eines Frameworks für Selbsttests entwickelt, das als Grundlage für erweiterte Experimente zur Erkennung von Systemanomalien in realen Anwendungsfällen verwendet werden kann.
  • Es werden neue Benchmarks und verbesserte Metriken zur Bewertung der Qualität der bestehenden Tests untersucht und bewertet, die die gesammelten Daten des realen Systembetriebs besser berücksichtigen sollen.
  • Es ist geplant, neue Werkzeugprototypen und Prozessunterstützung für die Testverstärkung zu implementieren, um die Tests vor der Freigabe zu verbessern, indem echte operative Datensätze verwendet werden

Fördergeber

Das Projekt wird im Rahmen von COMET – Competence Centers for Excellent Technologies durch BMK, BMAW, Land Oberösterreich und den wissenschaftlichen Partnern des SCCH gefördert. Das Programm COMET wird durch die FFG abgewickelt.

Klammer Claus

Senior Research Project Manager Software Science
Research Team Lead Automated Software Testing and Quality Assurance