AI-Cert B

Kontext und Motivation

Das Projekt "AI Engineering & Certification Center", geleitet vom SCCH, ist eine zentrale Initiative in der oberösterreichischen Strategie #upperVISION2030 für die digitale Transformation. Es zielt darauf ab, Oberösterreich als führendes europäisches Zentrum für die Zertifizierung von KI und die Entwicklung zertifizierbarer KI-Technologien zu etablieren. Das Projekt ist eine gemeinschaftliche Anstrengung, die auf den Beiträgen mehrerer Forschungsinstitutionen und lokaler Unternehmen beruht. Die Vision des Projekts umfasst die gründliche Bewertung von KI-Anwendungendurch Tests und Analysen, um die Einhaltung geltender Rechtsvorschriften und ethischer Standards sicherzustellen. Zusätzlich strebt es an, die Formulierung europäischer Regulierungs- und Standardisierungsbemühungen in der KI maßgeblich zu beeinflussen.

Zielsetzung

Das Projekt umfasst folgende Ziele:

• Forschung und Entwicklung: Fokussierung auf neue Testmethoden und zertifizierbare Maschinenlernmodelle.
• Normung: Erstellung von Standards für KI/ML-Systeme und Prüfmodelle.
• Einflussnahme auf die Regulierung: Mitarbeit in Standardisierungsgremien und Arbeitsgruppen für den ethischen Einsatz von KI/ML.

Projektdaten

Projektlaufzeit: 01.12.2022 – 30.11.2026
Fördergeber: Das Projekt wird im Rahmen der #upperVISION2030 durch das Land Oberösterreich gefördert.

Forschungsschwerpunkte

• KI-Kompetenz im Sinne von Artikel 4 KI-Gesetz

Gemäß Artikel 4 des Gesetzes über Künstliche Intelligenz (KI-Gesetz) sind Anbieter und Betreiber von KI-Systemen verpflichtet, bei der Entwicklung und dem Betrieb von KI-Systemen eine ausreichende KI-Kompetenz sicherzustellen. Unternehmen müssen daher frühzeitig – spätestens jedoch beim Einsatz solcher KI-Systeme – eine innerbetriebliche Strategie zur Entwicklung und Dokumentation von KI-Kompetenz erarbeiten, um den gesetzlichen Anforderungen gerecht zu werden. Die Roadmap zur KI-Kompetenz finden Sie hier.

• Drei-Faktoren-Ansatz zur Definition von KI-Systemen

Die Definition von KI-Systemen gemäß Artikel 3 Absatz 1 KI-Gesetz ist eine der umstrittensten Bestimmungen des KI-Gesetzes. European Law Institute hat eine Stellungnahme zu den Leitlinien der Kommission zur Definition von KI-Systemen und der im KI-Gesetz festgelegten verbotenen KI-Praktiken erstellt. Die Leitlinien wurden von Dr. Bernhard Nessler und Prof. Christiane Wendehorst verfasst. Die Stellungnahme untersucht kritisch die technischen und rechtlichen Unklarheiten der Definition und schlägt einen systematischen Drei-Faktoren-Ansatz zur Abgrenzung von KI-Systemen im Sinne des KI-Gesetzes vor. Die Stellungnahme ist hier verfügbar.

• Functional Trustworthiness

Das Konzept „functional trustworthiness“ entstand aus der Besorgnis um die Sicherheit, Gesundheit und Grundrechte der europäischen Bürgerinnen und Bürger aufgrund unzureichender Maßnahmen und Verfahren, die das EU-KI-Gesetz zur Konformitätsbewertung von KI-Systemen vorschreibt. Functional trustworthiness eines KI-Systems beruht auf korrekten statistischen Tests an zufällig ausgewählten Stichproben und auf der Präzision der Definition des Anwendungsbereichs, die die Stichprobenziehung ermöglicht. Die drei notwendigen Elemente für eine zuverlässige functional trustworthiness sind (1) die Definition der technischen Verteilung der Anwendung, (2) die risikobasierten Mindestleistungsanforderungen und (3) statistisch valide Tests auf Basis unabhängiger Zufallsstichproben. Die vollständige Forschungsarbeit zu functional trustworthiness finden Sie hier.

• Stochastic application domain definition

Gemäß Artikel 10 Absatz 3 des KI-Gesetzes, „Die Trainings-, Validierungs- und Testdatensätze müssen im Hinblick auf die Zweckbestimmung relevant, hinreichend repräsentativ und so weit wie möglich fehlerfrei und vollständig sein.“ Um dieser Anforderung gerecht zu werden, wurde stochastic application domain definition (SADD) als grundlegendes Element der Zertifizierung von functional trustworthiness von KI-Systemen entwickelt. Die SADD wurde der wissenschaftlichen Gemeinschaft auf dem Austrian Symposium on AI, Robotics, and Vision 2026 vorgestellt.

• Vorgeschlagene Änderungen des Digital Omnibus

Im November 2025 schlug die Europäische Kommission gezielte Vereinfachungsmaßnahmen vor, um eine zeitnahe, reibungslose und verhältnismäßige Umsetzung bestimmter Bestimmungen des KI-Gesetzes zu gewährleisten. Dr. Bernhard Nessler hat zum Feedback für den Digital Omnibus beigetragen, der gemeinsam mit European Law Institute erstellt wurde. Das Feedback ist hier verfügbar, und das zugehörige Webinar vom 17. März 2026 finden Sie hier.

• Turing Game

Das Projekt „Turing Game“ zielt darauf ab, das gemeinsame Verständnis und die Charakterisierung des Kontextes zwischen sprachbasierten KI-Systemen und Menschen zu verbessern. Die erste interaktive Installation, die die laufende Forschung zum Turing Game präsentiert, wurde einem breiten Publikum auf dem ARS Electronica Festival 2024 vorgestellt. Das Turing Game ist hier verfügbar.

• Ailex

Ailex ist Österreichs erste interdisziplinäre Fachzeitschrift an der Schnittstelle von KI-Technologie und Recht. Gegründet von Dr. Bernhard Nessler und den Rechtsexpertinnen Mag. Merve Taner und Mag. Alexandra Ciarnau, bietet Ailex eine umfassende Auseinandersetzung mit KI-Technologien und vereint dabei juristische Präzision mit technischer Expertise. Die Zeitschrift erscheint viermal jährlich im Verlag MANZ’sche Verlags- und Universitätsbuchhandlung GmbH. Weitere Informationen finden Sie hier.