Projekt Aufklärung 4.0: Recht auf Erklärung bei KI

Projektabschluss Aufklärung 4.0: Einblicke in die Abschlussveranstaltungen für Stakeholder am 23. und 24. April 2025

Die zunehmende Digitalisierung und der verstärkte Einsatz von Künstlicher Intelligenz (KI) in Entscheidungsprozessen bringen neue Herausforderungen für den Schutz von Grund- und Menschenrechten und für die Durchsetzung von Betroffenenrechten mit sich. Mit dem Projekt „Aufklärung 4.0 – Entscheidungen der KI als Mensch verstehen“ widmete sich das Research Institute – Digital Human Rights Center (RI), im Auftrag des Bundesministeriums für Arbeit, Soziales, Gesundheit, Pflege und Konsumentenschutz (BMASGPK), der praxisnahen Umsetzung des Rechts auf Erklärung nach Artikel 86 AI Act (wir berichteten). Seinen Abschluss fand das Projekt in zwei Veranstaltungen, die am 23. und 24. April 2025 am Research Institute unter Beteiligung der relevanten Stakeholder abgehalten wurden.

Zielsetzung des Projekts

Im Zentrum des Projekts stand die Entwicklung konkreter Empfehlungen zur Umsetzung des in Artikel 86 AI Act verankerten Rechts auf Erklärung von KI-gestützten Entscheidungen. Dieses Recht verpflichtet Betreiber bestimmter Hochrisiko-KI-Systeme, Betroffenen eine klare und aussagekräftige Erläuterung zur Rolle des KI-Systems im Entscheidungsprozess und zu den wichtigsten Elementen der Entscheidung bereitzustellen. Konkrete Handlungsanweisungen, wie mit dem Recht auf Erklärung in der Praxis umzugehen ist, welche konkreten Informationen an Betroffene zu übermitteln sind und wie Betroffene ihre Rechte geltend machen können, bleibt diese Bestimmung jedoch schuldig. Ziel des Projekts war es daher, sowohl für Unternehmen als auch für Konsument:innen praxistaugliche Leitlinien zu entwickeln, wie mit dem Recht auf Erklärung in der Praxis umzugehen ist.

Projektergebnisse mit praktischem Mehrwert

Im Rahmen des Projekts wurden folgende Schlüsseldokumente erarbeitet:

Theoretischer Grundlagenbericht: In diesem wurden die rechtlichen, sozialwissenschaftlichen und ethischen Grundlagen des Rechts auf Erklärung erarbeitet und eine interdisziplinäre sowie wissenschaftlich fundierte Basis für die Praxisempfehlungen geschaffen.
Unternehmensleitfaden: Dieser bietet Unternehmen konkrete Hilfestellungen zur rechtskonformen Umsetzung der Erklärungs- und Informationspflichten gegenüber betroffenen Personen.
Leitfaden für Konsument:innen und ihre Interessenvertretungen: Darin finden sich prägnante Darstellungen und Empfehlungen, durch welche Konsument:innen darin unterstützt werden sollen, ihr Recht auf Erklärung aktiv wahrzunehmen und durchzusetzen.

Um den praktischen Mehrwert der Dokumente sicherzustellen, wurden diese anhand von ausgewählten Fallbeispielen („Use Cases“) erarbeitet, welche die teils abstrakten rechtlichen Anforderungen praxisnah veranschaulichen. Das Projekt und die Erarbeitung der zentralen Schlüsseldokumente zeichneten sich weiters durch einen ausgedehnten Stakeholder-Prozess unter Beteiligung von Vertreter:innen der Unternehmensseite und Konsument:innenseite aus, durch deren wertvollen Input es gelang, die Praxisbeispiele nachzuschärfen und die Schlüsseldokumente besser an die Herausforderungen und Bedürfnisse der Praxis anzupassen.

Um die Ergebnisse einem möglichst breiten Publikum über die österreichischen Grenzen hinaus zugänglich zu machen, wurden sämtliche Schlüsseldokumente des Projekts zusätzlich auf Englisch übersetzt.

Alle Dokumente stehen ab ihrer Veröffentlichung auf der Webseite des Sozialministeriums zum Download bereit.

Abschlussveranstaltungen: Präsentation, Reflexion und Pilotschulung

Das Projekt fand seinen Abschluss in zwei Veranstaltungen, die am 23. und 24. April 2025 in den Räumlichkeiten des Research Institute abgehalten wurden. Am ersten Tag lag der Schwerpunkt auf den Perspektiven der Unternehmensseite, während der zweite Veranstaltungstag den Stakeholdern der Konsument:innenseite gewidmet war.
Zum Auftakt jeder Veranstaltung begrüßten der wissenschaftliche Leiter des Research Institute, Ing. Dr. Christof Tschohl, sowie Vertreter:innen der Auftraggeberseite die Teilnehmenden und führten mit einem kurzen Impulsvortrag in die Thematik ein.

Anschließend wurden die wesentlichen Projektergebnisse präsentiert, ehe in einem zweiten Teil der Veranstaltungen eine Pilotschulung erfolgte, in der die Teilnehmenden praxisorientiert in die Anwendung des jeweils relevanten Leitfadens eingeführt wurden. Die Pilotschulung für die Unternehmensseite legte besonderes Augenmerk darauf, wie Unternehmen komplexe algorithmische Entscheidungsprozesse so erklären können, dass Rechtskonformität gewährleistet und gleichzeitig Vertrauen bei den Betroffenen aufgebaut wird. In der Pilotschulung für die Konsument:innenseite wurde praxisnah vermittelt, wie Betroffenen geholfen werden kann, ihr Recht auf Erklärung effektiv einzufordern und nutzen zu können, um Selbstbestimmung und Rechtsschutz in KI-gestützten Entscheidungsprozessen sicherzustellen. Weiters wurden zentrale Anliegen und Erwartungen an das Recht auf Erklärung deutlich, die sich in Begriffen wie Transparenz, Rechenschaftspflicht, explainable AI (XAI), Information, Nachvollziehbarkeit und Rechtsdurchsetzung verdichteten und den Gesamttenor der Veranstaltungen prägten.

Fazit und Ausblick

Die Abschlussveranstaltungen zeigten klar: Das Projekt „Aufklärung 4.0“ ist ein wichtiger erster Schritt in einem längerfristigen Prozess. Bis zum Anwendungsbeginn von Artikel 86 AI Act am 2. August 2026 – und auch darüber hinaus – gilt es, offene Fragen zu klären und die praktische Umsetzung weiter zu vertiefen. Das Recht auf Erklärung ist dabei kein statisches Konzept, sondern ein „moving target“, das eine fortlaufende Weiterentwicklung und Anpassung an neue technologische und gesellschaftliche Realitäten erfordert. Gleichzeitig lohnt sich die Auseinandersetzung, da das Recht auf Erklärung eine zentrale Säule für Compliance und Transparenz beim Einsatz von KI bildet, das Vertrauen der betroffenen Personen stärkt und maßgeblich zur Verwirklichung eines menschenrechts- und grundrechtsbasierten Ansatzes in Zusammenhang mit KI beiträgt.