Das Recht auf Erläuterung im AI Act – Einblicke vom Law Talk der Compass Gruppe
Am 26. November 2024 fand der Law Talk der Compass Gruppe zum Thema „Transparenzpflicht für Hochrisiko-KI. Was besagt der neue AI Act für Unternehmen?“ im Eventraum CUBE in Wien statt. Mit einer Kombination aus Fachvorträgen und einer dynamischen Paneldiskussion rückte die Veranstaltung das Recht auf Erläuterung gemäß Artikel 86 AI Act in den Mittelpunkt. Neben Mag.a Dr. in Maria Reiffenstein vom Bundesministerium für Soziales, Gesundheit, Pflege und Konsumentenschutz und Gerhard Wagner vom KSV1870 waren unser wissenschaftlicher Leiter, Ing. Dr. Christof Tschohl, und unsere Kollegin, Dr. Madeleine Müller, BA, MU, als Expert*innen vertreten.
Was normiert Artikel 86 AI Act?
Die Bestimmung verpflichtet Unternehmen, sofern sie Hochrisiko-KI-Systeme zur Unterstützung in der Entscheidungsfindung betreiben, betroffenen Personen klare und aussagekräftige Erläuterungen zur Entscheidung zu liefern. Konkrete Handlungsanweisungen, welche Informationen diese Erläuterungen in der Praxis beinhalten müssen, bleibt der AI Act allerdings schuldig. Dies stellt sowohl Unternehmen als auch Betroffene vor große Herausforderungen im Umgang mit dieser Rechtsvorschrift.
Einblicke in die Fachvorträge
Die Veranstaltung begann mit einer Begrüßung durch den Veranstalter. Anschließend lieferten Christof Tschohl und Madeleine Müller in ihrem Eröffnungsvortrag eine fundierte Einführung in die rechtlichen Grundlagen von Artikel 86 AI Act. Der Fokus lag auf praktischen Beispielen aus dem Bereich Creditscoring in der Banken- und Telekommunikationsbranche.Im Rahmen ihres Vortrags stellten sie außerdem das Projekt „Aufklärung 4.0 – Entscheidungen der KI als Mensch verstehen“ vor, das unter der Leitung des Research Institute durchgeführt wird. Ziel dieses Projekts ist es, praxisrelevante Leitlinien für Unternehmen und Betroffene zu entwickeln, um Artikel 86 AI Act besser umzusetzen.
Im Anschluss beschäftigte sich Gerhard Wagner mit den rechtlichen Grundlagen aus der Perspektive von Wirtschaftsauskunfteien und stellte über den AI Act hinausgehende, einschlägige Regelwerke vor.
Paneldiskussion: Herausforderungen und Chancen
Die anschließende Paneldiskussion unter der Moderation von Dr. Georg Hittmair, L.L.M brachte spannende Einblicke in die praktischen Herausforderungen der Umsetzung des Rechts auf Erläuterung. Es wurde gezeigt, dass der Balanceact zwischen der Einhaltung rechtlicher Anforderungen und der Bereitstellung von verständlichen Informationen für Betroffene eine große Herausforderung darstellt.
Wenn man das Recht auf Erläuterung zusammen mit weiteren Maßnahmen des AI Act betrachtet, wie etwa der Grundrechte-Folgenabschätzung oder dem Risikomanagementsystem, lassen sich der Anspruch effektiver durchsetzen und Verbraucherrechte im Rahmen eines grund- und menschenrechtsorientierten Ansatzes besser stärken. Ein entscheidender Diskussionspunkt war außerdem die Rolle von „explainable AI“ (XAI). Dabei wurde besonders darauf eingegangen, wie schwierig es sein kann, die Entscheidungsprozesse komplexer KI-Modelle nachzuvollziehen, da diese oft nicht transparent sind.
Das zentrale Fazit der Diskussion war, dass sich das Recht stets weiterentwickelt und praxisrelevante Empfehlungen im Umgang mit Artikel 86 AI Act bereits jetzt eine wertvolle Orientierung für Unternehmen und Betroffene bieten.
Rückblick
Wir danken der Compass Gruppe für die schönen Fotos und die Audioaufzeichnung, dank der dieser Vortrag nachgehört werden kann.
Fazit und Ausblick
Der Law Talk der Compass Gruppe hat eindrucksvoll gezeigt, wie wichtig eine klare und verständliche Erläuterung von KI-Entscheidungen ist, um Verbraucherschutz und Unternehmenspraxis in Einklang zu bringen.
Das Projekt „Aufklärung 4.0“ wird einen entscheidenden Beitrag dazu leisten, indem es Leitlinien für die Umsetzung von Artikel 86 AI Act entwickelt.
Mit diesen Erkenntnissen bleibt das Research Institute am Puls der Zeit, um Unternehmen, NGOs und staatliche Einrichtungen bei der Umsetzung eines grund- und menschenrechtszentrierten Ansatzes zu unterstützen.
Fotos ©: Viennamotion/Reiter
