Projektstart Aufklärung 4.0 – Entscheidungen der KI als Mensch verstehen
Die fortschreitende Digitalisierung und der vermehrte Einsatz von Künstlicher Intelligenz (KI) in Entscheidungsprozessen bringen nicht nur technologische Fortschritte, sondern auch neue Herausforderungen für den Schutz der Grundrechte mit sich. Eine zentrale Frage, die sich dabei stellt, ist: Wie können Entscheidungen, die von KI-Systemen getroffen werden, für Betroffene nachvollziehbar gemacht werden? Diese Frage wird im Rahmen des Projekts „Aufklärung 4.0“ untersucht, das sich mit dem in Artikel 86 der KI-Verordnung (AI Act) verankerten Recht auf Erläuterung der Entscheidungsfindung im Einzelfall auseinandersetzt.
Das Recht auf Erläuterung
Als einziges Betroffenenrecht des AI Act, das direkt gegenüber dem Betreiber durchsetzbar ist, sieht Artikel 86 vor, dass Personen, die von einer Hochrisiko-KI-gestützten Entscheidung betroffen sind, ein Recht auf eine klare und aussagekräftige Erläuterung zur Rolle des KI-Systems im Entscheidungsprozess und zu den wichtigsten Elementen der getroffenen Entscheidung haben. Dies ist besonders wichtig, um sicherzustellen, dass betroffene Personen verstehen können, wie und warum eine bestimmte Entscheidung getroffen wurde. Diesem Recht kommt eine immense Bedeutung zu, da es oft die Grundlage dafür bildet, dass betroffene Personen ihre Rechte wahrnehmen und gegebenenfalls rechtliche Ansprüche geltend machen können.
Es bleibt jedoch offen, wie genau der Auskunftsanspruch in der Praxis umgesetzt werden soll. Welche konkreten Informationen müssen bereitgestellt werden? Wie detailliert müssen die Erklärungen sein? Und wie können komplexe algorithmische Entscheidungen so erklärt werden, dass sie für Laien verständlich sind? Diese Fragen sind entscheidend für die Praxis und stehen im Mittelpunkt des Projekts „Aufklärung 4.0“.
Aufklärung 4.0 –Mehr Transparenz und Rechenschaftspflicht gegenüber Betroffenen
Das Projekt „Aufklärung 4.0“, das vom Bundesministerium für Soziales, Gesundheit, Pflege und Konsumentenschutz in Auftrag gegeben und vom Research Institute – Digital Human Rights Center geleitet wird, zielt darauf ab, praxisrelevante Leitlinien für den Umgang mit dem Auskunftsanspruch nach Artikel 86 AI Act zu entwickeln. Dabei wird der Auskunftsanspruch nicht isoliert betrachtet, sondern in Zusammenschau mit weiteren datenschutzrechtlichen Regelungen, insbesondere Artikel 22 DSGVO und Artikel 15 Abs 1 lit h DSGVO, analysiert. Ein erster Zwischenbericht über die theoretischen Grundlagen des Auskunftsanspruchs wurde bereits erstellt und wird die Basis für die Erstellung eines Praxisleitfadens bilden.
Ein Praxisleitfaden für die Zukunft
Ziel des Projekts ist es, einen leicht verständlichen und barrierefreien Praxisleitfaden zu erstellen, der sowohl Verbraucher*innen als auch Unternehmen dabei hilft, den Auskunftsanspruch im Sinne des AI Act umzusetzen. Neben den rechtlichen Verpflichtungen wird dabei auch der ethische Aspekt der KI-Entscheidungen berücksichtigt. Die Einhaltung ethischer Prinzipien ist ein zentrales Anliegen der österreichischen KI-Strategie, und das Projekt „Aufklärung 4.0“ trägt dazu bei, diese Prinzipien in der Praxis zu verankern.
Der Praxisleitfaden, der im Rahmen des Projekts entwickelt wird, soll konkrete Fallbeispiele enthalten und aufzeigen, wie Unternehmen und öffentliche Einrichtungen den Auskunftsanspruch im Einklang mit den gesetzlichen und ethischen Vorgaben umsetzen können. Er wird eine wertvolle Ressource für alle Beteiligten sein, um sicherzustellen, dass KI-gestützte Entscheidungen transparent und nachvollziehbar sind.
Die Laufzeit des Projekts erstreckt sich von Juni 2024 bis November 2024. Während dieser Zeit wird das Research Institute – Digital Human Rights Center eng mit Expert*innen aus verschiedenen Bereichen zusammenarbeiten, um sicherzustellen, dass der Leitfaden sowohl rechtlich fundiert als auch praktisch anwendbar ist. Teil des Projekts ist außerdem die Abhaltung von Pilotschulungen im Umgang mit dem Leitfaden sowohl für Verbraucher*innen als auch für die Wirtschaftsseite.
Fazit
Das Projekt „Aufklärung 4.0“ setzt einen wichtigen Meilenstein auf dem Weg zu mehr Transparenz und Rechenschaftspflicht in der KI-Entscheidungsfindung. Es stellt sicher, dass das Recht auf Erläuterung, wie es im AI Act verankert ist, in der Praxis wirksam umgesetzt wird und trägt dazu bei, dass betroffene Personen ihre Rechte verstehen und geltend machen können. Damit leistet das Projekt einen wesentlichen Beitrag zur Förderung eines ethischen und rechtlich sicheren Umgangs mit Künstlicher Intelligenz in Österreich.
