RI-Beitrag bei Richter*innen-Tagung zum Einsatz von KI in Medizin und Pflege in Kitzbühel von 16.-18. Juni 2025

Von 16. bis 18. Juni 2025 fand im Justiz-Bildungszentrum Kitzbühel ein Richter*innen-Seminar zum Erwachsenenschutzrecht mit dem Schwerpunktthema „Ethik und Grundrechte im Zusammenhang mit künstlicher Intelligenz“ statt. Das Research Institute trug mit einer Keynote und zwei parallelen Workshops zum Programm bei. Den Fokus bildeten die Vorstellung des Projekts „Role Model“, finanziert im Sicherheitsforschungs-Förderprogramm KIRAS des Bundesministeriums für Finanzen, und eine Einführung in die kombinierte Folgenabschätzungs-Methodologie aus Datenschutzrecht, Grundrechten und Ethik.

Thematischer Hintergrund und Richter*innen-Tagung

Die fortschreitende Entwicklung künstlicher Intelligenz (KI) wirft neue rechtliche und ethische Fragen auf, insbesondere in sensiblen Bereichen wie dem Erwachsenenschutz-, Unterbringungs- und Heimaufenthaltsecht. Dabei treffen Effizienzversprechen und medizinischer Fortschritt durch den Einsatz von KI auf das Gebot, Grundrechte, die Menschenwürde sowie ethische Prinzipien zu beachten und die Verhältnismäßigkeit zu wahren.

Den ethischen und grundrechtlichen Herausforderungen im Zusammenhang mit dem Einsatz von KI in Medizin und Pflege widmete sich die Richter*innen-Tagung im Justiz-Bildungszentrum Kitzbühel von 16.-18. Juni 2025 mit Fokus auf das Erwachsenenschutzrecht. Themenschwerpunkte betrafen den Einsatz künstlicher Intelligenz im psychiatrischen Bereich, wobei der Schutz vulnerabler Personen im Zusammenhang mit der Ergreifung von Zwangsmaßnahmen im Zentrum standen.

RI-Beitrag: Keynote und Parallel-Workshops

Das RI setzte mit Beiträgen unseres wissenschaftlichen Leiters, Christof Tschohl, und unserer Expertin, Madeleine Müller, zum theoretischen Hintergrund und zu den praktischen Aspekten des KI-Einsatzes in Pflege und Medizin einen wesentlichen Akzent auf der Veranstaltung. In ihrer Keynote thematisierten sie datenschutzrechtliche, grundrechtliche und ethische Fragestellungen im Zusammenhang mit KI und stellten dabei über die Vorstellung des Projekts „Role Model“ mit dem Bundesministerium für Justiz als Bedarfsträger den Bezug zur Justiz her. Das im Rahmen des Sicherheitsforschungs-Förderprogramms KIRAS des Bundesministeriums für Finanzen finanzierte Projekt verfolgt das Ziel, das Konzept „Rule of Law by Design“ („Rechtsstaatlichkeit durch Technikgestaltung“) praktisch umzusetzen.

Darüber hinaus gestalteten sie zwei Parallelworkshops zur kombinierten Methodologie von Datenschutz-, Grundrechte- und Ethikfolgenabschätzung, in denen zentrale Abwägungen zwischen technologischem Fortschritt und den damit verbundenen Risiken von KI im medizinischen Bereich im Mittelpunkt standen. Anhand konkreter Fallbeispiele diskutierten die Teilnehmenden Herausforderungen und entwickelten praxisnahe Lösungsvorschläge.

Fazit:

Die Veranstaltung ermöglichte eine vertiefte Reflexion praxisnaher Fragestellungen, eine kritische Auseinandersetzung mit den Kernthemen und förderte den offenen, interdisziplinären Austausch. Deutlich wurde, dass weiterhin erheblicher Bedarf an Sensibilisierung für grundrechtliche und ethische Aspekte beim Einsatz von KI in Pflege und Medizin besteht. Datenschutz als menschenzentriertes Schutzkonzept fungiert dabei als Schlüssel für die Verwirklichung weiterer Grund- und Menschenrechte. Von zentraler Bedeutung ist zudem der Einsatz erklärbarer und transparenter KI, die als tragende Säule eines grundrechtsbasierten Ansatzes verstanden werden muss. Die kombinierte Folgenabschätzung erweist sich dabei als wirksames Instrument zur Bewältigung der damit verbundenen Herausforderungen.