Die offizielle Annahme der neuen EU KI-Verordnung („AI Act“) am 13.03.2024 durch das Europäische Parlament (wir berichteten) gilt als Meilenstein in der Regulierung von Künstlicher Intelligenz (KI). Doch auch im Rahmen anderer internationaler Organisationen wurde über Dokumente zur Sicherstellung eines sicheren, ethischen und menschenrechtskonformen Einsatzes von KI verhandelt und mittlerweile Einigung erzielt.

Die UN-Resolution über sichere und vertrauenswürdige KI

Die Generalversammlung der Vereinten Nationen („UN-GV“) hat am 21. März 2024 die erste globale Resolution zur Förderung sicherer und vertrauenswürdiger Systeme der künstlichen Intelligenz angenommen, welche als Basis für weitere internationale Politik im Bereich der KI-Regulierung dienen soll. Über 120 UN-Mitgliedstaaten unterstützten die Resolution, darunter auch China und die USA. Der Text wurde mit Konsens angenommen und von allen 193 UN-Mitgliedstaaten befürwortet.

Die UN-GV bekräftigt darin den Schutz und die Förderung von Grund- und Menschenrechten und betont, dass die Rechte, die Menschen offline haben, auch online während des gesamten Lebenszyklus von KI-Systemen geschützt werden müssen. Der Text erkennt außerdem an, wie wichtig es ist, die Diskussion über die Entwicklungen im KI-Bereich immer weiterzuführen, damit die internationalen Ansätze mit der Entwicklung von KI und ihrer Verwendung Schritt halten.

Das rechtlich nicht bindende Dokument unterstreicht außerdem die Stärkung des Datenschutzes und der Privatsphäre, die Einhaltung der Grund- und Menschenrechte, den Schutz personenbezogener Daten und die Überwindung der digitalen Kluft, die sich durch den unterschiedlichen Zugang zu Informationstechnologie ergibt. Weiters betont die UN-GV in der Resolution das Potenzial von KI-Systemen, zur Erreichung der UN-Nachhaltigkeitsziele beizutragen.

Ebenso ruft die UN-GV alle Mitgliedstaaten und Akteure dazu auf, von der Verwendung von KI-Systemen abzusehen, sofern diese nicht im Einklang mit den internationalen Menschenrechtsnormen betrieben werden können oder unangemessene Risiken für die Wahrnehmung der Menschenrechte mit sich bringen. Damit wird die Notwendigkeit hervorgehoben, die Entwicklung und Umsetzung von Mechanismen zur Risikoüberwachung zu fördern und gegebenenfalls Folgenabschätzungen während des gesamten Lebenszyklus von KI-Systemen durchzuführen. 

Das Rahmenübereinkommen des Europarats

Auch der Ausschuss für künstliche Intelligenz (CAI) des Europarates präsentierte kürzlich ein Regelwerk zur KI-Regulierung, nämlich das Rahmenübereinkommen über künstliche Intelligenz, Menschenrechte, Demokratie und Rechtsstaatlichkeit. Dieser von der Generalsekretärin Marija Pejčinović Burić als „erster seiner Art“[1] bezeichnete rechtsverbindliche internationale Vertrag wurde neben den 46 Europarats-Mitgliedstaaten unter anderem auch von der EU-Kommission und den USA mitverhandelt. Kern des Dokuments bilden grundlegende Prinzipien, Regeln und Rechte, welche die Vereinbarkeit der Entwicklung und des Einsatzes von KI-basierten Systemen mit der Achtung der Menschenrechte, dem Funktionieren der Demokratie und der Wahrung der Rechtsstaatlichkeit sicherstellen sollen.

Der Anwendungsbereich des Rahmenübereinkommens erstreckt sich auf das Design, die Entwicklung und die Anwendung von KI-Systemen, wobei es darauf abzielt, KI-Systeme in allen Phasen ihres Lebenszyklus zu regeln (Artikel 4). Das Regelwerk findet horizontale Anwendung, da es neben öffentlichen Einrichtungen auch den privaten Sektor miteinschließt. Dies war bis zuletzt umstritten, da – insbesondere auf Drängen der USA – gefordert wurde, den privaten Sektor aus dem Anwendungsbereich des Übereinkommens auszuklammern. Diese Forderung stieß auf heftige Kritik, zusammen mit der in früheren Entwürfen normierten Pauschalausnahme von KI-Systemen der nationalen Sicherheit. Daher riefen über 90 zivilgesellschaftliche Organisationen und Wissenschaftler*innen in einem gemeinsamen offenen Brief dazu auf, den privaten Sektor in den Text mitaufzunehmen und die Pauschalausnahme der nationalen Sicherheit zu streichen (auch hier nachzulesen). Der private Sektor wurde in den aktuellen Entwurf miteinbezogen, die Ausnahme der nationalen Sicherheit blieb in eingeschränkter Form bestehen.   

Auffallend ist, dass das Rahmenübereinkommen das Rad nicht neu erfinden, sondern das bereits bestehende Menschenrechtsregime spezifizieren und auf den KI-Bereich ausdehnen möchte. So beinhaltet das Dokument beispielsweise Bestimmungen zur Gewährleistung der Einhaltung des Datenschutzes und der Privatsphäre (das Statement des Europäischen Datenschutzausschusses zu diesem Rahmenübereinkommen kann übrigens hier nachgelesen werden), zur Verhinderung von Diskriminierung durch den Einsatz von KI sowie zur Sicherstellung der individuellen Freiheit, Menschenwürde und Autonomie. Ebenso schreibt es den unterzeichnenden Staaten vor, Interessensgruppen in grundlegende Fragen der Entwicklung und Anwendung von KI-Systemen miteinzubeziehen und die öffentliche Debatte zu fördern. Das Rahmenübereinkommen normiert auch speziell auf KI ausgerichtete Verpflichtungen, so etwa die Förderung von KI-Kompetenz in der Bevölkerung, das Prinzip der menschlichen Aufsicht über von KI-Systemen getroffene Entscheidungen oder die Verpflichtung, Betroffene darüber zu informieren, dass diese gerade mit einer KI interagieren.

Das Rahmenübereinkommen enthält zudem Mindestanforderungen für die Abschätzung der Folgen eines KI-Einsatzes für die Grund- und Menschenrechte und verpflichtet die Vertragsparteien, wirksame Leitlinien für Anbieter und Nutzer von KI-Systemen für die Ermittlung, Bewertung, Verhütung und Abschwächung von Risiken und nachteiligen Auswirkungen, die sich durch die Anwendung von KI ergeben, in Bezug auf die Wahrnehmung der Menschenrechte zu erarbeiten.

Was Sie nun beachten müssen

Entwickler*innen, Anbieter*innen und Nutzer*innen von KI-Systemen werden sich bald mit einem Paket an Regelwerken konfrontiert sehen, die ihnen unterschiedliche Verpflichtungen auferlegen. Insbesondere das Instrument der Folgenabschätzung ist damit ein einendes Element in den internationalen Regelwerken zur Regulierung von KI. Die Verpflichtung zur Durchführung von Folgenabschätzungen im KI-Bereich trifft – je nach Regelwerk – Entwickler*innen, Anbieter*innen und professionelle Nutzer*innen gleichermaßen, zieht sich durch alle Sektoren und kann je nach Situation unterschiedlich ausgestaltet sein.

Wir empfehlen daher schon jetzt, sich mit den unterschiedlichen Regelwerken sowie dem Instrument der Folgenabschätzung vertraut zu machen und rechtliche Beratung zum datenschutz- und menschenrechtskonformen Einsatz von KI in Anspruch zu nehmen. Basierend auf unserer langjährigen Erfahrung und unserer aus Forschung und Beratung entwickelten Methodik sind wir Ihr idealer Ansprechpartner.

[1] https://www.coe.int/de/web/portal/-/artificial-intelligence-human-rights-democracy-and-the-rule-of-law-framework-convention