SocialAI: Chancengerechtes Prompt Engineering für die Soziale Arbeit

Generative KI-Tools wie ChatGPT sind längst im Arbeitsalltag angekommen – auch in der Sozialen Arbeit. Das eröffnet neue Möglichkeiten: von schnellerem Texten über Ideenfindung bis zu strukturierter Dokumentation. Gleichzeitig steigen die Risiken dort besonders stark, wo mit vulnerablen Zielgruppen und sensiblen Daten gearbeitet wird. Denn KI-Systeme bringen nicht nur „Funktionen“, sondern auch blinde Flecken mit: Verzerrungen (Bias) in Trainingsdaten, stereotype Muster in Antworten und eine scheinbare Objektivität, die kritische Reflexion erschweren kann.

Genau hier setzt SocialAI an. Das Projekt macht Stereotypisierungen in KI-Systemen und bei Nutzer:innen sichtbar, entwickelt Gegenstrategien und stärkt Fachkräfte für einen kompetenten, diversitätssensiblen und ethisch verantwortlichen KI-Einsatz.

Warum SocialAI?

Viele Fachkräfte nutzen KI bereits oft ohne ausreichend Wissen darüber,

wie diese Systeme technisch funktionieren,
welche Bias-Risiken „eingebaut“ sein können,
und wie schnell bestehende Diskriminierungen (z. B. in Bezug auf Gender, ethnische Zugehörigkeit oder Alter) durch unreflektierten Einsatz verstärkt werden.

Für das frauendominierte Feld der Sozialen Arbeit kommt eine weitere Ebene hinzu: Stereotype Zuschreibungen technologischer Kompetenz benachteiligen Frauen systematisch und können ihre Teilhabe an digitaler Innovation behindern. Gleichzeitig sind KI-Technologien nicht neutral – sie spiegeln Perspektiven männlich dominierter Entwicklerteams und verzerrte Datengrundlagen wider.

Ziel: Ein Framework für diversitätssensibles Prompt Engineering

Das übergeordnete Ziel von SocialAI ist eine fundierte, praxisorientierte Grundlage für chancengerechten KI-Einsatz in der Sozialen Arbeit. Im Zentrum steht ein neuartiges, strukturiertes Framework für ethisch verantwortliches und diversitätssensibles Prompt Engineering – also dafür, wie wir KI anweisen, welche Perspektiven wir aktiv einbauen und wie wir Verzerrungen reduzieren können.

Innovativ ist der empirische und nutzerzentrierte Ansatz: SocialAI übersetzt bestehende theoretische Konzepte zu Bias, Fairness und Ethik erstmals systematisch in konkret nutzbare Tools, Guidelines und Prompt-Patterns für die Praxis.

Sieben zentrale Ergebnisse (Outputs)

Systematisches Literatur-Review zu Bias und Fairness in KI (nach PRISMA-Richtlinien).
Organisationsübergreifende Innovationsworkshops mit Führungskräften der Praxispartner:innen (SOS-Kinderdorf, Jugend am Werk) zur Identifikation sinnvoller Anwendungsfelder.
Experimentelle Analysen von Prompt-Engineering-Strategien mit aktuellen KI-Modellen – anhand praxisnaher Beispiele.
Konzeption eines strukturierten Prompting-Frameworks mit modularen Komponenten zur Bias-Reduktion.
Online-Befragung von Fach- und Führungskräften zur realen Nutzung von KI-Tools im Arbeitsalltag.
Co-Creation-Workshops mit Praktiker:innen zur Entwicklung praxistauglicher Lösungen in einem dreistufigen Lernprozess.
Digitaler Orientierungsleitfaden inklusive Open-Source Prompt Pattern Library, damit die Ergebnisse breit zugänglich und direkt anwendbar sind.

Wirkung: Qualität, Teilhabe und nachhaltige Transformation

SocialAI leistet einen Beitrag zur nachhaltigen, ethischen und digitalen Transformation im Sozialsektor. Durch die Förderung digitaler Teilhabe – insbesondere für weibliche Fachkräfte – hilft das Projekt, geschlechtsspezifische Barrieren zu reduzieren. Das stärkt nicht nur Qualität und Innovationsfähigkeit sozialer Dienstleistungen, sondern auch gesellschaftliche Werte wie Chancengerechtigkeit, Diversität und ethische Reflexion im digitalen Zeitalter.

Konsortium

SocialAI vereint Expertise aus:

Sozialer Arbeit (SOS-Kinderdorf, Jugend am Werk)
Geschlechterforschung, Erziehungs- und Bildungswissenschaft & empirischer Sozialforschung (Universität Graz)
Generativer KI & technischer Implementierung (Digital Humanities Craft OG)
Rechtlichen und ethischen Aspekten (Research Institute AG & Co KG)