Generative KI-Tools wie ChatGPT werden zunehmend in sozialen Einrichtungen eingesetzt. Dabei fehlt den Fachkräften oft das Wissen über technische Funktionsweisen und inhärente Verzerrungen dieser Systeme. Bei der Arbeit mit vulnerablen Zielgruppen birgt unreflektierter KI-Einsatz das Risiko, bestehende Diskriminierungen in Bezug auf Geschlecht, ethnische Zugehörigkeit oder Alter zu verstärken. Denn KI-Technologien sind keine neutralen Werkzeuge: Sie sind geprägt von verzerrten Trainingsdaten und den Perspektiven überwiegend männlicher Entwicklungsteams. Gleichzeitig können stereotype Zuschreibungen technologischer Kompetenzen die mehrheitlich weiblichen Fachkräfte im Sozialbereich systematisch benachteiligen und ihre Partizipation an digitaler Innovation behindern.
Was will SocialAI erreichen?
Das Projekt schafft eine fundierte Grundlage für den chancengerechten KI-Einsatz in der Sozialen Arbeit. Wir decken Bias von generativen KI-Tools (LLMs) auf – etwa in Bezug auf Gender, Ethnizität und Alter – und zeigen, wie diese in der Nutzung vermieden bzw. abgeschwächt werden können. Es entsteht erstmals ein strukturiertes Framework für ethisch verantwortliches und diversitätssensibles Prompt Engineering. Innovativ ist der empirische und nutzerzentrierte Ansatz, der theoretische entwickelte Konzepte wie feminist AI Literacies in praktische, unmittelbar anwendbare Tools übersetzt.
Wie gehen wir vor?
Das Projekt verfolgt sieben zentrale Ergebnisse: Ein systematisches Literatur-Review nach PRISMA-Richtlinien bildet die wissenschaftliche Basis. In organisationsübergreifenden Innovationsworkshops identifizieren Führungskräfte der Praxispartner:innen Anwendungspotenziale. Experimentelle Analysen untersuchen verschiedene Prompting-Methoden mit aktuellen KI-Modellen. Daraus entsteht ein modulares Prompting-Framework. Eine Online-Befragung erhebt die aktuelle KI-Nutzung bei Fach- und Führungskräften. Co-Creation-Workshops mit Praktiker:innen entwickeln in einem dreistufigen Lernprozess praxisnahe Lösungen. Alle Ergebnisse fließen in einen digitalen Orientierungsleitfaden mit Open-Source-Prompt-Bibliothek.
Welchen Nutzen bringt das Projekt?
SocialAI leistet einen wichtigen Beitrag zur nachhaltigen, ethischen und digitalen Transformation im Sozialsektor. Durch die Förderung digitaler Teilhabe hilft das Projekt, geschlechtsspezifische Barrieren abzubauen und die überwiegend weiblichen Fachkräfte in Bezug auf die Nutzung von Technik zu empowern. Unsere Ergebnisse fließen in Schulungs- und Beratungsangebote ein – vom Prompting-Framework über wissenschaftliche Publikationen bis zu Weiterbildungsformaten. So erwerben Fachkräfte Kompetenzen im Umgang mit KI (AI Literacies), wobei ein geschlechter- und diversitätssensibler Zugang im Mittelpunkt steht.
- Ausschreibung: FFG - Österreichische Forschungsförderungsgesellschaft (Laura Bassi, 3. Ausschreibung)
- Projektlaufzeit: Februar 2026 – Jänner 2029 (36 Monate)
- Projektpartner*innen: Digital Humanities Craft OG; Jugend am Werk Steiermark GmbH, Research Institute AG & Co KG; SOS-Kinderdorf
- Kontakt: Sabine Klinger (sabine.klinger@uni-graz.at)