MAEWIN
Promotionstandem 5: Maschinelle Entscheidungsunterstützung In wohlfahrtsstaatlichen Institutionen: Nutzungsoptionen, Implikationen und Regulierungsbedarfe
Moderne Verfahren der Künstlichen Intelligenz und des Maschinellen Lernens werden zunehmend in komplexen Entscheidungssituationen angewendet, um menschliche Entscheidungen zu unterstützen oder gar zu ersetzen. Eine maschinelle, evidenzbasierte Entscheidungsunterstützung bietet dabei die Chance zur Verbesserung der Qualität der Entscheidungen und deren Legitimation. Gleichwohl geht der Einsatz maschineller Entscheidungssysteme oftmals mit dem Verlust von Transparenz und nachvollziehbaren Entscheidungskriterien einher. Insbesondere in (wohlfahrts-)staatlichen Anwendungskontexten würde dies zur Gefährdung grundlegender demokratischer Prinzipien führen. Ausgehend von diesem Spannungsfeld verfolgt das Projekt MAEWIN das Ziel, die Chancen und Risiken automatisierter Text- und Datenanalyse für evidenz-gestützte Handlungsempfehlungen im Feld Sozialer Dienste zu prüfen. Bei der prototypischen Nutzbarmachung sollen die demokratischen Grundprinzipien wie Inklusion, Teilhabe, Gleichberechtigung und nicht zuletzt auch die Autonomie der Entscheider*innen im Entscheidungs- und Abwägungsprozess nachhaltig gesichert werden.