Moderne Verfahren der Künstlichen Intelligenz (KI) werden zunehmend in komplexen, vornehmlich privatwirtschaftlichen Entscheidungssituationen angewendet, um menschliche Entscheidungen zu unterstützen oder gar zu ersetzen. Eine maschinelle, evidenzbasierte Entscheidungsunterstützung bietet dabei die Chance zur Verbesserung der Qualität der Entscheidungen und deren Legitimation. Gleichwohl geht der Einsatz maschineller Entscheidungssysteme oftmals mit dem Verlust von Transparenz und nachvollziehbaren Entscheidungskriterien einher. Ausgehend von diesem Spannungsfeld verfolgt das Projekt „Maschinelle Entscheidungsunterstützung in wohlfahrtsstaatlichen Institutionen: Nutzungsoptionen, Implikationen und Regulierungsbedarfe (MAEWIN)“ das Ziel, die Chancen und Risiken automatisierter Text- und Datenanalyse für evidenzgestützte Handlungsempfehlungen im Feld Sozialer Arbeit zu prüfen und prototypisch nutzbar zu machen. Hierbei werden insbesondere auch normative Fragen danach, wie ein solches System aussehen soll und welche Erwartungen es erfüllen müsste, gestellt. Die zentralen Fragen innerhalb des Projektes sind daher: Wie kann ein System zur Entscheidungsunterstützung mittels KI-Verfahren zur Analyse der digitalen Klient*innenakten den Entscheidungsprozess von Sozialarbeiter*innen unterstützen? Wie müsste ein solches System konzipiert sein, wenn es gleichzeitig demokratische Grundprinzipien nachhaltig sichern und die Werte der Stakeholder berücksichtigen soll? Und schlussendlich: Wie könnte die Einbindung des Systems in die fachliche Entscheidungspraxis erfolgen?
Die Anwendung von KI- und Big-Data-Technologien innerhalb dieses sensiblen Bereichs wirft grundlegende normative und ethische Fragen auf, insbesondere danach, welche Wertvorstellungen und Normen in solchen Entscheidungsunterstützungssystemen etabliert werden müssten und wie eine Entscheidung darüber herbeigeführt werden sollte. Die Verwendung von KI und Big Data im Feld Sozialer Arbeit birgt eine Vielzahl an Herausforderungen bzgl. der Integrität, Extraktion und Analyse der Daten sowie der Interpretation der Ergebnisse, sodass eine häufig vorherrschende „Rhetorik der Objektivität“ (Crawford et al. 2014) angezweifelt werden muss. Gleichzeitig wird mit Zweig (2018) deutlich, dass die Beeinflussung von Entwicklung und Entscheidungsprozessen der algorithmischen Entscheidungssysteme nicht nur problematisch, sondern durchaus gestaltbar ist.
Ziel des Forschungsprojektes MAEWIN ist es, Ergebnisse der Technikfolgenabschätzung unmittelbar in den Entwicklungsprozess zu integrieren. Hierfür sollen im ersten Schritt mögliche normativ-ethische Problemfelder systematisch aufgezeigt und Lösungsvorschläge erörtert werden. Im Hinblick auf das Tagungsthema wird an diesem Beispiel diskutiert, inwiefern ethische Gesichtspunkte frühzeitig in sozio-technische Entwicklungsprojekte eingespeist werden können.
Literatur:
Crawford, K., Miltner, K., & Gray, M. L. (2014): Critiquing big data: Politics, ethics and epistemology. International Journal of Communication, 8, 1663-1672.
Zweig, Katharina (2018): Wie Maschinen irren können. Verantwortlichkeiten und Fehlerquellen in Prozessen algorithmischer Entscheidungsfindung. Arbeitspapier. Bertelsmann-Stiftung.
