Projektbeschreibung
Algorithmische Systeme der Entscheidungsunterstützung erhalten in immer mehr Bereichen unserer Gesellschaft Einzug. So werden international im Bereich des Kinderschutzes zunehmend algorithmische Systeme (electronic information systems/ decision support systems) zur Detektion von Kindeswohlgefährdung erprobt und eingesetzt. Aufgrund der zunehmenden Treffsicherheit datengestützter Analysen besteht damit die Möglichkeit, menschliches Entscheiden auch in Anwendungskontexten zu ersetzen, die komplexe Bewertungs- und Entscheidungssituationen umfassen. Auch in anderen Arbeitskontexten Sozialer Dienste ist eine Anwendung algorithmischer Entscheidungsfindung denkbar, um bislang nicht auswertbare Datensätze (bspw. digitale Freitexte in Klient:innen-Akten) zu erschließen und damit die Evidenz und Qualität von Entscheidungen zu erhöhen. Auf diese Weise könnten neue Formen von Wirkungsnachweisen wohlfahrtsstaatlicher Handlungsoptionen ermöglicht werden, wie sie gesellschaftlich und politisch zunehmend eingefordert werden. Gleichzeitig besteht mit der Verlagerung der Entscheidung vom Menschen zur Maschine die Gefahr, dass sowohl der Prozess als auch die Kriterien der Entscheidungsfindung intransparent werden. Während das in privatwirtschaftlichen Anwendungsbereichen bereits problematisch ist, werden im Kontext wohlfahrtsstaatlichen Handelns bzw. Entscheidens gegenüber Bürger:innen hierdurch demokratische Grundwerte gefährdet – insbesondere dann, wenn Entscheidungen nicht durch gesetzliche Vorgaben, klare Verfahrensregeln, formale Leistungsvoraussetzungen etc. determiniert sind, sondern eine fachliche Bewertung durch Fachkräfte erfordern, die Spielräume für professionelles Ermessen lässt. Besonderes Gewicht erfährt diese Problematik, wenn Entscheidungen folgenreich für die Lebensführung der Bürger:innen sind. Dies trifft regelmäßig für den Bereich wohlfahrtsstaatlicher Institutionen und Sozialer Dienste zu. Damit stellt sich die Frage, wie im Kontext wohlfahrtsstaatlicher Institutionen zukünftig die Potentiale algorithmischer Entscheidungsunterstützung genutzt werden können, um die Wissensbasis für Entscheidungen und Wirkungsnachweise zu erhöhen, ohne dabei demokratische Prinzipien, Datenschutz und Privatheit zu gefährden.
Das Projekt MAEWIN hat zum Ziel, die Chancen und Risiken automatisierter Verfahren zur Text- und Datenanalyse für die Generierung evidenz-gestützter Handlungsempfehlungen für das Feld Sozialer Dienste prototypisch zu explorieren. Der informatische Schwerpunkt liegt daher neben der ontologisch fundierten Textanalyse auf dem Einsatz von Methoden aus der Argumentationstechnologie zur Rationalisierung und Kontextualisierung von Handlungsempfehlungen. Wo reine „Big-Data“-Verfahren zu einer Entmündigung der Entscheider:innen und damit in letzter Konsequenz einer Auslieferung der Bürger:innen an undurchsichtige Verfahren der Informationstechnologie führen, soll hier ein Beitrag zur Erhöhung der Entscheidungsqualität bei gleichzeitiger vollständiger Transparenz und Verlässlichkeit des Verfahrens ermöglicht werden. Auf sozialwissenschaftlicher Seite geht es unter Einbeziehung ethischer, rechtlicher und sozialer sowie professionstheoretischer Aspekte (ELSA/ELSI-Forschung) um die Untersuchung, wie eine Einbindung algorithmischer Analysen in den fachlichen Entscheidungspraxen möglich ist. Neben der Erhöhung fachlicher Wissensbasis und Qualität der Entscheidungsfindung werden die Herstellung von Transparenz bezüglich der Entscheidungsregeln und –verfahren adressiert, um demokratische Rechte gegenüber den betroffenen Bürger:innen zu sichern.
Promotionen im Projekt MAEWIN
Promotionsprojekt 1:
Angelika Maier untersucht in ihrer Doktorarbeit, welche Informationen in Freitext-Dokumentationen für Sozialarbeiter:innen und Hilfeplaner:innen in ihrer täglichen Arbeit mit Klient:innen interessant sind und wie diese Informationen verfügbar gemacht werden können. Im Projekt MAEWIN ist sie für die prototypische Entwicklung eines Systems zur Entscheidungsunterstützung in der Hilfeplanung verantwortlich. Das System basiert auf digitalen Freitexten in Klient:innen-Akten und soll Informationen bereitstellen, auf deren Grundlage informiertere Entscheidungen über weitere Hilfen für und mit Klient:innen getroffen werden können. Ebenfalls wird durch die Bereitstellung dieser Informationen die Entwicklung von Klient:innen für alle beteiligten Parteien transparenter gemacht und somit auch die Entscheidungen, die auf dieser Basis getroffen werden. Es soll zudem exploriert werden, wie und an welcher Stelle ein solches System innerhalb einer Einrichtung in der Hilfeplanung die Evidenz und Qualität von Entscheidungen erhöhen und damit neue Formen von Wirkungsnachweisen wohlfahrtsstaatlicher Handlungsoptionen ermöglichen könnte.
Promotionsprojekt 2:
Diana Schneider erforscht in ihrer Promotion, welche Szenarien für den Einsatz algorithmischer Systeme der Entscheidungsunterstützung am Beispiel der Teilhabeplanung für Menschen mit (drohender) Behinderung möglich sind. Hierfür werden ethische, rechtliche und soziale sowie professionsspezifische Aspekte (ELSA/ELSI-Forschung) identifiziert und (nicht-)intendierte Auswirkungen algorithmischer Systeme diskutiert. Ziel der Auseinandersetzung wird es sein, eine Exploration bezüglich der Chancen und Risiken algorithmischer Systeme im Feld Sozialer Dienste zu erhalten sowie dort Regulierungsbedarfe zu erkennen, wo Grundwerte der Demokratie, des Datenschutzes und der Privatheit durch den Einsatz dieser Systeme gefährdet werden (könnten).