Allgemein

Maschinelle Entscheidungsunterstützung In wohlfahrtsstaatlichen Institutionen: Nutzungsoptionen, Implikationen und Regulierungsbedarfe (MAEWIN)

Projektbeschreibung

Ausgangssituation
Aufgrund rasanter technischer Fortschritte in den Feldern maschinellen Lernens, künstlicher Intelligenz (KI) und Big Data Analytics halten diese Technologien in immer mehr Bereichen unserer Gesellschaft Einzug. Auch in Anwendungskontexten, die komplexe Bewertungs- und Entscheidungssituationen umfassen, entsteht damit die Möglichkeit, menschliches Entscheiden durch maschinelle Verfahren zu ersetzen. Umgesetzt wird dies etwa in Predictive Analytics (z.B. Predictive Policing) oder bei Scorings zur Bewertung von Kreditwürdigkeit. Regeln zur Kreditvergabe werden hier auf Basis umfassender digitaler Profile, die u.a. auch die private Nutzung von Social Media umfassen, musterbasiert ex post festgelegt und sind damit für die Betroffenen nicht antizipierbar. Dies führt zum Verlust von Transparenz über Prozess und Kriterien für die Entscheidungsfindung.
Während das in privatwirtschaftlichen Anwendungsbereichen bereits problematisch ist, werden im Kontext (wohlfahrts-)staatlichen Handelns bzw. Entscheidens gegenüber Bürger*innen hierdurch demokratische Grundwerte gefährdet – insbesondere dann, wenn Entscheidungen nicht durch gesetzliche Vorgaben, klare Verfahrensregeln, formale Leistungsvoraussetzungen etc. determiniert sind, sondern eine fachliche Bewertung durch Fachkräfte erfordern, die Spielräume für professionelles Ermessen lässt. Besonderes Gewicht erfährt diese Problematik, wenn Entscheidungen folgenreich für die Lebensführung der Bürger*innen sind. Dies trifft regelmäßig für den Bereich wohlfahrtsstaatlicher Institutionen und Sozialer Dienste zu.
Gleichwohl weisen die neuen technischen Verfahren aber auch Vorteile gegenüber herkömmlichen Vorgehensweisen auf. So können sie bislang (statistisch/maschinell) nicht auswertbare Datensätze erschließen und damit die Evidenzbasierung und Qualität von Entscheidungen erhöhen, indem sie ein erweitertes Wissen über den Verlauf und die Ergebnisse von Hilfen in Sozialen Diensten verfügbar machen und damit gleichzeitig etwa auch neue Formen von Wirkungsnachweisen ermöglichen, wie sie gesellschaftlich und politisch zunehmend eingefordert werden.
Damit stellt sich die Frage, wie im Kontext wohlfahrtsstaatlicher Institutionen zukünftig die Potentiale maschineller Entscheidungsunterstützung genutzt werden können, um die Wissensbasis für Entscheidungen und Wirkungsnachweise zu erhöhen, ohne dabei demokratische Prinzipien, Datenschutz und Privatheit zu gefährden.

 

Zielsetzung und Fragestellungen

MAEWIN hat zum Ziel, die Chancen und Risiken automatisierter Verfahren zur Text- und Datenanalyse für die Generierung evidenz-gestützter Handlungsempfehlungen für das Feld Sozialer Dienste prototypisch zu explorieren. Damit bewegt sich das Vorhaben im Spannungsfeld zwischen dem aktuell vorherrschenden „Big-Data“-Paradigma, das auf der Grundlage groß angelegter Datenanalyse mit Verfahren des maschinellen Lernens intransparente Präferenzen und Korrelationen ermittelt, und verbrieften Ansprüchen der Bürger*innen an transparente und verlässliche sozialstaatliche Institutionen in einer demokratisch verfassten Gesellschaft. Ein Schwerpunkt liegt daher neben der ontologisch fundierten Textanalyse auf dem Einsatz von Methoden aus der Argumentationstechnologie zur Rationalisierung und Kontextualisierung von Handlungsempfehlungen. Wo reine „Big-Data“-Verfahren zu einer Entmündigung der Entscheider*innen und damit in letzter Konsequenz einer Auslieferung der Bürger*innen an undurchsichtige Verfahren der Informationstechnologie führen, soll hier ein Beitrag zur Erhöhung der Entscheidungsqualität bei gleichzeitiger vollständiger Transparenz und Verlässlichkeit des Verfahrens ermöglicht werden.
Eine wichtige hierbei zu klärende Frage ist, wie sich eine maschinelle Wissensverarbeitung in fachlichen Entscheidungspraxen etablieren lässt. Dabei sind als Ziele einer Etablierung konkrete Werte vorgegeben: Einerseits soll die Wissensbasis und Qualität der Entscheidungsfindung erhöht, andererseits mit einem maschinellen System zur Entscheidungsunterstützung eine Transparenz hinsichtlich der Entscheidungsregeln und -verfahren gegenüber (betroffenen) Bürger*innen gesichert werden. Somit besteht die Herausforderung, Technikgestaltung auf der einen Seite (durch die Entwicklung eines prototypischen Systems zur Entscheidungsfindung) mit einer Technikfolgenabschätzung auf der anderen Seite (durch ELSI-Forschung und Fragen der Etablierung dieses Systems) zu verbinden. Um innerhalb dieses Spannungsverhältnisses nicht im Collingridge-Dilemma zu verharren, sind beginnend Ziel und Zweck der Technik zu diskutieren und zu definieren, um im weiteren Verlauf die gesellschaftliche Wahrnehmung zu schärfen, damit diese bei der konkreten Ausgestaltung des Systems Berücksichtigung findet.
Aus sozial- bzw. geisteswissenschaftlicher Perspektive werden mit dem Projektvorhaben mehrere Fragen tangiert: Zunächst greift die Frage der (erfolgreichen) Etablierung der Technik in die fachliche Entscheidungspraxis die Debatte um Handlungsträgerschaften von Technik auf. In einer hybriden Lebenswelt begegnen sich Mensch und Technik seit Längerem, wobei die Handlungsträgerschaften insbesondere bei denjenigen Anwendungen der Big-Data-Technologien fließend zu werden scheinen, wo diese Technologien autonome Entscheidungen treffen sollen. Dies stellt insofern eine Herausforderung dar, da Entscheidungen selbst mit Verantwortung verbunden sind. Obgleich die Frage der Agency für die Big-Data-Technologien zu Projektbeginn nicht hinreichend geklärt ist, scheint es dennoch sinnvoll, für den Ausgangspunkt dieser Analyse zunächst eine pragmatische Herangehensweise zu wählen: nicht die „Wesensfrage“ von Algorithmen per se muss geklärt werden, sondern vielmehr die Fragen, welcher Umgang mit den Big-Data-Technologien für wohlfahrtsstaatliche Institutionen unter welchen Umständen sinnvoll erscheint, ob und wie diese gestaltbar sind und worin möglicherweise eine gewisse Eigendynamik gründet, die es im weiteren Verlauf der Anwendungsfragen zu berücksichtigen gilt.
Darüber hinaus soll die Frage der Transparenz für die Entscheidungsfindung aufgegriffen werden. Entscheidungen bezüglich der sozialen Teilhabe, wie sie z.B. im Rahmen der Teilhabeplanung in der Eingliederungshilfe für Menschen mit Behinderungen beim Kooperationspartner Bethel getroffen werden, sind in Verwaltungsprozesse eingebunden, welche wiederum den Anforderungen der Transparenz und Nachvollziehbarkeit genügen müssen (Prozesstransparenz). Je komplexer und weitreichender die Entscheidungen sind, die getroffen werden, desto höher sollte die Prozesstransparenz ausfallen (um bspw. eine Akzeptanz und Legitimation der Entscheidung herbeiführen bzw. begründen zu können). Es stellt sich dabei jedoch die Frage, welche Form der Transparenz von wem erwartet wird, welche Auskunft diese für die Nutzenden liefert und welche Informationen hierfür benötigt werden.
Da schlussendlich möglichst auch die Etablierung des maschinellen Systems der Entscheidungsfindung analysiert werden soll, gilt es auch zu klären, wie die Nutzer*innen diesem gegenüberstehen. Hierbei scheint es wesentlich darauf anzukommen, in welchen Situationen das System eingesetzt werden soll: Einerseits besteht die Annahme, dass ein System der maschinellen Entscheidungsfindung durch die in ihm integrierten Regeln und Verfahren in der Lage sein könnte, objektive und unparteiische Entscheidungen zu treffen. Subjektivität und sogenannte weichere Faktoren der Entscheidungsfindung (wie geschlechts- oder diversitätsbezogene Faktoren) könnten durch das System möglicherweise ausgeschlossen oder auf ein Minimum begrenzt werden. Es kann für die von der Entscheidung betroffenen Personen ein Vorteil darstellen, wenn ihre Situation durch technische Hilfsmittel weitestgehend objektiv, unparteiisch und vorurteilsfrei bewertet wird. Dem steht gegenüber, dass die Algorithmen selbst nicht frei von Vorurteilen sind, sondern diese durchaus befördern und/oder verstärken können, bspw. wenn die neuronalen Netzwerke zuvor mit entsprechenden Trainingsdaten trainiert wurden. Andererseits sind durchaus Situationen vorstellbar, in welchem die Erfahrung des Mitgefühls und die Einfühlung in die Situation der Lage der Betroffenen eine richtungsweisende Komponente in der Entscheidungsfindung sein kann.
Die Idee, dass Menschen oder Maschinen per se die besseren Entscheiderinnen sind, ist demnach von vornerein zu hinterfragen. Stattdessen stellen sich folgende Fragen: Welche Bedeutung wird den weicheren Faktoren bei einem maschinellen System der Entscheidungsfindung zugeschrieben? Kann oder sollte der vom Gesetzgeber als Ermessensspielraum benannte Handlungsraum in einem System zur maschinellen Entscheidungsfindung ebenfalls abgebildet werden? Oder anders gefragt: Was macht ein gerechte(re)s Urteil aus, das durch das System abgebildet werden soll? In welchen Situationen wird eine maschinell-unterstützte Handlungsempfehlung als sinnvoll erachtet und warum?

Vorgehensweise

Die angestrebten Ziele sind nur zu erreichen in der Zusammenführung der hierfür erforderlichen sozialwissenschaftlichen und informatischen Expertise in den beiden Promotionen des Projektes MAEWIN: Eine gemeinsame explorative Erkundung in unterschiedlichen Institutionen des Praxispartners (von Bodelschwinghsche Stiftungen Bethel) dient der systematischen Analyse der jeweiligen Datenproduktion und Entscheidungsprozesse und aktueller und prinzipiell möglicher Bezüge zwischen beiden (z.B. bei Hilfeplanung, Diagnose- und Assessmentverfahren, Maßnahmeauswahl, Fall-Dokumentationen). Auf dieser Grundlage erfolgt die Auswahl von Anwendungsfeldern für eine vertiefende Analyse, in der die jeweils im Feld prozessproduzierten Daten kooperativ im Tandem für die Anwendung maschineller Bewertungsverfahren aufbereitet werden. Dabei werden im Unterschied zu herkömmlichen (statistischen) Verfahren auch unstrukturierte Daten, wie etwa Freitexteinträge aus Falldokumentationen, erschlossen. Hierzu werden zunächst kooperativ im Tandem Wissensstrukturen erzeugt, die das domänenspezifische Hintergrundwissen in Form von Entitäten und semantischen Relationen zwischen diesen abbilden und formalisieren (z.B. in Ontologien oder Wissensgraphen).
Anschließend werden die unstrukturierten Textdokumente mittels Verfahren der automatisierten Informationsextraktion verarbeitet, wobei eine Abbildung des Textinhalts auf die in der Ontologie spezifizierten Entitäten und Relationen erfolgt. Im Ergebnis liefert diese Vorgehensweise somit eine ontologie-basierte strukturierte Textrepräsentation, die die semantische Kerninformation der analysierten Texte sowohl für Entscheider*innen konzise zusammenfasst als auch für die maschinelle Weiterverarbeitung, beispielsweise die gezielte Suche nach ähnlich gelagerten Einzelfällen aus der Vergangenheit, zugänglich macht. Dabei können über die ebenfalls einbezogenen strukturierten Daten auch weitere, z.B. geschlechts- und diversitätsbezogene Faktoren sichtbar und so für eine fachliche Reflexion zugänglich gemacht werden.
In der Zusammenführung von feldbezogener und informatischer Expertise im Tandem werden darüber hinaus Szenarien für zukünftige mögliche Datenquellen und deren Nutzungsmöglichkeiten entwickelt. So ist möglicherweise der ergänzende Einsatz von Instrumenten zur objektiveren Erfassung von Outcomes erforderlich. Kern des Projektes ist dann auf technischer Seite die Entwicklung eines prototpischen Systems zur Entscheidungsunterstützung, das in der Lage ist, für einen vorliegenden Einzelfall mehrere Entscheidungsoptionen gegeneinander abzuwägen und mit Verfahren der Argumentationstechnologie für Entscheider*innen transparent und nachvollziehbar zu machen. Auf sozialwissenschaftlicher Seite geht es unter Einbeziehung professionstheoretischer, wissenssoziologischer, arbeitswissenschaftlicher, ethischer und rechtlicher Aspekte um die Untersuchung, wie auf der Grundlage der Ergebnisse dieser maschinellen Wissensverarbeitung eine Einbindung in den fachlichen Entscheidungspraxen möglich ist, welche die Wissensbasis und die Qualität der Entscheidungsfindung erhöht und gleichzeitig gegenüber den betroffenen Bürger*innen eine Transparenz bezüglich der Entscheidungsregeln und –verfahren herstellt, die deren demokratische Rechte sichert.

 

Vorarbeiten

Hierzu ist eine enge Verbindung von Kenntnissen auf dem Gebiet der automatisierten Verarbeitung natürlich-sprachlicher Texte (speziell der ontologie-basierten Informationsextraktion und der Argumentationstechnologie) mit einer sozialwissenschaftlichen Expertise bezogen auf das Feld wohlfahrtstaatlicher Institutionen erforderlich, die durch die beteiligten Principal Investigators eingebracht wird. Prof. Seelmeyer verfügt über entsprechende Feldkenntnisse und Zugänge zum Feld. Er hat sich seit Jahren forschend und entwickelnd mit Sozialen Diensten befasst (z.B. Jugendamt, Erziehungshilfen, Behindertenhilfe), Datenmodelle für Fachanwendungen entwickelt (z.B. Jugendmigrationsdienste oder Jugendsozialarbeit) und in Evaluationsprojekten prozessproduzierte Daten aus solchen Anwendungen (z.B. aus Arbeitsagenturen) analysiert. Er ist eng vertraut mit sozialpolitischen, fachlichen und ethischen Aspekten sowie gesetzlichen und administrativen Rahmenbedingungen wohlfahrtsstaatlicher Institutionen, die für eine differenzierte Analyse der demokratiebezogenen Risiken und Herausforderungen einer maschinellen Entscheidungsunterstützung erforderlich sind. Prof. Cimiano ist ein international ausgewiesener Experte in den Bereichen Semantic Web und Natural Language Processing. Seine Arbeitsschwerpunkte umfassen u.a. die Modellierung domänenspezifischen Wissens in Ontologien und Wissensgraphen, die Informationsextraktion aus unstrukturierten Texten mit Verfahren des maschinellen Lernens und die ontologie-basierte Interpretation natürlicher Sprache. Er verfügt über langjährige Erfahrung in der Leitung interdisziplinärer Forschungsprojekte, aktuell im BMBF-geförderten Projekt PSINK („Automatically Populating a Preclinical Spinal Cord Injury Knowledge Base to Support Clinical Translation“) und als Koordinator des DFG Schwerpunktprogramms „Robust Argumentation Machines“ (RATIO; SPP 1999).
Das Projekt MAEWIN baut schließlich auf bestehende Forschungskooperationen (u.a. im BMBF-Projekt KogniHome) mit den von Bodelschwinghschen Stiftungen Bethel auf, die einer der größten diakonischen Träger Europas mit einem breiten Angebot an sozialen Hilfen sind. Da sowohl von Kostenträgern, als auch Klienten*innen zunehmend Wirkungsnachweise eingefordert werden, besteht großes Interesse an den Ergebnissen des Projektes. Als Praxispartner stellen die von Bodelschwinghschenschen Stiftungen Bethel sowohl prozessproduzierte Daten aus Fachanwendungen für die Analyse zur Verfügung, als auch personelle Ressourcen für die Mitwirkung in Form von Interviews, Gruppendiskussionen o.ä. Dies trägt auch mit dazu bei, dass sowohl die Ontologiebildung als auch die Nutzung der Verfahren den fachlichen, (datenschutz-)rechtlichen, ethischen und auch handlungspraktischen Anforderungen des Arbeitsfeldes Rechnung tragen.

 

Promotionen im Projekt MAEWIN

Angelika Maier studierte im Bachelor Germanistik mit Texttechnologie als Nebenfach und im Master Linguistik mit dem Profil Computerlinguistik. In ihrer Masterarbeit untersuchte sie inkrementelle End-of-Turn Erkennung für Dialogsysteme. Seit Juli 2016 arbeitet sie, gefördert durch ein CITEC-Stipendium, als Doktorandin in der Semantic Computing Group. Sie untersucht die Extraktion von argumentativen Zusammenhängen aus natürlich-sprachlichen Texten. Im Tandem des MAEWIN Projekts wird sie verantwortlich sein für die Implementierung einer maschinellen Entscheidungsunterstützung. Dieses Empfehlungssystem soll insofern die Stärkung von Demokratie in wohlfahrtsstaatlichen Institutionen unterstützen, dass es a) relevante Informationen aus einer Datenbank von Dokumentationen bezieht. Dies sind historische Daten darüber, mit welchen Zielen und mit welchen Folgen ähnliche Entscheidungen in der Vergangenheit getroffen wurden. Außerdem soll es b) zur Transparenz des Entscheidungsprozesses beitragen. Transparent bedeutet, dass alle Beobachter die Entscheidung nachvollziehen können, auch wenn sie nicht immer mit der Entscheidung selbst einverstanden sind. Dies soll das Empfehlungssystem gewährleisten, indem es mögliche Pro- und Contra-Argumente im Zusammenhang mit einer Empfehlung aufzeigt.

Diana Schneider studierte zunächst Philosophie und Germanistik an der Universität Potsdam (B.A.). Anschließend war sie Studentin im interdisziplinären Studiengang Kultur und Technik mit Schwerpunkt Technik- und Technologieentwicklung im öffentlichen Diskurs an der Brandenburgischen Technischen Universität Cottbus-Senftenberg. In ihrer Masterarbeit verband sie Honneths Anerkennungstheorie mit der Behandlung von chronischen, nicht spezifischen Rückenschmerzen und analysierte die (institutionellen) Anerkennungsstrukturen von Patientinnen und Patienten in ihrem Behandlungsumfeld. Von August 2015 bis Juli 2017 war sie als wissenschaftliche Hilfskraft im BMBF-Forschungsprojekt „PartNIPD: Partizipation in technisch-gesellschaftlichen Innovationsprozessen mit fragmentierter Verantwortung: das Beispiel nicht-invasive Pränataldiagnostik“ am Institut Mensch, Ethik und Wissenschaft in Berlin tätig. Im Tandem des MAEWIN-Projekts wird Diana Schneider für die sozialwissenschaftliche Expertise des interdisziplinären Projekts zuständig sein und sich u.a. mit Fragen der Agency von Big-Data-Technologien und dem Zusammenhang von Transparenz und Legitimität von Entscheidungen auseinandersetzen. Ziel der Auseinandersetzung wird es sein, eine Exploration bezüglich der Chancen und Risiken von maschinellen Entscheidungssituationen im Feld Sozialer Dienste zu erhalten sowie dort Regulierungsbedarfe zu erkennen, wo Grundwerte der Demokratie, des Datenschutzes und der Privatheit durch den Einsatz dieser maschinellen Entscheidungsunterstützungen gefährdet werden (könnten).

Beteiligte

Udo Seelmeyer
Professor für Sozialarbeitswissenschaft am Fachbereich Sozialwesen der FH Bielefeld

  • Seit 1.9.2017: Professor für Sozialarbeitswissenschaft an der FH Bielefeld
  • 2011 – 2017: Professor für Wissenschaft der Sozialen Arbeit, Schwerpunkt Sozialinformatik an der TH Köln
  • 2007 – 2008: Vertretung einer wissenschaftlichen Mitarbeiterstelle in der AG 8 Soziale Arbeit an der Fakultät für Erziehungswissenschaft, Universität Bielefeld
  • 2007 – 2008: Projektleitung Projekt ‚DiPro’ – Regionales Netzwerk Disziplin – Profession in der Sozialen Arbeit, AG 8, Fakultät für Erziehungswissenschaft, Universität Bielefeld
  • 2006 – 2007: EXIST-Seed-Förderung für WebAS.SD (Gründerstipendium): Projekt: Webbasierte Wissens- und Kooperationsplattform zur Anforderungsanalyse und Softwareauswahl für Soziale Dienste, Universität Bielefeld
  • 2005 – 2006: Projektkoordinator im Forschungs- und Entwicklungsprojekt ‚IDok – IT-gestützte Dokumentation in der Sozialen Arbeit’, AG 8, Fakultät für Erziehungswissenschaft, Universität Bielefeld
  • 2004 – 2005: Projekt „Theorie – Praxis – Pädagogik“ Evaluation und Konzeptionsentwicklung für ein Projektstudien-Modell der Fakultät für Pädagogik, AG 8, Fakultät für Erziehungswissenschaft, Universität Bielefeld

Prof. Dr. Philipp Cimiano

  • Since July 2015: Co-founder of the company Semalytix GmbH, a company specialized in semantic big data analytics
  • Since October 2009: Full Professor for Computer Science at the Faculty of Technology of Bielefeld University and Head of the Semantic Computing Group at the Cognitive Interaction Technology Excellence Center (CITEC)
  • November 2008 – September 2009: Assistant Professor at the Web Information Systems Group, Delft University of Technology, The Netherlands
  • October 2007 – March 2008: Substitute Professor at the Seminar für Computerlinguistik (Department of Computational Linguistics), Institut für Allgemeine und Angewandte Sprach- und Kulturwissenschaft, Universität Heidelberg
  • 2006 – October 2008: Postdoctoral researcher and project leader at the knowledge management group of Prof. Studer at the Institute for Applied Informatics and Formal Description Methods (AIFB), Universität Karlsruhe (TH), Germany
  • January 2003 – 2006: Research Assistant at the knowledge management group of Prof. Studer at the Institute for Applied Informatics and Formal Description Methods (AIFB), Universität Karlsruhe (TH), Germany

Angelika Maier

  • 10/2014 to 07/2015: Graduate assistant – Tutor, Bielefeld University
    Tutorial for the seminar introduction to programming (Python). Preparation and revision of exercises; Carrying out of the tutorial
  • 04/2014 to 10/2014: Graduate assistant, Bielefeld University ICSPACE projekt Dialogue System Group for applied computational linguistics and CITEC Annotation of speech data and gestures in Praat and Elan Processing and analysis of audio data and annotations with Python Assistence in experiments and pilot studies
  • 04/2014 to 08/2014: Graduate assistant, Bielefeld University DOBES (Documentation of Endangered Languages) project SavoSavo from the University of Manchester Construct the layout for a lexicon of the language SavoSavo using LaTex Automatic transformation of the lexicon entries from plain text to LaTex using Python
  • 10/2012 to 08/2014: Student assistant – Tutor, Bielefeld University Tutorial for the seminar introduction to literary studies (linguistic primary education)

Diana Schneider, M.A.

  • 07/2017 – 08/2015: Research Assistant in the project “PartNIPD: Participation in technical-social innovation processes with fragmented responsibility: for example non-invasive prenatal test” at the Institute Human, Ethic and Research (IMEW) in Berlin, sponsored by Federal Ministry of Education and Research by innovation and technical analysis programme, Occupation, inter alia: investigation and archiving, transcription of interviews, participation observation, and planning and organizing of conferences
  • 05/2017 – 04/2017: Internship at the Institute of Technology-Assessment (ITA) of the Austrian Academy of Research (ÖAW), Vienna Occupation: Draw up a process report about Genome Editing, and write an excerpt of Sunsteins »Laws of Fear. Beyond the Precautionary Principle« (2005)
  • 04/2015 – 02/2015: Internship at the Ruppiner Clinics, department Medical Clinic with main topic psychosomatics, Neuruppin, Occupation, inter alia: execution and preparation of special anamneses, diagnostic survey by psychoanalytically based projective procedures
  • 11/2010 – 10/2010: Research Assistant as tutor (lecturer for a seminar about time management) at the University Potsdam