Algorithmische Vorhersage und Mitbestimmung – Eine Studie zum Verhältnis von „Predictive Risk Intelligence“ und Interessenvertretung

Untersucht Risiken und Potenziale von Vorhersagealgorithmen für die betriebliche und überbetriebliche Mitbestimmung.

Hintergrund

Die Anwendung von Techniken des maschinellen Lernens („Machine Learning“) auf große Datenmengen („Big Data“) eröffnet neue Möglichkeiten, künftige Ereignisse vorherzusagen. Einsatzgebiete dieser Verfahren sind etwa die Medizin („Precision Medicine“), das Versicherungswesen („Personalized Insurance“) oder die Polizeiarbeit („Predictive Policing“). Algorithmische Vorhersagen versprechen dabei zu helfen, knappe Ressourcen effizienter zu verteilen und damit einen Beitrag zum Gemeinwesen zu leisten. Allerdings wird immer deutlicher, dass sie alles andere als unproblematisch sind. Zum Beispiel können sie bestehende Vorurteile oder Machtungleichgewichte verstärken.

Projektinhalt

Da Wertschöpfungsnetzwerke immer komplexer werden, setzen Unternehmen zunehmend algorithmische Verfahren ein („Predictive Risk Intelligence“ oder PRI), um die Ausfallwahrscheinlichkeiten von Maschinen oder Infrastruktur vorherzusagen und auf mögliche Reparaturen vorbereitet zu sein („Predictive Maintenance“). Neueste PRI-Software geht noch einen Schritt weiter und versucht, soziale Ereignisse wie Demonstrationen, Streiks und Kundgebungen vorherzusagen. Damit werden Fragen der betrieblichen und überbetrieblichen Mitbestimmung berührt. Bisher ist nur sehr wenig darüber bekannt, wie Unternehmen PRI einsetzen, um Prozesse der Mitbestimmung zu beeinflussen – ob damit zum Beispiel Praktiken der betrieblichen Mitbestimmung sabotiert werden oder ob (optimistisch betrachtet) frühzeitig der Dialog gesucht wird, bevor Arbeitskonflikte eskalieren können, ist Thema dieses Projektes. Daneben ist auch unklar, wie Gewerkschaften und Arbeitnehmer*innenvertretungen sich gegenüber PRI-Verfahren positionieren sollen und wie sie sie potenziell auch zu ihrem eigenen Vorteil einsetzen können. Das Projekt AVuM soll diese Forschungslücken schließen helfen.

Ziele und Forschungsfragen

Algorithmische Vorhersage spielt eine immer größere Rolle für Mitbestimmung in Wertschöpfungsnetzwerken; es gibt allerdings einige Wissenslücken, die geschlossen werden sollten und zu folgenden Forschungsfragen führen:

  • Wie beeinflussen PRI und anderen algorithmische Vorhersageverfahren die betriebliche und überbetriebliche Mitbestimmung in Wertschöpfungsnetzwerken?
  • Wie werden diese PRI-Technologien entwickelt? Welche Akteur*innen werden in die Entwicklung einbezogen und welche Perspektiven finden Berücksichtigung?
  • Wie setzen Unternehmen PRI-Technologien ein? Wie reagieren Gewerkschaften und Arbeitnehmer*innenvertretungen auf den (geplanten) Einsatz von PRI-Technologien?
  • Gibt es Möglichkeiten für Arbeitnehmer*innen, der Erfassung durch PRI-Technologien (zumindest teilweise) zu entgehen?
  • Sind Formen der algorithmischen Analyse von Social-Media-Daten denkbar, welche die Arbeitnehmer*innen in der Mobilisierung und Vertretung ihrer Interessen unterstützen können?

Methodik

Um sich mit dem aktuellen Stand der Forschung zu PRI-Verfahren vertraut zu machen, werden wissenschaftliche Datenbanken nach Publikationen zu PRI-Verfahren durchsucht, aber ebenso Medienberichte und Archivdaten zur Arbeit von Softwareanbietern (z. B. Unternehmenswebsites, Presseberichte, Interviews mit den Gründer*innen, Videos, Branchenreports, Tweets). Zweiteres soll helfen, die Entwicklung der PRI-Technologie im Zeitverlauf zu verstehen.

Eine weitere wichtige Komponente der Datenerhebung sind qualitative, teilstrukturierte Interviews mit den folgenden Anspruchsgruppen: Softwareentwickler*innen, Key-Account-Manager*innen, Geschäftsführung (der Softwareanbieter), Supply-Chain-Manager*innen in Konzernen (z. B. Logistik, Automobilbranche), Konzerngeschäftsführung, Betriebsrats- und Gewerkschaftsvertreter*innen, Wissenschaftler*innen und Arbeitnehmer*innen.

Im Rahmen des Projektes wird es zudem verschiedene Transferaktivitäten in die und mit der Praxis geben, insbesondere in Form von zwei Multi-StakeholderWorkshops, in denen die Forschungsergebnisse und deren Einsatzmöglichkeiten diskutiert werden. Der Projektfortschritt wird auch während der gesamten Projektlaufzeit in Form von Blogposts und Zeitungsartikeln zugänglich gemacht.

Ergebnis

Ein besseres Verständnis von Praktiken der algorithmischen Analyse im industriellen Umfeld ist eine wesentliche Voraussetzung für die Weiterentwicklung von Konzeption, Organisation und Nutzung neuartiger Mitbestimmungsmodelle und -methoden im Zeitalter der Digitalisierung. Wir erwarten daher, dass die Resultate dieses Forschungsprojekts nicht nur für Wissenschaftler*innen der Organisations- und Technikforschung, sondern auch für verschiedene Stakeholder*innen in Prozessen der betrieblichen Mitbestimmung relevant sind.

Die gewonnenen Erkenntnisse sollen Arbeitnehmer*innen, deren Vertretungen sowie Medien und NGOs dabei helfen, die Potenziale der algorithmischen Vorhersage für die Vertretung von Interessen besser zu verstehen. Außerdem erwarten wir, dass die Ergebnisse aus dem Projekt auch für Entwickler*innen von PRI-Technologien nützlich sind. Sie können  ihnen helfen, ethische und arbeitsrechtliche Spannungsfelder in ihrer Produktentwicklung frühzeitig zu identifizieren und mehr auf soziale Verträglichkeit zu achten.

Sie wollen mehr wissen? Fragen Sie nach!

Researcher Institut für IT Sicherheitsforschung
Department Informatik und Security
Arbeitsplatz: B - Campus-Platz 1
Externe Projektleitung
Maximilian Heimstädt (LEAD)
Externe MitarbeiterInnen
Leonhard Dobusch
PartnerInnen
  • Maximilian Heimstädt - LEAD (Weizenbaum-Institut für die vernetzte Gesellschaft)
  • Leonhard Dobusch (Universität Innsbruck)
Finanzierung
Hans-Böckler-Stiftung
Laufzeit
01.09.2021 – 31.08.2023
Projektstatus
laufend
Beteiligte Institute, Gruppen und Zentren
Forschungsgruppe Secure Societies
Institut für IT Sicherheitsforschung