Es geht nur gemeinsam. Wie künstliche Intelligenz im Betrieb Beschäftigten (nicht) hilft
Wenn digitale Innovationen oder „künstliche Intelligenz“ im Betrieb eingeführt werden sollen, gibt es – da in diesem Zusammenhang zumeist auch personenbezogene Beschäftigtendaten verarbeitet werden – starke Mitbestimmungs- und auch Vetorechte für Beschäftigte und Betriebsräte. Beim Einsatz künstlicher Intelligenz sind aber die konkreten Auswirkungen zunächst nicht abschätzbar. Es braucht daher einen „Bottom-up-Ansatz“. Drei konkrete Beispiele zeigen konkrete Risiken, Hebel für die betriebliche Mitbestimmung und wie künstliche Intelligenz im Betrieb besser gestaltet werden kann.
Trotz der bestehenden Informations- und Beratungsrechte ist es in der Praxis für Betriebsräte oft schwierig, die nötigen Informationen über Informations- und Kommunikationssysteme, die personenbezogene Daten verarbeiten, und über Projekte zum „digitalen Wandel“ rechtzeitig zu bekommen. Die Auswirkungen auf die ArbeitnehmerInnen sind meist umfassend und betreffen verschiedene Ebenen der Mitbestimmung. Dazu ist es zunächst wichtig, sich jener Mitbestimmungsrechte bewusst zu sein, die für Beschäftigte und ihre VertreterInnen existieren.
Die Arbeitsverfassung als Grundlage der Mitbestimmung
Der/die BetriebsinhaberIn hat den Betriebsrat zu informieren und mit ihm über die wirtschaftliche und finanzielle Lage des Betriebes, über den Auftragsstand, die Investitionsvorhaben sowie über geplante Maßnahmen zur Hebung der Wirtschaftlichkeit des Betriebes (§ 108 des Arbeitsverfassungsgesetzes – ArbVG) zu beraten. Weiters hat der Betriebsrat das Recht, über bestimmte Betriebsänderungen (§ 109 ArbVG) rechtzeitig Informationen zu bekommen, um die Interessen der ArbeitnehmerInnen in die Planung einzubringen. Werden neue IKT-Systeme eingeführt, muss der/die BetriebsinhaberIn den Betriebsrat vor Inbetriebnahme des Systems informieren, welche personenbezogenen Datenarten er/sie verarbeiten will, und hat dem Betriebsrat auf Nachfrage die Grundlagen des Systems offenzulegen (§ 91 Abs 1 und 2 ArbVG). Nach § 92 ArbVG hat der Betriebsrat ein Beratungsrecht „zumindest vierteljährlich“ „in sozialer, personeller wirtschaftlicher und technischer Hinsicht“.
§ 96 Abs 1 Z 3 ArbVG gibt dem Betriebsrat bei Systemen, die aufgrund ihrer Kontrolleignung die Menschenwürde berühren, ein Vetorecht. Systeme bzw. Kontrollmaßnahmen, die die Menschenwürde verletzen, sind nicht zulässig. § 96a Abs 1 Z 1 ArbVG sieht vor, dass Systeme, die personenbezogene Daten verarbeiten (Personaldatensysteme), mit Betriebsvereinbarung zu regeln sind, sofern Daten von ArbeitnehmerInnen verarbeitet werden, die über die Ermittlung von allgemeinen Angaben zur Person und fachlichen Voraussetzungen hinausgehen bzw. Verarbeitungen vorgenommen werden, die über die Erfüllung rechtlicher Verpflichtungen (z. B. Arbeitszeitaufzeichnungen) hinausgehen. Weitere Mitbestimmungsrechte hat der Betriebsrat im Zusammenhang mit der Einführung von Personalbeurteilungssystemen, der Regelung von Ordnungsvorschriften, der zweckentsprechenden Nutzung von Betriebsmitteln und der menschengerechten Arbeitsgestaltung.
Das Datenschutzrecht bildet eine wesentliche Ergänzung der Mitbestimmungsrechte
Ergänzend zum Arbeitsrecht bietet das Datenschutzrecht Regeln für die Verarbeitung von personenbezogenen Daten und Anforderungen an Systeme künstlicher Intelligenz (KI-Systeme). Eine wichtige Komponente von künstlicher Intelligenz ist das „Profiling“ (Verarbeitung personenbezogener Daten zur Analyse und Bewertung der Persönlichkeit einer Person), welches in Artikel 4 Z 4 der Datenschutz-Grundverordnung (DSGVO) definiert wird. Als Spezialvorschrift im Zusammenhang mit künstlicher Intelligenz ist Art 22 DSGVO zu sehen. Danach darf niemand einer ausschließlich auf einer automatisierten Verarbeitung – einschließlich Profiling – beruhenden Entscheidung unterworfen werden (zu den Ausnahmen und einem allfälligen Widerspruchsrecht der betroffenen Person siehe Art 22 Abs 2 und Art 21 Abs 1 DSGVO). Die Betroffenen sind über Bewertungskriterien, die Grundlage für Entscheidungen sind, umfassend zu informieren (Art 14 Abs 2 lit g und Art 22 Abs 3 DSGVO). Art 35 DSGVO sieht in Verbindung mit der österreichischen DSFA-Verordnung vor, dass es für den Einsatz von KI-Systemen Datenschutz-Folgenabschätzungen braucht. Der datenschutzrechtliche Verantwortliche (in der Regel der/die ArbeitgeberIn) hat dabei den Standpunkt der betroffenen ArbeitnehmerInnen oder des Betriebsrates einzuholen. Der Betriebsrat hat daher das Recht auf Stellungnahme betreffend die durch die beabsichtigte Verarbeitung erwarteten Risiken für die ArbeitnehmerInnen (Art 35 Abs 9 DSGVO).
Um an der menschengerechten Gestaltung von künstlicher Intelligenz mitbestimmen zu können, braucht der Betriebsrat Informationen über die geplante Anwendung, den Zweck, die Datenarten, die verarbeitet werden sollen, über geplante Verknüpfungen und Algorithmen, die verwendet werden sollen. Im Folgenden zeigen konkrete Beispiele, wie künstliche Intelligenz (nicht) eingesetzt werden kann und soll.
„Esoterische Kennzahlen“ auf Basis extensiver Verhaltensanalyse von Beschäftigten
Im Office-Paket Microsoft 365 werden etwa sämtliche NutzerInnendaten gesammelt. Diese Daten werden verknüpft und ausgewertet und an KundInnen im Rahmen eines Geschäftsmodells verkauft, und zwar durch die Funktionen MyAnalytics und Workplace Analytics. Aus diesen Verhaltensprofilen leitet Microsoft Empfehlungen für „produktiveres Arbeiten“ ab. Welche Kriterien und Annahmen dafür im Hintergrund verwendet werden, wird nicht offengelegt. Die von Microsoft verwendeten Kennzahlen sind umstritten und gelten vielfach als fragwürdig. Werden z. B. während eines Meetings E-Mails von den Teilnehmenden versendet (über Outlook werden diese Daten protokolliert), führt das zu Auffälligkeiten (sogenannten „Findings“) und das Treffen wird als „Low Quality Meeting“ interpretiert. Haben NutzerInnen Terminkollisionen in ihrem Kalender eingetragen (etwa, weil ein abgesagter Termin nicht gelöscht wurde), geht man in der Microsoft-Logik von „abgelenkten TeilnehmerInnen“ aus. Outlook nimmt eine durchschnittliche Zeit für das Verfassen eines E-Mails an, die nicht variabel ist und die nicht mit den realen Zeiten übereinstimmt. Weicht jemand von dieser Annahme ab, wird dies als ineffizient bewertet. Es wird also keinerlei Rücksicht darauf genommen, ob es sich um ein kurzes E-Mail mit dem Inhalt „Hallo, da bin ich“ handelt oder um die Stellungnahme zu einem komplexen Sachverhalt. Der Einsatz der Analytics-Funktionen sollte daher mittels Betriebsvereinbarung ausgeschlossen werden. Mehr dazu findet sich in der neuen GPA-Broschüre: „Die wunderbare Welt von Microsoft und wie der Betriebsrat sie mitgestalten kann“.
Videoüberwachung und automatische Anweisungen der Amazon-FahrerInnen
Großes öffentliches Aufsehen erregt aktuell das neue Überwachungspaket von Amazon: In den Amazon-Autos in den USA werden neuerdings vier Kameras eingesetzt, die sowohl die FahrerInnen als auch die Straße filmen und die Beschäftigten bei bestimmten Ereignissen zu Verhaltensänderungen auffordern (z. B. Abstand halten, Telefonieren am Steuer). Die Videoüberwachung wird zu 100 Prozent gespeichert. „Verkauft“ wird das Überwachungspaket in einem Werbevideo als High-Tech-System, in dem durch die Verbindung von künstlicher Intelligenz und Video ein Sicherheitssystem geschaffen wurde, das Unfälle reduziert und FahrerInnenverhalten trainiert. Man brauche keine Bedenken zu haben, da es keine Echtzeit-Überwachung gebe und niemand in den laufenden Betrieb eingreife.
Allerdings werden in 16 vordefinierten Fällen (bei Fahrfehlern, bei hartem Bremsen, bei erkennbarer Müdigkeit, bei Abgelenktheit usw.) automatisch Uploads dieser Ereignisse gemacht. Es ist davon auszugehen, dass diese Aufnahmen ausgewertet werden und in Bewertungen einfließen. Die Kamera wird bei Inbetriebnahme des Fahrzeuges automatisch eingeschaltet, die Beschäftigten können nur in der Pause bei abgestelltem Fahrzeug die Face-Kamera ausschalten.
Eine derartige Kontrollmaßnahme verletzt die Menschenwürde und ist nicht mit unserem Datenschutzrecht kompatibel. Mit dem Argument der Sicherheit wird eine Lösung gewählt, bei der der gesamte Arbeitsablauf und das gesamte Verhalten der Beschäftigten überwacht wird. Würde die Technologie hingegen nach dem „Human-in-Command-Ansatz“ und dem „Bottom-up-Ansatz“ eingesetzt werden, würden die smarten Kameras die Selbstbestimmung der Beschäftigten unterstützen und z. B. die FahrerInnen in Gefahrensituationen warnen und Videoaufzeichnungen nur bei einem etwaigen Unfall machen.
Öko-App auf dem Smartphone
In einer Versicherung wird auf den Dienst-Smartphones, die auch privat genutzt werden (mit Kostenteilung), eine „Öko-App“ installiert. Diese sammelt Daten zu den persönlichen Ernährungs- und Mobilitätsgewohnheiten sowie diversen anderen privaten Verhaltensweisen und berechnet den persönlichen CO2-Fußabdruck daraus.
In Rankings werden die umweltbewusstesten MitarbeiterInnen prämiert. Dazu werden Wettbewerbe (z. B. zu gesunder Ernährung oder Bewegung) gemacht, und die „besten MitarbeiterInnen“ werden in der App veröffentlicht. Damit verbunden ist eine umfassende Sammlung privater Daten der MitarbeiterInnen. Haushaltsgröße, Wohnfläche, Stromverbrauch, private Flüge, Gesundheitsverhalten, Fleischkonsum, Restaurantbesuche, Mülltrennung und weitere detaillierte Verhaltensdaten werden durch die Teilnahme an den „Challenges“ erhoben. Sogar wenn die App-Nutzung freiwillig ist, kann am Arbeitsplatz großer Druck entstehen, mitzumachen. Es ist sehr problematisch, wenn das Privat- und Berufsleben so stark vermischt wird und dadurch umfassende Verhaltensanalysen und Profilings möglich werden.
Wenn der/die ArbeitgeberIn hingegen das Bewusstsein der ArbeitnehmerInnen für Klimaschutz schärfen und selbst konkrete Schritte setzen will, gäbe es eine Reihe von Handlungsansätzen, die die Persönlichkeitsrechte der ArbeitnehmerInnen nicht verletzen: Angebote für vegetarisches Essen in der Kantine, ein Öffi-Ticket für den Arbeitsweg oder Fahrradabstellplätze, um nur einige zu nennen.
Fazit
Künstliche Intelligenz bietet enormes Potenzial und enorme Risiken. Durch die frühzeitige, prozessorientierte und ergebnisoffene Einbindung von Beschäftigten und Betriebsräten im Sinne eines „Bottom-up-Ansatzes“ ist es möglich, Anwendungen so zu gestalten, dass sie eine Unterstützung für Beschäftigte sein können. Die Arbeitsverfassung und das Datenschutzrecht geben den Beschäftigten und Betriebsräten wichtiges Handwerkszeug. Es gilt auch hier, dass die Digitalisierung grundsätzlich die Gestaltungsspielräume der Arbeit erhöht. Die Frage ist jedoch, in wessen Interesse dies gelingt.
