Die Gestaltung Künstlicher Intelligenz aus gewerkschaftlicher Perspektive

Die Entwicklung von „Künstlicher Intelligenz“ (KI) ist fast so alt wie die der Computerisierung, heute vor allem unter dem Begriff Digitalisierung diskutiert. Bereits 1955 kam der Gedanke von der KI in die Welt. Seitdem hat es in der Entwicklung Fort- wie auch Rückschritte gegeben, sodass auch die Investitionen in KI mal stiegen und dann wieder zurückgefahren worden sind – in den sogenannten „KI-Wintern“.

Die Digitalisierung wird zwar derzeit in der Öffentlichkeit zu Zeiten der Corona-Pandemie nicht so stark diskutiert wie zuvor, aber sie hat durch die Pandemie nochmal einen gewaltigen Schub bekommen. IT-Unternehmen sind bisher eher Gewinner der Krise. Dabei hat vor Corona hat v.a. die Diskussion um den Einsatz von KI in der Digitalisierungsdebatte einen prominenten Platz eingenommen. Denn: Vor allem die USA und China hatten ihre Investitionen in diese Technik stark erhöht. Die Unternehmensberatung McKinsey & Company schätzt, das 2016 weltweit etwa 39 Mrd. US-Dollar für die Forschung und Entwicklung von KI-Technologien bereitgestellt wurden, dreimal so viel wie noch 2013 – Tendenz stark steigend.

Damit ist ein Wettbewerb eingeläutet worden, bei dem es wohl vor allem darum geht, Geschäftsmodelle mit KI zu entwickeln und Gewinne zu machen: Gewinne mit einer Technik, die einerseits Fortschritte mit sich bringt, was sich etwa bei der enormen Verbesserung in der Diagnostik seltener Erkrankungen und Tumore zeigt. Andererseits aber herrscht eine große Unsicherheit, was KI gleichzeitig an Gefahren mit sich bringt. Und so haben sich auch in der BRD verschiedene Akteure in die Debatte eingeschalten.

Acatech-Plattform: Lernende Systeme

Noch bevor nach Frankreich auch die deutsche Bundesregierung eine Strategie für KI im November 2018 erarbeitet hatte, wurde die Plattform Lernende Systeme 2017 vom Bundesministerium für Bildung und Forschung (BMBF) auf Anregung des Fachforums Autonome Systeme des Hightech-Forums und acatech gegründet.

Rund 200 Fachleute aus Wissenschaft, Wirtschaft und Gesellschaft tauschen sich aus und erarbeiten Diskussionspapiere, Anwendungsszenarien, Leitfäden und Handlungsempfehlungen. Vier Arbeitsgruppen befassen sich mit technischen, wirtschaftlichen und gesellschaftlichen Querschnittsthemen, die KI-Anwendungen betreffen:

• Technologische Wegbereiter und Data Science
• Arbeit/Qualifikation, Mensch-Maschine-Interaktion
• IT-Sicherheit, Privacy, Recht und Ethik
• Geschäftsmodellinnovationen

Drei weitere Arbeitsgruppen untersuchen Anwendungsfelder für KI und erarbeiten Szenarien auch für die Gestaltung Künstlicher Intelligenz:

• Mobilität und intelligente Verkehrssysteme
• Gesundheit, Medizintechnik, Pflege
• Lebensfeindliche Umgebungen

ver.di ist in zwei Arbeitsgruppen vertreten, zum einen in der Arbeitsgruppe 2 „Arbeit/Qualifikation, Mensch-Maschine-Interaktion“ sowie in der Arbeitsgruppe 4 „Geschäftsmodellinnovationen“.

ver.di-Positionen zu KI

Um nicht nur in diesen Arbeitsgruppen, sondern auch in weiteren politischen Gremien wie der Enquete-Kommission zu KI, also außerhalb wie auch innerhalb von ver.di sprechfähig zu sein, hat ver.di ihre Positionen für eine progressive KI zum Wohl der Allgemeinheit, der Demokratie, guter Dienstleistungen und Guter Arbeit zeitgleich mit der KI-Strategie der Bundesregierung im November 2018 vorgestellt.

KI: Erste ver.di-Positionen – ein Auszug

• Dialogische Erarbeitung einer gesellschaftlichen Vision als Leitgedanke für den KI-Einsatz in Deutschland
• Rückbindung der KI-Entwicklung an demokratische Verfahren und Einbindung in gesellschaftliche Diskussionen
• Klare Ethikregeln und Kriterien für Gute Arbeit, u.a. Verbot autonomer Waffensysteme
• Schaffung einer verantwortlichen Stelle, in den zu überwachenden Regeln: stringente Zweckbindung, Folgenabschätzung entsprechend der EU-DSGVO, Eingriffsmechanismen
• Rechenschaftspflichten: Transparenz der Funktionsmechanismen und Entscheidungsparametern (white box); Whistleblower-Schutz
• eine Ausweitung der KI-Sicherheits- und Arbeitsforschung sowie Technikfolgenabschätzung; eine gründliche Erprobung und Testing von KI-Anwendungen (konzeptionelle Entschleunigung)
• Kennzeichnungspflicht für Chatbots (Erklärung s.u.) bei deren Einsatz und von KI-generierten Medieninhalten
• Offenlegung und Umverteilung von Effizienzgewinnen durch KI in gesellschaftliche Bedarfsfelder wie Gesundheit, Pflege, Bildung und Mobilität
• frühestmögliche Beteiligung von Mitbestimmungsträgern und Beschäftigten: Stärkung und Ausbau der Mitbestimmung (u.a. Vereinfachung der Gründung von Betriebsräten) sowie KI-Beratung für Mitbestimmungsakteure
• Wahrung von Persönlichkeitsrechten und der Menschenwürde

Quelle: www.innovation-gute-arbeit.verdi.de/themen/digitale-arbeit/beschluesse-und-positionen

Diese sind im Jahr darauf in einer überarbeiteten Form auf dem jährlichen ver.di-Digitalisierungskongress zum Schwerpunkt KI nochmals vorgestellt und diskutiert worden (ver.di 2019: www.verdi.de/themen/digitalisierungskongresse/kongress-2019). Zudem hat ver.di auf seinem Bundeskongress im September 2019 in seinem Beschluss „Künstliche Intelligenz und neue Arbeitsformen gemeinwohldienlich und menschengerecht gestalten“ formuliert, dass sie „ihre Leitlinien zu guter digitaler Arbeit insbesondere mit Blick auf aktuelle Entwicklungen in den Bereichen Künstliche Intelligenz und neuer Arbeitsformen weiterentwickeln“ wird.

ver.di stellt Ethische Leitlinien für Künstliche Intelligenz zur Diskussion

Das hat ver.di getan, weil es u.a. den Bedarf in unserer Organisation gab, sich auch in die Debatte um ethische Leitlinien für den KI-Einsatz einzubringen. ver.di entwickelte solche Leitlinien und stellte sie zu Beginn des Jahres 2020 zur Diskussion. Die Leitlinien sollen als gewerkschaftlicher Beitrag in der KI-Debatte insbesondere Orientierung und Hilfestellung für diejenigen sein, die KI-Anwendungen entwickeln, einführen und nutzen.

Künstliche Intelligenz ist Werkzeug, Mittel zum Zweck. Gerade für KI sind wie bei jeder unsicheren Technik zudem rote Haltelinien einzuziehen: Es darf keine KI-Anwendungen geben, die Menschen schaden, die gegen Menschen- und Grundrechte verstoßen. Bestehendes Recht und geltende Gesetze; insbesondere die Tarifautonomie, das Arbeitsschutzgesetz, das Betriebsverfassungsgesetz, das Urheberrecht und die Datenschutzgrundverordnung sind einzuhalten.

Neben der Beschäftigungssicherung und besseren Qualifikationsmöglichkeiten geht es darum, KI-Systeme so zu gestalten, dass die Handlungs- und Gestaltungsspielräume der Erwerbstätigen erweitert werden. Statt Tätigkeiten zu entwerten, sind sie durch gezielte Qualifizierung aufzuwerten. Dies kann durch Tarifverträge flankiert werden. KI-Systeme, die auf der Verarbeitung großer Datenmengen basieren, dürften nicht zu einer Gefährdung der Persönlichkeitsrechte führen, und die Zweckbindung der Daten ist sicherzustellen. Zudem dürfen Verantwortlichkeiten und Haftung nicht auf die Technik übertragen werden. Der Mensch bleibt in der Verantwortung. Insbesondere steht der Ansatz „Gute-Arbeit-by-Design“ im Vordergrund: So wie beim Prinzip „privacy-by-design“ die Persönlichkeitsrechte von Beginn an zu beachten sind, muss bei der Konzeption und Gestaltung Künstlicher Intelligenz von vornherein die Arbeitsgestaltung im Fokus sein. Dies kann am besten dadurch gewährleistet werden, dass Beschäftigte und ihre Interessenvertretungen rechtzeitig im Gestaltungs- und Einführungsprozess beteiligt werden.

Ergebnisse des ver.di-Innovationsbarometers zu KI

Noch im Jahr 2019 – im Wissenschaftsjahr KI – hat ver.di ihre Personal-, Betriebs- und Aufsichtsräte zum KI-Einsatz in ihren Unternehmen befragt. Dabei zeigte sich: Die Einführung von Systemen Künstlicher Intelligenz (KI) trägt bislang nur unzureichend zur Verbesserung der Arbeitsqualität bei, stattdessen drohen Arbeitsplatzabbau sowie eine höhere Arbeitsintensität und geringere Handlungsspielräume für die Beschäftigten.

Das ver.di-Innovationsbarometer erscheint alle zwei Jahre und gibt Auskunft über die Innovationsfähigkeit im Dienstleistungssektor. Das „ver.di-Innovationsbarometer 2019 – Künstliche Intelligenz“ basiert auf den Angaben von 990 ver.di-Arbeitnehmervertreterinnen und -Arbeitnehmervertretern in Aufsichtsräten, Betriebs- und Personalräten. Die Umfrage wurde im Mai und Juni 2019 durchgeführt.

Die Ergebnisse der Umfrage zeigen deutliche Defizite beim Einsatz von KI-Systemen. So fürchten 66 Prozent der Befragten in betroffenen Unternehmen, dass die Zahl der Arbeitsplätze durch den KI-Einsatz sinken wird (nur drei Prozent erwarten eine Zunahme). Zudem berichten 52 Prozent der Befragten von einer Zunahme der Arbeitsintensität (von einer Abnahme nur elf Prozent); 42 Prozent der Befragten resümieren häufigere Störungen der Arbeitsabläufe (lediglich 11 Prozent von weniger Störungen); 50 Prozent der Befragten erkennen eine Zunahme der Transparenz des Arbeits- und Leistungsverhaltens der Beschäftigten (nur 13 Prozent eine Abnahme); und 60 Prozent der Befragten berichten von einer Verringerung der Handlungs- und Entscheidungsspielräume durch KI (nur vier Prozent von einer Ausweitung).

Diese Befunde bedeuteten nicht, dass KI generell zur Verbesserung der Arbeitsqualität keinen Beitrag leisten könne. Derzeit stimmen aber die Bedingungen des KI-Einsatzes nicht. Die Umfrage zeigt, woran es v.a. hapert: an Information und Mitbestimmung. Wenn 32 Prozent der Befragten angeben, ihnen sei nicht einmal bekannt, ob in ihrem Unternehmen KI verwendet werde, muss sich die Informationspolitik der Unternehmensleitungen schleunigst ändern. 57 Prozent der Mitbestimmungsorgane sind nicht an der Planung und Durchführung von KI-Projekten beteiligt. Aber gerade in diesem Bereich braucht es mehr und nicht weniger Mitbestimmung. Es ist dringend notwendig, die betrieblichen Mitbestimmungsorgane bei der Einführung von KI-Projekten frühzeitig stärker einzubeziehen. Nur so können deren Folgewirkungen richtig abgeschätzt und gut gestaltet werden. Der Gesetzgeber ist gefordert, die entsprechenden Rechtsgrundlagen zu schaffen. Digitalisierung und Künstliche Intelligenz müssen so gestaltet werden, dass sie den Beschäftigten sowie dem Schutz und dem Ausbau der Arbeitnehmerrechte dienen.

Zwischenfazit: Acatech-Plattform „Lernende Systeme“

Diese Erkenntnisse, Positionen und Leitlinien hat ver.di während ihrer Arbeit im Rahmen der Plattform „Lernende Systeme“ gemeinsam mit dem DGB und der IG Metall v.a. in der Arbeitsgruppe 2 „Arbeit/Qualifikation, Mensch-Maschine-Interaktion“ eingebracht. Das Bestehen der Plattform ist bis zum Jahr 2025 verlängert worden. Nach vier Jahren kann nun durchaus ein Zwischenfazit zur Arbeit der Plattform gezogen werden, wobei der Beitrag sich auf die Ergebnisse der AG 2 beschränken wird.

In dieser AG 2 sind – während derzeit ein Papier zum Thema Führung entwickelt wird – inzwischen drei Papiere zu zentralen Themen der Arbeitswelt, nämlich zu Kompetenzen (s. den Beitrag von N. Huchler in dieser Ausgabe), zum Einführungsprozess von KI in die betriebliche Anwendung und zur Mensch-KI-Schnittstelle, veröffentlicht worden. Die erste Publikation im Jahr 2019 beschreibt im Prinzip das Programm der Arbeitsgruppe. Näher vorgestellt werden soll hier insbesondere die zwei Themen Einführungsprozess von KI in die betriebliche Anwendung und Gestaltung der Mensch-KI-Schnittstelle, weil die beiden Papiere durchaus eine Orientierung bei der Gestaltung von KI im betrieblichen Umfeld liefern können und sich gut ergänzen.

Gestaltung der Mensch-KI-Schnittstelle

Der Gewinn des Papiers zur Mensch-KI-Schnittstelle (im Papier veraltet als Mensch-Maschine-Schnittstelle bezeichnet, s.u.) besteht v.a. darin, dass die Komplexität der bei der Gestaltung zu berücksichtigenden Aspekte in eine Systematik gebracht wurde. Es bietet also eine Art Matrix, was bei der Schnittstellengestaltung zu berücksichtigen ist.

Die Systematik besteht darin, dass vier Cluster bzw. Handlungsfelder identifiziert worden sind, die sich wiederum in je drei Kriterien für die Gestaltung der Schnittstelle aufteilen. Zu jedem Kriterium wird die Zielstellung sowie Ansatzpunkte für die Gestaltung benannt.

Dabei ist im Papier jedoch nicht durchgängig eine klare begriffliche Fassung der betrachteten Problemstellung gelungen: Der Begriff Mensch-Maschine-Schnittstelle bspw. fasst eben nicht präzise den Umstand, dass es sich bei KI mitnichten um eine Maschine handelt, sondern eben um ein sog. „selbstlernendes System“. Auch die „Aufladung“ des Begriffs der Schnittstelle mit Bezeichnungen für soziale Beziehungen wie Interaktion, Kooperation und Arbeitsteilung wie sie nur unter Menschen möglich sind, bringt eher Verwirrung in die Problemstellung.

Auch ist die Chance vergeben worden, hier noch deutlicher die Wahrung der Persönlichkeitsrechte (informationelles Selbstbestimmungsrecht – Art. 1 und 2 GG) aller Betroffenen, insbesondere der Beschäftigten, zu „empfehlen“. Das ist zwar Gesetz, jedoch zeigt die Praxis, u.a. von Start-up-Unternehmen, dass dies nicht überall eingehalten wird. So ist also bereits die Einhaltung der entsprechenden Gesetze bei der Gestaltung der Schnittstelle leider nicht selbstverständlich, auf die hier explizit hingewiesen wird. Die Gewerkschaften machen seit Langem darauf aufmerksam, dass auch die gesetzlichen Grundlagen gerade für die Beschäftigten nicht mehr ausreichen, die sich ja in einem Abhängigkeitsverhältnis befinden und damit einen besonderen Schutzbedarf haben. Gerade bei der Anwendung von KI ist dies ein ganz zentraler und sensibler Aspekt. Ver.di fordert auch deshalb bereits seit Jahren ein Beschäftigtendatenschutzgesetz. Dabei müssen auch immer die personenbeziehbaren Daten geschützt werden.

Einführungsprozess von KI

Es ist immens wichtig, dass Technik- und Arbeitsgestaltung zusammen gedacht und gemacht werden. Die Gewerkschaften verfolgen deshalb in Anlehnung an das Prinzip des Privacy-by-Design, also Datenschutz schon bei der Technikgestaltung zu berücksichtigen, den Ansatz Gute-Arbeit-by-Design (s.o.).

Es ist den Gewerkschaften gelungen, in dem Papier zentrale Aspekte der Prozessgestaltung zu verankern und den Akteuren zu empfehlen. Ganz wichtig dabei ist eben die rechtzeitige Beteiligung und Mitbestimmung, so heißt es in dem entsprechenden Abschnitt unter der Überschrift „Beteiligung – betriebliche Mitbestimmung“: „Deshalb ist eine rechtzeitige und prozessorientierte Mitwirkung der Beschäftigten und ihrer Interessenvertretungen als wichtiger Baustein für die Akzeptanz von KI-Technologien erforderlich.“ Aber auch die Aspekte Folgenabschätzung und Gefährdungsbeurteilung haben Eingang in das Papier gefunden. Einen guten Überblick über die Prozessgestaltung bietet folgende Abb.:

(Zwischen-)Fazit

Insgesamt fällt bei der Arbeit der acatech-Plattform auf, dass es zwar auf der einen Seite in der Wirtschaft v.a. erste KI-Anwendungen in den verschiedenen Dienstleistungen gibt wie in Callcenter, in den Banken, im Tourismus etc., zumindest bei der Plattform auch Arbeitsgruppen zu Mobilität und Gesundheit bestehen, aber andererseits die Diskussionen und v.a. Szenarien dann doch wieder oft auf die Industrie und Roboter verengt werden. Hier setzt sich ein Ungleichgewicht in der deutschen Debatte fort, das mit dem „Marketingbegriff“ von der „Industrie 4.0“ verstärkt worden ist. Wirklich zukunftsfähige Entwicklungen und Potentiale werden damit an den Rand gedrängt.

Und letztlich stellen die acatech-Papiere eben nur Empfehlungen dar, und diese reichen zumeist nicht über das gesetzlich Vorgeschriebene hinaus. Mal abgesehen davon, dass selbst gesetzliche Vorschriften oft nicht umgesetzt werden, wie es die Gewerkschaften schon seit Jahren bspw. bzgl. der Gefährdungsbeurteilungen bemängeln, reichen diese Gesetze im Zuge der Digitalisierung, insbesondere mit Blick auf KI, aber nicht mehr aus.

So wichtig es also auch für die Gewerkschaften ist, sich an diesen Formaten zu beteiligen und mit anderen gesellschaftlichen Akteuren in den Dialog zu kommen und sich über die zukünftige KI-Entwicklung zu verständigen, so bleibt die Aufgabe, sich auch gegenüber dem Gesetzgeber für bessere Beschäftigtenrechte einzusetzen. Selbstverständlich ist das nicht der einzige Weg, wie sich Gewerkschaften für bessere Arbeitsbedingungen im Kontext von KI einsetzen: Zentrales Mittel ist die Organisation der Beschäftigten, um mit ihnen gemeinsam auch auf tariflicher Ebene mehr Beteiligung und Mitbestimmung, mehr Autonomie und weniger Belastungen durchzusetzen. Ver.di hat erste Digitalisierungstarifverträge erkämpft und mit gesetzlichen Interessenvertretungen auch gute Vereinbarungen auf betrieblicher Ebene erzielt. Des Weiteren war und ist ver.di an verschiedenen Projekten zur Erforschung guter Gestaltung von KI in der Arbeitswelt beteiligt. Ver.di wird auch in Zukunft nicht nachlassen, sich gemeinsam mit den Erwerbstätigen im Kontext von KI und Digitalisierung für Gute Arbeit einzusetzen.