Denkfabrik: Wie kann künstliche Intelligenz so eingesetzt werden, dass sie die Gesellschaft insgesamt voranbringt? Wie schaffen wir es, dass aus technologischem auch ein sozialer Fortschritt wird? Für die Denkfabrik steht fest, das kann nur gemeinsam gelingen. Mit der Civic Innovation Platform möchte sie deshalb Menschen mit ganz verschiedenen Perspektiven und Hintergründen zusammenbringen. Gemeinschaftlich sollen sie daran arbeiten, KI-Anwendungen zu entwickeln, die das Wohl des Menschen in den Mittelpunkt stellen. Neben Kreativität kommt es da vor allem auf gute Zusammenarbeit an. Und in diesem Sinne freuen wir uns sehr, dass der Deutsche Gewerkschaftsbund die Plattform unterstützt. Wie genau zu dieser Kooperation kam, darüber möchten wir heute mehr erfahren. Dazu begrüße ich Herrn Suchy, er ist Leiter der Fachabteilung Digitale Arbeitswelten und Arbeitsweltberichterstattung des DGB. Herr Suchy, wie beurteilen Sie die KI-Förderung in Deutschland aus Gewerkschaftssicht? Was läuft bereits gut und wo sehen Sie noch Aufholbedarf?
Oliver Suchy: Ja. Hallo. Ja, also ich glaube, dass in den letzten Jahren sich einiges bewegt hat. Das kam zwar etwas spät. Auch die Strategie der Bundesregierung wirkte etwas, um es salopp zu sagen, zusammengeklöppelt. Das ging in sehr kurzer Zeit dann plötzlich sehr schnell. Aber ich glaube, inzwischen haben wir ein paar gute Ansätze, sowohl was die Forschung angeht als auch was die konkreten Ansätze in der Arbeitswelt angeht und natürlich auch, was soziale Innovationen angeht. Ich wünsche mir allerdings für die Zukunft doch hier eine etwas konsistentere Strategie, weil wir haben es inzwischen mit Strukturen zu tun, die man kaum noch überblicken kann. Stichwort Zukunftszentren der Mittelstandszentren, regionale Kompetenzzentren etc. Das glaube ich, sollte man nochmal stärker miteinander vernetzen und gucken, wie man hier tatsächlich noch mehr an Synergie erreichen kann. Dazu kommt, dass natürlich eine Strategie alleine nicht reicht. Man muss sie umsetzen. Und ich glaube, hier sollte auch Politik noch stärker auch politisch gucken, was da für Learnings sind, sich ergeben, gerade aus Experimentierräumen, wo es ja insbesondere dann den KI-Einsatz in Betrieb und die besonderen Anforderungen betrifft. Hier, glaube ich, kann man viel lernen. Hier ist auch viel passiert in Experimentierräumen, aber auch auf der Plattform Lernende Systeme, wo ja viel Kompetenz zusammentrifft und hier auch einige handlungsleitende der Ideen entwickelt.
Denkfabrik: Und der Deutsche Gewerkschaftsbund unterstützt die Innovation Platform als Kooperationspartner. Warum ist das Projekt für den DGB interessant?
Oliver Suchy: Einmal ist es interessant, weil es natürlich sich an gesellschaftlichen Bedarfen orientiert, als Stichwort soziale Innovation. Wir erleben ja momentan, auch wenn es viele gar nicht so richtig registrieren, KI im Alltag unter dem Stichwort Convenience. Also die KI macht uns das Leben bequemer. Was das für Konsequenzen im Hintergrund hat, wollen die meisten gar nicht wissen. Aber das ist jetzt auch gar nicht der Punkt. Die Frage ist ja, wie kann man hier tatsächlich soziale Innovationen auf den Weg bringen? Und das auf den Weg bringen, ich glaube, das Besondere an der Plattform ist oder an dem Ansatz ist, dass hier Projekte und Ideen gefördert werden. Ich bezeichne das gerne als Schnellboote. Wir haben ja eine große Forschungsförderung in dem ganzen Bereich. Da dauert es oft sehr, sehr lange, bis überhaupt Projekte in die Förderung gehen. Die dauern dann oft auch sehr lange. Das ist auch nicht verkehrt. Aber dann hat man auch schnell fast fünf Jahre rum und hat vielleicht schon ganz andere Entwicklungen, die man nicht mehr aufnehmen kann. Also das Ganze ist schnell. Das Ganze ist ja die kleine Idee groß machen. Das es für mich auch wichtig an dieser, an diesem Ansatz, also nicht unbedingt die ganz großen Projekte, sondern eben aus kleinen Projekten gute Sachen entwickeln.
Denkfabrik: Und wo kann die Civic Innovation Platform von Ihren Erfahrungen profitieren?
Oliver Suchy: Also wovon die Plattform da profitieren kann, von uns oder von mir, das sollen vielleicht andere bewerten. Wir sind in vielfältiger Weise auch im Kontakt, sowohl mit dem Arbeitsministerium als auch mit anderen Ministerien, um in der KI-Frage, gerade was den Fokus Arbeit angeht, weiterzukommen. Es gibt da internationale Netzwerke und vielleicht kann ich da das ein oder andere beisteuern.
Denkfabrik: Und was muss Ihres Erachtens bei der Entwicklung von KI-Anwendungen berücksichtigt werden, damit sie von allen Menschen genutzt werden können?
Oliver Suchy: Ich habe so ein bisschen meine Schwierigkeiten damit, dass alle Menschen das jetzt nutzen sollen oder davon profitieren sollen. Das hat so ein bisschen im Hintergrund das Bild vom Menschen im Mittelpunkt oder die Menschen mitzunehmen. Es ist ja die Frage, wer ist eigentlich der Mensch? Und es gibt eben nicht nur den einen. Es gibt unterschiedliche Interessen. Das wird in meiner Perspektive zu wenig betrachtet. Denn es geht ja nicht nur darum, dass wir jetzt sagen, wir wollen künstliche Intelligenzsysteme oder andere Systeme für alle nutzbar machen, dass alle davon profitieren, das ist, glaube ich, sehr naiv. Wir sind hier nicht nur von Altruisten umgeben, sondern es stehen dahinter sehr harte Interessenkonflikte. Und das Besondere bei KI ist, dass wir es mit Systemen zu tun haben, die in der Regel doch schwerwiegende Zielkonflikte beinhalten. Selbst wenn es positive Ansätze sind, was Assistenzsysteme angeht. Die Frage ist dabei immer, was kann eigentlich die KI? Welche Daten von den Menschen, von den Arbeitnehmerinnen und Arbeitnehmern werden genutzt? In welcher Weise? Was passiert quasi hinter dem Vorhang? Hier gibt es eine große Diskussion auf europäischer Ebene in Richtung Transparenzpflichten für KI-Anbieter. Das Verfahren hat ja gerade begonnen mit der EU-Verordnung, also der Kommission. Da muss man, glaube ich, ein bisschen abschichten. Wer sind die Menschen? Und was sind tatsächlich am Ende die Benefits, die dabei rauskommen sollen? Unser Ansatz ist ganz klar. Wir haben den Anspruch, KI zu nutzen, um Arbeit besser zu machen, um gute Arbeit zu entwickeln. Das ist allerdings in der Umsetzung schwierig. Aber dafür haben wir erste Konzepte entwickelt. Die haben wir auch in den Communities diskutiert. Ich glaube, es gibt da einen relativ breiten Konsens. Es ist eine Sorge von vielen Beschäftigten und auch ich nenne es Orientierungslosigkeit von Arbeitgebern: Was kann ich eigentlich mit einer KI erreichen? Da fängt es eigentlich an. Welche Strategie habe ich? Welche Ziele kann ich damit eigentlich verfolgen und welche Zielkonflikte sind damit verbunden, damit wir tatsächlich zu einer Akzeptanz kommen? Und das betrifft auch die Bereiche, die auch diese Plattform anspricht, beispielsweise den Pflegesektor. Ich sehe hier ganz große Potenziale für eine Verbesserung der Bedingungen für die Pflegekräfte, auch für Pflegebedürftige. Aber das sind tatsächlich zum Teil sehr sensible Fragen, die muss man wirklich ausloten.
Denkfabrik: Jetzt haben Sie schon einige Chancen für den Einsatz von KI angesprochen. Haben Sie da ein konkretes Beispiel, wo Sie sagen, dass es eine echte Chance, wo KI das Arbeitsleben von Beschäftigten verbessern kann?
Oliver Suchy: Zum Beispiel in der Pflege, die ganze Dokumentation lässt sich natürlich vereinfachen. Wir haben es hier dann mit Sprachsteuerung zu tun. Wir haben tausend Bereiche, also die Bandbreite ist quasi unerschöpflich. Ob das die Produktion ist, ob das Qualitätskontrollen sind, ob die aktiven Exoskelette sind in der Lagerei. Also hier gibt es wirklich tausende Anwendungsfelder. Aber die Anwendungen sind halt immer sehr spezifisch. Und die Frage ist, wie kann ich es sinnvoll einsetzen, dass wir tatsächlich zur Entlastung kommen: Weil allein zu sagen, das ist alles menschenzentrierte Anwendung, das ist mir zu wenig. Also wir sehen schon die Notwendigkeit von Arbeitnehmer*innen-zentrierter Anwendung, damit es tatsächlich hilfreich ist, damit es zur Verbesserung von Arbeitsbedingungen führt, damit es auch zu höherer Produktivität führt. Wir kommen hier schon zu Win-win Situationen, nur man muss genau wissen, wofür man das einsetzt. Und der heikelste Bereich ist natürlich der ganze Personalbereich, Personalentwicklungsbereich, wo wir es ja mit Systemen zu tun haben, die nicht mehr kontrollieren oder überwachen wie eine Videokamera, sondern da haben wir vorausschauende prädiktive Analytik im Hintergrund, die Aussagen treffen können, nicht nur über den Einzelnen, sondern auch über ganze Teams und Belegschaften. Was die Zusammenarbeit angeht, was Zukunftsaussichten angeht. Bis hin zu Systemen, die als Assistenzsysteme gedacht sind, aber letztlich, Stichwort Callcenter, nur noch den Druck erhöhen, im Sinne von mehr Effizienz. Und Systeme, die letztlich angewendet werden, ohne dass man tatsächlich im Sinne des freien Willens beeinflussen kann. Ja, und Letzteres ist natürlich hoch kritisch. Also wenn man es mit Systemen zu tun haben, die Daten nutzen, die man im Grunde gewöhnlich nicht steuern kann, dann ist eine rote Linie überschritten.
Denkfabrik: Und was können Beschäftigte tun, um in der digitalen Arbeitswelt gut arbeiten zu können? Wie können sie sich auf den verstärkten Einsatz von KI-Systemen vorbereiten?
Oliver Suchy: Ich glaube, dass es nicht allein darum geht, dass Beschäftigte sich vorbereiten, sondern dass sich Unternehmen, dass sich Betriebe, dass sich Verwaltungen aufmachen, gemeinsam nach Bedarfen zu gucken. Das ist ja wie gesagt auch ein Ansatz dieser Plattform. Zu gucken, was sind überhaupt Bedarfe? Was brauchen wir? Ein Beispiel wieder in der Pflege. Wie können wir intelligente Robotik nutzen? Wie kommt sie tatsächlich gut zum Einsatz? Wie kann sie wirklich unterstützen und was ist möglicherweise an Konflikten zu erwarten? Hier gibt es gute Forschungsansätze. Und das ist ja auch das Positive oder der gute Ansatz dieser Plattform, dass man von Anfang an Forscherinnen und Forscher zusammensetzt oder zusammenbringt mit Anwenderinnen und Anwendern. Und das sind eben dann nicht Konsumenten, sondern das sind tatsächlich Beschäftigte und Arbeitgeber, die mit diesem System umgehen wollen, die damit die Situation verbessern wollen. Dazu kommt natürlich, wie wollen wir und wie können wir solche Systeme eigentlich bewerten? Das ist auch eine Frage oder eine große Herausforderung für Betriebsrätinnen und Betriebsräte. Ich glaube, dass es hier noch unterstützende Förderungen geben sollte, was die Frage der Kompetenzentwicklung und der Qualifizierungen angeht. Das ist ja ein Stichwort auch in der KI-Strategie, wo wir noch Luft nach oben sehen.
Denkfabrik: Und nutzen die Gewerkschaften für ihre Arbeit bereits KI-Anwendungen und wenn ja, wofür oder wenn nicht, für welchen Bereich würden Sie sich einen Algorithmus wünschen?
Oliver Suchy: Ich würde sagen, das fällt unter das Stichwort Geschäftsgeheimnis. Ich kann nur sagen, dass wir nicht nur durch die Corona-Krise, sondern insgesamt digital sehr aufrüsten in den letzten Jahren. Weil wir auch gucken, was kann man eigentlich sinnvoll einsetzen. Aber da werde ich mich jetzt nicht weiter zu äußern. Ich bitte um Verständnis.
Denkfabrik: Und die Civic Innovation Platform ist ein zentrales Element der Initiative Civic Coding Innovationsfonds KI für das Gemeinwohl. Das ist ein gemeinsames Projekt des Bundesministeriums für Arbeit und Soziales, des Bundesministeriums für Familie, Senioren, Frauen und Jugend und des Bundesministeriums für Umwelt, Naturschutz und nukleare Sicherheit. In diesem offenen Netzwerk sollen die Kräfte der drei Häuser gebündelt und die Entwicklung und Nutzung von gemeinwohlorientierter KI vorangebracht und gefördert werden. Was braucht ein solches Netzwerk aus Sicht der Gewerkschaften?
Oliver Suchy: Ich finde so ein Netzwerk sinnvoll. Ich würde mir auch wünschen, dass sich das noch weiterspinnen lässt. Das ist natürlich auch immer eine Frage der Koalitionszusammensetzung. Ich glaube, dass man insgesamt, das hatte ich am Anfang ja schon gesagt, hier noch konsistenter werden sollte und die Kompetenzen, die es auch in den unterschiedlichen Häusern gibt, auch die Bedarfe, die aus unterschiedlichen Häusern gesehen werden, noch stärker miteinander verbinden sollte. Aus Sicht der Gewerkschaften braucht so ein Netzwerk natürlich immer die Perspektive der Beschäftigten, die Perspektive von Personal- und Betriebsräten. Wir sehen, und das wird ja auch politisch angekündigt, einen riesigen Aufholbedarf im ganzen öffentlichen Sektor. Ich glaube, wenn man das sinnvoll angehen will, muss genau diese Perspektive immer betrachtet werden. Die Beschäftigten sind es am Ende, die diese Anwendung ja nutzen und damit umgehen sollen. Und da haben wir, glaube ich, noch ein bisschen was zu tun, was die Frage der Akzeptanzgewinnung angeht. Wir haben jetzt durch die kleine Reform der Betriebsverfassung erste Ansätze, was die Berücksichtigung von KI-Systemen angeht für die Mitbestimmung. Wir haben hier einen deutlich weiteren und ich würde auch sagen nachhaltigeren Anspruch, was die Nutzung dieser Systeme und die Frage nach Einbeziehung, Mitsprache von Beschäftigten und Interessenvertretung angeht, eingebracht. Das hat sich leider nicht durchgesetzt. Das ist allerdings in der Fach-Community eigentlich ein breiter Konsens. Und ich glaube, dass genau dieses nötig ist, tatsächlich noch nachzulegen. Weil ich denke, nur so kriegen wir tatsächlich einen Kulturwandel hin in der Frage, wie wir eigentlich solche Change-Prozesse, solche Mitbestimmungsprozesse, neue Formen der Transparenz und des Umgangs mit KI realisieren wollen. Und das müssen wir, wenn wir in den internationalen Vergleich gucken und hier haben wir große Chancen. Deswegen ist das ein Weg, diese Prozesse besser zu organisieren. Da wird auch vielen die Angst genommen, die zum Teil durch Medien entsteht.
Denkfabrik: Und wie haben Sie die erste Runde des Ideen Wettbewerbs "Gemeinsam wird es KI" erlebt und was wünschen Sie sich für die kommenden Runden?
Oliver Suchy: Also die erste Runde des Ideenwettbewerbs war spannend, weil da sehr unterschiedliche Ansätze waren. Es läuft ja nun über die Denkfabrik des Arbeitsministeriums. Es gab nicht nur das Thema Arbeit, sondern eben auch noch verschiedene andere Ideen. Und ich glaube, dass das ausbaufähig ist. Wie gesagt, aus kleinen Ideen große Sachen machen. Das ist der Ansatz dieser Plattform und ich wünsche mir, dass das weiterhin bunt bleibt. Und wir hier noch viele Ideen kriegen, die in den Köpfen der Menschen schlummern, wo sich die Netzwerke organisieren und wir da mit diesem Anschub durch die Plattform und durch die Denkfabrik dann zu einer guten Umsetzung kommen.
Denkfabrik: Herr Suchy, vielen Dank für das Gespräch.
Oliver Suchy: Gerne. Dankeschön.
