Digitalwirtschaft Der große blinde Fleck hinter dem Bildschirm
makronom.de, vom 10. Mai 2023, Gesellschaft, LUKAS SEILING & JAN WINTERHALTER
Die Vormachtstellung der Digitalwirtschaft fußt zu großen Teilen auf Verschleierungstaktiken. Wir sollten „KI“ oder „Cloud“ lieber als das benennen, was sie sind: ausgeklügelte Täuschungsmanöver, die mit der Realität herzlich wenig zu tun haben.
Bild: Robynne Hu via Unsplash
Zitat: Seitdem OpenAI Ende 2022 „ChatGPT“ der Öffentlichkeit zugänglich gemacht hat, kann jede Person mit einem Internetanschluss über eine Chat-Schnittstelle oder Suchmaschine mit verschiedenen Sprachmodellen interagieren. Die Modelle erregen Aufsehen, sind sie doch in der Lage, auf beliebigen Input in Textform mit scheinbar kohärentem Text zu reagieren – wie in einer Unterhaltung, getreu des Namens ChatGPT.
Doch um sich sinnvoll unterhalten zu können, ist ein gegenseitiges Verständnis der Gesprächsteilnehmer notwendig. Sprachmodelle können Verständnis zwar vorgaukeln, indem sie kontextspezifische Texte generieren, werden aber auch auf diese Aufgabe trainiert: Auf der Basis von unglaublich viel Text entsteht eine mathematische Abbildung davon, welche Wörter und Wortkombinationen häufig gemeinsam oder an gleicher Stelle verwendet werden. Heraus kommt ein Modell, dass eine Vorhersage darüber treffen kann, welche (Output-)Sequenz an Wörtern am wahrscheinlichsten auf eine gegebene (Input-)Sequenz an Wörtern folgt. Ein so erzeugtes Gedicht über die Vorzüge des Freihandels ist beeindruckend, aber kein Beweis dafür, dass das Modell wirklich versteht, was Freihandel ist. Solange wir uns also darauf konzentrieren, was auf unserem Bildschirm passiert, ohne einen Gedanken an die zugrundeliegende Funktionsweise zu verschwenden, sind wir anfällig für die Illusion allmächtiger „KI“.
Geist in der Maschine
Unmengen an Daten sind nötig, um die darin enthaltenen Muster und Zusammenhänge in Form einer „KI“ mathematisch abzubilden. Doch woher kommen diese Daten? Für die aktuellen Modelle hat OpenAI keine Informationen darüber veröffentlicht. Doch das Vorgängermodell bietet einen Anhaltspunkt: Es basiert zu mehr als der Hälfte auf einer Version des Common Crawl Corpus, einer Sammlung von mehr als 3 Milliarden gespeicherten Webseiten, der seit 2014 monatlich hunderte Terabytes an Text hinzugefügt werden. Es überrascht nicht, dass sich darin nicht nur sozial-verträgliche Texte finden. Das bedeutet, dass Sprachmodelle, solange sie nicht daran gehindert werden, auch Muster abbilden und wiedergeben, die schlicht falsch oder mit Hassrede und sexueller Gewalt assoziiert sind.
Meist schlecht bezahlte Arbeitskräfte liefern die Daten, die auf Kundenseite die Fassade „KI-getriebener Dienstleistungen“ aufrecht erhalten
Aber wie hindert man ein Modell, das nicht weiß, was Gewalt ist, daran diese zu reproduzieren? Natürlich mit noch mehr Daten. Allerdings müssen ungewollte Inhalte dafür aktiv von Menschen markiert werden. Da diese Form der Arbeit in westlichen Gesellschaften (aufgrund möglicherweise traumatisierender Folgen) teuer ist und ungern geleistet wird, überließ OpenAI die Inhaltemoderation einer Firma mit Angestellten in Kenia, Uganda und Indien – für einen Stundenlohn von bis zu zwei Dollar. Sogenannte „Ghost Worker„, (mit wenigen Ausnahmen) meist schlecht bezahlte Arbeitskräfte, liefern die Daten, die auf Kundenseite die Fassade „KI-getriebener Dienstleistungen“ aufrecht erhalten. Die Mär „künstlicher Intelligenz“ verschafft den Unternehmen somit den Nimbus überlegener Technologie und verdeckt zugleich ausbeuterische Unternehmenspraktiken.
Wolkenschleier um Metall
Allerdings sind es nicht nur „Ghost Worker“, die, überschattet von effektivem Marketing, den Glauben an „KI“ aufrechterhalten. Eine weitere, oft unsichtbare Stütze, zeichnet sich am Energieverbrauch aktueller Sprachmodelle ab, die umfangreiche Grafikprozessoren benötigen, um alle relevanten Parameter für die Berechnung des Outputs bereitzustellen.
Auf unseren kleinen, leichten Endgeräten erreicht uns „KI“ aber als immaterieller Service aus der „Cloud“. Diese gefühlte Immaterialität macht es uns einfach auszublenden, dass jede Nutzung von ChatGPT eine materielle und energetische Entsprechung auf spezialisierten Rechenmaschinen in Rechenzentren hat, die wasser- und energieintensiv gekühlt werden. Wir blenden aus, dass auch diese Rechner von Menschen in als „peripher“ wahrgenommenen Regionen produziert werden, die dafür, dass wir vor unseren Bildschirmen mit „KI“ herumspielen können, oft unter Gefährdung ihrer Gesundheit und in prekären Arbeitsverhältnissen mit niedrigem Lohn oder teilweise in Zwangsarbeit Rohstoffe abbauen, Einzelteile produzieren oder Endgeräte zusammensetzen. Nichts weist darauf hin, dass unsere Digitaltechnologie nach ihrer Entsorgung häufig erneut über den Äquator geschifft wird und auf riesigen Deponien ganze Ökosysteme und die Menschen vergiftet, die versuchen den Bergen an Elektroschrott noch brauchbare Komponenten abzugewinnen.
Das Narrativ „künstlicher Intelligenz“ entpuppt sich damit als ein Versatzstück innerhalb der umfassenden Illusion einer immateriellen Digitalwirtschaft, welche – wie von Kate Crawford und Vladan Joler beschrieben – die Ausbeutung während der Produktion von Daten und Maschinen auf bequeme Art und Weise hinter einem nahezu magischen Glauben an die Maschine und ihre Schöpfer verschwinden lässt.
Täuschwert
Dieser blinde Fleck in unserer kollektiven Wahrnehmung ist insoweit bequem für uns Endkunden, da unser Leben bereits – vom Lebensmitteleinkauf bis zur Wahl der Kleidung – auf Ausbeutungsstrukturen unterschiedlichster Form beruht. Das Immaterialitätsnarrativ transferiert alles, was mit Digitaltechnologie zusammenhängt, in eine abstrakte Ebene, wo es nicht wirklich greifbar, gar harmlos, herumwabert. So ist für uns, zumindest in Bezug auf „KI“ & Co., unbeschwerter Konsum möglich. Allerdings vernachlässigt eine derartige Psychologisierung die Bequemlichkeiten, die eine solche Wahrnehmung für Technologieunternehmen mit sich bringt.
Folgt man den Propheten der schönen neuen digitalen Welt, so beruht unternehmerischer Erfolg heute hauptsächlich auf hochqualifiziertem Personal für Informations- und Kommunikationstechnologie sowie immateriellen Vermögenswerten, also allem, was nicht einfache Arbeit oder materielles Kapital (wie Maschinen oder Grundbesitz) betrifft. In der „Management Science” geht man noch weiter und argumentiert mit Berufung auf den „Rise of Intangibles“, dass neben bereits erfassten immateriellen Werten wie Forschung und Entwicklung, Software, Datenbanken, Urheberrechten und Patenten eigentlich auch noch weitere Aspekte, wie besondere Markenwerte, ausgefeilte Vertriebsstrategien, organisationsinterne Kompetenzen und besonders Daten und Algorithmen von der volkswirtschaftlichen Gesamtrechnung abgedeckt werden müssten. Das würde die immateriellen Anteile an der Wertschöpfung weiter vergrößern.
Dieses Bild einer maßgeblich von immateriellen Gütern, Innovation und Technologie getriebenen Wertschöpfung wirkt nicht nur bei Ankündigungen neuer Technologie positiv auf Aktienkurse, sondern ist auch hervorragend an die Anreizstrukturen des bestehenden Steuersystems angepasst. So weisen Wissenschaft und Praxis seit längerem darauf hin, dass ein Überschuss immaterieller Vermögenswerte Steuerflucht erleichtert, weil sich diese einfach in Niedrigsteuerländer verlagern lassen, was eine erhebliche Verringerung der Steuerlast bei gleichzeitigen Subventionen aus dem Ursprungsland ermöglicht. Dass große Technologieunternehmen oft bei alten und neuen Hegemonen ansässig sind, die eine ausreichende Kontrolle ihrer Unternehmen durch ausländische Verwaltungen zu erschweren wissen, verschärft das Problem.
Die Überbewertung von immateriellen Gütern fördert einen extrem restriktiven Umgang mit geistigem Eigentum, welches in Form exklusiver Nutzungsrechte elementar für die Bewertung von Unternehmen ist
Es liegt also im Interesse profitorientierter Unternehmen durch die massive Überbewertung des Anteils, den immaterielle Güter zu ihrer Wertschöpfung beitragen, Steuern zu sparen. Diese Verlagerung in der Wahrnehmung der Wertschöpfung ist in der sogenannten „Smile-Kurve“ abgebildet. Eine solche Darstellung erscheint uns so lange glaubwürdig, wie wir an dem Märchen der immateriellen digitalen Ökonomie festhalten. Doch wie das Beispiel von ChatGPT zeigt, sind gerade die sog. Routinefunktionen („Ressourcen, Daten und Arbeit”) notwendig für die Entwicklung, Umsetzung und Aufrechterhaltung „digitaler” bzw. „vollautomatischer” Systeme oder Geschäftsmodelle.
Schlussendlich verbinden sich die persönlichen und unternehmerischen Auswirkungen des Narratives „immaterieller Digitalität“ in den Prozessen zur Schätzung der Wertschöpfungsbeiträge unterschiedlicher Unternehmensaspekte: Zum einen werden Aspekte materieller Produktion sowie Datengenerierung im Prozess meist ausgeklammert, während innerhalb der Unternehmen zum anderen häufig nur Wertschöpfungseinschätzungen von der mittleren (männlich, akademisch dominierten) Management-Etage eingeholt werden. So werden sowohl auf prozeduraler als auch auf der Ebene individueller Rückmeldungen bestehende Annahmen über immaterielle Wertschöpfung verfestigt: Unzureichendes Wissen über vorausgegangene Produktionsschritte führt dazu, dass diese als weniger wertvoll angesehen werden, was wiederum die Überschätzung des eigenen Wertschöpfungsbeitrags zu Folge hat.
Knallharte Konsequenzen
Das Narrativ der Immaterialität ermöglicht es der Digitalwirtschaft, die Ausbeutung materieller Aspekte, welche für die Bereitstellung ihrer Dienstleistungen fundamental sind, effektiv zu verschleiern und zugleich auf die Bewertungs- und Besteuerungsprozesse Einfluss zu nehmen. In einer sich zunehmend als „kreativ“ und „wissensintensiv“ verstehenden Wirtschaft hat dies eine Überbewertung immaterieller Aspekte auf Kosten des Wertes von Arbeit und massive Steuerflucht zur Folge.
Seit dem Beginn der „Hyperglobalisierung“ und der Einführung von Informations- und Kommunikationstechnologien in den 1990ern ist der Anteil von Immaterialgütern in der Wertschöpfung stetig gewachsen. Die Überbewertung dieses Anteils ist mitverantwortlich für Verhältnisse, in denen Renditen aus Vermögen stärker steigen als das Wirtschaftswachstum, was zu immer größer werdender Ungleichheit führt (Thomas Piketty beschreibt dies mit der Formel r > g).
Allerdings betrifft dieses Missverhältnis nicht nur, wie in der „Smile-Kurve“ abgebildet, eine Verlagerung der Wertschöpfung von Arbeit zu Kapital bzw. von Handarbeit zu Kopfarbeit, sondern spiegelt auch das Verhältnis zwischen Peripherie und Zentrum wider. Diese Differenzierung betrifft nicht nur globale Machtverhältnisse zwischen dem Globalen Norden und dem Globalen Süden, sondern auch zwischen West- und Osteuropa oder West- und Ostdeutschland.
Verlauf der Wertschöpfungskette (x-Achse) und der jeweilige Anteil an der Wertschöpfung (y-Achse); Pre-fab-Services stehen z.B. für Forschung & Entwicklung und den daraus folgenden Patenten, während Post-fab services z.B. die im Rahmen von Vertriebsleistungen entstehenden Markenwerte umfassen; Quelle: Baldwin / Ito 2022.
Wenn beispielsweise neue Produktionskapazitäten in den neuen Bundesländer aufgebaut werden, fehlen oft von immateriellen Werten getriebene Funktionen wie Forschung & Entwicklung oder zentrale Managementeinheiten. Stattdessen handelt es sich um „einfache” Routinefunktionen mit hohem Automatisierungs- und Abhängigkeitsgrad. Dies schafft zwar neue Arbeitsplätze, führt aber nicht zu einem Transfer von Know-how und damit verbundenem Steuersubstrat.
Die Produktion „digitaler“ Güter unterscheidet sich nur marginal von der „nicht-digitaler“ Güter und basiert ebenso auf der Ausbeutung oder Extraktion von Rohstoffen und Arbeitskraft
Zusätzlich fördert die Überbewertung von immateriellen Gütern einen extrem restriktiven Umgang mit geistigem Eigentum, welches in Form exklusiver Nutzungsrechte elementar für die Bewertung von Unternehmen ist. Diese Monopolisierung von Patenten erschwert nicht nur den Wettbewerb zwischen Unternehmen und Staaten der Peripherie und des Zentrums, sondern verlangsamt auch mögliche Innovation.
We all have mouths and we must scream
Die Digitalwirtschaft ist zweifellos für einige Innovationen verantwortlich, die die letzten 30 Jahre bedeutend geprägt haben und wird auch zukünftige Entwicklungen beeinflussen. Dennoch ist ihre Vormachtstellung fragiler als häufig angenommen, fußt sie doch wie beschrieben zu großen Teilen auf Verschleierungstaktiken. Wer den Schleier lüftet, erkennt schnell, dass sich die Produktion „digitaler“ Güter nur marginal von der „nicht-digitaler“ Güter unterscheidet und ebenso auf der Ausbeutung oder Extraktion von Rohstoffen und Arbeitskraft weit weg von den meisten Nutzer:innen basiert.
Um die planetare Dimension des Extraktivismus in Gänze zu greifen, bleibt uns, laut Crawfords und Jolers „Anatomy of AI”, nichts anderes übrig als jeden Schritt digitaler Infrastruktur- und Produktlieferketten mit Hinblick auf Arbeit, Ressourcen und Daten und deren gemeinsamer Extraktion systematisch zu analysieren und somit über eine einfache Analyse der Beziehung zwischen einem einzelnen Menschen, seinen Daten und einem einzelnen Technologieunternehmen hinauszugehen.
Dieser Ansatz schafft die Grundlage für ein fundamental anderes, materielles, vernetztes Verständnis der Digitalwirtschaft und macht Probleme wie Umweltzerstörung und Arbeitsbedingungen adressierbar. Eine verschärfte Lieferkettengesetzgebung sowie Steuerreformen sind vielversprechende Initiativen. Es liegt an uns, diese immer wieder vehement einzufordern und Konzepte wie „KI“ oder „Cloud“ als das zu benennen, was sie sind: ausgeklügelte Täuschungsmanöver, die mit der Realität herzlich wenig zu tun haben.
Zu den Autoren:
Lukas Seiling hat einen fachlichen Hintergrund in Psychologie, Cognitive Systems und Human Factors. Seit März 2020 ist er für das Weizenbaum-Institut tätig, wo er zur Visualisierung von Datenschutzrisiken, menschlichem Verhalten auf Newsfeeds sowie den Einsatzgebieten von und der Ideologie hinter sogenannter „künstlicher Intelligenz“ forscht.
Jan Winterhalter ist Rechtsanwalt und forscht als Doktorand am Lehrstuhl für Öffentliches Recht und Steuerrecht bei Professor Marc Desens zur Besteuerung der sog. digitalen Wirtschaft und neuen Technologien. Als Promotionsstipendiat der Heinrich Böll Stiftung ist er Research Fellow im dortigen Transformationscluster.
Hinweis:
Der Artikel ist im Zuge einer Gastwissenschaft von letzterem Autor am Weizenbaum Institut Berlin entstanden und beruht auf einem wissenschaftlichen Beitrag, der demnächst in der International Tax Studies veröffentlicht wird.
unser Kommentar: Als Information zur Kenntnisnahme, wobei für uns das kriegerische Geschehen, wie z. B. in der Ukraine, keinerlei Zustimmung bzw. Rechtfertigung erhält.
