KI und Wahrheit – Von Zelig zu Deepfakes

Was uns eine über vierzig Jahre alte Filmkomödie über die Glaubwürdigkeit von Bildern im Zeitalter künstlicher Intelligenz verrät.

(Bitte das PS beachten.)

Ein Mann, den es nie gegeben hat

1983 brachte Woody Allen einen ungewöhnlichen Film in die Kinos: Zelig. Eine fiktive Dokumentation über Leonard Zelig, einen unscheinbaren Mann im Amerika der 1920er- und 1930er-Jahre, der über eine bemerkenswerte Fähigkeit verfügt: Er passt sich seiner Umgebung nicht nur in seinem Verhalten an, sondern verändert auch sein Aussehen. Unter Ärzten wird er zum Arzt, unter Schwarzen verändert sich seine Hautfarbe, unter anderen Menschen übernimmt er deren Eigenschaften. Ein menschliches Chamäleon.

Allen erzählt diese absurde Geschichte in Form einer historischen Dokumentation. Mit vermeintlichen Archivaufnahmen, Interviews, Wochenschauen und Kommentaren. Leonard Zelig begegnet historischen Persönlichkeiten und taucht in authentisch wirkenden Filmaufnahmen vergangener Jahrzehnte auf. Sogar echte Intellektuelle wie Susan Sontag und Bruno Bettelheim kommen als vermeintliche Zeitzeugen zu Wort.

Das Verblüffende daran: Der Film sieht tatsächlich aus wie eine historische Dokumentation.

Dafür betrieb Allen einen enormen technischen Aufwand. Historisches Filmmaterial wurde bearbeitet, neue Aufnahmen künstlich gealtert, Bildmaterial aufwendig kombiniert. Das Ergebnis war eine beeindruckende Illusion – zumindest nach den technischen Maßstäben von 1983.

Natürlich wusste das Kinopublikum, dass Leonard Zelig nie existiert hatte. Gerade darin lag der Witz. Ein offensichtlich absurdes Phänomen wurde mit sämtlichen Mitteln dokumentarischer Seriosität präsentiert.

Heute, mehr als vierzig Jahre später, erscheint Zelig geradezu prophetisch.

Was wird aus der Mockumentary?

Zelig gehört zu den frühen Meisterwerken der Mockumentary, also jener Filmform, die eine fiktive Geschichte mit den Stilmitteln einer Dokumentation erzählt.

Das Genre ist allerdings älter. Schon Woody Allens Take the Money and Run (1969) arbeitete mit dokumentarischen Interviews und einer erfundenen Biografie. Auch The Rutles: All You Need Is Cash (1978) parodierte die Konventionen der Musikdokumentation.

Zelig entwickelte diese Idee technisch und ästhetisch weiter. Der Film lebt von einem reizvollen Widerspruch: Die Form verspricht Wahrheit, während der Inhalt erfunden oder absurd ist.

Ein Jahr nach Zelig erschien This Is Spinal Tap, eine vorgebliche Dokumentation über eine fiktive Rockband. Später folgten zahlreiche weitere Beispiele, bis hin zu Formaten wie The Office.

Heute zu Tage spielt Cunk on Cinema mit dokumentarischer Autorität. Philomena Cunk tritt als vermeintlich kompetente Moderatorin auf, stellt aber Fragen und zieht Schlussfolgerungen, die die Seriosität des Formats systematisch unterlaufen.

Allerdings gibt es einen wichtigen Unterschied.

Während Zelig eine erfundene Wirklichkeit möglichst glaubwürdig präsentiert, entsteht der Humor bei Cunk aus dem Gegensatz zwischen der ernsthaften Präsentation und der offenkundigen Ahnungslosigkeit der Moderatorin.

Beide Formate machen sichtbar, wie stark wir auf die Konventionen dokumentarischer Darstellung reagieren.

Doch was passiert mit dieser Kunstform, wenn täuschend echte audiovisuelle Fiktionen zum Alltag werden?

Vielleicht verliert die perfekte Fälschung ihren Reiz. Was 1983 noch technische Virtuosität demonstrierte, wird zunehmend zur gewöhnlichen Funktion einer Software.

Die eigentliche künstlerische Herausforderung könnte künftig weniger darin liegen, Wirklichkeit überzeugend zu imitieren, als vielmehr darin, die Mechanismen ihrer Glaubwürdigkeit offenzulegen.

Wenn Bilder lügen lernen

Was Woody Allen 1983 mit beträchtlichem Aufwand inszenierte, lässt sich heute mit generativer künstlicher Intelligenz in vielen Fällen innerhalb weniger Minuten herstellen.

Menschen können in historische Filmaufnahmen eingefügt werden. Verstorbene Persönlichkeiten lassen sich scheinbar neue Interviews geben. Politiker können Dinge sagen, die sie niemals gesagt haben. Ereignisse können als überzeugende Videos dargestellt werden, obwohl sie nie stattgefunden haben.

Die grundlegende Idee ist nicht neu. Fotografien wurden schon lange vor der Digitalisierung manipuliert. Filmaufnahmen wurden inszeniert, aus dem Zusammenhang gerissen oder nachträglich verändert. Und die Geschichte politischer Propaganda ist voller Beispiele für manipulierte Bilder.

Neu sind allerdings drei Eigenschaften:

Erstens: die Zugänglichkeit. Was früher Spezialisten, Studios und erhebliche Budgets erforderte, steht heute einem wesentlich größeren Personenkreis zur Verfügung.

Zweitens: die Geschwindigkeit. Synthetische Bilder, Stimmen und Videos können innerhalb kürzester Zeit produziert und verändert werden.

Drittens: die Skalierbarkeit. Falsche audiovisuelle Inhalte lassen sich massenhaft erzeugen, personalisieren und über soziale Netzwerke verbreiten.

Damit verändert sich nicht nur die Produktion von Medien. Es verändert sich auch ihre gesellschaftliche Bedeutung.

Das Ende von „Ich habe es doch selbst gesehen“

Über lange Zeit besaßen Fotografien und Filmaufnahmen eine besondere Autorität.

Natürlich wussten wir, dass Bilder täuschen können. Aber eine Videoaufnahme galt dennoch als vergleichsweise starkes Indiz dafür, dass etwas tatsächlich geschehen war.

Die dokumentarische Form verstärkte diesen Eindruck. Historische Aufnahmen, Interviews, eine sachliche Erzählstimme und eingeblendete Quellenangaben signalisierten Glaubwürdigkeit.

Genau mit diesen Konventionen spielte Zelig.

Generative KI stellt dieses Wahrheitsversprechen nun grundsätzlich infrage.

Denn wenn sich nahezu jede beliebige Szene synthetisch erzeugen lässt, verliert das Bild als solches einen Teil seiner Beweiskraft.

Wir bewegen uns von einer Medienkultur des

„Ich glaube es, weil ich es sehe“

zu einer Medienkultur des

„Ich muss wissen, woher es stammt, bevor ich es glaube“.

Dabei geht es nicht darum, dass Bildern grundsätzlich nicht mehr zu trauen wäre. Es geht darum, dass ihre Glaubwürdigkeit zunehmend von ihrer Herkunft, ihrem Kontext und ihrer überprüfbaren Entstehungsgeschichte abhängt.

Die Frage lautet nicht mehr nur: Was zeigt dieses Video?

Sondern auch: Wer hat es erstellt? Woher stammt es? Was lässt sich unabhängig davon überprüfen?

Wenn auch die Wahrheit zur Fälschung erklärt wird

Die Diskussion über Deepfakes konzentriert sich meist auf die Gefahr, dass Menschen falsche Inhalte für wahr halten.

Das ist zweifellos ein ernstes Problem. Aber es gibt noch eine zweite, möglicherweise folgenreichere Entwicklung.

Was passiert, wenn Menschen echte Aufnahmen einfach als KI-Fälschung zurückweisen können?

In der wissenschaftlichen Diskussion gibt es dafür einen Begriff: Liar’s Dividend – den Vorteil, den Lügner daraus ziehen können, dass glaubwürdige Fälschungen überhaupt möglich sind.

Ein Politiker wird mit einer kompromittierenden Aussage konfrontiert. Ein Unternehmen muss sich für dokumentiertes Fehlverhalten rechtfertigen. Ein Video zeigt einen tatsächlichen Übergriff.

Früher musste man versuchen, die Aufnahme zu erklären, ihren Kontext infrage zu stellen oder ihre Echtheit konkret anzuzweifeln.

Heute reicht möglicherweise schon die Behauptung: „Das ist doch KI.“

Ob die Aufnahme tatsächlich manipuliert wurde, spielt für die öffentliche Wirkung zunächst eine untergeordnete Rolle. Allein die Möglichkeit einer Fälschung kann genügen, um Zweifel zu säen.

Damit entsteht eine paradoxe Situation:

Je überzeugender künstlich erzeugte Wirklichkeit wird, desto leichter lässt sich auch tatsächliche Wirklichkeit bestreiten.

Die Gefahr liegt also nicht nur darin, dass wir Falsches glauben. Sondern auch darin, dass wir aufhören, Wahres anzuerkennen.

Zelig und die Identität künstlicher Intelligenz

Dabei lohnt es sich, noch einmal auf die eigentliche Geschichte von Leonard Zelig zurückzukommen.

Denn Woody Allens Film handelt nicht nur von der Manipulierbarkeit dokumentarischer Bilder.

Er handelt vor allem von Identität.

Leonard Zelig passt sich seiner Umgebung so vollständig an, dass er keine erkennbare eigene Persönlichkeit mehr besitzt. Er wird zu dem, was seine Umgebung von ihm erwartet.

Das ist eine erstaunlich passende Metapher für einen Teil unserer heutigen Erfahrungen mit generativer KI.

Sprachmodelle können in unterschiedlichsten Stilen schreiben. Bildgeneratoren imitieren ästhetische Konventionen. Synthetische Stimmen übernehmen Tonfall und Ausdrucksweise. KI-Systeme passen ihre Antworten an Kontext, Erwartungen und Vorgaben an.

Natürlich sind die Mechanismen grundverschieden. Leonard Zelig ist eine fiktive Figur mit einer psychologischen Identitätskrise. Generative KI verarbeitet Muster auf der Grundlage mathematischer Modelle.

Aber die Parallele ist reizvoll.

Beide können nahezu beliebige Ausdrucksformen annehmen, ohne dass dahinter notwendigerweise eine eigenständige, stabile Position steht.

Zelig wollte dazugehören. Generative KI ist darauf ausgelegt, passende Ergebnisse zu produzieren.

Und vielleicht liegt gerade darin eine zusätzliche Herausforderung: Wir neigen dazu, hinter einer überzeugenden Darstellung auch eine entsprechende Identität, Kompetenz oder Erfahrung zu vermuten.

Eine glaubwürdig klingende Stimme erscheint uns kompetent. Ein souverän formulierter Text wirkt fundiert. Ein dokumentarisch inszeniertes Video vermittelt Authentizität.

Dabei sind all das zunächst Eigenschaften einer Darstellung – keine Beweise für ihren Wahrheitsgehalt.

Woody Allen – zwischen filmischer Genialität und persönlicher Kontroverse

Eine Würdigung von Zelig kommt heute kaum ohne einen kritischen Blick auf seinen Regisseur aus.

Woody Allen zählt zu den einflussreichsten Filmemachern des amerikanischen Kinos. Gleichzeitig ist seine Person seit Jahrzehnten Gegenstand schwerwiegender Kontroversen. Die gegen ihn erhobenen Missbrauchsvorwürfe wurden untersucht, führten jedoch zu keiner strafrechtlichen Anklage.

Für die Betrachtung von Zelig ergibt sich daraus eine interessante zusätzliche Ebene: Wie beeinflusst unser Wissen über einen Künstler die Wahrnehmung seines Werks? Und wie gehen wir mit widersprüchlichen Darstellungen einer Wirklichkeit um, die wir selbst nicht unmittelbar überprüfen können?

Wahrheit wird zur Frage des Vertrauens

Was folgt daraus?

Sicherlich nicht, dass wir künftig jedes Bild, jedes Video und jede Aussage grundsätzlich anzweifeln müssen. Eine solche Haltung würde uns letztlich handlungsunfähig machen.

Aber wir werden lernen müssen, Glaubwürdigkeit anders zu beurteilen.

Nicht allein anhand der Überzeugungskraft einer Darstellung, sondern anhand ihrer Herkunft und Überprüfbarkeit.

Technische Lösungen wie Herkunftsnachweise, digitale Signaturen und Standards zur Dokumentation der Entstehung von Medien können dabei helfen. Sie sind allerdings keine Garantie für Wahrheit. Auch authentisch aufgezeichnete Bilder können irreführend ausgewählt, kommentiert oder aus dem Zusammenhang gerissen werden.

Entscheidend bleibt deshalb die Fähigkeit, Quellen einzuordnen, Aussagen gegenzuprüfen und zwischen einer überzeugenden Darstellung und einem belastbaren Beleg zu unterscheiden.

Das ist keine völlig neue Medienkompetenz. Aber sie wird im Zeitalter generativer KI erheblich wichtiger.

Von der Satire zur gesellschaftlichen Realität

Als Zelig 1983 erschien, war die Vorstellung eines Menschen, der sich nach Belieben in historische Filmaufnahmen integrieren ließ, eine filmische Sensation und zugleich eine brillante Satire.

Heute wäre die technische Umsetzung kaum noch das Bemerkenswerteste an der Geschichte.

Bemerkenswert ist vielmehr, wie sehr sich unser Verhältnis zur medialen Wirklichkeit verändert hat.

Woody Allen konnte noch darauf vertrauen, dass sein Publikum zwischen der erfundenen Geschichte und der Realität außerhalb des Kinosaals unterschied.

Bei KI-generierten Videos ist diese Trennung längst nicht immer so eindeutig. Sie erscheinen ohne erklärenden Vorspann zwischen echten Nachrichten, privaten Aufnahmen und journalistischen Beiträgen.

Die Fiktion verlässt gewissermaßen den Kinosaal und mischt sich unter unsere alltäglichen Informationsquellen.

Zelig war 1983 eine Satire auf den Menschen als Chamäleon. Im Zeitalter generativer KI wird daraus eine Metapher für eine Medienwelt, in der Bilder, Stimmen und Geschichten jede beliebige Gestalt annehmen können.

Die eigentliche Herausforderung ist deshalb nicht, dass Maschinen inzwischen überzeugend lügen können.

Sondern dass wir als Gesellschaft neue Wege finden müssen, Wahrheit zu erkennen, zu belegen und gemeinsam anzuerkennen.

Denn wenn alles gefälscht sein könnte, darf daraus nicht folgen, dass nichts mehr als wahr gelten kann.


Quellen und weiterführende Literatur

  • Allen, Woody (1969): Take the Money and Run. Spielfilm.
  • Idle, Eric & Weis, Gary (1978): The Rutles: All You Need Is Cash. Fernsehfilm.
  • Allen, Woody (1983): Zelig. Spielfilm, Orion Pictures.
  • Reiner, Rob (1984): This Is Spinal Tap. Spielfilm.
  • Dick, Kirby & Ziering, Amy (2021): Allen v. Farrow. Vierteilige HBO-Dokumentarserie.
  • Chesney, Robert & Citron, Danielle Keats (2019): Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security. California Law Review, 107(6), 1753–1820. https://doi.org/10.15779/Z38RV0D15J
  • Vaccari, Cristian & Chadwick, Andrew (2020): Deepfakes and Disinformation: Exploring the Impact of Synthetic Political Video on Deception, Uncertainty, and Trust in News. Social Media + Society, 6(1). https://doi.org/10.1177/2056305120903408
  • Coalition for Content Provenance and Authenticity (C2PA): Technical Specification. https://c2pa.org/specifications/

P.S.
Dieser Post entstand mit tatkräftiger Unterstützung von KI. Auf die Idee Mockumentaries mit KI in Verbindung zu bringen kam ich beim Schauen von Cum on Cinema auf Netflix. Ich habe mich dabei an die erste Mockumentary, die ich bewusst gesehen habe erinnert: Zelig -von Woody Allen.

Jetzt ist 2026 Woody Allen ein Kapitel für sich. Die Einordnung des Menschen steht neben seiner unbestrittenen filmhistorischen Bedeutung. (Die entsprechende Passage musst ich im KI-Entwurf diese Posts allerdings nacharbeiten lassen -die erste Version war vollkommen unkritisch.). Aber das ist ein Sidetrack unserer KI-Story. Nicht weniger bedeutsam, aber für die KI Thematik nicht relevant.

Bemerkenswert an Zelig und übertragbar auf unsere aktuelle KI-Diskussion ist die Auseinandersetzung mit manipulierter Realität.

Absurderweise, das mag ein woke-Problem sein, ist Zelig aktuell auf keiner Streaming-Plattform abrufbar. Das mag an der Kritik an dessen Schöpfer liegen, nicht aber an der kulturhistorischen Bedeutung. Das ist aber eine andere Debatte

KI als Coach

Ein ungeplanter Selbstversuch: Die kleine Reihe Zielarbeit unter Unsicherheit war für mich Anlass genug die eigene Zielarbeit mal wieder aufzugreifen. Während ich das früher regelmäßig gemacht habe, habe ich diese Hausaufgabe zuletzt etwas vernachlässigt.

Angefangen hat meine persönliche Zielarbeit mal mit einer Excel-Datei in die ich Ziele, Unterziele und konkrete Aufgaben/Maßnahmen runtergebrochen habe. Irgendwann wurde aus Excel dann eine (elektronische) Mindmap.

Nachdem ich den MindManager mittlerweile zu Gunsten von Miro aufgegeben habe, war wieder ein Formatwechsel notwendig und (a) weil es zeitgemäß ist und (b) ich faul bin, macht man so etwas heute zu Tage mit KI in diesem Fall ChatGPT.

Die letzte alte Map als JPG hochgeladen und einen Prompt abgesetzt:

Ich habe früher mindestens vierteljährlich Zielarbeit betrieben und das zuletzt etwas schleifen lassen. In der Anlage eine der letzten Mindmaps mit meinen Zielvorstellungen. Ich möchte dass du mich als Coach durch eine Bestandaufnahme führst, was daraus geworden ist und dass wir dann gemeinsam eine neue/aktualisierte Ziele Mindmap erarbeiten.

Das mit dem Coach war eher so dahin gesagt, eigentlich ging es mir wirklich nur um den Formatwechsel und eine inhaltliche Aktualisierung.

Aber nicht mit ChatGPT! Die KI hat mich beim Wort genommen und wirklich den kompletten Prozess bis hin zur hübsch formatierten MindMap gestaltet mit Thesen, Fragen und Analysen. Die Überarbeitung (also der gesamte Dialog – nicht die Rechenleistung) hat gute 1 1/2 Stunden gedauert und ich war von der Professionalität angenehm überrascht. Ein solches Coaching wäre tatsächlich echtes Geld wert gewesen. Chapeau dafür.

Aber jetzt einmal kritisch bewertet:

Im Dialog war zu erkennen, dass die KI meine Reihe der Zielarbeit unter Unsicherheit schon als Kontext kannte. Meine alte, über Jahre entwickelte Zieldatei war auch schon als Input beigesteuert. Im Dialog habe ich bewusst auch dem einen oder anderen Einschlag der KI gegengesteuert. Die Vorschläge der KI zur Änderung auf den ersten beiden Ebenen des Zielsystems habe ich weitgehend abgewendet, die Musik spielte dann bei der Aktualisierung der unteren Ebenen. Das würde ich jetzt nicht als Schwäche der KI einordnen, sondern als Stärke des über Jahre schon gewachsenen Systems.

Was mich aber etwas stirnrunzelnd zurücklässt, ist, dass die Bearbeitung nicht die gleiche war wie früher. Zielarbeit war immer intensiv, aber auch befriedigend. Im Dialog mit der KI wird da die eigene Rolle deutlich passiver. Man gibt schnell mal eine Antwort oder klickt einfach – vielleicht zu einfach. Keine Kritik an der KI, sondern am Nutzer. Und genau da müssen wir noch viel lernen: die Arbeit mit KI verändert unser Denken und Handeln in einer Form wie es weder von der KI noch von uns selbst intendiert ist. Der Dialog funktioniert einfach anders – und nicht unbedingt zum Vorteil. Es gibt dabei aber auch eine gute Nachricht: Wenn wir der KI schlampig antworten, einfach andere Dinge einwerfen, reagiert sie vermutlich toleranter als ein menschlicher Coach. Mit solchen Einwürfen kann man dann auch mal Gegensteuern – ja ich habe die Grundstruktur meines Zielsystems behalten!

Ist die KI jetzt der bessere Coach?

Das würde ich jetzt nicht so sehen. Der primäre Coach war ich selbst mit meinem Prompt. Der Prozess war also eher ein Selbstcoaching mit KI – so eingeordnet aber auch wieder ganz ok. Ich würde die KI nicht als Ersatz für einen menschlichen Coach, sondern eher als Ergänzung sehen. Ihr gigantischer Vorteil ist natürlich ihre Verfügbarkeit und lästige Fleißaufgaben wie die Dokumentation erledigt sie gleich mit. Allerdings verwässert sie auch die Prozessqualität, d.h. sie verführt uns dazu die Prozessqualität zu verwässern, denn mal schnell und etwas schlampig habe ich schon selber geantwortet. Gegenüber den früheren Zielarbeitssessions empfand ich die Sitzung als nicht ganz so intensiv. Wie zuvor schon erwähnt rutscht man schnell in eine eher passive Haltung und lässt halt die KI machen. Auch wenn sich das Ergebnis sehen lassen kann ist es ehrlicherweise nicht ganz so befriedigend wie früher und wahrscheinlich war früher mein Comitment zum Ergebnis auch höher.

Alles in allem nichts, was man der KI vorwerfen kann (nur mir selbst), aber doch ein weiteres Learning zum Umgang mit der KI,

KI ist keine zuverlässige Automatisierung

Wir arbeiten gerade an der englischen Buchausgabe der Table und im Moment bin ich ehrlich gesagt ziemlich frustriert. Der Verlag hat sich einen smarten KI-Workflow ausgedacht und KI Übersetzungen funktionieren (bei Sachtexten) schon erstaunlich gut, aber:

Die Tücke liegt im Detail.

KI ist keine zuverlässige Automatisierung. Die Schreibweise von (in unserem Fall: Methodennamen) variiert. Mitunter werden unterschiedliche Schreibweisen in einem Abschnitt gebraucht. So etwas wieder konsistent hinzubekommen ist eine Sisyphos-Aufgabe und zu Fuß natürlich auch wieder fehleranfällig.

Wir haben in unserem System mit eindeutigen Attributen gearbeitet. Für jedes Attribut gibt es vorgegebene Optionen. Die KI hat nun aber fallweise übersetzt – mal so und mal so.

Während bei klassischer Automatisierung die Ergebnisse berechenbar sind (ein Skript macht, was es soll), entscheidet die KI von Fall zu Fall.

Man könnte jetzt einwenden, dass die Prompts im Workflow vielleicht nicht differenziert genug waren. Mag sein, aber die Komplexität ist im Vorfeld kaum abschätzbar. Und was uns im konkreten Fall echt fehlt, ist ein Change Log. Die Änderungen der KI an unseren Grafiken sind so gut, dass sie auf den ersten Blick gar nicht auffallen und schon gar nicht ausgewertet und nachverfolgt werden können.

Jetzt ist unser Buchmanuskript ja nur eine einmalige Aufgabe. Parallel sehe ich aber wie im Unternehmenskontext, im Umfeld von ERP-Systemen zunehmend KI-Lösungen aufpoppen. So was wie Change Logs sind da ein bei weitem noch unterschätztes Thema. Mit Principal Propagation wird sichergestellt, dass die KI nur macht, was die aktuelle Nutzerin/der Nutzer auch darf. In den Log-Files der Systeme tauchen die Änderungen dann aber mit Nutzernamen auf und es ist kaum nachvollziehbar, dass das im Zusammenspiel mit KI passiert ist. Es gibt kein KI-Flag im Log.

Solche Themen werden uns noch massiv einholen.

Die Dynamik in der Entwicklung von KI-Lösungen ist so rasant, dass wir kaum nachkommen solche Fragestellungen proaktiv anzugehen.

Ich fürchte, die Lernkurve wird noch sehr schmerzhaft werden.

Fortschritte in der Bildgenerierung mit KI

Für die Table of Elements haben wir eine Reihe von Marketing Grafiken, die wir vor allem auf unserem LinkedIn-Kanal nutzen mit ChatGPT generiert. Gerade bei den zuletzt generierten Grafiken zeigt sich die Entwicklung der KI in diesem Bereich: Die Treffsicherheit bei der Umsetzung der Prompts ist höher, die Grafiken sind viel „fein-granularer“, was ein kleines bisschen doof ist, weil die neue Generation jetzt optisch schon ein bisschen anders aussieht als die ersten Grafiken, obwohl alles im gleichen Projekt läuft und eigentlich die Anschlussfähigkeit klar sein sollte.

Während ich bei der alten Bildgenerierung damit kämpfen musste, dass ich immer älter und älter wurde, während mein Kollege Botta immer jugendlich jung dargestellt wurde, profitieren wir jetzt wenigstens beide vom digitalen Jungbrunnen.

Das (ganz) neue Spiel

Eher zufällig bin ich über meine Aufzeichnungen zu Michael Seemanns Buch „Das neue Spiel“ aus dem Jahr 2014 gestolpert (siehe auch hier auf schlossblog). Seemann hat sich mit dem Thema Kontrollverlust vor dem Hintergrund der damals immer dominanter werdenden großen Internet-Plattformen auseinander gesetzt. Da war von KI noch keine Rede, aber seine 10 Regeln gelten auch für die KI, von anzunehmenden neuen Spielregeln, über den Kontrollverlust bis hin zur Eigenverantwortung. Vielleicht müsste man noch eine 11. Regel KI-spezifisch ergänzen:

Hinterfrage Integrität und Korrektheit aller Antworten.

Mit einer solchen Regel würde man dann noch dem Thema Biases und Halluzinationen Rechnung tragen.

Die geänderten gesellschaftlichen Kommunikationsstrukturen bekommen bei der KI durch die Agenten nochmal eine neue Dimension, aber auch die Rolle des Staats (als Teil des Problems) findet sich schon bei Seemann. Bei der KI haben wir gerade den amerikanischen Versuch erlebt, mit Exportkontrolle einen Kontrollverlust zu unterbinden, ob dies dauerhaft gelingen wird, wage ich allerdings zu bezweifeln.

AI Use Cases für SAP

In meinen Kundenprojekten nimmt die KI immer mehr Raum ein – auch im SAP Umfeld. Dabei zeigt sich, dass alle Parteien (inkl. SAP selber) noch am Lernen sind – insbesondere was sicherheitsrelevante und regulatorische Aspekte angeht (die Technik eilt da eher voraus).

Ein Kollege hat in einer Übersicht die Use Cases in Pattern/Muster geclustert und unterscheidet:

  • Knowledge-Based Use Cases – Dem Anwender wird gezielt mittels KI Wissen angeboten und aufbereitet, z.B. aus der SAP Hilfe, Prozessdokumentationen, etc.
  • Navigational Use Cases – Dem Anwender wird geholfen Funktionalitäten und Menüpunkte zu finden ohne dass die AI aktiv in die Geschäftsprozesse eingreift. Das geht schon stark in die Richtung KI als User Interface.
  • Analytical Use Cases – KI gestützt werden Informationen aufbereitet und ausgegeben. Auch wenn die KI nicht direkt in die Geschäftsprozesse eingreift, kann dies außerhalb des Systems in Entscheidungen zum Tragen kommen. Eine Bewertung kann daher nur fallweise erfolgen.
  • Transactional Use Cases – Die KI führt aktiv Transaktionen durch. Theoretisch könnte die KI damit auch gravierende Entscheidungen treffen. Dass ein Bot Menschen entlässt oder einstellt, halte ich allerdings eher für eine theoretische Variante. Viel mehr kommt hier das Thema Automatisierung zum Tragen: Wie ein Mensch kann die KI Käufe/Verkäufe/Zahlungen/etc. veranlassen, dummerweise halt nicht nur eine einzelne, sondern unzählige, bis der Vorgang überhaupt erst transparent wird und ggf. jemand eingreifen könnte. Eigentlich ist das Automatisierungsrisiko auch keine KI-Thematik, sondern ein Effizienz-Thema und die KI ist uns in Sachen Effizienz bei der Massenverarbeitung hoffnungslos überlegen.

Die ersten beiden Use Cases sind hingegen vergleichsweise trivial: Ihre Inhalte sind weitgehend öffentlich oder maximal für einen internen Gebrauch bestimmt und es gibt keine direkten Konsequenzen, die zu verfolgen wären.

Auf der Lösungsseite sind mir im SAP Umfeld bislang 3 technologische Ansätze untergekommen:

  • SAP Joule – die SAP eigene KI, wobei man etwas aufpassen muss, weil SAP den Namen Joule marketingtechnisch etwas inflationär benutzt und schnell alles, was mit KI zu tun hat, auch mal als Joule betitelt
  • Specific Capabilities – Während Joule weitgehend produktübergreifend konzipiert ist, entwickelt SAP auch spezifische KI-Lösungen für Ihre Produkte, z.B. für SAP Signavio oder andere. Dabei wird mitunter, wie auch bei Joule, die Business AI Foundation genutzt, sprich auch für spezifischere Anwendungsfälle kommen die gleichen LLMs zum Einsatz, die dann auch spezifische Modelle und Lösungen unterstützen.
  • Individual AI Solutions – Mit SAP BTP hat die SAP entwicklungsseitig Tür und Tor geöffnet und findige Entwickler können im eigenen Programmcode natürlich auch beliebige KI Lösungen ansprechen. Der Tragweite kann durchaus immens sein und der SW-Entwicklung kommt plötzlich auch die Verantwortung für Auswahl, Konfiguration und Nutzung der KI-Modells zu. In diese Kategorie würden auch KI-Lösungen von 3rd-Party Anbietern fallen, auch wenn mir solche bislang noch nicht untergekommen sind, was aber sicher nur eine Frage der Zeit ist.

Unabhängig von der KI-Thematik gilt es zu berücksichtigen, dass Daten mitunter über Schnittstellen bis hin zu 3rd Parties, wie z.B. einem LLM-Anbieter gegeben werden. Wie weit dies in Abhängigkeit von der Kritikalität der Daten sinnvoll oder sogar zulässig ist, ist zu berücksichtigen.

Wie verteilen sich nun die Use Cases auf die Lösungsszenarien? Hier meine Interpretation (es mag Ausnahmen geben, aber die Tendenz scheint naheliegend):

SAP Joule dürfte die Knowledge-Based und Navigational Use Cases weitestgehend abdecken. Bei Analytical Use Cases bin ich mir noch nicht sicher , wie weit hier SAP Joule zum Einsatz kommen wird, auch wenn generisch die Ansätze vorhanden sein werden. Im analytischen und auch im transaktionalen Bereich werden aber produktspezifische Capabilities wie sie auch bei der SAP auf der Roadmap stehen eine gewichtige Rolle spielen. Individuelle Lösungen können als „Schweizer Taschenmesser“ oder für noch spezifischere Anwendungsfälle fungieren. Die Hemdsärmligkeit, wie wir sie auch aus der Entwicklung von KI-Tools in anderen Bereichen kennen steht hier im Widerspruch zu den gestiegenen Anforderungen und der Verantwortung bei Entwicklung und Einsatz.

Das bringt uns noch zu einem weiteren Aspekt: den Compliance-Anforderungen, z.B. aus dem EU AI Act (eine Zusammenfassung gibt es übrigens auch im schlossBlog) und unternehmenseigenen Anforderungen, z.B. aus dem Risikomanagement.

Jetzt stehen das Enterprise Risk Management und der EU AI Act zwar nicht im Widerspruch, aber die EU-Bürokraten haben bei ihrer Arbeit leider übersehen, dass der Risiko-Begriff längst auch anderweitig besetzt war und ist. Ihr Fokus auf Menschenrechte und hoheitliche Themen ist Ausdruck des Elfenbeinturms in dem sie sich bewegen. Nicht dass die Anforderungen per se falsch wären, aber es gibt eben auch noch andere Anforderungen und ich persönlich halte es nicht für zielführend für jede Technologie eigene Regelwerke zu erlassen, anstatt allgemeine Regelwerke auf ihre Tauglichkeit hin für neue Technologien zu prüfen, das hat schon zur EU-Leuchtmittelverordnung und zu EU-Staubsaugerverodnung geführt.

Auch wenn Unternehmensrisiken durchaus die Themen des AI Act aufgreifen sollten, ist der Schwerpunkt der Betrachtung doch ein anderer. Ich sehe hier vor allem zwei Themenfelder:

(1) KI-gestützte Entscheidungen (und nicht nur Personalentscheidungen wie im AI Act, sondern grundsätzlich auch die strategische Entscheidungsfindung, die im worst case existenzbedrohend für ein Unternehmen werden kann.)

(2) Das Automatisierungsdilemma. Die KI kann, wie wir Menschen, Fehler machen, nur kann sie diese auch exponentiell machen. Ich habe ja auch an anderer Stelle schon darauf hingewiesen, dass wir vielleicht eine eigene Fehlerkultur für die KI entwickeln müssen.

Spannend wird es, wenn wir nun die Enden dieses Beitrags zusammenführen:

Die meisten SAP Joule Anwendungsfälle (weil Knowledge-based und Navigational) sind aus Risikosicht (sowohl des AI Acts als auch des Enterprise Risk Managements) trivial. Die Tücke liegt aber im Detail und analytische und transaktionale Anwendungsfälle benötigen dann doch eine genauere Betrachtung. In einer Diskussion mit Vertretern der SAP habe ich den Kollegen die Frage gestellt, ob SAP Joule maximal low-risk Use Cases im Sinne des AI Acts abdeckt und high-risk Use Cases out of scope sind. Soweit wollte allerdings niemand gehen, auch wenn sich alle Fälle die wir aktuell diskutieren in diesem Bereich bewegen. Die Fragen, wie die Anforderungen für high-risk Use Cases (im Sinnes des AI Acts) seitens SAP abgedeckt werden, wurden aber eher mit einem Commitment als mit konkreten Aussagen beantwortet.

Bei den Specific Capabilities liegt eine fallweise Betrachtung auf der Hand. Zur Herausforderung könnten aber insbesondere Individual AI solutions werden. Anforderungen, wie Logging Capabilities, technische Dokumentation und Robustheit, wie sie der AI Act für high-risk Use Cases fordert machen auch aus Unternehmenssicht darüber hinaus Sinn, wenn man an das Thema Automatisierung denkt. Die Verantwortung der Entwickler steigt hier, mitunter ohne dass sie sich dessen bewusst sind.

Gelesen: Human Robot Agent

Nein, dies ist keine Rezension. Stattdessen möchte ich gerne 5 Themen aus Jurgen Appelos neuen Buch Human Robot Agent aufgreifen und vielleicht auch weiterspinnen. 
Appelo, Jurgen. Human Robot Agent: New Fundamentals for AI-Driven Leadership with Algorithmic Management, Rotterdam 2025, ISBN-13: 978-90-834236-2-3 (Amazon)

1. Der Niedergang des Agilen

Mit seinem Management 3.0 hat Jurgen Appelo die Ideen agiler Softwareentwicklung auf das Management übertragen. Er war somit einer derjenigen, die den Grundstein für den agilen Hype der letzten Jahre gelegt haben. Mit seinen Wurzeln in der Systemtheorie war er ein Vordenker. Und was jetzt? Jetzt schließt sich ausgerechnet dieser Vordenker dem Abgesang an – zumindest dem Abgesang auf den agilen Mainstream. Und Jurgen fragt, warum agiles Arbeiten heute in vielen Unternehmen versagt.

Er führt dafür zehn Punkte an:

  • Der Zertifizierungswahnsinn
  • Überladene Frameworks
  • Agiler Dogmatismus
  • Modeerscheinungen und Modetrends
  • Eine fragwürdige Interpretation der neuen Rollen
  • Eine Überbetonung der Velocity (Geschwindigkeit über Ergebnis)
  • Ein Management-Vakuum aufgrund der Fokussierung auf Teamautonomie und der gleichzeitigen Vernachlässigung bewährter Managementpraktiken
  • Fehlende Abstimmung mit der Strategie (Methoden über Wirkung)
  • Die grundsätzliche Frage, ob Werte und Prinzipien des agilen Manifests im Zeitalter von AI nicht überholt sind

Er stellt fest:
„The Agile Manifesto was an incredibly influential breakthrough achievement. But it was written in the age of the Third Industrial Revolution. And it’s true that many companies still struggle to grasp its basic ideas. However, in the meantime, the underlying paradigm has shifted. To survive the Fourth Industrial Revolution, we must rewrite the core values and principles that once made Agile revolutionary. We should stop migrating organizations to an outdated operating system.“

Aber auch:
„Organizations need agility more than ever.“

Für meinen Geschmack geht Jurgen etwas zu hart mit der Agilität ins Gericht. Was am Ende ist, ist der Hype um die agile Transformation, der häufig kaum diesen Namen verdient hat. Agilität an sich ist zeitlos – und war es schon immer. Schon lange vor der Erfindung des Begriffs waren erfolgreiche Projektmanager:innen agil und werden es auch weiterhin sein. Ausgelutscht ist lediglich die Managementmode mit diesem Titel, nicht die dahinterliegenden Ideen und Prinzipien.

Auf die Frage „Und was kommt jetzt?“ ist seine Antwort klar: die vierte industrielle Revolution – alias Künstliche Intelligenz. Allerdings würde sich hier ein differenzierterer Blick lohnen. Keine Frage, die KI/AI wirbelt gerade vieles durcheinander. Und auch wenn wir schon mittendrin stecken, können wir die Tragweite noch gar nicht abschätzen. Die Strömungen, die aus den „Revolutionen“ resultieren, lösen einander nicht ab – sie existieren nebeneinander, auch wenn sich die Gewichte verschieben. Auch  wenn die AI gerade dominiert, gibt es in Teilbereichen noch die Facetten der vorherigen Revolutionen.

Selbst klassische Managementpraktiken aus der Welt der Produktion haben daher noch ihre Berechtigung. Wir müssen nur ihre Anwendung kritisch hinterfragen und jeweils entscheiden, ob sie in der konkreten Situation noch angemessen sind.

Als Management-Mode hat die AI aber sicher die agile Transformation abgelöst – obwohl das wiederum nicht ganz richtig ist, denn die Künstliche Intelligenz baut auf der Digitalisierung auf. So gesehen eine Fortsetzung auf einem anderen Level.

Aber bitte nicht falsch verstehen: Meine Skepsis gilt nicht der Künstlichen Intelligenz, sondern den Managementmoden. Ich bin grundsätzlich kein Freund von Moden. Die willigen Jünger haben sich nun ein neues Pferd ausgesucht, auf das sie genauso unreflektiert setzen, wie auf das vorherige. Ich fürchte, die Heerscharen agiler Coaches, die gerade auf der einen Seite hinauskomplimentiert werden, kehren auf der anderen Seite mit neuen AI-Zertifikaten in die Unternehmen zurück. Die geposteten Zertifikate auf LinkedIn sprechen bereits eine deutliche Sprache.

2. Beyond VUCA

Wenn VUCA nicht mehr reicht – Willkommen in BANI! Oder vielleicht besser: in MARVIS. Denn Jurgen Appelo geht über das gängige Denken in Unsicherheiten hinaus und liefert ein Framework, das differenzierter, aktueller und handhabbarer ist: Das Wicked Framework.

Zunächst ein kurzer Rückblick: VUCA steht für Volatilität, Unsicherheit, Komplexität und Ambiguität. Es wurde vor allem im militärischen Kontext geprägt und hat später Einzug in die Managementwelt gehalten. Doch Appelo meint: Diese vier Begriffe sind nicht mehr ausreichend, um die heutigen Herausforderungen zu beschreiben.

Er beschreibt zunächst das BANI-Modell (Brittle, Anxious, Nonlinear, Incomprehensible), zeigt aber auch seine Schwächen auf.

Deshalb schlägt Appelo ein eigenes Modell vor: das Wicked Framework – bestehend aus den sechs Dimensionen Modularity, Ambiguity, Reflexivity, Volatility, Intricacy und Scalability, kurz: MARVIS. Jede Dimension beschreibt einen bestimmten Aspekt der Unsicherheit. Für jede Dimension definiert Appelo drei typische Ausprägungen. Praktisch gedacht: eine Matrix zur Einordnung und zum Umgang mit komplexen Problemen.

Was daran spannend ist: Statt einer eindimensionalen Sicht auf Komplexität bietet MARVIS ein skalierbares, differenziertes Bild. Führungskräfte können systematisch reflektieren, wo ihre Herausforderungen liegen – und gezielt darauf reagieren.

Ein Beispiel: In einem System mit hoher Modularität und geringer Skalierbarkeit braucht es andere Interventionen als in einem hochvolatilen, reflexiven Umfeld.

Appelo träumt dann davon in den Profilen des MARVIS Modells Archetypen identifizieren zu können und für diese übertragbare Lösungsansätze zu entwickeln. Böse gesagt: Patentrezepte für Komplexität.

Da mag der Wunsch Vater des Gedanken sein, aber Träumen darf man ja.

3. Küchenwerkzeuge

Appelo nutzt eine Küchenmatapher und vergleicht Management-Tools mit Küchenwerkzeugen:
„Management tools, like kitchen tools, are built for predictable use cases. Strategic planning frameworks and stage-gate processes thrive in stable environments with familiar market dynamics. They’re great for whipping up tried-and-true dishes—or even new ones, provided the management paradigm remains unchallenged. The problem lies in today’s fast-changing, innovation-driven world. Standard tools fall short in new contexts. It’s like trying molecular gastronomy in a kitchen designed for Asian cuisine.“

Er schwärmt von der Einfachheit:
„Here’s what I noticed: the simpler the tool, the more often I use it. […] The simplest tools are the ones you’ll use most, and having a diverse range of devices equips you to tackle a broad array of challenges. In management, as in the kitchen, the rule is straightforward: Keep it simple and go wide.“

Und trotzdem brauchte es eine Vielfalt:
„Your management kitchen needs tools for both Michelin-star precision and grandma-level improvisation.“

Auch wenn wir mit unseren Werkzeugen in turbulenten Zeiten an unsere Grenzen stoßen:
„In a turbulent business landscape, traditional management tools are about as useful as an umbrella in a hurricane. They can’t handle the full buffet of uncertainty.“

4. Pattern Language & Pattern Library

Jurgen Appelo greift ein Konzept auf, das ursprünglich aus der Architektur stammt: die Pattern Language nach Christopher Alexander. Die Idee: Komplexe Systeme werden verständlich und gestaltbar, wenn wir sie in wiederkehrende Muster zerlegen – und diese Muster miteinander verknüpfen.

Was ist eine Pattern Language?
Eine Mustersprache beschreibt, wie einzelne Muster miteinander in Beziehung stehen und gemeinsam ein ganzes System formen. Muster sind keine Rezepte – sie sind situationsabhängige Lösungsbausteine. Der Clou: Durch die Verbindungen entsteht ein gestaltbares Ganzes.

Und was bringt das?
Vor allem eine eigene Sprache, die die Kommunikation über unsere komplexe Aufgabenstellung voranbringt und ganzheitliches Denken fördert.

Darüber hinaus:

  • Verständlichkeit durch Wiederholung
  • Reuse statt Re-Invention
  • Adaptivität durch Kombinierbarkeit

Und was ist eine Pattern Library?
Das ist die Sammlung dieser Muster – ein Werkzeugkasten. Wie ein LEGO-Set, aus dem du dein eigenes Bauwerk entwerfen kannst. Oder, um bei Appelos Metapher zu bleiben: eine gut ausgestattete Küche, in der du nach deinem eigenen Rezept kochst.

Und warum mich Pattern Language und Pattern Library so faszinieren?
Nun unsere Table of Elements (das hat jetzt gar nichts mit Appelo zu tun) ist so eine Pattern Library für das Projektmanagement. Wir haben im Projektmanagement gelernt Probleme zu erkennen und zu beschreiben und mit Hilfe einer solchen Library können wir sie bearbeiten.

5. Achso, AI und so…

Die AI ist noch ein bisschen zu kurz gekommen. Sie spielt bei Jurgen eine zentrale Rolle: 
„The relentless pace of technological change, particularly with AI, has transformed the business landscape into a shifting sand dune. Yesterday’s disruptor becomes today’s dinosaur, and your biggest competitor might be a startup no one had heard of last Tuesday.“

Er ist aber kein Kultur-Pessimist und zeigt, wo der Mensch noch gebraucht wird:

  • bei komplexen Problemlösungen
  • bei Technologiekompetenz: Zu wissen, wie KI funktioniert und wie man sich ihre Fähigkeiten zunutze macht, wird für viele Unternehmen entscheidend sein.
  • Körperliche Fertigkeiten
  • Soft Skills: Starke Kommunikations-, Kooperations- und Empathiefähigkeiten
  • Kreatives Denken

Appelo schreibt nicht nur über AI, sondern auch mit Hilfe der AI und kokettiert mit seinen Agenten. Er beschreibt die Circles of AI, AI Use Case Patterns und erklärt uns warum aus den T-shaped Helden im Zeitalter von AI jetzt M-skilled Heroen werden:
„The goal is to become M-shaped, combining mastery across multiple fields with strong business and leadership skills. For example, a product manager might also become an online marketer and video editor. A finance manager could develop additional strategic and technical abilities. With AI handling specialized work, people can tackle complex problems and think creatively across multiple disciplines.“

Fazit

Natürlich habe ich nur ein paar Schlaglichter auf  Jurgen Appelos Human Robot Agent werfen können. Aber vielleicht hat das ja gereicht, um Appetit zu wecken, denn eine Leseempfehlung ist es allemal.

Alles AI oder was?

Auch wenn künstliche Intelligenz und insbesondere ChatGPT als Hype-Thema gerade überstrapaziert sind, werden wir alle nicht umhin kommen, uns damit zu beschäftigen.

(1) Anwendungsfälle

Von der UNSECO gibt es einen Quick Start Guide „ChatGPT and Artificial Intelligence in higher education„.

Besonders ins Auge gestochen ist mir dabei eine Rollenübersicht von Mike Sharples:

Auch wenn die dort definierten Rollen wohl für den Hochschulkontext entwickelt wurden, finde ich sie auch darüber hinaus wichtig und inspirierend.

(2) Gefahren

Mit dem Nutzen von AI gehen auch neue Gefahren einher und ich meine damit nicht die „böse AI“. Beim BSI (Bundesamt für Sicherheit in der Informatiosntechnik) findet sich bereits einiges hierzu auf der BSI-Homepage oder zusammgefasst in dem Artikel „AI security concerns in a nutshell„.

(3) AI im Projektmanagement

Nachdem es ja hier im Blog häufig um Projektmanagement-Themen geht, hier noch ein ganz spezieller Hinweis: Nicht nur über sondern auch mit ChatGPT hat Torsten Koerting sein Buch geschrieben: „Die KI Revolution – Auswirkungen auf das Projektmanagement und wie sie sich neu erfinden“ (Amazon).



bernhardschloss.de