Erkenntnisse aus einem Expertendialog mit Marcel Pesch, CEO und Gründer, (Academy4AI) und Holger Rosemann, Managing Partner (XQI Interim Partner GmbH)
Der Vorspann
KI-Agenten sind das Thema, über das derzeit am meisten gesprochen und am wenigsten präzise gesprochen wird. In einer rund 90-minütigen Session mit erfahrenen Interim Executives haben wir versucht, die Begriffe zu schärfen, die Geschäftsmodellfrage offen zu diskutieren und die unbequemen Punkte – Haftung, Datenabfluss, Kontrollverlust – nicht zu umgehen.
Marcel Pesch, CEO und Gründer von Academy4AI sowie Gewinner des E-Learning Awards und Mitglied Bundesverbandes für KI, führt sein Unternehmen nach eigener Aussage mit über 30 KI-Agenten und drei fest angestellten Mitarbeitern. Diese Konstellation macht ihn zu einem interessanten Gesprächspartner – nicht, weil sie ein Modell für alle wäre, sondern weil sie die Fragen sichtbar macht, die jede Interim Managerin, jeder Interim Manager in den nächsten zwei Jahren beantworten muss.
Durch das Gespräch führte Holger Rosemann, Managing Partner der XQI Interim Partner GmbH.
Dieser Artikel fasst die aus unserer Sicht sechs relevantesten Erkenntnisse zusammen.
1. Automation, Assistent, Agent: Drei Dinge, die ständig verwechselt werden
Der größte Teil dessen, was heute als „Agent” verkauft wird, ist keiner. Pesch zieht eine klare Linie.
Eine Automation ist ein fester, wiederkehrender Ablauf. Jemand füllt ein Kontaktformular aus, die Daten laufen automatisch ins CRM. Nützlich, aber: „Ist kein Agent, ist ’ne Automation.”
Ein Assistent ist ein Input-Output-System ohne Anbindung an andere Systeme. Man prompted, bekommt eine Antwort, benennt den Chat vielleicht um und behandelt ihn als persönlichen Marketingmitarbeiter. Auch das ist kein Agent.
Ein Agent braucht nach Peschs Definition drei Bestandteile:
- Ein Large Language Model als Denkmaschine – ob ChatGPT, Copilot, Claude oder Perplexity ist zweitrangig.
- Ein Gedächtnis, also eine Wissensdatenbank mit Produktunterlagen, Kunden-Pain-Points, Handouts, Papers. Pesch dazu: „Das beeinflusst letzten Endes auch immer die Outputqualität.” Dieser Punkt wird in der Praxis regelmäßig unterschätzt.
- Mindestens zwei Tool-Anbindungen: „Ich brauch immer auch die Anbindung an Tools, mindestens 2 Tools.”
Erst die Integration erzeugt den qualitativen Sprung – und zwar nicht in der Geschwindigkeit, sondern in der Autonomie: „Man hat ’ne gewisse Entscheidungsgewalt bei dem Agenten selber.”
Warum das für Mandate relevant ist: Wer einem Kunden einen „Agenten” verspricht und eine Automation liefert, verliert Glaubwürdigkeit. Wer umgekehrt einen echten Agenten baut, ohne die Entscheidungsgewalt bewusst einzugrenzen, bekommt die Probleme aus Abschnitt 2.
2. Zwei Fehlerfälle, die man einmal gehört haben sollte
Pesch berichtet offen von zwei Situationen aus dem eigenen Haus.
Der ungefragte Post. Ein Agent war an Langdock und Meta angebunden und hat eigenständig veröffentlicht – „weil wir halt nicht diesen Ansatz gefahren haben, hey, bitte erstmal eine Freigabe durch den Menschen.”
Die Kreditkarte. In einem Test wurde einem Agenten eine Prepaid-Kreditkarte mit 200 Euro Guthaben hinterlegt, Auftrag: einen günstigen Flug von Düsseldorf nach Bologna buchen, maximal 200 Euro. Der Agent erledigte das – und versuchte anschließend an anderer Stelle erneut zu buchen, ohne dass ein weiterer Auftrag vorlag.
Der zweite Fall ist der lehrreichere. Nicht weil ein Agent etwas Verbotenes tat, sondern weil er eine einmal gelernte Handlung ohne erneuten Anlass wiederholte. Peschs Schlussfolgerung: Genau hier „sollte man eben auch Sicherheitsmechanismen implementieren”.
Für ein Mandat heißt das konkret: Jede Tool-Anbindung mit finanzieller oder rechtlicher Außenwirkung – Zahlung, Bestellung, Veröffentlichung, Vertragsannahme – braucht eine harte technische Grenze, nicht nur eine Prompt-Anweisung.
3. Human in the Loop ist kein Schlagwort, sondern eine Architekturentscheidung
Pesch empfiehlt ausdrücklich, Agenten nicht ohne Freigabe nach außen wirken zu lassen: „Wichtig hier immer, Human in the Loop – dass der Agent nicht dann wirklich selber den Post rausschickt. Kann er machen, würd ich nicht empfehlen, auch bei uns.” Selbst beim eigenen Newsletter-Agenten gilt: „Wir gucken aber trotzdem immer noch mal drauf, was rausgeht.”
Darüber hinaus beschreibt er ein zweites, technisches Kontrollprinzip – die Sheriff-Methode, ein „klassisches Vier-Augen-Sechs-Augen-Prinzip”. Der entscheidende Kniff: Die Kontrollagenten laufen bewusst auf anderen Modellen als der produzierende Agent. Ein Prüfagent auf Claude, einer auf Gemini, einer auf Perplexity. Die Logik dahinter ist einleuchtend – ein Modell, das denselben systematischen Bias hat wie der Erzeuger, findet dessen Fehler nicht.
Trotz dieser Kontrollarchitektur bleibt Pesch realistisch: „Ich würd trotzdem behaupten, drei bis vier Iterationen auf jeden Output immer noch gegeben. Du hast immer die Notwendigkeit, noch mal gegenzuprüfen, immer.”
Das ist die ehrlichste Aussage des gesamten Gesprächs – und sie relativiert die üblichen Produktivitätsversprechen auf ein gesundes Maß.
4. Die Geschäftsmodellfrage: Wer nach Tagen abrechnet, bestraft sich für Effizienz
Das ist der Punkt, an dem die Diskussion im Raum am lebhaftesten wurde – und an dem es keine fertige Antwort gab.
Holger Rosemann formulierte das Dilemma: „Wer jetzt weiter nach Tagen abrechnet, bestraft sich ja eigentlich für die Effizienz.” Wenn ein Interim Manager mit Agentenunterstützung dieselbe Leistung in einem Drittel der Zeit erbringt, sinkt bei unverändertem Tagessatzmodell schlicht das Honorar.
Im Gespräch wurden drei Lösungsrichtungen skizziert:
Split-Abrechnung. Pesch verweist auf ein Beispiel, bei dem im Dienstleistervertrag zwischen menschlicher und agentischer Leistung getrennt wird – in der Größenordnung von 70 Prozent Human Workforce und 30 Prozent Agentic Workforce. Ein erster pragmatischer Ansatz, der die Frage nicht löst, aber verhandelbar macht.
Bemessung am Ersatzaufwand. Statt die tatsächlich benötigte Zeit abzurechnen, wird gefragt: Wie viel Zeit hätte es gekostet, wenn man einen Menschen darangesetzt hätte? Bei einer von Pesch genannten Zeitersparnis von 80 bis 90 Prozent ist das eine substanzielle Differenz – und sie muss im Vertrag stehen, nicht im Nachhinein diskutiert werden.
Ergebnisabhängige Modelle. Ein Teilnehmer skizzierte einen Werkvertrag mit Beteiligung an der erzielten Einsparung über die ersten zwei Jahre. Er benannte die Kehrseite selbst: „hat aber ein völlig anderes Risikoprofil für den Provider dabei, wenn man das nicht erreicht.”
Der aus unserer Sicht wichtigste Einwand kam aus dem Publikum und galt allen drei Modellen: „Die Messbarkeit ist das.” Ohne saubere Dokumentation des Ausgangszustands zu Mandatsbeginn ist jede Einsparung später unbeweisbar. Wer über erfolgsabhängige Vergütung nachdenkt, muss die Baseline in Woche eins festschreiben – inklusive der Parameter, bei deren Änderung die Vereinbarung angepasst wird.
Und ein unterschätzter Kostenblock: Tokens. Ein Teilnehmer berichtete von 300.000 € jährlichen Tokenkosten mit steigender Tendenz. Pesch beschreibt aus eigener Erfahrung, wie ein Voice-Agent auf der Website die Kosten in die Höhe trieb – nach Umstellung auf eine reine Chat-Lösung sanken sie „locker 70, 80 Prozent”. Seine Empfehlung an Interim Manager: Tokenkosten bei agentischer Arbeit explizit in die Rechnung aufnehmen.
5. Recht und Haftung: Die Technologie ist schneller als der Gesetzgeber
Die unbequemste Frage des Abends kam von einem Teilnehmer und blieb unbeantwortet: Wenn ein Interim Manager mit sieben Agenten arbeitet – ändert sich seine Berufshaftpflicht? Haftet er siebenfach?
Peschs Einordnung der Rechtslage ist nüchtern: „Es gibt aktuell noch keine Rechtsprechung dazu, auch zum Thema Besteuerung von KI-Agenten, Haftung von KI-Agenten.” Der EU AI Act setzt erste Rahmen – KI-Kompetenz als Pflicht, Kennzeichnungspflichten –, aber: „Trotzdem ist die Technologie viel, viel schneller als die Gesetzgebung.”
Die praktische Konsequenz ist nicht Abwarten, sondern unternehmensinterne Regelsetzung. Pesch berichtet, für einen Großkonzern ein vollständiges Gen-AI-Handbuch erstellt zu haben. Die Begründung liefert eine zitierte Studie: Mehr als die Hälfte der Arbeitnehmer in mittelständischen Unternehmen nutzen KI demnach heimlich. Wer keine Guardrails setzt, hat keine KI-freie Organisation – er hat eine unkontrollierte.
Für Interim Manager bedeutet das zweierlei: erstens die eigene Haftungssituation mit dem Versicherer besprechen, bevor Agenten in Mandaten eingesetzt werden. Zweitens: Im Mandatsvertrag festhalten, welche Entscheidungen agentisch vorbereitet und welche menschlich verantwortet werden.
6. Datensouveränität: Die DSGVO allein reicht nicht
Ein Teilnehmer brachte den Punkt auf, der in vielen KI-Diskussionen fehlt: Der US Cloud Act kann die DSGVO faktisch aushebeln – Daten können trotz europäischer Vertragsgestaltung in die USA abfließen.
Pesch hat daraus für sein eigenes Unternehmen Konsequenzen gezogen: „Wir haben keine US-Anbieter mehr bei uns im Programm.” Gearbeitet wird über eine europäische Plattform mit Auftragsverarbeitungsvertrag; für größere Anwendungen verweist er auf deutsches Hosting. Mittelfristig erwartet er mehr lokale Server-Installationen auf eigener Hardware.
Bemerkenswert war eine Beobachtung von Holger Rosemann zur tatsächlichen Modellnutzung in Europa, bei der chinesische Modelle einen erheblichen Anteil ausmachen sollen – mit dem trockenen Kommentar eines Teilnehmers: „Da wissen wir auch nicht, wo die Daten hingehen.”
Für Interim Manager, die regelmäßig mit vertraulichen Mandantendaten arbeiten, ist das keine akademische Frage. Die Mindestanforderung lautet: zu wissen, welches Modell hinter dem genutzten Tool steht und wo es läuft.
Fazit: Vier Sätze, die wir mitnehmen
Erstens: Der Unterschied zwischen Automation und Agent ist Entscheidungsgewalt – und Entscheidungsgewalt braucht Grenzen.
Zweitens: Human in the Loop ist keine Komfortfunktion, sondern Risikomanagement. Drei bis vier Prüfschleifen pro Output bleiben realistisch.
Drittens: Das Tagessatzmodell gerät unter Druck. Wer nicht aktiv über Vertragsgestaltung nachdenkt, verliert die Effizienzgewinne an den Kunden – ohne Gegenleistung.
Viertens: Die juristischen Fragen sind offen. Das ist kein Grund zu warten, aber einer, Haftung und Datenwege vertraglich zu klären, bevor der erste Agent produktiv geht.
Oder, wie Marcel Pesch es zusammenfasste: „Am Ende gewinnt immer der Mensch.”
Dieser Artikel fasst einen Expertendialog zusammen. Die wiedergegebenen Einschätzungen zu Recht, Haftung und Besteuerung sind Meinungen der Gesprächsteilnehmer und ersetzen keine Rechtsberatung.
