KI-Agenten auf Deinem Computer – Chance oder Kontrollverlust?
Wer KI vertraut, hat die Kontrolle über sein Leben verloren.
Patrick Lenz
Inhaber von top.media, Innovationstreiber & Wissensvermittler
Eine Frau sitzt in den USA fünf Monate unschuldig im Gefängnis, weil eine KI-Gesichtserkennung sie mit einer Bankbetrügerin verwechselt hat.
Die Polizei hat sie nur verhaftet, weil die KI es so sagte und niemand hat es nachgeprüft und kontrolliert. Erst nach fünf Monaten stellte sich heraus, dass die KI schlicht falsch lag.
In England hat die West Midlands Police im November 2025 Fußballfans von einem Spiel ausgesperrt. Die Entscheidung stützte sich auf ein internes Sicherheitsbriefing – das auf einem Spiel basierte, das nie stattgefunden hat...
Microsoft Copilot hatte es erfunden. Die Beamten haben es übernommen, ohne es zu prüfen. Der Polizeichef sagte vor dem Parlament zunächst aus, dass keine KI verwendet wurde. Später musste er schriftlich korrigieren, sich entschuldigen – und trat zurück.
Beide Fälle haben dasselbe Muster: Die KI hat einen Fehler gemacht (das ist ihr bekanntes Risiko). Aber der eigentliche Schaden entstand, weil Menschen aufgehört haben zu prüfen, was die KI ihnen geliefert hat.
Das war, solange KI nur Empfehlungen gegeben hat, schon gefährlich genug. Heute kann KI sogar schon eigenständig auf Deinem Computer arbeiten – während Du etwas anderem nachgehst.
Die KI handelt und Du merkst erst hinterher, was wirklich passiert ist. Aber wenn Menschen schon bei einer KI-Textausgabe nicht mehr nachfragen... Was passiert, wenn die KI anfängt in Deinem Namen zu handeln, bevor Du es überhaupt weißt?
Unsere heutigen Themen
Wer prüft, gewinnt. Wer vertraut, gibt ab.
Ich erlebe das wöchentlich. Morgens liefert die KI eine Analyse, die mich kurz sprachlos macht – präzise, durchdacht, besser als erwartet.
Nachmittags gibt dieselbe KI mir selbstsicher eine Antwort und weiß dabei nicht einmal, welcher Wochentag heute ist. Das ist das System.
WIE KI FUNKTIONIERT
KI funktioniert nicht wie ein Experte, der Dinge versteht. Sie berechnet, welche Antwort auf Basis aller Daten, die sie kennt, am wahrscheinlichsten richtig ist. Manchmal liegt diese Wahrscheinlichkeit zu Deinen Gunsten. Manchmal nicht.
Und das Entscheidende: Sie sagt Dir nie, wann welcher Fall gerade vorliegt.
Ein Mensch, der sich unsicher ist, sagt das. KI nicht. Sie klingt immer gleich überzeugend – ob die Antwort stimmt oder nicht.
Du musst selbst herausfiltern können, wann der Moment ist, an dem Du nachfragen solltest – das erkennst Du nicht an ihrem Ton.
Die Frau im Gefängnis. Das erfundene Fußballspiel. Es ist das Grundprinzip dieser Technologie, dass die Antworten falsch sein können und wir behandeln sie trotzdem wie eine Instanz, die keine Fehler macht.
Ich lese jeden Output bis zum Ende, weil ich weiß, was KI ist. Und weil ich regelmäßig Fehler finde, die auf den ersten Blick überzeugend klingen und beim zweiten Hinschauen schlicht falsch sind.
Wer das nicht tut, gibt ab ohne zu wissen, was er abgibt. Das war schon ein Problem, als KI nur Texte geliefert hat. Zumindest gab es da einen Output... etwas, das Du lesen, prüfen, ablehnen konntest. Was sich jedoch jetzt gerade entwickelt, ist eine andere Kategorie.
Mein Kunde ist es wert, dass ich ihm persönlich schreibe
Bisher war die Rollenverteilung klar. KI liefert, Du entscheidest. Zwischen KI-Output und Konsequenz stand immer ein Mensch. Diesen Puffer gibt es jetzt nicht mehr zwingend.
Tools wie OpenClaw oder Claude's Cowork ermöglichen es, KI eigenständig auf dem eigenen Computer arbeiten zu lassen.
Du schickst vom Handy eine Aufgabe und die KI öffnet Apps, navigiert im Browser, bearbeitet Dokumente, verschickt Mails. Alles während Du etwas anderem nachgehst.
Ich teste das selbst aktiv. Und wer regelmäßig mit KI-Agenten arbeitet, kennt das Szenario: Der Agent fragt bei jedem einzelnen Schritt nach. Darf ich das? Darf ich das? Darf ich das?
Anthropic hat das gesehen. Und daraufhin den Auto-Mode eingeführt: Ein zweites KI-Modell schaut dem ersten bei jedem Schritt über die Schulter und entscheidet, ob die Aktion zum ursprünglichen Auftrag passt.
Was bei diesen ganzen Automationen allerdings ein Thema ist: Du bist mit diesem Gerät überall eingeloggt. Browser offen. Mails offen. Kundendaten, interne Dokumente, Zugänge zu allem. Der Agent bekommt das gesamte Spielfeld.
Ich habe verschiedene Mail-KIs getestet. Und solange eine Antwort für mich nach KI-Text klingt, schicke ich sie nicht raus. Nicht in meinem Namen. Für mich ist das eine Frage des Respekts.
Meine Kunden sind es mir wert, dass ich persönlich schreibe – und wenn ich dazu keine Zeit habe, dann diktiere ich lieber, als dass ich ihm unerkannt einen KI-Text schicke.
Meine Assistenz versucht seit Tagen telefonisch bei einem Reparateur von uns durchzukommen. Jedoch ist das einzige was sie erreicht eine Voice-KI, die alles mögliche abfragt und nicht wirklich hilfreich ist...
Das ist Automatisierung auf Kosten des Kunden.
Was ich aus all dem für mich abgeleitet habe:
TIPP 1
Gib dem Agenten seinen eigenen Sandkasten. Nicht den Hauptrechner. Eigene Accounts, eigene Zugänge, klar getrennt von allem, was wirklich zählt. Ich lege für Agenten einen dedizierten Bereich in meinem Passwortmanager an – getrennte Zugangsdaten, die ich kontrolliere. Was zum eigentlichen Arbeitsplatz gehört, bleibt beim Menschen.
TIPP 2
Was nach außen geht, geht über Deinen Tisch. Kein Agent kommuniziert autonom in meinem Namen. Wenn überhaupt, dann mit eigenem Account, der klar als KI erkennbar ist. Mein Kunde soll wissen, mit wem er es zu tun hat.
Der einzige Maßstab, der wirklich zählt: Ist Dein Kunde hinterher zufriedener als vorher? Wenn die Antwort nein ist – dann ist die Automatisierung kein Fortschritt. Dann ist es nur Aufwand, den Du auf Deinen Kunden abwälzt.
Autonomie ist kein Problem. Unkontrollierte Autonomie schon.
Der entscheidende Punkt mit KI-Agenten ist, wie Du den Rahmen dafür ziehst.
Andy Warhol (Künstler und einer der bekanntesten Figuren der amerikanischen Popkultur) hat das in den 60ern und 70ern bereits vorgelebt – lange bevor es KI gab.
DAS WARHOL-PRINZIP
Er hatte die Factory, sein Studio in New York. Warhol kam morgens rein, gab die Richtung vor: das Motiv, die Farben, die Aussage. Seine Assistenten übernahmen die Produktion. Siebdruck, Wiederholung, Masse. Am Ende kontrollierte er alles und dann kam Warhols Name drauf.
Kluge Arbeitsteilung. 10% Vision am Anfang. 80% Ausführung durch andere. 10% Finishing und Qualitätskontrolle am Ende.
Genau das ist das Modell, das heute mit KI funktioniert. Du gibst die Richtung vor. Die KI übernimmt die Ausführung. Du prüfst das Ergebnis und entscheidest, was rausgeht. Weil nur Du weißt, wofür Du stehst.
Was zum Beispiel nicht funktioniert: Den Agenten loslassen, ohne zu wissen, was die Vision ist.
Konkret umgesetzt sieht das so aus:
SCHRITT 1: VISION (VON DIR)
Was soll entstehen? Was ist das Ziel? Welche Qualität erwartest Du? Dein Prompt ist die Übersetzung Deiner Vision – je klarer Du denkst, desto klarer wird das Ergebnis. Wer nicht weiß, was er will, bekommt von der KI zuverlässig irgendetwas.
SCHRITT 2: AUSFÜHRUNG (VON DER KI)
Recherche, Analyse, erster Entwurf, Zusammenfassung. Alles, was strukturiert und wiederholbar ist. Alles, was Dich Zeit kostet, ohne dass es zwingend Deine Handschrift braucht.
SCHRITT 3: KONTROLLE (WIEDER DU)
Drüberlesen. Prüfen. Korrigieren. Entscheiden, ob es rausgeht und in welcher Form. Was nach außen geht, geht über Deinen Tisch.
Und warum macht das überhaupt Sinn? Will Guidara (der Mann hinter dem ehemals besten Restaurant der Welt) hat es so formuliert:
Je mehr Technologie übernimmt, desto mehr wird ein Mensch zum Luxus. Wer Dich persönlich anruft, wer Dir wirklich antwortet, wer präsent ist – das wird rarer. Und damit viel wertvoller.
Genau deshalb sind die 10% am Anfang und am Ende nicht nur Qualitätskontrolle. Sie sind Dein größter Wettbewerbsvorteil.
Empfehlung: Es gibt eine starke Podcast-Folge von Simon Sinek mit Will Guidara wo sie über genau das sprechen – hör da mal rein.
Aber ein Hinweis:
Wer diesen Beitrag hier liest, ist mindestens eine Woche zu spät dran. Denn der Shortcut erscheint jeden Donnerstag um 10 Uhr per E-Mail in Dein Postfach.
Hier auf der Website wird er erst eine Woche zeitversetzt veröffentlicht.
Wenn Du in Zukunft zu den Ersten gehören willst und immer die aktuellsten News erfahren willst, trag Dich unten ein.