top.media - Blog

Meta-Instagram-Hack: Was passiert, wenn KI ohne menschliche Verantwortung läuft

Geschrieben von Patrick Lenz | Jun 18, 2026 8:00:00 AM
The Shortcut

Wer übernimmt heute noch die Verantwortung?

Letzte Woche war ich mit der Familie im Urlaub in Kroatien, als eines unserer Kinder krank wurde und ein Medikament brauchte. Wäre normalerweise kein Problem, doch es war Feiertag.

In der einzigen Apotheke im größeren Umkreis bekamen wir die Auskunft, dass es das Mittel nur auf Rezept gibt. Also haben wir unser Glück bei einer touristischen Ambulanz gesucht und unser Anliegen geschildert.

Die Antwort war kurz: Eine Ärztin meldet sich gleich bei Ihnen. Und tatsächlich, innerhalb einer halben Stunde rief sie an.

Sie hat uns am Telefon beraten, danach schickte sie uns einen Bezahllink per PayPal und kurz darauf hatten wir das Rezept digital auf dem Handy. Damit sind wir wieder in die Apotheke und unser Kind hatte sein Medikament.

Alles ging relativ schnell und das obwohl kaum etwas automatisiert war. Ich glaube, das liegt an zwei Dingen: Es gibt dort weniger Bürokratie. Und die Ärztin hat den Fall und das Ziel gesehen: Ein krankes Kind, ein Rezept, fertig.

Sie hat Verantwortung übernommen und pragmatisch entschieden, statt sich hinter Vorschriften zu verstecken.

Der Mensch hat ausgeglichen, was an Automatisierung fehlte. Doch das wird gefühlt immer seltener. Denn immer mehr übernehmen die Maschinen.

Wenn Automatisierungen und Maschinen das „Was" erledigen, also die eigentliche Aufgabe, wer verantwortet dann noch das „Warum"?

Patrick Lenz ist Inhaber von top.media, Innovationstreiber & Wissensvermittler.

Unsere heutigen Themen

  1. Wenn niemand mehr die Verantwortung übernimmt
  2. „Warum" ist wichtiger als „Was"
  3. Bau das eine richtige Ding, nicht das ganze Universum

1. Wenn niemand mehr die Verantwortung übernimmt

Vor kurzem ist noch das genaue Gegenteil von der Ärztin im großen Stil passiert: Meta hat seinem KI-Support-Agenten erlaubt, Instagram-Konten zu ändern und Passwörter zurück zu setzen.

Ohne Identitätsprüfung, ohne einen Menschen, der noch mal draufschaut. Und was dann passierte, war absehbar.

Clevere Leute haben dem Agenten schlicht erzählt, sie hätten ihr Passwort vergessen und seien die rechtmäßigen Eigentümer.

Relativ schnell hat der Agent es geglaubt. So konnten Angreifer reichweitenstarke Konten innerhalb von kürzester Zeit kapern.

Dazu kommt, dass beim Zurücksetzen der Passwörter Instagram auch noch Telefonnummern und Mailadressen offenlegte.

Es kursiert das Gerücht, Meta habe kurz zuvor einen großen Teil seiner Sicherheitsabteilung abgebaut und durch KI ersetzt. Bestätigt ist das nicht, also behandeln wir es als das, was es ist: ein Gerücht.

Doch es unterstreicht die folgenden Fragen: Wer hat die Veränderungen geprüft? Wer trägt dafür die Verantwortung? Und wo ist jemand, der das Ganze im Auge behält?

Es sieht auf jeden Fall nach einem negativ Beispiel dafür aus, zu viel auf einmal an Agenten und KI abgeben zu wollen.

Damit zurück zur Ärztin aus Kroatien: Sie hatte kaum Automatisierung, keine künstliche Intelligenz und hat in kürzester Zeit geliefert, weil sie Verantwortung übernommen hat.

Meta hat die beste Technik, doch gleichzeitig die Verantwortung abgegeben. Und genau das hat den Unterschied gemacht. Denn wer steht am Ende für das Ergebnis ein?

Die Frage für Dich ist deshalb: Wo läuft in Deinem Betrieb gerade etwas, das keiner mehr wirklich verantwortet, weil „die Software macht das schon"?

Vielleicht ist es der automatische Rechnungsversand, den seit Monaten niemand mehr prüft. Oder die Filterregel im Postfach, die schon lange gute Anfragen aussortiert, ohne dass es jemandem auffällt.

Genau dort sitzt Dein Risiko. Und Verantwortung übernehmen beginnt damit, das Warum dahinter überhaupt zu kennen.

2. „Warum" ist wichtiger als „Was"

Die KI macht das „Was" heute günstig und schnell. Den Text, den Entwurf, den Code. Was übrig bleibt und wertvoll ist, ist das „Warum". Und das kann nur von Dir als Mensch kommen.

Der Entwickler Addy Osmani nennt das treffend Intent-Schuld. Sein Punkt: Den Grund hinter einer Entscheidung kann eine KI nicht erzeugen. Sie kann ihn nur raten.

Im Zweifel erfindet sie eine Begründung, die einfach nur gut klingt. Das ist schlimmer als ein ehrliches „Ich weiß es nicht".

Denn wenn Du das Warum nicht festhältst, kann es später weder ein neuer Mitarbeiter noch eine KI nachvollziehen.

Und das gilt für jede Entscheidung, die Du triffst. Zum Beispiel:

Drei Warum-Fragen

  • Warum erfassen wir unsere Zeiten genau so?
  • Warum arbeiten wir mit diesen Produkten und nicht mit anderen?
  • Warum bedienen wir genau diese Zielgruppe?

Steckt die Antwort nur in einem Kopf, dann bricht Dein Onboarding mit neuen Mitarbeitern zusammen und jede KI läuft blind.

Früher war die Frage: Kannst Du es bauen? Heute ist die Frage: Erkennst Du, ob es richtig ist?

John Lennox hat das im Podcast von Steven Bartlett so beschrieben:

John Lennox

„Wir verstehen heute, wie fast alles funktioniert und kennen trotzdem die Bedeutung von nichts."

Übertragen auf den Alltag heißt das: Wir können erklären, wie ein Werkzeug arbeitet und welche Schritte es ausführt. Doch wozu wir es überhaupt benutzen und welchem Ziel es dient, das geht dabei oft verloren.

Das Mechanische geht uns leicht von der Hand. Das Eigentliche, also die Bedeutung und das „Warum", bleibt oft zurück.

Und genau dort beginnt Dein Job als Unternehmer. Du hast den Überblick den keine KI und kein anderer Mitarbeiter hat. Du kennst Deinen Nordstern, Deine Vision und Deine Mission.

Genau das ist der Filter, an dem Du jede Entscheidung messen kannst. Wozu tun wir das? Zahlt es auf das ein, wofür wir stehen?

Wer nur im Klein-Klein steckt, kann dieses Warum an niemanden weitergeben. Weder an einen Menschen noch an eine KI.

Geh diese Woche deshalb einmal in Dich. Kannst Du das Warum hinter Deinen letzten drei Entscheidungen so aufschreiben, dass ein neuer Mitarbeiter und eine KI es sofort verstehen?

3. Bau das eine richtige Ding, nicht das ganze Universum

Wenn das Warum steht, kommt die nächste Frage. Wie setzt Du es um, ohne Dich im Werkzeug-Dschungel zu verlieren?

Ein Beispiel aus meinem Alltag. Ein Kollege von uns hat einen wiederkehrenden E-Mail-Austausch, der ihn jede Woche Zeit gekostet hat.

Es ist immer ein ähnlicher Ablauf, alles von Hand, jedes Mal wieder von vorn. Genau die Art Aufgabe, die nach einem eigenen kleinen Werkzeug ruft.

Die beste KI für diese Aufgabe wäre Claude gewesen. Doch ihm dafür gleich eine volle Lizenz hinzulegen, hieße, ihm ein ganzes Universum an Möglichkeiten in den Schoß zu werfen, obwohl er nur eine Funktion braucht.

Genau das überfordert die meisten. Den gleichen Effekt kennst Du von Microsoft. Es ist für alle gebaut und genau das macht es so stark. Doch wer für jeden alles abdeckt, kann nicht gleichzeitig für einen das eine perfekt machen.

Also habe ich mich selbst hingesetzt und ihm pragmatisch ein eigenes kleines Werkzeug gebaut. Maßgeschneidert, genau für diesen einen Vorgang, mehr nicht.

Personal Software

Ein Werkzeug, das eine Sache richtig gut kann und nur für Deinen Zweck. Das Gegenteil von einem Excel, das alles für jeden können will und am Ende keiner mehr versteht.

Wichtig ist bei dem Thema auch, wer was macht. Der Mensch gibt den Input und sagt, worum es geht. Das Werkzeug arbeitet damit und liefert das Ergebnis.

Und dann prüft wieder der Mensch, korrigiert wenn nötig und schickt es erst danach ab.

Die Kontrolle und das letzte Wort bleiben beim Menschen. Also das Gegenteil von dem, was Meta gemacht hat.

Inzwischen ist Personal Software für solche Spezialfälle oft der beste Weg. Als Ergänzung dort, wo es die großen Anbieter nicht punktgenau hinbekommen.

Was heißt das jetzt konkret für Dich?

Nimm Dir einen klar umrissenen Vorgang und beantworte zwei Fragen dazu.

Zwei Fragen vor jedem eigenen Werkzeug

Wozu brauchst Du ihn überhaupt? Das ist Dein Warum aus dem zweiten Teil, jetzt ganz praktisch.

Woran erkennst Du, dass das Ergebnis stimmt? Das ist Deine Messlatte dafür, ob das Werkzeug wirklich liefert.

Und dann lass genau dafür eine persönliche Software bauen, die von Anfang an sicher ist, später leicht angepasst werden kann und bei dem der Mensch die letzte Kontrolle behält.

Aber Achtung

So ein Werkzeug gehört in die Hände von jemandem mit dem richtigen Blick für Security und Compliance. Sonst wird aus dem schnellen Prototyp ein offenes Scheunentor für alle möglichen Angreifer und „Fremde".

Hinweis

Wer diesen Beitrag hier liest, ist mindestens eine Woche zu spät dran. Denn der Shortcut erscheint jeden Donnerstag um 10 Uhr per E-Mail in Dein Postfach.

Hier auf der Website wird er erst eine Woche zeitversetzt veröffentlicht.

Wenn Du in Zukunft zu den Ersten gehören willst und immer die aktuellsten News erfahren willst, trag Dich unten ein.

Das war der Shortcut für diese Woche!

Egal welches Problem Du löst, das Ergebnis wird nur dann gut, wenn Du weißt, warum Du es löst und wenn am Ende jemand dafür einsteht.

Je mehr die Maschine das „Was" übernimmt, desto mehr bist Du für das „Warum" und die Verantwortung zuständig. Das wird immer bei Dir bleiben.

Wenn Du für einen Vorgang in Deinem Unternehmen ein Werkzeug suchst, das genau zu Deinem Warum passt, antworte einfach mit dem Stichwort „Personal Software" oder buche Dir direkt einen Termin bei mir. Wir schauen uns gemeinsam an, ob und wie sich das für Dich lohnt.

Bis nächsten Donnerstag,
Patrick & das top.media Team