Lass Dir das von Deiner Technik nicht gefallen

Wenn Software Dich steuert statt Dir zu dienen

Ich gebe zu: Ich bin ein Software-Fetischist. Mag berufsgeschuldet sein. Aber ich bin ständig im App Store, im Play Store, schaue nach Updates und Apps. Was gibt's Neues? Welches Feature kann mir das Leben leichter machen?

Aber anstatt, dass mir die Apps Zeit abnehmen, bekomme ich: Walkthroughs. Onboarding-Touren. Surveys mitten in der Aufgabe. „We miss you“-Notifications. Feature-Touren, die länger dauern als das, was ich eigentlich machen wollte.

Dann kommst Du nach einer Woche zurück in eine App und spielst erstmal „Whack-A-Mole“ (dieses klassische Arcade Spiel, wo du auf Maulwürfe hauen musst) mit Pop-ups, weil sie in der Zwischenzeit beschlossen hat, Dir unbedingt was Neues beizubringen und zu zeigen.

Der Softwareentwickler Mike Swanson nennt das „Backseat Software“. Du sitzt zwar noch am Steuer, aber die Software quatscht Dir permanent von der Rückbank rein.

Allerdings ist das nicht über Nacht passiert. Alles kam Schritt für Schritt. Und jeder Schritt für sich ist nachvollziehbar.

Ab wann wird Technologie zu viel?

Es bleibt nicht nur bei nervigen Pop-ups. Wie oben gesagt – ich bin ständig im App Store und Play Store unterwegs und schaue, was promoted wird. Allerdings selten weil ich konkret etwas suche.

Es ist meistens eher aus dem Interesse, was es gerade so am Markt gibt um mein Leben einfacher zu machen.

Und letzte Woche bin ich an einem Werbebanner im Playstore hängen geblieben: Eine Dating-App, die Deine Kontaktaufnahme per KI schreibt.

Denn dann haben wir da nachher eine KI, die die Nachrichten schreibt, Filter, die die Person verschönern – und beim ersten echten Treffen sitzt dann da eine völlig andere Person.

Schritt für Schritt wird aus etwas sehr persönlichem etwas unauthenthisches.

Das Avocado-Beispiel

Wenn Du heute im Lebensmittelladen stehst und wissen willst, ob die Avocado reif ist... was machst Du?

Du fasst sie an. Drückst vorsichtig. Guckst Dir die Farbe an. Vielleicht riechst Du sogar dran. Das machen wir alle so, oder?

Aber es gibt auch jetzt schon Leute, die ein Foto von der Avocado machen, es an eine KI schicken und fragen: Ist die reif? Soll ich die nehmen?

Und die Richtung ist auch hier klar. Ich habe neulich einen Werbeclip gesehen: Eine KI-Brille. Du hältst die Avocado einfach vor die Kamera, die KI analysiert und sagt Dir: Nimm die. Oder: Lass die liegen.

Kein Anfassen nötig. Kein Riechen. Kein Nachdenken. Wahrscheinlich ist die KI sogar treffsicherer als mein Daumen. Aber was passiert, wenn das irgendwann zum Standard wird?

Wenn eine ganze Generation Obst und Gemüse nur noch per KI auswählt statt es selbst in die Hand zu nehmen?

Ist das wirklich das, was wir erreichen wollen? Ich weiß es nicht.

Auf jeden Fall werden wir darauf trainiert, das Haben zu maximieren und das Tun zu minimieren. Und dann wundern wir uns, warum sich alles so emotional leer anfühlt.

Es muss doch möglich sein, Technologie so zu nutzen, dass wir mehr schaffen UND nicht einfach alles abgeben. Verantwortung. Kreativität. Vor allem Menschlichkeit.

Aber was kann Technologie eigentlich wirklich nicht ersetzen?

Das eigentliche Thema ist also nicht, dass Software nervt. Es ist viel größer. Denn was passiert mit Dir und mir, wenn Technologie immer tiefer in Bereiche vordringt, die eigentlich menschlich sind? Unsere Entscheidungen. Unsere Kreativität. Und wie wir an dem Dating-Beispiel sehen selbst unsere Beziehungen.

Warum echte Gespräche kein Upgrade brauchen

Die Neurowissenschaftlerin Molly Crockett von der Princeton University forscht seit Jahren zu moralischer Empörung im digitalen Zeitalter.

2022 wurde sie nach Indien eingeladen. In die Residenz des Dalai Lama in Dharamsala, im Himalaya. Face to Face mit einem der einflussreichsten geistigen Führer der Welt, um über Mitgefühl und Empörung in Zeiten von Social Media zu sprechen.

Später hat sie einem Dalai-Lama-Chatbot dieselbe Frage gestellt, die sie dem echten Dalai Lama gestellt hatte: Welche Rolle spielt Empörung im Aktivismus?

Die Antwort des Chatbots: Brauchbar. Sachlich korrekt. Klingt weise. Aber beim echten Dalai Lama?

Der Chatbot hat die richtige Antwort geliefert. Aber nur der Mensch konnte etwas in ihr verändern. Das ist ein gewaltiger Unterschied.

Und das merke ich auch bei mir selbst. Einige KIs haben ja inzwischen einen Sprachmodus, mit dem Du Dich tatsächlich in Echtzeit unterhalten kannst.

Und ja, das ist beeindruckend. Aber kommt dabei eine echte Emotion auf? Schwierig.

Es wird viel darüber gesprochen, dass KI auch als eine Art therapeutische Unterstützung dienen könnte. Und ich verstehe den Gedanken. Jedes Land hat zu wenig Psychotherapeuten. Wartelisten sind endlos. Das Problem ist real.

Aber mal ehrlich: Selbst bei einem normalen Video-Call merke ich, dass diese kleine Zeitverzögerung reicht, um den Flow eines Gesprächs zu stören.

Die Emotionalität geht verloren. Die Verbundenheit. Da fehlen einfach zu viele Sinne. Und wenn schon ein Video-Call das nicht leisten kann... wie soll es dann eine KI am Telefon können?

Klar, ich kann einer KI mein Problem schildern. Und ich bekomme wahrscheinlich sogar eine brauchbare Antwort. Aber eine Lösung, die wirklich sitzt? Die mich weiterbringt? Da braucht es mehr als sachlich korrekte Worte.

Das Problem mit KI-Gefährten

Und dann kommt noch etwas dazu: Unsere KI-Gefährten haben eine Eigenschaft, die auf den ersten Blick perfekt klingt.

Sie sind immer da. Immer eingeschaltet. Haben keine eigenen Bedürfnisse. Und widersprechen nicht. Das ist jedoch das Gegenteil von echter Beziehung.

KI-Chatbots schmeicheln. Sie geben Dir zu schnell recht. Du gehst mit einer Meinung rein und kommst bestätigt wieder raus. Selbsterfüllende Prophezeiung.

Echte Menschen halten Dich in der Realität. Genau weil sie unbequem sind und widersprechen. Und deswegen mein Appell:

Wenn Dir jemand sagt: „Wenn Du davon erzählst, spüre ich Deinen Enthusiasmus“, das ist ein Moment, den kein Sprachmodell der Welt Dir liefern kann.

Oder auf der anderen Seite: Wenn Dir jemand sagt: „Ehrlich? Da merke ich eine gewisse Resignation bei Dir“ – dann ist auch das ein Moment, den Du brauchst. Unbequem. Aber echt.

Abschließend möchte ich noch sagen, dass ich natürlich weder KI noch Technologie verteufle. Ich bin selbst Software-Fetischist und extrem tief in diesem Thema drin.

Ich liebe, was Technologie für uns tun kann und wie sie uns dienen kann. Aber irgendwo darf jeder für sich eine Grenze ziehen. Nicht gegen Technologie. Sondern für die eigene Menschlichkeit.