Auf dem Tresen steht ein Automat, der freundlich blinkt. Nicht zu freundlich, eher so: Zahnarztwartezimmer mit Startup-Sticker. Er sagt, er könne helfen. Weihnachtsgeschenke aussuchen, Termine sortieren, den Bruder anschreiben, die Kreditkarte nicht vergessen. Dazu braucht er nur kurz den Familienchat, den Kalender, den Browser, die Adresse, die Zahlungsdaten und ach ja, vielleicht noch diesen kleinen Schlüsselbund, der früher Privatsphäre hieß.
Meredith Whittaker, Präsidentin von Signal, hat bei TechCrunch noch einmal das kalte Werkstattlicht angemacht: AI-Chatbots seien keine Freunde, keine bewussten Wesen, keine vertrauten Gesprächspartner. Das klingt schlicht. Fast unmodern. Genau deshalb muss man es auf einen Zettel schreiben und an den Serverraum kleben, bevor der nächste Assistent mit Samtstimme fragt, ob er kurz in die Nachrichten schauen darf.
Ein Helfer mit sehr vielen Taschen
Das Problem ist nicht, dass ein Programm eine Einkaufsliste sortiert. Das ist Maschinenarbeit, dafür darf es gern Öl an den Fingern haben. Das Problem beginnt dort, wo aus dem Werkzeug ein Mitbewohner wird. Ein Agent, der nicht nur antwortet, sondern handelt. Der nicht nur sagt, was man schenken könnte, sondern aus privaten Nachrichten Schlüsse zieht, Bestellungen anstößt, anderen Menschen schreibt und dabei so tut, als sei das alles nur Komfort mit Schleifchen.
Im alten Büro nannte man so etwas Generalschlüssel. Den gab man nicht dem Praktikanten, nur weil er nett grüßte und die Kaffeemaschine verstand. Heute kommt derselbe Schlüssel als Produktdemo zurück, mit runder Schrift und dem Versprechen, dass man sich endlich um nichts mehr kümmern müsse. Ja gut. Wenn man sich um nichts mehr kümmert, kümmert sich eben etwas anderes um alles.
Der Familienchat ist kein Ersatzteillager
Whittakers Signal-Winkel ist dabei mehr als Markenpflege. Ende-zu-Ende-verschlüsselte Kommunikation lebt davon, dass nicht dauernd ein Dritter mit Klemmbrett danebensteht. Wenn ein Assistent Inhalte lesen, deuten und auf Zuruf weiterverwenden soll, dann wird aus der sicheren Werkbank ein Durchgangsflur. Vielleicht ein sehr effizienter Durchgangsflur. Aber eben einer, in dem plötzlich jeder hört, wo die Ersatzschlüssel liegen.
Die Industrie liebt für diesen Moment das Wort „kontextbewusst“. Das klingt, als hätte der Automat Manieren gelernt. In Wahrheit heißt es oft: Er möchte mehr sehen. Mehr Verlauf, mehr Kontakte, mehr Gewohnheiten, mehr kleine private Schrauben, aus denen sich ein brauchbares Profil drehen lässt. Und wenn er dann falsch liegt, steht da kein Freund, sondern ein sehr teures Missverständnis mit Zugriff.
Denken ist kein Altglas
Whittaker sagte außerdem, sie wolle beim Denken und Schreiben nicht von einer Maschine überholt werden, die aus bereits Vorhandenem einen glatten Antwortblock mittelt. Das ist ein anderer, leiserer Punkt. Nicht Datenschutz mit Sirene, sondern Kopfarbeit mit Staub auf der Werkbank. Wer eine Idee zu früh vom Automaten glattziehen lässt, bekommt manchmal eine Antwort, bevor die Frage überhaupt richtig schief stehen durfte.
Die Blechpresse ist nicht gegen Schraubendreher. Auch nicht gegen elektrische. Aber ein Werkzeug muss Werkzeug bleiben dürfen. Es muss nicht nachts im Flur stehen, freundlich atmen und fragen, ob es noch kurz die Nachrichten deiner Schwester lesen soll, damit Weihnachten „reibungsärmer“ wird. Reibung ist nicht immer ein Defekt. Manchmal ist sie das Geräusch, an dem man merkt, dass noch ein Mensch im Getriebe sitzt.
Also: Der Automat darf Listen sortieren. Er darf Tabellen putzen. Er darf von mir aus auch den Drucker beleidigen, wenn das die Stimmung hebt. Aber Freundschaft bekommt er nicht als API-Scope. Und den Haustürschlüssel schon gar nicht.
Quellenlage: Anlass ist ein TechCrunch-Bericht vom 20. Juni 2026 über Meredith Whittakers Warnung vor AI-Chatbots als vermeintlichen Freunden und vor KI-Agenten mit Zugriff auf private Kommunikation, Zahlungen, Browser, Kalender und andere Alltagssysteme.
Schreibe einen Kommentar