Chefin der Nachrichten-App Signal mahnt: «KI-Agenten sind ein tiefgreifendes Problem für den Datenschutz»

Verschlüsselung ist ein Modewort geworden, mit dem sich viele Tech-Konzerne schmücken: Meta (Whatsapp), Microsoft (Skype), Zoom, Snap (Snapchat) – sie alle werben damit, die Kommunikation auf ihren Plattformen sei Ende-zu-Ende verschlüsselt, also unknackbar sicher.

Für Meredith Whittaker sind das «schmissige Werbeslogans von Firmen mit riesigen Budgets». So beschreibt sie es zum Auftakt der Technologiekonferenz South by Southwest in Austin, wo sie als Keynote-Rednerin Mitte März auftritt. Das Kongresszentrum ist prall gefüllt, als Whittaker auf die Bühne tritt.

Die zierliche Frau mit dem dunklen Lockenkopf gilt im Silicon Valley als «gadfly», weil sie wie ein nerviges Insekt unablässig den Überwachungskapitalismus der Big-Tech-Konzerne kritisiert. Damit ist sie zu einer Ikone der Tech-Kritiker geworden – die mehreren hundert Zuschauer an diesem Tag wollen den «Quälgeist» nun live erleben.

Ja, die Firmen verschlüsselten Nachrichten tatsächlich, sagt Whittaker – aber nur oberflächlich. «Wenn deine gesamte Kommunikation mit jemandem ein Kuchen ist, dann schützen Dienste wie Whatsapp nur eine winzig kleine Schicht dieses Kuchens. Wir bei Signal haben ganz neue Rezepte erfunden, um sicherzustellen, dass jede einzelne Schicht absolut sicher ist.»

Militärs in der Ukraine nutzen Signal

Whittaker ist Vorsitzende der Signal Foundation, also der Nonprofitorganisation, die den Chatdienst Signal betreibt. Dieser bietet seit gut zehn Jahren Nachrichten-Chats, Video- und Sprachanrufe an, und zwar absolut anonymisiert.

Signal unterscheidet sich damit von den meisten gängigen Chatdiensten: Diese verschlüsseln nur den Inhalt einer Nachricht, nicht aber, wann man mit wem wie häufig geschrieben hat, wer alles im Gruppen-Chat ist, die Profilfotos. Diese sogenannten Metadaten sammeln sie und verkaufen sie oft an Werbefirmen. Im Fall einer Datenpanne können all diese Daten publik werden oder bei einer gerichtlichen Anweisung mit den Strafverfolgern geteilt werden. Nicht so bei Signal: Die Plattform verschlüsselt wirklich jeden Aspekt der Kommunikation und besitzt die Metadaten deswegen gar nicht.

Militärs in der Ukraine nutzen Signal zum Informationsaustausch ebenso wie Journalisten, Aktivisten und Menschenrechtsorganisationen. Auch bei amerikanischen Spitzenpolitikern ist die App offenbar beliebt: Als jüngst der amerikanische Vizepräsident, der Aussenminister, der Verteidigungsminister und weitere Sicherheitsberater von Trump die Angriffe gegen Huthi-Rebellen planten, taten sie das über die Chat-Plattform Signal – und nicht die dafür vorgesehenen sicheren Kommunikationswege der Regierung. Publik wurde dies, weil sie in die Chatgruppe versehentlich auch den Chefredaktor des Magazins «The Atlantic» einluden.

Tatsächlich gilt das Signal-Protokoll in der Tech-Industrie inzwischen als Goldstandard für Ende-zu-Ende-Verschlüsselung; das bedeutet, dass die Nachricht beim Sender mit einem Code verschlüsselt wird, den nur der Empfänger entschlüsseln kann. Signals Form der Ende-zu-Ende-Verschlüsselung ist so gut, dass Whatsapp, Google und Skype gar Signals Technologie nutzen. Der Plattform wird auch deswegen vertraut, weil sie maximal transparent agiert: Der Quellcode ist Open Source, also für jeden jederzeit einsehbar. Sollte Signal jemals doch Daten abschöpfen, würde das sofort bekannt.

«Ich sage gar nicht, dass Sie mir vertrauen sollen», sagt Whittaker auf der Bühne in Austin. «Sie können sich unseren Quellcode selbst anschauen und verifizieren, was ich hier sage.»

Google beschäftigte sie als interne Kritikerin

Whittaker redet laut und energisch, sie ist schlagfertig und witzig. Die Zuschauer unterbrechen ihren Auftritt immer wieder mit Applaus und Jubelrufen. Etwa, wenn sie die Datensammelwut der Tech-Konzerne kritisiert, oder dass 70 Prozent des weltweiten Markts für Cloud-Dienste in den Händen von drei Firmen – Amazon, Microsoft und Google – liegen.

Sie ist in gewisser Weise die ideale Besetzung für den Spitzenjob bei Signal: Whittaker ist eine der bekanntesten Kämpferinnen für Datenschutz und Privatsphäre in den USA. Nach ihrem Literaturstudium an der linksliberalen Universität Berkeley begann sie ihre berufliche Laufbahn 2006 bei Googles Kundendienst.

Bald arbeitete sie jedoch mit Googles Infrastrukturteam zusammen, das später zur mächtigen Einheit Google Cloud wurde. Whittaker etablierte sich bei Google als Forscherin bei Themen wie Infrastruktur, Open Source und der neu aufkommenden künstlichen Intelligenz. Parallel dazu baute sie das AI Now Institute auf, eine Denkfabrik, die sich seit 2017 mit den gesellschaftlichen Folgen der KI beschäftigt.

Google ermunterte Whittaker lange dazu, die Arbeit des Konzerns kritisch zu hinterfragen, im Geist des damaligen Firmenmottos «Don’t be evil». Doch irgendwann wurden ihre Fragen zu unbequem: 2018 organisierte sie konzernweite «walkouts» mit mehr als 20 000 Teilnehmern, um gegen Googles Zusammenarbeit mit dem Drohnenprogramm des amerikanischen Militärs zu protestieren sowie Vorfälle von Sexismus am Arbeitsplatz zu kritisieren.

Diese Proteste gingen Google zu weit. Der Konzern legte Whittaker nahe, zu kündigen, was sie 2019 auch tat. Sie beriet danach Firmen und auch die Wettbewerbsbehörde FTC bei Fragen zu KI und Tech-Monopolen.

Im September 2022 übernahm Whittaker den Chefposten bei Signal. Auch privat lebt sie gemäss der Maxime des Datenschutzes: Ihr Alter ist nicht bekannt, ebenso fast nichts über ihr Privatleben. Gemäss einem Porträt in der «Financial Times» wohnt sie im New Yorker Stadtteil Brooklyn, ist aber 120 Tage im Jahr auf Reisen, um über Datenschutz und Konzernmacht zu sprechen. Daneben publiziert sie nach wie vor wissenschaftliche Artikel zu den Auswirkungen von KI.

KI-Agenten als Albtraum jedes Datenschützers

Whittaker ist nicht nur nach Austin gereist, um neue Nutzer auf ihre Plattform zu locken. In ihrem einstündigen Auftritt warnt sie auch vor der aufziehenden Gefahr von KI und speziell KI-Agenten – also personalisierten KI-Systemen, die für Nutzer wie ein persönlicher Assistent Aufgaben erledigen. Die Agenten stecken noch in den Kinderschuhen, doch Experten sind sich bereits einig, dass sie die unmittelbar bevorstehende «nächste grosse Sache» in der KI sein werden.

Als Beispiel nennt Whittaker einen KI-Agenten, der für seinen Nutzer ein Musikkonzert raussucht, Tickets kauft, das Konzert im Kalender vermerkt und Freunde via Textnachricht informiert. Ein ähnliches Produkt hat Open AI jüngst vorgestellt.

Doch um solche Aufgaben zu übernehmen, sagt Whittaker, müsste eine KI auf den eigenen Kalender zugreifen dürfen, ebenso auf die Kreditkarte, das Adressbuch, auch auf Chatdienste wie Signal – und zwar unverschlüsselt. Diesen Zugriff braucht ein KI-Agent, wenn er Dinge tun soll wie Flüge buchen, Nachrichten zusammenfassen oder im Chat Freunden antworten.

Schlimmer noch: All diese Daten würden zur Verarbeitung an Cloud-Server geschickt, weil leistungsfähige KI-Agenten nicht auf einem Smartphone laufen könnten.

«Die KI würde Root-Permission brauchen», sagt Whittaker, also die höchste Form der Zugriffsrechte in einem Computersystem. Letztlich drohe die Gefahr, dass dieses Problem die Schranke zwischen der Anwendungsebene und der Betriebssystemebene durchbreche – und es sei unklar, wo all diese personenbezogenen Daten aus den diversen Anwendungen landeten.

Auch für Signal hätten solche KI-Agenten Folgen – letztlich wäre die Privatsphäre dahin. Ein «tiefgehendes Problem» mit dem Datenschutz und der Privatsphäre überschatte also den «Hype» um KI-Agenten, fasste sie zusammen.

Für Whittaker sind die neuen Agenten eine Fortführung des grundsätzlichen Problems von KI – dass nämlich KI den Big-Tech-Firmen helfe, «mehr Macht, mehr Einnahmen und mehr Marktreichweite zu erlangen». Als gigantische Datenkraken seien die Konzerne heute in der idealen Position, um ihre Modelle mit immer neuen Daten zu trainieren.

Für Whittaker untermauert das ihre grundlegende, jahrealte Forderung: mehr Privatsphäre als Schutz vor der Macht von Big Tech. Es bekräftigt auch ihren Pitch, warum die Zuhörer in der Kongresshalle von Austin besser Signal nutzen sollten.

Finanziert durch Spenden des Whatsapp-Gründers

Verglichen mit den grossen Konkurrenten wie Whatsapp ist Signal allerdings ein Zwerg. 70 bis 100 Millionen Menschen weltweit nutzen die Plattform jeden Monat, bei Whatsapp sind es knapp 3 Milliarden. Doch die Nutzerzahlen steigen seit Jahren immer wieder sprunghaft – etwa nach den George-Floyd-Protesten in den USA 2020, dem Ausbruch des Ukraine-Krieges 2023 oder auch nach einer Empfehlung von Elon Musk.

Bemerkenswerterweise verdankt Signal seine Existenz dem Mitgründer von Whatsapp, Brian Acton. Der hatte Whatsapp 2014 für 19 Milliarden an den Facebook-Konzern verkauft und die App dort weiterentwickelt.

Doch als Facebook 2018 entgegen ursprünglicher Versprechen plötzlich Werbung auf Whatsapp einführte, kündigte Acton aus Protest – und spendete der Konkurrenzplattform Signal 50 Millionen Dollar. Acton sitzt bis heute im Aufsichtsrat von Signal. Inzwischen hat er Signal 100 Millionen Dollar mit einem zinslosen Kredit gegeben.

Im Gegensatz zu anderen Plattformen ist Signal nicht profitgetrieben, schaltet keine Werbung und finanziert sich ausschliesslich über Spenden. Whittaker schliesst auch aus, dass Signal jemals etwas kosten wird – das würde einkommensschwache Nutzer diskriminieren und dem Gründungsgedanken widersprechen.

Doch das Betreiben der Plattform kostet rund 50 Millionen Dollar pro Jahr. Laut Experten ist das wenig für eine Plattform dieser Grösse. «Nonprofit zu sein, ist ein ‹pain in the ass›», sagt Whittaker lachend, «wir müssen ständig kreative Wege finden», um mit den anderen Plattformen mitzuhalten. Aber Signal habe sich dem Versprechen verschrieben, Kommunikation so privat wie möglich zu gestalten – und das gehe nur, indem man alle Profitbestrebungen von vornherein ablehne.