Während sich andere Menschen vor künstlicher Intelligenz fürchten, plädiert Juri Schnöller dafür, sie möglichst bald einzusetzen. Für ihn ist KI nicht die Zukunft, sondern die Gegenwart – «und wer das nicht erkennt, plant bereits seine eigene politische Irrelevanz».
Herr Schnöller, Sie wollen mit KI die Demokratie retten. Warum?
Die Demokratie befindet sich in einer Vertrauenskrise. Der Populismus erstarkt, die Medien werden immer fragmentierter, die Zufriedenheit der Menschen mit dem Staatssystem ist auf historischen Tiefständen. Das politische System muss schneller und effektiver werden. KI kann dabei helfen, diese Krisen zu überwinden.
Wie soll das gehen?
KI kann in unzähligen Bereichen dafür eingesetzt werden, dass Bürgerinnen und Bürger wieder zufriedener sind mit ihrem Staat. Zum Beispiel können mit KI-Tools Baubewilligungen schneller ausgestellt werden oder Berufsabschlüsse aus dem Ausland schneller anerkannt werden. Beides dauert im Moment Jahre. Das ist ärgerlich für die Betroffenen.
Das zielt auf eine effizientere Verwaltung. Aber hilft das wirklich, die Krise der Demokratie zu überwinden?
Natürlich ist das nur einer von zahlreichen Bausteinen. Wir müssen überall ansetzen. KI ermöglicht auch neue Formen der politischen Partizipation. In Taiwan gibt es ein KI-System, dank dem Bürgerinnen und Bürger mitbestimmen können, wo in ihrer Gemeinde eine neue Strasse oder ein neuer Park gebaut werden soll. Ohne KI sind solche Vorhaben extrem aufwendig, der Aufwand, einzelne Personen nach ihrer Meinung zu fragen, kostet sehr viel Zeit. Die KI kann hingegen Texteingaben von Hunderten Anwohnern zusammenfassen und Kompromisse vorschlagen – innerhalb von Sekunden. Das könnte auch nationale Abstimmungen verändern. Anstatt bei einer Abstimmung nur Ja oder Nein zu stimmen, könnten wir der Bevölkerung auch verschiedene Varianten eines neuen Gesetzes vorlegen.
Juri Schnöller
berät mit seinem Unternehmen Cosmonauts & Kings zahlreiche Politikerinnen und Politiker zu Digitalisierungsfragen. Er arbeitete in unterschiedlichen Positionen in den digitalen Kampagnen von Angela Merkel, Ursula von der Leyen, Jean-Claude Juncker und Barack Obama. Mitte Juni erscheint sein neues Buch «Agile Demokratie – Wie künstliche Intelligenz bessere Politik ermöglicht» im Murmann-Verlag.
Was, wenn das System halluziniert, also falsche oder irreführende Informationen generiert?
Eine gut entwickelte KI ist in ein System menschlicher Überprüfung eingebettet. Experten überprüfen die Ergebnisse und haben die Möglichkeit, Korrekturen vorzunehmen. Zudem können Feedback-Schleifen eingebaut werden, die kontinuierlich die Qualität und Genauigkeit der KI-Ausgaben verbessern. Die Sorge vor Halluzinationen darf uns nicht dazu verleiten, die potenziellen Vorteile von KI-Systemen in der Bürgerbeteiligung zu übersehen. Heute wird die politische Partizipation oft von wenigen Leuten dominiert. Nun bietet KI eine Möglichkeit der breiteren und inklusiveren Beteiligung.
Das tönt gut, in der Theorie. Im Moment scheitern wir aber schon daran, uns im Internet fälschungssicher auszuweisen. Kann man bei solchen Tools die Einflussnahme aus dem Ausland ausschliessen?
Nein. Noch ist die Gefahr dafür gross. Wir sind in einem Informationskrieg, Desinformation ist allgegenwärtig. Unsere Demokratie ist nicht vorbereitet auf die Welle an Innovation, die KI in den kommenden Jahren auslösen wird. Aber wir können die Schattenseiten der Technologie nur dann erkennen und abfedern, wenn wir sie selbst auch nutzen.
Glauben Sie, dass dies gelingen wird?
Ja. Die Frage, ob KI kommen wird, ist längst beantwortet. Die entscheidendere Frage ist: Wie wird sie eingesetzt? Im Moment überlassen wir die Entwicklung der künstlichen Intelligenz grossen, profitorientierten Unternehmen. Wir brauchen aber eine Form von künstlicher Intelligenz, die auch zu gesellschaftlichem Mehrwert im Sinne aller Menschen in pluralistischen Demokratien führt.
Wie soll das gelingen?
Wir müssen KI-Systeme vor allem pragmatisch einsetzen. Ich warne davor, dass wir ein neues Ministerium schaffen, das dann von oben herab KI-Projekte durchdrückt. Vielmehr hoffe ich auf eine Art Graswurzelbewegung, in der viele lokale Organisationen KI-Systeme zum Wohl der Menschen einsetzen. Dabei sollen konkrete Dienste einfacher werden, zum Beispiel soll man nach einer Geburt eines Babys nicht tagelang die Formulare für Anmeldung und Elterngeld recherchieren müssen, sondern die Antragspapiere mit einer Suchanfrage finden und herunterladen können. Solche Dienstleistungen verbessern den Alltag von Millionen von Menschen. Und sorgen so auch dafür, dass die Menschen mit der Verwaltung zufriedener sind.
Sind die Systeme schon bereit dafür?
Noch nicht, aber sie werden bereit sein. Bis dahin müssen wir Zeit, Geld und Know-how investieren. Wir haben im Bereich der sozialen Netzwerke amerikanischen Firmen den Markt überlassen. Diesen Fehler dürfen wir im Bereich KI nicht noch einmal machen. Wir brauchen deshalb eine KI aus Europa, dessen Dreh- und Angelpunkt unsere individuellen Freiheiten sind.
Wer soll Geld investieren?
Wir Steuerzahler. Es sind aber auch neue Finanzierungsquellen denkbar. Bill Gates schlug einst vor, KI-Systeme zu besteuern.
Viele Menschen befürchten grosse gesellschaftliche Veränderungen, die durch die KI ausgelöst werden, und stehen ihr kritisch gegenüber. Finden Sie es trotzdem eine gute Idee, die noch eher neue Technologie in demokratische Prozesse einzubeziehen?
Gerade weil die gesellschaftlichen Veränderungen so gross sind, müssen wir die KI in unsere Demokratie integrieren. Wir befinden uns am Anfang einer Entwicklung. Die Auswirkungen von neuen Technologien werden oft auf kurze Sicht überschätzt und auf lange Zeit unterschätzt. Welche Effekte KI auf den Arbeitsmarkt haben oder auf die Meinungsbildung, können wir noch nicht absehen. Die Frage ist aber: Haben wir genügend qualifizierte Personen in der Politik und der Gesellschaft, die das abschätzen können und die im Sinne der Gesellschaft die richtigen Entscheidungen treffen?
Und haben wir das?
Nein, noch nicht. Ein Beispiel dafür ist die Strafverfolgung: Wir können jetzt schon antizipieren, dass es bald erheblich mehr Betrügereien geben wird. Man stelle sich vor, wie einfach man den Enkeltrick mit KI anreichern kann: Kriminelle fälschen die Stimme von Kindern und bringen deren Familienangehörige dazu, ihnen Geld zu schicken. So etwas wird immer einfacher. Trotzdem haben wir kaum Staatsanwälte, die sich gut mit digitalen Ermittlungsmethoden auskennen.
Sie bleiben trotzdem optimistisch, dass wir es mit der KI gut hinkriegen?
Ja. Wir neigen dazu, uns selbst als Endpunkt der menschlichen Geschichte zu sehen. Dabei ist es gut möglich, dass die kommenden Generationen den Fortschritt weiterführen. Vielleicht finden sie auch neue Formen der Demokratie.
In den Medien liest man oft über schädliche Auswirkungen von KI auf die Demokratie, beispielsweise von Deepfakes oder gross angelegten Desinformationskampagnen aus Russland. Sie sagen, KI ist eine Chance für die Demokratie. Sind Ihnen die Medien zu pessimistisch?
Ja. Die Medien lieben Geschichten des Weltuntergangs. Ich glaube nicht, dass es so schlimm wird. Fakt ist: Entweder wir denken Demokratie mit KI neu, oder sie wird langsam sterben.
Wie meinen Sie das?
Mit KI können autokratische Länder unsere freiheitlichen Demokratien noch gezielter destabilisieren. Wir müssen unser politisches System stärken und besser legitimieren. Das heisst, wir müssen die Demokratie den gesellschaftlichen und den technologischen Entwicklungen anpassen. In der Geschichte ist das immer wieder gelungen. Die alten Griechen zum Beispiel waren überzeugt von ihrer Demokratie. Heute wissen wir, dass diverse Gruppen im antiken Griechenland von der Entscheidungsfindung ausgeschlossen waren, Frauen beispielsweise. Wir haben die Demokratie also kontinuierlich weiterentwickelt. Damit dürfen wir jetzt nicht plötzlich aufhören.
In bisherigen Wahlkämpfen wurde KI schädlich eingesetzt: Plötzlich gab es Wahlplakate mit Fotos von Szenen, die nie stattgefunden haben. Deepfakes wurden in den sozialen Netzwerken prominent diskutiert. Robocalls sollten amerikanische Stimmbürger vom Wählen abhalten. Wie lassen sich solche Effekte abfedern?
Es braucht eine Bildungsreform. Wir müssen mehr Medienkompetenz erlangen, damit wir gefälschte Inhalte schneller erkennen. Aber auch die Plattformen und Parteien sind gefordert. Es braucht mehr KI-Kompetenz.
Das hilft vielleicht langfristig. Aber der technologische Fortschritt kommt schneller, als wir ausbilden können. Sind wir vorbereitet auf diese extreme Geschwindigkeit der Veränderung?
Nein. Aber wir waren selten in der Geschichte auf technische Neuerungen vorbereitet. Trotzdem ist es wichtig, gegenüber neuen Technologien offen zu bleiben. Entweder wir spielen mit und bestimmen die Regeln, oder wir schauen an der Seitenlinie zu. Ich bin davon überzeugt, dass uns KI zugutekommt, wenn wir heute damit beginnen, sie im Sinne der Gesellschaft einzusetzen.
Open AI, der KI-Branchenprimus, ist in seiner Mission sehr klar: Die Firma will ein System schaffen, das in vielerlei Hinsicht intelligenter ist als wir Menschen. In mancher Hinsicht ist ihr das bereits gelungen. Wie müsste man Ihrer Meinung nach mit Tech-Firmen wie Open AI umgehen?
Das Wichtigste ist, dass wir unsere Gestaltungsmacht nicht verlieren. Aber im Moment sind Firmen, nicht die Gesellschaft die zentralen Motoren der Innovationskraft. Sie erfinden Neues, um Profit daraus zu schlagen. Wir müssen sie strenger kontrollieren.
Was fordern Sie konkret?
Die Firmen müssen Transparenz darüber schaffen, mit welchen Daten ihre KI-Modelle trainiert worden sind, und ihre Modelle öffentlich einsehbar machen. Weiter sollte es eine Art Audit geben, ein System, um die Risiken von KI-Firmen zu erkennen und abzumildern. So was geschieht bereits im Bankensektor. Es könnte auch bei KI-Firmen angewandt werden.
Trotz Ihrer KI-Begeisterung: Was müsste passieren, damit Sie gegen KI auf die Strasse gehen?
Wenn KI dafür eingesetzt würde, um meine Grundrechte oder meine bürgerlichen Freiheiten zu beschränken, würde ich mich wehren. Auf die Strasse gehen würde ich an dem Tag, an dem mit KI eine systematische Überwachung zum Schutz vor Unruhe oder Terrorismus geschaffen wird.
