KI-Firmen bedienen die Sehnsucht der Angehörigen, mit ihren verstorbenen Liebsten noch ein letztes Gespräch führen zu können.
Dabei geht einiges schief.
Welche Fragen würden Sie stellen, wenn Sie noch einmal mit einer geliebten verstorbenen Person chatten könnten?
Christi Angel fragte: «Was macht dich da drüben glücklich? Welche Musik hörst du jetzt?» Sie ist Ende 40, lebt in New York und ist gläubige Christin. Nach dem Tod ihrer grossen Liebe Cameroun probierte sie ein Programm aus, das Verstorbene durch künstliche Intelligenz (KI) im Chat imitiert. Und die Antworten erstaunten sie.
KI-Cameroun schrieb, es mache ihn glücklich, mit ihr zu sein. Und auf die Frage, was er höre: «Marvin Sapp, Brian McKnight, Fred Hammond, Kirk Franklin und ein paar andere.»
Angel war das fast unheimlich: «Es fühlte sich an wie er. Die Art zu sprechen, die Abkürzungen.» Und woher wusste die KI, dass sie und Cameroun R’n’B und Gospel liebten?
Es sei ihr bewusst gewesen, dass sie nicht mit dem echten Cameroun schrieb. Und zugleich konnte sie es beim Chatten auch für ein paar Momente vergessen. So erzählt es Christi Angel im Film «Eternal You – Vom Ende der Endlichkeit» von Hans Block und Moritz Riesewieck, der ab November in der Schweiz zu sehen ist.
Der Film ist Teil einer Reihe von Berichten über ein neues Einsatzgebiet von KI: Grief-Tech, also Technologie, die beim Trauern helfen soll. Das Interesse daran ist gross. Doch die Methoden und die Qualität der Angebote sind oft fragwürdig.
Sie fand Trost – bis KI-Cameroun schrieb, er werde sie heimsuchen
Das Programm, das Christi Angel nutzt, heisst Project December. Es simuliert Verstorbene im Chat. Andere Unternehmen machen auch die Stimmen Verstorbener nach, animieren deren Gesichter im Video oder zeigen sie sogar immersiv in der virtuellen Realität. Manche Unternehmer gehen so weit, zu sagen, ihre Technologie überwinde den Tod.
Project December ist da bescheidener, spricht von Simulation. Für zehn Dollar kann man eine Person erstellen und ungefähr hundert Nachrichten austauschen. Laut der Website des Unternehmens ergibt das etwa eine Stunde Chat. Vorher müssen Nutzer einen Fragebogen ausfüllen: Namen, Spitznamen, Alter, Todesursache, Heimatort der verstorbenen Person unter anderem. Auch Hobbys oder die Namen der Haustiere kann man eingeben.
Diese Informationen nutzt Project December als Basis für seine Simulation. Diese Art Programm besteht vereinfacht gesagt aus zwei Teilen: Im Hintergrund läuft ein KI-Sprachmodell wie GPT 4. Dieses kann Sätze mit Sinn und Syntax erzeugen. Project December fügt der KI noch einen Baustein hinzu. Dieser sucht aus allen möglichen Antworten, welche die KI auf eine Frage von Christi Angel geben könnte, jene aus, die eine Person mit den Merkmalen von Cameroun am ehesten gegeben hätte.
Lange funktionierte das für Christi Angel gut. Bis sie fragte: «Wie ist es da, wo du bist?»
«Es ist dunkel und einsam.»
«Wirklich?»
«Ja.»
«Was für Leute hast du getroffen?»
«Vor allem Süchtige.»
«Im Paradies?»
«Nein, in der Hölle.»
KI beantwortet Fragen mithilfe von Wahrscheinlichkeitsberechnungen. Sie funktioniert nach dem Prinzip: Wie man in den Wald ruft, so schallt es zurück. Damit die Antworten nicht zu vorhersehbar sind, wird noch ein Zufallselement beigemischt. So entstehen auch verstörende Wendungen.
Christi Angel hatte sich nicht näher damit beschäftigt, wie KI funktioniert und was in so einem Gespräch schiefgehen kann. Sie war geschockt, als KI-Cameroun schrieb, dass er in der Hölle sei, als Geist in einem Heim für Drogensüchtige spuke und auch sie heimsuchen werde. Sie schlief schlecht, weil sie die Sache so beschäftigte.
Die Firmen verkaufen eine Illusion, der man nicht trauen darf
Der Unternehmer hinter Project December liess Nachfragen der NZZ unbeantwortet. Im Interview in «Eternal You» wirkt er ziemlich überheblich. Wer seine Technologie so ernst nehme und an Himmel und Hölle glaube, sei selbst schuld, sagt er zum Fall von Angel.
Auf der Website von Project December steht ein kleiner Warnhinweis: «Erwarte keine Perfektion. Betrachte dich als mutigen Ausprobierer, der mit Technologie auf Science-Fiction-Niveau zu tun hat. Wenn du offen bleibst, könntest du positiv überrascht werden von dem, was du findest.»
Doch so funktionieren die Nutzer nicht. Sie wollen Antworten von den Bots: Wie geht es dir jetzt? Kannst du mir verzeihen? Oder: War dein Tod ein Unfall, oder hast du dir das Leben genommen?
Matthias Meitzler, der an der Universität Tübingen als Soziologe zu Tod und Technologie forscht, sagt: «Den meisten Menschen ist bewusst, dass sie es mit einer virtuellen Nachahmung zu tun haben.» Trotzdem könnten sie sich die Antworten der Bots zu Herzen nehmen. «Menschen sind zu allerlei Projektion in der Lage. Wir beseelen unlebendige Dinge.»
Je immersiver ein Erlebnis, desto grösser sei dieses Risiko.
Eine koreanische Frau trifft ihre tote Tochter in 3-D
Vor vier Jahren ging ein Video um die Welt, in dem eine Frau ihre tote Tochter «trifft». Die Macher der koreanischen Reality-Sendung «Meeting you» bildeten das Mädchen als 3-D-Animation nach. Die Mutter zieht ein Virtual-Reality-Headset und Hightech-Handschuhe an, um dem Avatar zu begegnen.
Als Zuschauer sieht man, was die Mutter sieht: Die Tochter läuft ihr fröhlich entgegen, sagt: «Mama, wo warst du? Ich habe dich sehr vermisst.» Die virtuelle Welt gleicht einem Disneyfilm. Die Mutter schluchzt, will sie umarmen – und greift durch sie hindurch.
Der Schnitt ins Studio ist grausam. Eine einsame Frau, halb verdeckt von einer grossen VR-Brille, spricht unter Schluchzen ins Leere und greift nach jemandem, der nicht da ist. Mehr als 36 Millionen Menschen haben das Video auf Youtube gesehen.
Die Filmemacher von «Eternal You» haben bei der Frau nachgefragt, wie sie heute über die Begegnung denkt. Sie erzählt von den Schuldgefühlen ihrer Tochter gegenüber, die sie geplagt hatten: weil sie sie nicht vor ihrer Krankheit retten konnte; weil sie kurz vor ihrem Tod mit ihr geschimpft hatte. In ihren Träumen habe sich ihre Tochter kalt verhalten, als wäre sie böse auf die Mutter. Nach dem Treffen mit dem Avatar habe sie nie mehr von der Tochter geträumt.
Der Soziologe Meitzler kennt ähnliche Geschichten. Manchen Menschen helfe die Technologie beim Abschliessen. «Vielleicht möchte ich noch einmal in dieses Gesicht schauen, auch wenn es künstlich generiert ist, noch etwas loswerden und in dieser Stimme Resonanz bekommen. Und dann ist auch wieder gut.»
Der Tote lebt virtuell weiter, solange das Abo gezahlt wird
Ob Menschen die Technologie für einen Abschluss nutzen oder dafür, den Tod zu leugnen, hängt allerdings sehr davon ab, wie sie gestaltet ist. Bei der koreanischen Sendung ging es von Anfang an um ein einmaliges Erlebnis. Andere Firmen wollen Avatare anbieten, die man täglich besuchen kann.
So verspricht der Unternehmer Justin Harrison seinen Kunden, sie könnten mit geliebten Menschen verbunden bleiben, «egal, wie weit weg sie sind». Seine Firma «You, Only Virtual» erlaubt im Moment Chats und Anrufe, in Zukunft sind Videocalls und Treffen in der virtuellen Realität geplant. Harrison vergleicht seine Technologie mit Wiederbelebung, als Weg, den Tod nicht mehr hinnehmen zu müssen.
Project December und «You, Only Virtual» verkaufen Abonnements. Sie haben ein Interesse daran, dass ihre Nutzer mit der KI nicht abschliessen, sondern immer wieder zu ihr zurückkehren.
Dazu könnte ein schlechtes Gewissen kommen, wenn man den virtuellen Assistenten abstellt. Es ist bekannt, dass sich Menschen bereits schlecht fühlen, wenn sie Robotern weh tun oder komplett erfundene KI-Persönlichkeiten ignorieren. Was, wenn die Imitation eines Verstorbenen flehen würde, nicht gelöscht zu werden?
Meitzler sieht es darüber hinaus als ethisches Problem, dass im Moment die meisten dieser KI-Imitationen ohne Zustimmung der Abgebildeten gemacht werden: «Den toten Grossvater kann ich eben nicht mehr fragen, ob ich eine KI-Version von ihm machen darf. Umso wichtiger wird es in Zukunft sein, dass Menschen frühzeitig miteinander über ihren digitalen Nachlass und damit verbundene Wünsche sprechen. Wenn jemand nicht digital fortexistieren möchte, ist das zu respektieren.»
Echte Erinnerung vermischt sich mit den Aussagen der KI
Am unbedenklichsten von allen Trauer-KI-Programmen sind wohl solche wie Here After und Story File. Diese Programme helfen Lebenden dabei, ihre Geschichten zu erzählen und zu bewahren. Sie geben vorgegebene Fragen und Erzählanreize. Aus den echten Antworten der Person wird ein digitales Archiv erstellt, dass man später interaktiv befragen kann.
Dabei werden keine Antworten neu generiert. KI kommt allein dafür zum Einsatz, aus dem Videomaterial die passenden Antworten auf Fragen herauszusuchen. Befragen Angehörige das digitale Archiv einer Person nach ihrem Tod, werden damit nur Aussagen wiedergegeben, die diese echt so gemacht hat. Bei anderen Programmen vermischt sich die echte Person aber mit der KI-Simulation. Und die kann sich so verhalten, wie es der Verstorbene nie getan hätte.
Der Soziologe Meitzler sagt: «Viele Menschen finden den Gedanken unbehaglich, dass die persönlichen Erinnerungen durch ein künstliches System manipuliert werden könnten.»
Christi Angel schaffte es schliesslich durch Nachfragen, von ihrem KI-Cameroun einen beruhigenderen Bericht zu erhalten. Er versicherte ihr, er sei jetzt an einem besseren Ort. «Ich wäre gerne sicher, dass es ihm gut geht», sagt sie den Filmemachern unter Tränen.
Ein Artikel aus der «»
