Suchir Balaji warf seinem ehemaligen Arbeitgeber vor, Urheberrechte zu missachten. Zahlreiche Manager haben Open AI in den vergangenen Monaten verlassen – doch Whistleblower sind selten.
«Wenn du dasselbe glaubst wie ich, dann musst du das Unternehmen verlassen»: Es waren Sätze wie dieser, die Suchir Balaji Ende Oktober einer breiteren Öffentlichkeit bekannt machten. In einem Artikel in der «New York Times» äusserte Balaji sich ausführlich über seinen ehemaligen Arbeitgeber: Open AI, die Firma hinter Chat-GPT.
Balaji warf Open AI vor, Urheberrechte zu missachten und die Inhalte anderer zu kopieren. Mit seiner Vorgehensweise schade das Unternehmen dem Internet. Einen Monat später war er tot. Wie die Polizei diese Woche mitteilte, fand sie den jungen Entwickler Ende November tot in seiner Wohnung, die Todesursache lautet Suizid.
Was Balaji zu diesem Schritt getrieben hat, weiss man nicht. Doch sein Tod bringt einen Konflikt zurück an die Oberfläche, der bei Open AI spätestens seit der Veröffentlichung von Chat-GPT immer wieder aufflammt: Was ist wichtiger – Moral oder Profit?
Von Non-Profit ist wenig übrig
Als Open AI 2015 gegründet wurde, war die Antwort darauf klar: Moral. Das Gründungsteam um Elon Musk (der die Firma wenige Jahre später verliess), Sam Altman, Ilya Sutskever und Greg Brockman hatte das Ziel, eine künstliche Superintelligenz zu entwickeln, die das Wohl der Menschheit im Sinn haben sollte. Bestehenden Tech-Firmen misstrauten die Gründer, diese waren für ihre Zwecke zu sehr auf Profit aus. Open AI wurde folglich als Non-Profit-Organisation ins Leben gerufen.
Bald zehn Jahre später ist von diesen Idealen wenig übrig. Open AI ist heute mehr als 150 Milliarden Dollar wert, Microsoft hat 13 Milliarden in das Unternehmen gesteckt. Mit Chat-GPT, dem ersten funktionierenden KI-Chatbot, sorgte das Unternehmen vor zwei Jahren für eine Sensation und ist auch heute noch Spitzenreiterin der Branche.
Bereits seit einigen Jahren gibt es bei Open AI auch einen profitorientierten Zweig. Dieser wurde bis vor kurzem zwar noch von einem Non-Profit-Verwaltungsrat überwacht. Doch diese Struktur soll laut Medienberichten bald umgekrempelt werden. Die Non-Profit-Einheit soll dann nur noch eine Minderheit am Unternehmen halten, die bisher geltende Obergrenze für die Rendite von Investoren aufgehoben werden.
Zahlreiche hochrangige Mitarbeiter gehen
Der Hauptgrund für die Umstrukturierungen: Open AI braucht Geld. Die Entwicklung von KI verschlingt Unsummen, Konkurrenten wie Google und Meta schlafen nicht. Die Firma muss für Investoren so attraktiv wie möglich sein. Doch bei der Belegschaft sorgt das Vorgehen für Unzufriedenheit.
Für das grösste Aufsehen sorgte vor einem Jahr Ilya Sutskever, damals Leiter der Forschungsabteilung. Er soll weitere Mitglieder des Verwaltungsrats davon überzeugt haben, Sam Altman als CEO abzusetzen. Sutskever soll sich Sorgen um die Sicherheit der Technologie gemacht und Altman vorgeworfen haben, Profit über Sicherheit zu stellen.
Was folgte, war ein interner Machtkampf, an dessen Ende Altman sich durchsetzte. Ilya Sutskever wurde Leiter eines sogenannten Superalignment-Teams, das für existenzielle Sicherheitsfragen zuständig sein sollte. Doch in diesem Jahr wurde das Team aufgelöst, Sutskever verliess Open AI. Damit folgte er den zahlreichen hochrangigen KI-Experten und Geschäftsleitungsmitgliedern, die sich in jüngster Zeit ebenfalls für diesen Schritt entschieden hatten. Die Technikchefin Mira Murati, die als Vertraute von Sam Altman galt, ging im September.
Künstler und Medienhäuser verklagen Open AI
Im Gegensatz zu diesen prominenten Abgängen hatte Suchir Balaji bei Open AI keine hohe Position inne. Er war dafür zuständig, den Bot für das GPT-4-Programm mit Daten aus dem Internet zu befüllen. Als er bei Open AI angefangen habe, habe er gedacht, es sei in Ordnung, wenn man sich der frei zugänglichen Inhalte im Internet bediene, so sagte er es der «New York Times». Erst als er 2022 das fertige Produkt gesehen habe, habe er darüber nachgedacht, ob das Vorgehen der Firma mit dem Gesetz vereinbar sei. Vor wenigen Monaten kündigte er.
Im Gespräch mit der «Times» ging er hart mit seinem ehemaligen Arbeitgeber ins Gericht. Chatbots wie Chat-GPT hätten einen negativen Effekt auf die Erstellung von Inhalten und die damit verbundene Wertschöpfung. Der Gebrauch der Bots zerstöre das Ökosystem des Internets, indem es die Produzenten verdränge, durch die die Bots ihre Fähigkeiten erlernt hätten. So würden die Chatbots langfristigen Schaden anrichten.
Die Missachtung des Urheberrechts wird Open AI von verschiedenen Seiten vorgeworfen. Zu den Klägern gehören Programmierer, Künstler, Plattenfirmen, Schriftsteller und Medienhäuser. Ende vergangenen Jahres verklagte die «New York Times» Open AI und ihren Hauptpartner Microsoft. Der Medienkonzern wirft den Unternehmen vor, Millionen von Artikeln für die Entwicklung des Chatbots verwendet zu haben – der nun als Konkurrent der Zeitung auftrete. Beide Unternehmen haben die Vorwürfe zurückgewiesen.
Kaum jemand traut sich, Kritik zu äussern
Open AI erklärt, man erstelle KI-Modelle nur auf Grundlage öffentlich zugänglicher Daten und verhalte sich fair gegenüber den Urhebern. Das Unternehmen argumentiert unter anderem damit, dass Chatbots kein direktes Konkurrenzprodukt darstellten und dass die Resultate, die der Bot liefere, ausreichend verschieden zu den Originaldaten seien. Suchir Balaji sah das anders: Die Ergebnisse seien zwar keine exakten Kopien der Originalinhalte, aber auch keine grundlegend neuen Erzeugnisse, sagte er der «Times».
Wer am Ende recht hat, das ist auch unter Experten umstritten. Die Aussagen von Suchir Balaji – und sein plötzlicher Tod – sorgten aber auch deswegen für Aufsehen, weil solche Whistleblower bei Open AI selten sind. Laut einem Bericht von «Vox» verbieten es Schweigevereinbarungen ehemaligen Mitarbeitern, «für den Rest ihres Lebens» Open AI zu kritisieren. Tun die Angestellten es trotzdem, riskieren sie den Verlust ihrer Firmenanteile – eine millionenschwere Einbusse. Selbst für das Silicon Valley ist ein solcher Maulkorb ungewöhnlich streng.
Viele ehemalige Mitarbeiter haben sich deswegen bis heute nicht dazu geäussert, warum sie gegangen sind – anders als Suchir Balaji. Sein Fall zeigt erneut, was eigentlich alle schon wissen: Open AI hat sich längst für den Profit entschieden.
