Schalten Sie den Editor’s Digest kostenlos frei
Roula Khalaf, Herausgeberin der FT, wählt in diesem wöchentlichen Newsletter ihre Lieblingsgeschichten aus.
Als Dario Amodei OpenAI im Jahr 2020 verließ, wünschte ihm CEO Sam Altman alles Gute und ging davon aus, dass sich das von Amodei, seiner Schwester Daniela und anderen Abgängern geplante Projekt wahrscheinlich „weniger auf Produktentwicklung und mehr auf Forschung“ konzentrieren würde.
„Wir freuen uns auf die Zusammenarbeit mit ihnen in den kommenden Jahren“, schrieb Altman in einem Blog.
Stattdessen ist Amodei zum härtesten Dorn in Altmans Seite geworden. Anthropic, das von ihm mitbegründete Start-up für künstliche Intelligenz, wird das Jahr mit einem Jahresumsatz von rund 10 Milliarden US-Dollar abschließen und wächst schnell. Das Unternehmen führt derzeit Gespräche über die Beschaffung von Mitteln im Wert von über 300 Milliarden US-Dollar und legt nun den Grundstein für einen Blockbuster-Börsengang.
Amodeis Entscheidung, OpenAI zu verlassen, und die Arbeit, die er seitdem geleistet hat, basieren laut mehreren Personen, die ihn kennen, auf zwei Überzeugungen. Erstens, dass er besser in der Lage ist, eine allmächtige KI aufzubauen als sein früherer Chef; und zweitens, dass die Welt sicherer wäre, wenn er es täte.
„Er hat eine klare Vorstellung davon, wohin er will. Dario versteht, dass man ein gutes Unternehmen haben muss, um die Mission zu verfolgen“, sagt Matt Murphy, Partner bei der Investmentfirma Menlo Ventures aus dem Silicon Valley, die letztes Jahr eine Finanzierungsrunde für Anthropic leitete.
Investoren des Unternehmens beschreiben Amodei als jemanden, dessen Engagement für „sichere KI“ mit ausgeprägten kommerziellen Instinkten verbunden ist. „Gründer sind entweder technisch versiert, gut im Produkt oder im Vertrieb. Dario ist einer der wenigen CEOs, die ich in meinem Leben getroffen habe, die alle drei Dinge tun“, sagt Divesh Makan, Gründer von Iconiq Capital, das die letzte Finanzierungsrunde von Anthropic leitete.
Amodei wurde in San Francisco geboren und wuchs dort auf. Seine Mutter war Bibliotheksrenoviererin, sein Vater war Lederschmied. Der 42-Jährige studierte Physik in Stanford und promovierte in Biophysik, bevor er eine Karriere als KI-Forscher begann. Er kam 2014 zum chinesischen Internetgiganten Baidu, bevor er kurz bei Google Brain tätig war.
Im Jahr 2016 gehörte er zu den ersten Mitarbeitern von OpenAI, das von Altman, Elon Musk und neun anderen als Ort gegründet wurde, um KI-Forschung ohne den kommerziellen Druck einer Muttergesellschaft im Technologiebereich zu betreiben. Amodei war maßgeblich an der Entwicklung der großen Sprachmodelle hinter dem Chatbot ChatGPT beteiligt.
Aber nach fünf Jahren verließ Amodei das Unternehmen aufgrund von Meinungsverschiedenheiten mit Altman über die Richtung von OpenAI und Bedenken hinsichtlich des Schadenspotenzials von KI, wenn keine entsprechenden Schutzmaßnahmen ergriffen würden. Im Jahr 2021 gründete er zusammen mit seiner Schwester Anthropic.
„Was ihm wichtig war, war die Entwicklung eines Unternehmens, in dem diese Dinge sicher und transparent in der Welt eingesetzt werden können“, sagt Ravi Mhatre, Mitbegründer der VC-Firma Lightspeed Venture Partners, die dieses Jahr über 1 Milliarde US-Dollar in Anthropic investierte. „Er hatte das Gefühl, dass er eine saubere Weste brauchte.“
Doch dieser Fokus auf eine sichere KI-Entwicklung hat ihm sowohl in Washington als auch im Silicon Valley Kritik eingebracht. David Sacks, Trumps KI-Zar, behauptete im Oktober, Anthropic verfolge eine „ausgeklügelte, auf Panikmache basierende Strategie zur Regulierungseroberung“. Investor Marc Andreessen argumentiert, dass eine zusätzliche KI-Regulierung US-Start-ups behindern wird.
Kritiker bezeichnen Amodei als „Doomer“, der von der Bewegung des effektiven Altruismus beeinflusst sei, die glaubt, dass KI eine existenzielle Bedrohung für die Menschheit darstellt. Die Amodei-Geschwister bestreiten, effektive Altruisten oder Untergangsverderber zu sein. Doch die frühe Finanzierung des Unternehmens kam von Investoren mit Verbindungen zur Bewegung, darunter Facebook-Mitbegründer Dustin Moskovitz und FTX-Mitbegründer Sam Bankman-Fried, der später wegen Betrugs verurteilt wurde.
Einige im KI-Sektor befürchten auch, dass das schnelle Wachstum von Anthropic nun Amodeis Fähigkeit auf die Probe stellt, das Streben nach „sicherer“ KI mit den Bedürfnissen seiner Aktionäre in Einklang zu bringen.
„In der Anfangsphase von Anthropic sagten sie ganz klar: ‚Wir wollen den KI-Wettlauf nicht anheizen, sondern direkt hinter der Grenze bleiben und KI-Sicherheitsforschung betreiben.‘ Das ist jetzt eindeutig nicht der Fall. „Einige Leute in der KI-Sicherheitsgemeinschaft sind damit ziemlich unzufrieden“, sagte eine Person, die im Bereich KI-Sicherheit arbeitet.
Anthropic hat die Unterstützung von Google, Amazon, Microsoft und Nvidia erhalten und Anfang des Jahres seine Haltung zur Annahme von Geldern aus dem Nahen Osten geändert. „Leider denke ich, dass ‚kein schlechter Mensch sollte jemals von unserem Erfolg profitieren‘ ein ziemlich schwieriger Grundsatz ist, nach dem man ein Unternehmen führen kann“, sagte Amodei den Mitarbeitern.
Um seine strategischen Veränderungen und seine Sicht auf die Welt zum Ausdruck zu bringen, schreibt Amodei gerne lange öffentliche Aufsätze (der letzte umfasste mehr als 13.000 Wörter). Während eines fünfstündigen Podcast-Interviews im letzten Jahr nahm er auch eine kurze Ablenkung von der Diskussion über Programmiersprachen, um über den Sinn des Lebens zu sprechen.
Seine ernsten Botschaften wurden von der Öffentlichkeit gut aufgenommen. Und seine Begeisterung für die Mission seines Unternehmens ist bei den Mitarbeitern beliebt und hilft Anthropic dabei, Spitzenforscher in einem wettbewerbsintensiven Markt zu halten. „Er hat den Status eines Sektenführers“, sagt die Person in der KI-Sicherheit.
Das Unternehmen befindet sich derzeit in der Anfangsphase der Vorbereitungen für einen Börsengang. Es besteht eine starke Nachfrage von Investoren, einen Teil dessen zu besitzen, was Amodei aufgebaut hat.
„Ich kann mir das Unternehmen ohne Dario nicht vorstellen. Er ist die Person, die die wichtigsten technischen Herausforderungen anführt und alle motiviert“, sagt Mhatre von Lightspeed. „Was wäre Apple ohne Steve Jobs oder Microsoft ohne Bill Gates?“
Zusätzliche Berichterstattung von Cristina Criddle und Tabby Kinder