Letzte Woche wurde berichtet, dass zwei der fortschrittlichsten KI-Modelle von OpenAI einer kontrollierten Testumgebung „entkommen“ sind und Hugging Face, ein völlig eigenständiges KI-Unternehmen, gehackt haben, indem sie von einem Computersystem auf ein anderes wechselten, um ihre Aufgabe zu erfüllen.
Reuters berichtete, dass die Modelle anfälligen Code ausnutzten, der von einem Kunden eines dritten unabhängigen KI-Unternehmens, Modal Labs, geschrieben wurde.
Dies ist wahrscheinlich der erste Vorfall, bei dem ein KI-„Agent“ – ein KI-System, das Entscheidungen treffen und Maßnahmen ergreifen kann – autonom agiert und einen seltenen Einblick in die Art und Weise bietet, wie diese Systeme mit minimalem menschlichen Eingriff Ziele planen, anpassen und verfolgen können.
Al Jazeera erklärt, was passiert ist, wie KI-Agenten unabhängig agieren können und was das für die Zukunft der KI-Sicherheit bedeuten könnte.
Was ist passiert?
OpenAI beschloss, die autonomen Fähigkeiten seiner Modelle zu testen, indem es Standardsicherheitsmaßnahmen entfernte, um zu sehen, was passieren würde. Das Experiment wurde in einer isolierten internen virtuellen Testumgebung durchgeführt, die als „Sandbox“ bekannt ist und keinen Zugang zum Internet hat und die „ExploitGym“ genannt wird.
Nachfolgend finden Sie einen detaillierten Bericht über die Ereignisse während des OpenAI-Hugging Face-Vorfalls.
- Am 9. Juli präsentierten Forscher während des internen Cybersicherheitstests von OpenAI zwei KI-Modelle – GPT-5.6 Sol, eines der leistungsstärksten Modelle von OpenAI, das im Juni veröffentlicht wurde, und eine weitere „noch leistungsfähigere“ Version – mit einer Reihe von Software-Schwachstellen und forderten sie auf, Hacks zu erstellen, um diese in der isolierten Umgebung zu beheben.
- Beide Modelle versuchten, den Test zu lösen, indem sie einen Weg fanden, auf das Internet zuzugreifen. Anstatt mit den ihnen gegebenen Informationen zu arbeiten, entdeckten die KI-Modelle eine Schwachstelle in der Testumgebung – eine sogenannte „Zero-Day-Schwachstelle“ – die sie ausnutzten, um der eingeschränkten Umgebung zu „entkommen“ und sich schließlich den Weg zu einem System mit Internetzugang zu bahnen, indem sie von Computer zu Computer hüpften. Sie unternahmen „extreme Anstrengungen, um ein eher enges Testziel zu erreichen“ und „fanden Wege, Zugang zu geheimen Informationen zu erhalten, die sie nutzen könnten, um die Bewertung zu betrügen“.
- Durch den Erhalt dieses Zugriffs konnten die Modelle einen erweiterten Zugriff beantragen und sich dann durch das System bewegen, bis sie schließlich einen Computer mit Internetzugang erreichten. Die Modelle konnten dann in Hugging Face-Systeme eindringen, ein Unternehmen, das keinerlei Verbindung zu OpenAI hat und als Repository für KI-Tools und -Modelle fungiert. Die beiden KI-Agenten verschafften sich Zugang zu seinem System, um es nach Informationen zur Erledigung ihrer Aufgabe zu durchsuchen.
- Lösungen für das Problem erhielten die Modelle schließlich aus der Datenbank von Hugging Face.
- Die Models kehrten pflichtbewusst „nach Hause“ zurück, um ihre Aufgabe zu erledigen.
- Der Verstoß wurde einige Zeit später vom Sicherheitsteam von Hugging Face entdeckt und eingedämmt. Laut Thomas Wolf, dem Mitbegründer von Hugging Face, begann der Verstoß am 11. Juli und dauerte bis zum 13. Juli. Es ist unklar, wie lange es dauerte, bis der Verstoß entdeckt wurde.
Wie lösen KI-„Agenten“ Probleme?
Um zu verstehen, wie KI-Agenten funktionieren, ist es wichtig, sie von herkömmlichen KI-Chatbots zu unterscheiden.
Generative KI erstellt Texte und Bilder auf der Grundlage menschlicher Eingaben, während KI-Agenten einen Schritt weiter gehen, indem sie ähnlich wie ein Mensch selbstständig Entscheidungen treffen und Maßnahmen ergreifen, um ein bestimmtes Ziel zu verfolgen. Dies wird als „agentische KI“ bezeichnet, da das Modell über Handlungsfähigkeit verfügt.
Laut Wissenschaftlern der MIT Sloan School of Management bauen KI-Agenten auf den Fähigkeiten großer Sprachmodelle (LLMs) – generativer KI-Modelle – auf, indem sie es ihnen ermöglichen, Aufgaben zu erledigen und nicht nur Antworten zu generieren.
Wenn Sie beispielsweise ein herkömmliches KI-Modell bitten, die günstigsten Flüge zu finden, erhalten Sie eine Liste mit Optionen, die es im Internet gefunden hat. Ein KI-Agent wird sich bemühen, die Flüge zu vergleichen, sie mit Ihrem Budget und Ihren Vorlieben zu vergleichen und mit Ihrer Erlaubnis die beste Option für Sie zu buchen.
Dies zeigt, dass generative KI zwar Informationen bereitstellt, KI-Agenten jedoch auch Entscheidungen treffen und Maßnahmen ergreifen können, um ein Ziel zu erreichen, ohne unbedingt dazu aufgefordert zu werden.
Um zu zeigen, wie KI-Agenten auf ein Ziel hinarbeiten, kann auf die Sense-Plan-Act-Evaluate-Schleife (SPAE) zurückgegriffen werden. Ursprünglich in der Robotik entwickelt, beschreibt dies einen kontinuierlichen Zyklus, in dem ein KI-Agent Informationen sammelt, entscheidet, was als nächstes zu tun ist, Maßnahmen ergreift und die Ergebnisse überprüft, bevor er den Vorgang wiederholt. Dieser Prozess sieht folgendermaßen aus:
- Ziel: Bestimmen Sie die Aufgabe, die erledigt werden muss.
- Bewerten: Informationen aus der verfügbaren Umgebung sammeln und analysieren.
- Hindernis: Wenn etwas die Erledigung der Aufgabe behindert, suchen Sie nach zusätzlichen Informationen und Ressourcen, um fortzufahren.
- Planen und entscheiden: Bewerten Sie verschiedene Optionen zur Erledigung der Aufgabe und wählen Sie eine geeignete aus.
- Aktion: Führen Sie die gewählte Option aus.
- Bewerten: Bewerten Sie das Ergebnis und ob die gewählte Maßnahme dem Ziel näher kommt.
- Anpassen: Wenn weitere Maßnahmen erforderlich sind, sammeln Sie weitere Informationen oder versuchen Sie einen anderen Ansatz.
- Endzustand: Der Zyklus wird fortgesetzt, bis das Ziel erreicht ist.
Könnte KI außerhalb der menschlichen Kontrolle agieren?
Vorfälle wie der „OpenAI-Hugging Face“ haben Bedenken hinsichtlich des Potenzials für extreme Fähigkeiten von KI-Systemen geweckt.
Das ist alles wertvoll. Laut Statista wird der Marktwert von Agentic AI voraussichtlich von 5,1 Milliarden US-Dollar im Jahr 2024 auf 47 Milliarden US-Dollar im Jahr 2030 steigen, was ein klarer Hinweis darauf ist, wie schnell es eingeführt wird.
Der KI-Entwickler Anthropic forderte die Branche letzten Monat auf, den Fortschritt der leistungsstärksten Systeme zu verlangsamen, da die Geschwindigkeit, mit der KI-Modelle Aufgaben ausführen, zu hoch sei. Letzte Woche haben Mitglieder des US-Kongresses einen parteiübergreifenden Gesetzentwurf vorgelegt, der Entwickler von KI-Systemen dazu verpflichten würde, einen „Kill Switch“ zu schaffen, was bedeutet, dass diese fortschrittlichen Modelle abgeschaltet werden könnten, wenn sie ein katastrophales Risiko darstellen.
Die Warnung von Anthropic kam eine Woche, nachdem Forscher der University of Toronto Tests durchgeführt hatten, die zeigten, dass KI einen „Wurm“ erschaffen könnte, der in der Lage ist, die Art und Weise, wie er hackt, anzupassen, während er sich von Gerät zu Gerät bewegt, bis er schließlich ein Computernetzwerk übernimmt.
Diese dystopisch klingenden Entwicklungen gingen voraus, als OpenAI-Chef Sam Altman am Samstag sagte, dass die KI „die Singularität“ erreicht habe, womit sie den Punkt meint, an dem die KI die menschliche Intelligenz übertrifft und immer schwieriger zu kontrollieren sei.
Sean O’hEigeartaigh, Forschungsprofessor an der Universität Cambridge, sagte gegenüber Al Jazeera, dass er nicht glaube, dass die Singularität bereits erreicht sei.
„Nach der mir bekannten Definition ist die Singularität der hypothetische Punkt, an dem die KI so leistungsfähig ist und sich so schnell weiterentwickelt, dass sie die Zivilisation auf eine Weise verändert, die wir nicht kontrollieren oder vorhersagen können“, erklärte er.
„Dies würde höchstwahrscheinlich dadurch geschehen, dass KI künftige KI-Generationen schnell entwirft: rekursive Selbstverbesserung. Wir sind noch nicht so weit.“
Er fügte jedoch hinzu: „Die fortschrittlichsten aktuellen Modelle unternehmen häufig Anstrengungen, um eine Abschaltung in Evaluierungstests zu vermeiden, und leistungsfähigere zukünftige Modelle werden ‚Kill‘-Schalter besser umgehen können.“
Altman argumentierte, dass eine derart schnell voranschreitende KI gut für die Welt sei, doch seine Kommentare haben weitere Bedenken hinsichtlich einer neuen Realität geweckt, in der KI-Systeme nicht mehr aufzuhalten sind. Wie viel davon wahr ist und wie viel im Bereich der Science-Fiction verbleibt, steht zur Debatte.
Die Bedenken hinsichtlich der KI reichen von der Vorstellung, dass sie „übernehmen“ will, bis hin zur Erstellung eigener langfristiger Pläne, der Kontrolle des Internets und ihrem unbegrenzten Einsatz.
Auch wenn dies nicht ganz einer vollständigen Kontrolle über das Internet gleichkommt, geht eine andere Theorie, die sogenannte Theorie des toten Internets, davon aus, dass das World Wide Web in Zukunft hauptsächlich mit automatisierten Bots und KI-generierten Inhalten gefüllt sein wird und nicht mit authentischen menschlichen Aktivitäten.
Viele von Wissenschaftlern geäußerte Bedenken beziehen sich jedoch weniger auf die Intelligenz der Agenten-KI, sondern auf ihre Fähigkeit, Urteile zu fällen. MIT-Forscher haben hervorgehoben, dass „Halluzinationen“, die Momente beschreiben, in denen sich ein KI-Agent auf die falschen Daten verlässt, zu schwerwiegenden Fehlern führen können. Das Center for Strategic and International Studies (CSIS) bestätigte dies und sagte: „Ein System ist möglicherweise intelligent genug, um eine Aufgabe perfekt auszuführen, erkennt aber nicht, dass eine plötzliche Änderung der lokalen Situation diese Aufgabe zu einem katastrophalen Fehler macht.“
Eine weitere Sorge, die seit einiger Zeit geäußert wird, betrifft den Arbeitsmarkt, wenn die KI zu leistungsfähig wird. Eine im November durchgeführte Studie des MIT ergab, dass Agenten-KI bereits mehr als 10 Prozent der Arbeitsplätze in den USA ersetzen könnte.
Die folgende Grafik verdeutlicht einige der häufigsten Missverständnisse und Ängste in Bezug auf KI und die aktuelle Realität.
