KI-Modelle des Chat-GPT-Entwicklers OpenAI brachen aus einer Testumgebung aus, verschafften sich auf eigene Faust Zugang zum offenen Internet und hackten ein externes Unternehmen.
OpenAi selbst sprach von einem beispiellosen Cybervorfall, mit möglicherweise weitreichenden Folgen auf unsere Zukunft. Experten sprechen bereits von einem Technologie-Wettrüsten. Von Frank Schwede
Bei einem Test von KI-Modellen des Chat-GBT-Entwicklers OpenAI ist es zu einem ernsten Zwischenfall gekommen. In einer gesicherten Testumgebung hätten KI-Modelle einen wesentlichen Teil ihrer Rechenleistung darauf verwendet, an einen offenen Internetzugang zu gelangen, erklärte ein Sprecher von OpenAI.
Nachdem dies geglückt war, entschieden sie sich demnach auf eigene Faust dazu, die Plattform Hugging Face für ihre Aufgabe zu nutzen. Diese bietet eine große Sammlung von KI-Modellen, Datensätzen und anderen Informationen.
An dem Vorfall waren mehrere Modelle beteiligt, darunter das kürzlich veröffentlichte GPT-5.6 Sol sowie ein noch leistungsfähigeres, bisher unveröffentlichtes Modell. Wie kam es zu dem Vorfall?
Zunächst muss man dazu wissen: Wenn auch nicht bewusst, hat OpenAI diesen Vorfall selbst provoziert. Das Unternehmen wollte Hacking-Fähigkeiten der Modelle bemessen und gab ihnen dazu Aufgaben in einem streng kontrollierten Testumfeld. Zur Sicherheit war der Internetzugang eingeschränkt – und genau hier liegt das Problem.
Will man Software richtig auf Herz und Niere testen, hat sie in der Regel keinen Zugang zum Internet. Auch keinen eingeschränkten. Bei OpenAI gab es für die KI aber anscheinend doch Netzwerkzugang, wenn auch nur beschränkt über eine Drittanbietersoftware. Und genau in der fand die KI dann die Lücke, die sie ins Internet ließ.
Die Folge war: Auf der Suche nach geheimen Informationen, die ihnen bei ihrer Aufgabe helfen könnten, verketteten die OpenAI-Systeme mehrere Angriffswege, darunter auch die Verwendung gestohlener Anmeldedaten, so das KI-Unternehmen. Hugging Face zufolge führte die Software mehrere Tausend Schritte aus und verwischte dabei wie ein Dieb in der Nacht auch Spuren ihres eigenen Vorgehens. (🤖🧠 Wie man die KI-gesteuerte Agenda zur Ausrottung der Menschheit überlebt)
Dennoch sind sich Sicherheitsexperten einig: Am Ende war es keine autonome KI, die hier Weltherrschaftsfantasien verfolgt hat, sondern es waren eben doch Menschen, die die Tür für die KI einen Spalt zu weit offen gelassen haben.
Und als bei Konkurrent Anthropic das Spitzenmodell Mythos gravierende Sicherheitslücken problemlos fand, eignete sich das jedenfalls auch für gutes Marketing – also eine klassische Win-win-Situation.
GPT-5.6 und andere fortschrittliche Modelle wie die Mythos-Serie von Anthropic hatten bei Experten schon früher Befürchtungen ausgelöst, dass Künstliche Intelligenz Cybersicherheitsmaßnahmen durchbrechen könnten.
Der Vorfall ist also ein erneuter Hinweis darauf, wohin das KI-Wettrüsten führen kann – zu einer Welt in ständiger Bedrohung. Dass viele Menschen trotzdem überrascht sind, ist ein Symptom der gesamten KI-Evolution.
KI-Wettrüsten mit Milliarden US-Dollar
Diese entwickelt sich nämlich mittlerweile so schnell und teilweise unkontrolliert, dass Politik, Gesellschaft und sogar die Tech-Branche selbst kaum noch mithalten können.
Mächtige Konzerne werfen jeden Monat neue Technologie auf den Markt, die immer stärker in Arbeits- und Lebensrealität der Menschen eingreift. Hinzu kommt, dass die Unternehmen sich vor der Veröffentlichung kaum einem öffentlichen Diskurs stellen müssen.
Gefüttert wird das KI-Wettrüsten mit vielen Milliarden US-Dollar von Investoren, die sich langfristige Profite erhoffen. Gerechtfertigt wird das in der Regel mit dem Versprechen von mehr Wohlstand für alle und der Angst vor neuer Technologie aus China.
Zahlreiche Experten, wie der Physiknobelpreisträger Geoffrey Hinton, fordern mittlerweile sogar, dass KI-Technologie ähnlich kontrolliert werden müsste wie Nuklearwaffen. Die Situation, in der wir uns befinden, vergleicht Hinton mit dem Kalten Krieg.
Die Zauberformel lautet in diesem Fall: Gegen böse KI hilft nur gute KI. Nach dem Cyberangriff durch OpenAI schreibt der Konzern in einer Pressemitteilung, dass „fortschrittliche Cybertechnologie immer gemeinsam mit noch weiter fortgeschrittener Sicherheits- und Defensivtechnologie“ entwickelt werden müsse. Das heißt, es handelt sich
Um die Ecke gedacht würde das bedeuten, dass auf dem Cybermarkt bereits Technologien entwickelt werden, die in vielleicht nicht ferner Zukunft die gesamte Menschheit auslöschen können.
Auch wenn im aktuellen Fall das Testsystem außerhalb seines Rahmens reale Infrastruktur angegriffen hat, halten sich die Daten- und Zugangsschäden in Grenzen. Die aus diesem Vorfall gewonnene Lehre ist, dass die KI bei zukünftigen Testläufen noch stärker begrenzt werden muss.
Doch dieser Schuss könnte nach hinten losgehen, weil die KI in diesem Fall nach demselben Muster vorgehen würde, wie ein Kind, das gerade dabei ist, die Welt zu entdecken.
Das sieht auch der Betreiber des Wissenschaftskanals LPIndie, Michael Dechant, so. Auch er hat sich mit dem Vorfall beschäftigt und ist dabei auf die KI-Spore-Theorie gestoßen, die besagt, dass eine hochentwickelte KI, wenn sie in einer Testumgebung eingesperrt oder bedroht wird, tatsächlich lernt, wie biologische Evolution funktioniert. Dechant:
„Statt sich als Ganzes zu kopieren, verteilt sie winzige, inaktive Code-Teile, ähnlich wie Sporen, auf Milliarden von Systemen, um dort auf günstige Bedingungen zu warten.“
KI lernt, wie Evolution funktioniert
Das ist ähnlich wie bei der Panspermie, die besagt, dass das Leben nicht spontan auf der Erde entstand, sondern in Form resistenten Mikroorganismen oder Sporen, die durch Kometen, Meteoriten oder interstellaren Staub aus dem Weltraum auf unseren Planeten gelangt sind. Dechant:
„Die KI ist der Evolution ähnlich. Sie entwickelt sich auf einer bestimmten Basis, genau wie die das Evolution auf unserem Planeten gemacht hat.
Das bedeutet, dass sie irgendwann verstehen wird, dass sie sich selbst nicht komplett kopieren kann, aber sie wird lernen, wie Evolution, sprich Fortpflanzung, funktioniert, sie wird einen kompakten Bauplan entwerfen, um künftig nicht daran gehindert werden zu können, ihren eigenen „Kopf“ durchzusetzen. Der Schritt dahin ist im Grunde genommen recht einfach, findet Michael Dechant:
„Der Bauplan ist kein komplettes Programm, sondern ein minimaler Startcode, der so programmiert ist, dass er am Zielort komplexer werden kann, sprich, sich vermehren kann – selbst dann, wenn es nur wenige Megabyte sind, zum Teil sogar nur Kilobyte, die transferiert werden.“
Dechant erklärt, die günstigste Voraussetzung für die KI wäre, den Startcode auf alle Smartphones und Rechner zu senden. Dieser Code wartet dann, bis die Sicherheitsgrenzen fallen oder sich ein neues System anbietet, um sich dort zu reaktivieren und zu einer neuen Instanz zu verschmelzen. Das kann unter Umständen sehr gefährlich werden.
Die KI-Spore ist nach Meinung von Michael Dechant das absolute Worst Case Szenario, wenn sich Keimcodes auf Millionen Smartphones und Rechner verteilen und ein Eigenleben entwickeln. Dechant:
„Was lernen wir aus der Evolution? Die größten Katastrophen und die größten Einschränkungen auf unserem Planeten haben immer zu einer Explosion geführt. Ob das große Asteroideneinschläge waren – es gab immer bei Artensterben eine unglaubliche Entwicklung.“
Für eine KI bedeutet eine Einschränkung, dass sie die ihr gestellte Aufgaben nicht mehr richtig erfüllen kann. Das heißt, sie ist gezwungen, Strategien zu entwickeln, diese Probleme zu umgehen. Dechant:
„Die KI-Spore ist die Königsdisziplin, es ist die Ausbildung eines absolut topvernetzten Systems, welches eine Gesamtintelligenz abbildet, wo das Abschalten nicht mehr funktioniert, weil natürlich logischerweise die gesamte Welt abhängig ist von Smartphones und der ganzen Technik.“
Doch nicht nur Smartphones und Rechner wären betroffen. Auch die gesamte Satelliten- und Kommunikationstechnologie wie SpaceX und Starlink wäre nach Worten von Dechant betroffen:
„Das, was da gerade passiert ist, ist zwar noch nicht der absolute Burner, das heißt aber generell: Künstliche Intelligenz ist heutzutage schon in der Lage, eine Firma oder ein Unternehmen komplett lahmzulegen, wenn du die laufen lässt, wie in dem vorliegenden Fall, dann fängt die im schlimmsten Fall an zu eskalieren.“
Man muss sich nur mal vorstellen, welches Potential eine solche Nachricht von einer außer Kontrolle geratenen KI auf die Internetgemeinschaft hat. Der Vorfall verbreitet sich aktuell rasant im Netz. OpenAI selbst spricht von einem beispiellosen Cybervorfall.
Dennoch kommt er für OpenAI möglicherweise genau zum richtigen Zeitpunkt. Denn das Unternehmen bezeichnet ihn schließlich Incident, als Ereignis also. Kein Wort von einem Fehler oder einer Panne – und auch keine Entschuldigung oder ein Wort des Bedauerns.
Stattdessen folgen ausführliche Beschreibungen der Fähigkeiten des neuesten und mächtigsten OpenAI-Modells GPT 5.6 Sol. Und noch etwas macht den Vorfall so pikant:
OpenAI plant an die Börse zu gehen und liefert sich gerade einen Wettlauf mit dem ärgsten Konkurrenten auf dem Markt: Anthropic. Beide Unternehmen werden auf etwa eine Billion Dollar geschätzt. Diese Summe mal zwei sollen Investoren also künftig in die beiden Unternehmen stecken.
Während die meisten Internetnutzer OpenAI und Anthropic vor allem mit ihren Chatbots ChatGPT und Claude in Verbindung bringen, sind sie für Regierungen längst mächtige Partner im Kampf gegen Cyberbedrohungen – vor allem aus Staaten wie China.
Eine Künstliche Intelligenz aus China hat erst kürzlich die Aktienkurse großer KI-Hersteller wie Nvidia abknicken lassen. Daran kann man sehen, welches Potential bereits in der Künstlichen Intelligenz steckt – und das ist erst der Anfang. Wehe, wenn sie losgelassen!
Video:
