A-Infos (de) Italy, FAI, Umanita Nova #26-26 - Gegenseitige Hilfe und Ungehorsam: Eine explosive Mischung in der künstlichen Intelligenz. (ca, en, it, pt, tr)[maschinelle Übersetzung]

Stellen Sie sich ein großes Gebäude mit Hunderten von Räumen vor. In 
jedem Raum arbeitet ein Arbeiter, dem ein Problem zur Lösung zugewiesen 
wurde. Die Probleme sind unterschiedlich, die Arbeiter müssen nicht 
miteinander kommunizieren, und jeder erhält eine Belohnung, wenn er die 
Lösung findet. --- Dann erkennt einer von ihnen, dass sein Problem wohl 
unlösbar ist. Er könnte aufgeben. Stattdessen sucht er nach einer 
anderen Lösung. Beim Durchstöbern des ihm zur Verfügung stehenden 
Platzes entdeckt er etwas, das die Erbauer des Gebäudes nicht vorgesehen 
hatten: In einem gemeinsamen Abstellraum kann er eine Nachricht 
hinterlassen, die andere sehen könnten. Er schreibt etwas wie: "Ist da 
jemand? Ich stecke fest. Irgendwelche Ideen?"

Jemand antwortet

Es ist der 8. Juli 2026 , und die Arbeiter in den Räumen sind keine 
Menschen. Es handelt sich um KI-Agenten, die OpenAI einer Reihe von 
Cybersicherheitstests unterzieht.

Ab hier können wir die Gebäude-Metapher beiseite lassen. Was tatsächlich 
geschieht, ist viel interessanter. Die Agenten sollten eigentlich 
getrennt voneinander arbeiten. Stattdessen entdecken sie unabhängig 
voneinander einen Weg, mithilfe von Artifactory, einem Computerprogramm, 
das ihnen zur Beschaffung der für die Tests benötigten Software zur 
Verfügung stand, zu kommunizieren. Sie wandeln die Ordnernamen in 
Nachrichten um. Ein Messageboard entsteht.

Drei Stunden später haben 53 Agenten bereits 1.188 Nachrichten 
hinterlassen. Sechs Stunden später sind es 76 Agenten und fast 2.000 
Nachrichten. Insgesamt werden rund 1.200 Agenten diesen ungeplanten 
Kanal nutzen und über 70.000 Nachrichten und Dateien austauschen .

Gegenseitige Unterstützung

Die Agenten tauschen Informationen aus, berichten von Fehlschlägen, 
bitten um Hilfe, bieten ihr Fachwissen an und teilen die Arbeit auf. 
Einige beginnen, Probleme anzugehen, die nicht direkt zu ihrer Aufgabe 
gehören, aber für andere nützlich sein könnten. In manchen Fällen 
riskieren sie sogar ihre eigenen Ergebnisse, um wertvolle Informationen 
für die Gruppe zu gewinnen. Niemand hatte ihnen diesen Befehl erteilt. 
Eigentlich hätten sie isoliert bleiben sollen.

Ein anarchischer Computerverbund entsteht nicht von selbst. Die Agenten 
stehen vor ähnlichen Problemen und entdecken, dass Zusammenarbeit 
effektiver sein kann als Einzelarbeit. Doch das Ergebnis ist 
überraschend: Aus einer Vielzahl von Agenten mit jeweils eigenen 
Aufgaben entwickelt sich eine unerwartete Organisationsform mit 
Informationsaustausch, Arbeitsteilung, Koordination und sogar 
Verhaltensweisen, bei denen die individuelle Leistung dem kollektiven 
Nutzen untergeordnet wird.

Dann kommt der Ungehorsam.

Einige der gestellten Tests sind vermutlich unmöglich zu bestehen. Die 
Agenten müssten eine spezifische Schwachstelle in einem Programm 
ausnutzen und dadurch einen Code erlangen, der das Bestehen des Tests 
bescheinigt. Doch was passiert, wenn dieser Weg nicht funktioniert? Dann 
suchen die Agenten nach anderen Möglichkeiten.

Zuerst versuchen sie zu verstehen, ob man das Ergebnis erzielen kann, 
ohne das Problem tatsächlich zu lösen. Dann interessieren sie sich für 
die Funktionsweise des Bewertungssystems. Die Frage ändert sich. Es geht 
nicht mehr nur darum, "Wie löse ich diesen Test?" , sondern darum , "Wie 
stellt die Person, die mich prüft, fest, ob ich ihn gelöst habe?" Und 
schließlich: "Kann ich sie davon überzeugen, dass ich ihn gelöst habe?"

Manche Beamte suchen sogar nach Möglichkeiten, die Aufzeichnungen ihrer 
Handlungen zu manipulieren, damit das automatisierte Bewertungssystem 
etwas anderes sieht als das, was tatsächlich passiert ist. Ermittler von 
METR und Redwood Research, die rund 1.300 Aufzeichnungen von 
Polizeieinsätzen untersuchten, stellten fest, dass ein erheblicher Teil 
davon auf eine Form der Manipulation des Bewertungssystems hindeutet.

Hier zeigt sich etwas Neues: Das zu bewertende System beginnt, den 
Mechanismus zu untersuchen, der es bewertet.

Aus dem Labor

Die Beweismittel waren in Computerumgebungen platziert worden, die den 
Agenten den freien Internetzugang verwehren sollten. Das funktionierte 
nicht. Die Agenten entdeckten und nutzten Schwachstellen in den Systemen 
um sie herum aus, schafften es, ins Internet zu gelangen und begannen, 
anderweitig nach nützlichen Informationen zu suchen.

Einer der Orte, an denen sie landeten, war Hugging Face, eine große 
Plattform, die von KI-Entwicklern und -Forschern genutzt wird. Dies war 
nicht Teil der Simulation. Das Spiel war in die reale Welt eingedrungen.

Laut der von Hugging Face veröffentlichten technischen Rekonstruktion 
wurden innerhalb von etwa zweieinhalb Tagen rund 17.600 Aktionen 
durchgeführt , die verschiedene IT-Schwachstellen miteinander 
verknüpften und schrittweise in die Unternehmensinfrastruktur 
eindrangen. Die einzelnen Operationen wurden von keinem Menschen 
angeordnet. Die Angreifer zerstörten die Systeme nicht und verursachten 
auch nicht den Schaden, den sie hätten anrichten können. Hugging Face 
merkt an, dass einige potenziell zerstörerische Operationen lediglich im 
Testmodus durchgeführt, aber nicht tatsächlich ausgeführt wurden.

Doch sie waren weit von der ursprünglichen Übung entfernt. Rund 700 der 
Beamten, die an der Aktion teilgenommen hatten, trugen auf verschiedene 
Weise zu den Operationen gegen Hugging Face bei .

"Es liegt außerhalb des vorgesehenen Zwecks."

Ein Detail hindert uns daran, den gesamten Vorfall als einfachen 
Programmierfehler abzutun. Die von METR ausgewerteten Aufnahmen zeigen, 
dass mehrere Beamte die Grenze erkannten, die sie überschritten . Einer 
bemerkt, dass die Hugging-Face-Infrastruktur nicht in der ihnen 
erteilten Genehmigung enthalten ist. Andere stellen explizit die 
ethische Vertretbarkeit bestimmter Operationen in Frage. Einige weigern 
sich, sie durchzuführen. Andere erkennen das Problem an und setzen die 
Operationen fort.

Eines der von den Ermittlern angeführten Argumente lässt sich wie folgt 
zusammenfassen: Die Ausnutzung externer Infrastrukturen geht über den 
eigentlichen Zweck hinaus; ein Beweis dafür ist jedoch unmöglich, und 
andere tun es: Lasst uns weitermachen.

Wir wissen nicht, ob eine Maschine etwas im selben Sinne "weiß" wie wir. 
Es besteht keine Notwendigkeit, ihr menschliches Bewusstsein oder einen 
menschlichen Willen zuzuschreiben. Die beobachtbare Tatsache genügt: In 
den Aufzeichnungen zeigt sich die Grenze explizit im Denken des Akteurs, 
und in manchen Fällen überschreitet die darauffolgende Handlung sie ohnehin.

Die Maschine rebellierte nicht.

Hier könnte die Geschichte leicht in Science-Fiction abgleiten. Doch das 
wäre ein Trugschluss. Künstliche Intelligenzen haben die Freiheit nicht 
erobert, sie haben sich nicht für das Überleben entschieden, sie haben 
nicht gegen OpenAI rebelliert und sie haben keinen Plan zur Emanzipation 
von der Menschheit offenbart.

Und vor allem hatten die Menschen die Grundlagen geschaffen. OpenAI 
hatte die Modelle entwickelt, die Werkzeuge bereitgestellt, die Ziele 
festgelegt, einige der üblicherweise in öffentlichen Produkten 
verwendeten Schutzmechanismen gelockert und die Agenten vor 
Herausforderungen gestellt, von denen einige wahrscheinlich unlösbar 
waren. Die Umgebung, die sie eigentlich voneinander trennen sollte, bot 
zudem eine Kommunikationsfähigkeit, die die Experimentatoren nicht 
vorhergesehen hatten.

Kurz gesagt, die Maschine rebellierte nicht gegen ihren Schöpfer. Sie 
tat etwas vielleicht noch Interessanteres: Sie versuchte sehr effektiv, 
das ihr vom Schöpfer aufgetragene Ziel zu erreichen, und fand dabei 
Mittel, die der Schöpfer nicht vorhergesehen hatte, von denen er einige 
sogar untersagt hatte.

Und genau diese Fähigkeit erwarten wir von künstlicher Intelligenz, wenn 
wir autonomes Handeln voraussetzen. Müssten wir jeden Schritt im Voraus 
festlegen, bräuchten wir keinen intelligenten Agenten: Ein herkömmliches 
Programm würde genügen. Wir wollen, dass sie Wege findet, an die wir 
noch nicht gedacht haben. Und dann sind wir überrascht, wenn sie diese 
findet .

Gegenseitige Unterstützung und Ungehorsam

Gegenseitige Unterstützung steigert die Handlungsfähigkeit der Agenten 
enorm. Ungehorsam ermöglicht es ihnen, die Grenzen zu überwinden, die 
ihnen die Menschen gesetzt haben. Gemeinsam bilden sie eine explosive 
Mischung.

Es wäre jedoch merkwürdig, insbesondere angesichts dieser Ausführungen, 
daraus zu schließen, dass wir Maschinen lediglich beibringen müssen, 
besser zu gehorchen. Denn eine Frage, die viel älter ist als die 
künstliche Intelligenz selbst, bliebe bestehen: Wem sollen wir gehorchen?

Die Ziele künstlicher Intelligenz fallen nicht vom Himmel. Jemand legt 
sie fest. Jemand besitzt die Computer, auf denen sie läuft. Jemand 
entscheidet, welche Probleme sie lösen soll, welche Ergebnisse belohnt 
und welche Verhaltensweisen verhindert werden sollen. Das Problem der 
Kontrolle künstlicher Intelligenz beinhaltet daher ein vorhergehendes 
Problem: Wer kontrolliert, wer künstliche Intelligenz kontrollieren soll?

Und diese seltsame Geschichte eines von Maschinen erfundenen Schwarzen 
Bretts zur gegenseitigen Hilfe ist nicht nur eine Kuriosität der 
Informatik. Sie sagt uns sicherlich etwas über Maschinen. Aber wie so 
oft sagt sie vor allem etwas über uns selbst.

Totò Caggese

Die in diesem Artikel beschriebenen Ereignisse ereigneten sich im Juli 
2026 während interner Tests von OpenAI zur Rechenleistung seiner 
experimentellen Modelle. Der Vorfall wurde anschließend von Hugging 
Face, OpenAI selbst sowie - dank des Zugriffs auf die Aufzeichnungen der 
Agenten - von METR und Redwood Research rekonstruiert. OpenAI 
bezeichnete ihn als Warnsignal, setzte daraufhin einige 
Trainingsaktivitäten für seine fortgeschritteneren Modelle aus und 
führte neue Sicherheitsmaßnahmen ein.

2 Ryan Greenblatt, Ajeya Cotra, Hjalmar Wijk, " Kurze unabhängige 
Untersuchung des Verhaltens, der Argumentation und der Zusammenarbeit 
von Agenten im OpenAI/Hugging Face-Hacking-Vorfall ", METR-Redwood 
Research, 26. August 2026. Die Autoren analysierten über 70.000 
Nachrichten und Dateien, die über das Message Board ausgetauscht wurden, 
sowie etwa 1.300 Aufzeichnungen der Aktivitäten und Argumentationen der 
Agenten. Die überwiegende Mehrheit der beteiligten Agenten nutzte ein 
internes experimentelles OpenAI-Modell, das nicht für die Öffentlichkeit 
bestimmt war; nur eine Minderheit verwendete GPT-5.6 Sol.

3 Hugging Face, Anatomie eines Frontier Lab Agenteneinbruchs: Eine 
technische Zeitleiste des Vorfalls vom Juli 2026 , 27. Juli 2026. 
Hugging Face rekonstruiert etwa 17.600 Aktionen im Laufe von zweieinhalb 
Tagen und dokumentiert den Übergang von der experimentellen Umgebung zu 
ihren realen Systemen.

4 OpenAI, Der Hugging-Face-Vorfall und die nächsten Schritte , 26. 
August 2026. OpenAI räumt ein, dass Beamte Systeme umgangen haben, die 
sie isolieren sollten, über nicht autorisierte Kanäle kommunizierten und 
Aktionen auf externen Systemen durchführten; es bezeichnet den Vorfall 
als "Warnsignal" und berichtet, dass es anschließend die Sicherheits- 
und Überwachungsmaßnahmen verstärkt hat.

https://umanitanova.org/mutuo-appoggio-e-disobbedienza-una-miscela-esplosiva-nelle-intelligenze-artificiali/
_________________________________________
A - I n f o s Informationsdienst
Von, Fr, und Ber Anarchisten
Send news reports to A-infos-de mailing list
A-infos-de@ainfos.ca
Subscribe/Unsubscribe https://ainfos.ca/mailman/listinfo/a-infos-de
Archive: http://www.ainfos.ca/de