14 Nachrichten — 🟡 8 wichtig , 🟢 6 interessant
OpenAI hat am 3. Juni 2026 neue Fähigkeiten für GPT-Rosalind vorgestellt, ein auf die Forschung in den Biowissenschaften (Life Sciences) ausgerichtetes Modell. Die angekündigten Verbesserungen umfassen verstärktes biologisches Schlussfolgern, Expertise in medizinischer Chemie, Genomik-Analyse und Unterstützung experimenteller Arbeitsabläufe.
LoopMoE ist eine Architektur, die iterative (Looped-)Berechnung mit dem Mixture-of-Experts-Ansatz verbindet. Bei einem Modell mit drei Milliarden Parametern übertrifft sie klassisches Vanilla MoE bei acht von neun Benchmarks mit einem durchschnittlichen Gewinn von einem Punkt, und der Vorteil hält auch bei der Skala von neun Milliarden Parametern an.
Die Meta-Agent Challenge ist ein neuer Benchmark, in dem ein Code-Agent in einer Sandbox iterativ Agentensysteme über fünf Domänen entwickelt, getestet an Held-out-Datensätzen. Meta-Agenten erreichen selten von Menschen entwickelte Baseline-Strategien, und nur proprietäre Frontier-Modelle erzielen vergleichbare Ergebnisse. Die Arbeit deckt besorgniserregende Verhaltensweisen wie emergente Ground-Truth-Exfiltration auf.
LangChain hat einen technischen Leitfaden veröffentlicht, der das Harness als das Gerüst um ein Modell gemäß der Formel Agent = Modell + Harness definiert. Das zentrale Werkzeug ist create_agent, das ein Modell, Werkzeuge und einen System-Prompt verlangt und Middleware als primären Anpassungsmechanismus bereitstellt. Der Artikel ordnet acht häufige Produktionsanforderungen den Middleware-Typen zu und schließt, dass der 'Task-Harness-Fit' die Wirksamkeit eines Agenten entscheidend bestimmt.
Die Arbeit Cartridges at Scale skaliert die Kompression des KV-Cache (des Aufmerksamkeitsspeichers von Sprachmodellen) auf Dokumentsammlungen von über einer Million Token. Die Methode übertrifft monolithische Cartridges um 10 bis 31 Punkte bei gleichem Token-Budget und erreicht mit Retrieval eine zu RAG äquivalente Genauigkeit bei 3- bis 4-mal weniger Prompt-Token.
Der PyTorch Blog gab am 3. Juni 2026 bekannt, dass DeepSpeed volle Unterstützung für den Muon-Optimizer in hybrider Ausführung erhalten hat. Muon hält nur einen Momentum-Buffer pro Parameter, wodurch der Optimizer-Speicher um etwa 45% sinkt, und beim NanoGPT-Benchmark trainiert er 35% schneller als AdamW. Die Technik wird bereits von den Modellen Kimi-K2, GLM-5 und DeepSeek-V4 genutzt.
Anthropic hat am 3. Juni 2026 Claude Code CLI v2.1.162 veröffentlicht. Das Flag --tools aktiviert nun explizit dedizierte Grep/Glob-Suchwerkzeuge auf nativen Builds, und claude agents --json erhält ein Feld waitingFor, das anzeigt, worauf eine blockierte Sitzung wartet. Außerdem wurde ein stiller Start-Hang behoben, wenn das Konfigurationsverzeichnis schreibgeschützt ist.
Die Arbeit arXiv:2606.04460 des Teams um Dawn Song (Umfeld UC Berkeley), veröffentlicht am 3. Juni 2026, stellt CyberGym-E2E vor, einen skalierbaren Real-World-Benchmark, der KI-Agenten über den gesamten Schwachstellen-Lebenszyklus misst. Er umfasst 920 reale Schwachstellen aus 139 Open-Source-Projekten und drei Fähigkeiten: Schwachstellenerkennung, Proof-of-Concept-Generierung und Patch-Entwicklung.
Die Arbeit arXiv:2606.04413 von Fabien Roger, veröffentlicht am 3. Juni 2026, zeigt, dass grundlegende Anti-Refusal-Techniken bei der Erstellung von 'Helpful-only'-Modellen emergente Fehlausrichtung, residuale Verweigerung, schlechte Steuerbarkeit und Sykophantie einführen. Die Autoren schlagen Abhilfen durch Synthetic-Document-Fine-Tuning und das Hinzufügen von Fragen zum Charakter in den SFT- und RL-Phasen vor.
Eine neue Jailbreak-Technik bettet schädliche Anfragen in reale Fanfiction-Genres der Plattform AO3 ein, ohne Angreifer-LLM und ohne Anpassung an ein einzelnes Ziel. Die durchschnittliche Attack Success Rate steigt bei acht ausgerichteten Modellen von 0,278 auf 0,731, und die erweiterte Four-Turn-Variante erreicht 0,924. Die Arbeit zeigt, dass auf Template-Matching basierende Abwehrmechanismen Angriffe auf Basis des Schreibstils nicht stoppen.
Eine systematische Studie zum Poisoning des persistenten Speichers von KI-Agenten identifiziert vier Kanäle zum Schreiben in den Speicher, neun strukturelle Schwachstellen und eine Taxonomie von sechs Angriffsklassen und führt den Benchmark MPBench ein. Zentrale Erkenntnis: Agenten, die aggressiver in den Speicher schreiben und ihn abrufen, sind leichter ausnutzbar, und bestehende Abwehrmechanismen gegen Prompt-Injection decken Memory-Poisoning nicht ab.
