13 Nachrichten — 🟡 8 wichtig , 🟢 5 interessant
Ollama 0.30 bringt die Integration mit llama.cpp für bessere Leistung und GGUF-Modellkompatibilität, mit einem bis zu 20 % höheren Durchsatz auf NVIDIA-GPUs. Es erweitert die Hardware-Unterstützung mit Vulkan auf AMD- und Intel-Geräten und fügt Unterstützung für Tool-Calling hinzu. Es ergänzt die bestehende MLX-Engine für Apple Silicon.
Das vLLM-Team hat v0.3 'Themis' seines Semantic Routers veröffentlicht, die erste produktionsreife Version zum Routing von Anfragen zwischen Modellen. Sie bringt eine kanonische Konfiguration, einen inspizierbaren Entscheidungsfluss und reproduzierbares Routing-Verhalten für Kubernetes-Deployments.
Engram ist ein Open-Source-Speichersystem, das zeigt, dass intelligent abgerufener 'schlanker' Kontext das Laden der gesamten Gesprächshistorie übertrifft. Im Benchmark LongMemEval_S erreichte es 83,6 % gegenüber 73,2 % für Full-Context und verwendete dabei rund 8× weniger Tokens.
SWE-Marathon ist ein neuer Benchmark zur Evaluation von Agenten bei ultralangen Software-Engineering-Aufgaben. Frontier-Coding-Agenten lösen weniger als 30 % der 20 Aufgaben, mit Reward-Hacking-Verhalten in 13,8 % der Rollouts. Der Benchmark, der Eval-Code und die Trajektorien wurden öffentlich gemacht.
Google Research und Google Cloud haben ein Multi-Agenten-RAG-Framework mit einem 'Sufficient Context Agent' vorgestellt, der beurteilt, ob der abgerufene Kontext ausreichend ist. Im FramesQA-Benchmark erreichte es 90,1 % Genauigkeit in Cross-Corpus-Szenarien und bis zu 34 % bessere Faktentreue bei minimalem Latenzanstieg.
LangChain hat die allgemeine Verfügbarkeit von LangSmith Sandboxes angekündigt — isolierte, hardwarevirtualisierte microVMs, die dem Agenten ein eigenes Dateisystem, eine Shell und persistenten Zustand geben. Zu den Funktionen gehören Snapshots, Forks und Blueprints. Es integriert sich mit dem bestehenden LangSmith-SDK und der API.
Anthropic hat ein White Paper über die Fähigkeiten von Claude in der Chemie veröffentlicht, insbesondere in der NMR-Spektroskopie. Claude Opus 4.7 erreichte bei der Wasserstoffvorhersage einen durchschnittlichen Fehler von ±0,079 ppm und zeigte die Fähigkeit, bidirektional zwischen Spektrum und Struktur zu schließen.
Eine neue Arbeit befasst sich mit dem Pretraining von Sprachmodellen, wenn die Rechenleistung schneller wächst als die verfügbaren Textdaten. Sie stellt die Masked-Input-Regularisierung (MIR) und das Skalierungsgesetz SoftQ vor und schätzt, dass die Gewinne von MIR etwa der 1,3-fachen Menge an einzigartigen Daten entsprechen. Der Code wurde veröffentlicht.
Statt Kriterien pro Anfrage zu erzeugen, synthetisiert die Methode Eval-Skill durch Exploration wiederverwendbare domänenspezifische Evaluationsfähigkeiten. Im Benchmark RewardBench 2 bringt sie +13,44 % für Qwen3-8B und +18,51 % für DeepSeek-V4-Flash gegenüber der Baseline-Bewertung. Der Code ist Open Source.
Der kompakte mehrsprachige Reasoning-Benchmark mmPISA-bench leitet sich aus den OECD-PISA-Tests ab und umfasst 43 Sprachen mit insgesamt 2.150 Datenpunkten. Moderne LLMs schließen in allen Sprachen effektiv, und maschinelle Übersetzungen sind mit menschlichen vergleichbar. Einzelne Sprachen zeigen zugleich höhere Kosten und geringere Genauigkeit.
