11 Nachrichten — 🟡 3 wichtig , 🟢 8 interessant
Der vLLM Semantic Router hat Session-Aware Agentic Routing (SAAR) erhalten, einen Mechanismus, der langlaufende agentische Gespräche versteht, statt jede Nachricht einzeln zu behandeln. Über 21.600 Testrunden senkt SAAR die Modellwechsel um 79,29 Prozent, eliminiert unsichere Wechsel vollständig und senkt die geschätzten Kosten um 78,71 Prozent.
vLLM hat Intels AutoRound-Quantisierung in vLLM-Omni integriert und ermöglicht damit die W4A16-Kompression multimodaler und Diffusionsmodelle. Das Ergebnis ist ein bis zu 62 Prozent kleinerer Checkpoint, bei minimalem Qualitätsverlust und schnellerer Generierung auf Intel-XPU- und NVIDIA-Grafikkarten.
OpenAI hat eine neue Reihe von Funktionen für Codex vorgestellt, die das Werkzeug über Engineering-Aufgaben hinaus auf breitere Geschäftsrollen ausweiten. Ziel ist, dass Analysten, Marketingfachleute, Designer, Investoren und andere Teams Codex in ihren täglichen Arbeitsabläufen nutzen können.
Der neue Benchmark Curation-Bench prüft, ob Coding-Agenten die Kuratierung von Trainingsdaten automatisieren können. Agenten erreichen starke Baselines innerhalb von zehn Iterationen, doch das Erkunden vielfältiger Strategien erfordert ein strukturiertes Scaffolding, das sie zur Anpassung bestehender Methoden antreibt.
Am 2. Juni führte Anthropic zwei Änderungen an der Claude-API ein. Das Advisor-Tool unterstützt nun den Parameter max_tokens, um die Ausgabe des Advisor-Modells pro Aufruf zu begrenzen, und Anfragen, die stop_reason refusal ohne erzeugte Ausgabe zurückgeben, werden nicht mehr berechnet.
LangChain Labs hat in Zusammenarbeit mit Harvey eine Studie zur günstigeren Verifikation der Ausgaben juristischer KI-Agenten veröffentlicht. Das Bündeln von Verifizierern und der Einsatz offener Modelle senken die Kosten pro Kriterium um etwa das Zehnfache, bei einer Qualität, die mit Frontier-Modellen vergleichbar bleibt.
Anthropic hat Project Glasswing, ein Programm zur Absicherung kritischer Software-Infrastruktur, von anfangs etwa fünfzig auf rund 150 neue Organisationen in mehr als 15 Ländern ausgeweitet. Mithilfe des Modells Claude Mythos Preview haben Partner bislang über 10.000 Schwachstellen hoher und kritischer Schwere gefunden.
Forscher haben ein Framework zur Prüfung von KI-Agenten vor ihrem Einsatz in regulierten Branchen vorgestellt. Das System nutzt eine Ontologie zur Generierung von Szenarien und stellt maschinell überprüfbare Vertrauenszertifikate aus, wobei es persona-basierte Ansätze in der regulatorischen Abdeckung übertrifft.
