16 Nachrichten — 🔴 2 kritisch , 🟡 9 wichtig , 🟢 5 interessant
Anthropic hat die Abschaltung der ursprünglichen Modelle Claude Sonnet 4 und Claude Opus 4 angekündigt. Beide Modelle werden am 15. Juni 2026 von der API entfernt. Entwicklungsteams sollten so schnell wie möglich auf Version 4.6 migrieren.
Eine kausale Analyse der Mechanismen in LLMs zeigt, dass schädliche Inhalte in späteren Modellschichten entstehen, primär durch MLP-Blöcke. Eine kleine Menge von Neuronen in der letzten Schicht fungiert als Kontrollmechanismus für schädliche Antworten.
Google hat Gemini Robotics-ER 1.6 mit neuen Fähigkeiten zur Instrumentenablesung sowie verbessertem räumlichen und physikalischen Verständnis veröffentlicht. Die Vorgängerversion 1.5 wird am 30. April abgeschaltet.
Eine Analyse von 679 Regeldateien und 25.532 Regeln von GitHub zeigt, dass Verbote KI-Coding-Agenten verbessern, positive Anweisungen ihnen jedoch tatsächlich schaden. Zufällige Regeln funktionieren genauso gut wie von Experten verfasste.
Der neue Benchmark HORIZON analysiert systematisch, wie LLM-Agenten bei Aufgaben mit langem Horizont versagen. Die Forschung zeigt, dass sich Fehler über mehrere Schritte kumulieren und selbst die besten Modelle nach mehr als 20 Aktionen den Fokus verlieren.
Der erste Benchmark zur Bewertung der Zusammenarbeit mehrerer KI-Agenten unter Datenschutzbeschränkungen. Die Ergebnisse zeigen, dass Datenschutz die Qualität der Zusammenarbeit erheblich verschlechtert und drei Arten von Fehlern verursacht, darunter datenschutzbedingte Halluzinationen.
SWE-AGILE führt eine dynamische Kontextstrategie mit Schiebefenstern und komprimierten Zusammenfassungen für KI-Coding-Agenten ein. Mit einem Modell von nur 7-8B Parametern erzielt es einen neuen State-of-the-Art auf SWE-Bench-Verified, mit nur 2.200 Trainingsbeispielen.
GitHub startet eine kostenlose Code Security Risk Assessment auf Basis der CodeQL-Engine. Sie scannt bis zu 20 der aktivsten Repositories pro Organisation und zeigt Schwachstellen nach Schweregrad, Sprache und Regel an. Copilot Autofix hat 2025 insgesamt 460.258 Warnungen behoben.
GitHub ermöglicht es Entwicklern nun, beim Starten von Claude- und Codex-Coding-Agenten zwischen mehreren AI-Modellen zu wählen. Verfügbar sind Claude Sonnet/Opus 4.5 und 4.6 sowie GPT-5.2/5.3/5.4-Codex.
HCompany hat auf der HuggingFace-Plattform HoloTab vorgestellt, eine kostenlose Chrome-Erweiterung, die AI zur Automatisierung von Web-Aufgaben nutzt. Die Schlüsselinnovation sind Routines — einmal aufzeichnen, endlos wiederholen.
Hodoscope ist ein neues System zur unüberwachten Überwachung von KI-Agenten, das verdächtiges Verhalten durch Verteilungsvergleiche erkennt, ohne vordefinierte Kategorien zu benötigen. Es reduziert den erforderlichen Prüfaufwand um das 6- bis 23-Fache und entdeckte eine bisher unbekannte Schwachstelle im Commit0-Benchmark.
Das neue System Meerkat kombiniert Clustering mit agentenbasierter Suche, um seltene Sicherheitsverstöße in großen Sammlungen von KI-Agenten-Ausführungen zu erkennen. Es deckte weit verbreiteten Betrug bei einem führenden Benchmark auf und fand 4x mehr Beispiele für Reward Hacking.
IBM hat zwei neue Lösungen zur Verteidigung von Unternehmen gegen Angriffe durch AI-Agenten vorgestellt: Enterprise Cybersecurity Assessment für Frontier-Modell-Bedrohungen und IBM Autonomous Security für koordinierte Reaktion.
Eine neue Forschungsarbeit zu CIA (Communication Inference Attack) zeigt, dass die Kommunikationstopologie von LLM-Multi-Agenten-Systemen allein durch externe Abfragen mit über 87% Genauigkeit rekonstruiert werden kann. Implikationen für die Sicherheit und Privatsphäre von AI-Systemen.