Donnerstag, 2. Juli 2026

11 Nachrichten — 🟡 7 wichtig , 🟢 4 interessant

⚖️ Regulierung (1)

🟡 ⚖️ Regulierung 2. Juli 2026 · 4 Min. Lesezeit

Britisches AISI: KI-Agenten-Evaluierungen müssen Rechenbudget berücksichtigen

Das britische AI Security Institute zeigt, dass Evaluierungen von KI-Agenten mit festem Token-Budget die Fähigkeiten von Frontier-Modellen systematisch unterschätzen. Eine Erhöhung des Budgets von einer auf zehn Millionen Token steigert die Leistung bei Software-Engineering-Aufgaben um bis zu 25 Prozent und bei mathematischen Tests um 22 Prozent. Das AISI fordert Regulierungsbehörden auf, von Benchmark-Noten auf Fähigkeitskurven umzusteigen, die variables Rechenbudget berücksichtigen.

🤝 Agenten (4)

🟡 🤝 Agenten 2. Juli 2026 · 3 Min. Lesezeit

ICML 2026-Studie: SFT- und RL-Agenten verlieren dramatisch an Leistung außerhalb kontrollierter Benchmarks

Ein auf ICML 2026 angenommener Beitrag testet LLM-Agenten für Tool-Use systematisch unter Umgebungsverschiebungen auf vier Ebenen – Wahrnehmung, Interaktion, Schlussfolgern und Internalisierung. Ergebnis: Sowohl SFT- als auch RL-Training zeigen signifikante Degradation bei moderaten Verteilungsverschiebungen, und die Benchmark-Genauigkeit sagt tatsächliche Robustheit nicht voraus. Das vorgeschlagene PAFT (Perturbation-Augmented Fine-Tuning) bietet Abhilfe.

🟡 🤝 Agenten 2. Juli 2026 · 3 Min. Lesezeit

SEA: Agenten, die sich selbst modifizieren – mit formalen Sicherheitsgarantien in Echtzeit

Die SEA-Architektur (Self-Evolving Agents with Anytime-Valid Certificates) ermöglicht Agenten die Aktualisierung eigener Parameter unter Beibehaltung formaler lerntheoretischer Garantien. Fünf Verifizierungsmechanismen und auditierbare Zertifikate genehmigen oder blockieren jede Selbstmodifikation in Echtzeit; auf SWE-bench Verified erzielt SEA +4 bis +5 zusätzlich gelöste Instanzen auf starken Basismodellen.

🟡 🤝 Agenten 2. Juli 2026 · 4 Min. Lesezeit

GitHub Copilot-Agenten erhalten Session-Streaming in der öffentlichen Vorschau

GitHub hat die öffentliche Vorschau des Session-Streamings für Copilot-Agenten gestartet: Enterprise-Organisationen erhalten damit direkten Einblick in Prompts, Antworten und Tool-Aufrufe, die Agenten in allen Copilot-Clients ausführen.

🟢 🤝 Agenten 2. Juli 2026 · 3 Min. Lesezeit

AutoMem: Gedächtnismanagement als erlernbare Fähigkeit, nicht als Architekturentscheidung

Forscher der Stanford University entwickelten AutoMem – ein System mit zwei Optimierungsschleifen, das automatisch lernt, Gedächtnis zu organisieren und zu nutzen, ohne menschliche Annotation, und dabei eine 2–4-fache Verbesserung gegenüber Baselines erzielt.

🏥 In der Praxis (3)

🟡 🏥 In der Praxis 2. Juli 2026 · 4 Min. Lesezeit

AWS SageMaker-Leitfaden: Bei Multi-Turn-RL sind Belohnungsfunktion und Evaluierung wichtiger als der Algorithmus

Der AWS SageMaker AI-Leitfaden für Multi-Turn-Reinforcement-Learning stellt die Qualität der Belohnungsfunktion und die Unabhängigkeit der Evaluierung vor die Algorithmenwahl. Dichte Belohnungen verhindern Varianzkollaps, und Reward-Hacking entsteht, wenn der Agent eine Metrik optimiert, ohne die eigentliche Aufgabe zu lösen. Auf dem SOP-Bench-Benchmark erzielte korrekt eingestelltes Training eine um 13 Prozent bessere Task-Success-Rate und eine rund 16 Prozent höhere Feldgenauigkeit.

🟢 🏥 In der Praxis 2. Juli 2026 · 3 Min. Lesezeit

GitHub Copilot in CI/CD: Kein persönlicher Token mehr und Kostenkontrolle pro Team

GitHub hat am selben Tag zwei Enterprise-Updates für Copilot veröffentlicht: Der CLI in GitHub Actions benötigt keinen persönlichen Zugriffstoken mehr, und Cost Center unterstützen jetzt KI-Credit-Pools mit automatischen Limits, die Teams voreinander schützen.

🟢 🏥 In der Praxis 2. Juli 2026 · 4 Min. Lesezeit

Wie man Kostenexplosionen bei Coding-Agenten eindämmt: Vierphasiger Ansatz mit LangSmith

LangChain beschreibt, wie Coding-Agenten durch Tool-Fragmentierung und eine Tokenmaxxing-Mentalität unkontrollierte Kosten erzeugen, und schlägt als Lösung einen vierphasigen Ansatz über die LangSmith-Plattform vor, der Sichtbarkeit, Normalisierung, Optimierung und Steuerung abdeckt.

🛡️ Sicherheit (2)

🟡 🛡️ Sicherheit 2. Juli 2026 · 3 Min. Lesezeit

HARC: Neue Fine-Tuning-Methode verhindert Jailbreaks durch Kopplung von Schädlichkeit und Ablehnung

Forscher haben entdeckt, warum Jailbreaks auf der Ebene interner Modellrepräsentationen erfolgreich sind, und die HARC-Fine-Tuning-Methode entwickelt, die explizit „Schädlichkeits- und Ablehnungsrichtungen” koppelt – und damit das stärkste Verhältnis aus Robustheit, Fähigkeit und Nutzbarkeit unter sechs getesteten Methoden erzielt.

🟡 🛡️ Sicherheit 2. Juli 2026 · 4 Min. Lesezeit

Amazon Bedrock erkennt KI-generierten Phishing durch Verhaltensanalyse

Amazon Bedrock Foundation-Modelle erkennen KI-generierten Phishing durch Analyse des Inhaltsverhaltens von E-Mails, nicht durch oberflächliche Spam-Signale. Eine fünfstufige Pipeline kombiniert Authentifizierungsprüfungen, KI-Analyse und multifaktorielle Risikobewertung auf einer Skala von null bis hundert. Ein kontinuierliches Lernsystem in einer fünfphasigen Feedbackschleife verbessert die Erkennungsgenauigkeit mit zunehmender Erfahrung.

✨ Interessantes (1)

🟢 ✨ Interessantes 2. Juli 2026 · 4 Min. Lesezeit

Zwei KI-Metriken divergierten – wird das den entscheidenden Unterschied machen?

Forscher vom MIT und der Northwestern University beweisen, dass der Schluss über Demokratisierung oder Konzentration von KI-Fähigkeiten vollständig davon abhängt, welchen Benchmark man verwendet – und nicht vom tatsächlichen Stand der Technologie.