⚖️ Regulierung

25 Nachrichten

🔴 ⚖️ Regulierung 22. Mai 2026 · 3 Min. Lesezeit

UK AI Safety Institute: Aufsicht über fortgeschrittene KI-Systeme wird schwieriger — 20+ Degradierungspfade identifiziert

UK AI Safety Institute (AISI) veröffentlichte am 21. Mai 2026 einen Bericht zur Zukunft der Aufsicht über fortgeschrittene KI-Systeme, gestützt auf 25 Experteninterviews aus Industrie, Regierung und Wissenschaft. Kernbefund: Die bestehende Aufsicht gründet auf Fundamenten, die voraussichtlich erodieren werden. Mehr als 20 verschiedene Degradierungspfade für Aufsichtsmechanismen wurden identifiziert — mit besonderem Fokus auf latentes Reasoning, Capability Masking, externe KI-Aktionen und KI-zu-KI-Kommunikation.

🔴 ⚖️ Regulierung 21. Mai 2026 · 2 Min. Lesezeit

EU AI Office: Entwurf von Leitlinien zur Hochrisiko-KI-Klassifizierung

Die Europäische Kommission eröffnete am 13. Mai 2026 eine gezielte öffentliche Konsultation zum Entwurf von Leitlinien für die Einstufung von KI-Systemen als hochriskant gemäß EU-KI-Gesetz. Die Frist endet am 22. Mai um 18 Uhr MEZ. Die Leitlinien entscheiden, welche Organisationen in Gesundheit, Bildung, Infrastruktur und HR die strengsten Anforderungen erfüllen müssen.

🟡 ⚖️ Regulierung 20. Mai 2026 · 2 Min. Lesezeit

Google DeepMind und Singapur: Nationale KI-Partnerschaft in Gesundheit, Bildung und Umwelt

Google DeepMind hat eine nationale KI-Partnerschaft mit der singapurischen Regierung unterzeichnet, die Gesundheit, Bildung und Nachhaltigkeit abdeckt. Bis 2040 könnte KI der singapurischen Wirtschaft durch beschleunigten F&E-Zyklus zusätzliche 2,5 Milliarden Dollar bringen.

🟡 ⚖️ Regulierung 20. Mai 2026 · 2 Min. Lesezeit

OpenAI: Neue Phase des KI-Bildungsprogramms für Länder

OpenAI tritt in die zweite Phase der Initiative „Education for Countries" ein — weitet Partnerschaften mit Regierungen aus, führt das OpenAI-Luminaries-Programm für Lehrkräfte ein und bietet Zertifikate über die OpenAI Academy an. Ziel ist die systematische Integration von KI-Werkzeugen in nationale Bildungssysteme mit messbaren Ergebnissen.

🟢 ⚖️ Regulierung 20. Mai 2026 · 2 Min. Lesezeit

OECD: EU setzt KI in strategisch wichtigen Sektoren ein — was bedeutet das für Bürger?

OECD.AI und das EU-KI-Büro haben einen Analysebericht veröffentlicht, der dokumentiert, wie Europa KI in vier strategischen Sektoren einsetzt — Landwirtschaft, Gesundheit, Industrie und Mobilität — mit konkreten aktiven Projekten und identifizierten Hindernissen.

🟡 ⚖️ Regulierung 19. Mai 2026 · 2 Min. Lesezeit

EU AI Office: Öffentliche Konsultation zur Klassifizierung von Hochrisiko-KI-Systemen — Frist 23. Juni 2026

Die Europäische Kommission hat eine öffentliche Konsultation zu Leitlinienentwürfen eröffnet, die definieren, wann ein KI-System unter die Hochrisiko-Kategorie des KI-Akts fällt. Interessierte — von Entwicklern bis zur Zivilgesellschaft — können bis 23. Juni 2026 um 22:00 Uhr MEZ Rückmeldungen einreichen.

🟢 ⚖️ Regulierung 16. Mai 2026 · 3 Min. Lesezeit

UK AISI: Autonome KI-Cyberfähigkeiten verdoppeln sich alle 4,7 Monate — Claude Mythos Preview und GPT-5.5 lösen als erste Cyber-Ranges

How fast is autonomous AI cyber capability advancing? ist ein neuer Bericht des UK AI Safety Institute (AISI), der am 13. Mai 2026 veröffentlicht wurde. Durch Messung von Cyber-Time-Horizons-Benchmarks (2,5-M-Token-Budget, 80-%-Erfolgsschwellenwert) stellte AISI fest, dass sich die Länge der Cyber-Aufgaben, die KI-Modelle autonom lösen, alle 4,7 Monate verdoppelt. Claude Mythos Preview ist das erste Modell, das beide Cyber-Ranges gelöst hat (The Last Ones 60 %, Cooling Tower 30 %); GPT-5.5 löste The Last Ones mit 30 %.

🟡 ⚖️ Regulierung 15. Mai 2026 · 2 Min. Lesezeit

Anthropic Research: 2028 — Zwei Szenarien geopolitischer KI-Dominanz und Empfehlungen zur Schließung von Schmuggel-Schlupflöchern

Anthropic Research 2028 AI Leadership Scenarios ist ein neues Policy-Paper vom 14. Mai 2026, das zwei geopolitische Szenarien für KI-Dominanz bis 2028 beschreibt. Szenario 1: US-Demokratien halten 12-24 Monate Vorsprung durch Exportkontrollen und Modellverteidigung. Szenario 2: China erreicht Parität durch Destillationsangriffe und $2,5 Mrd. Supermicro-artigen Chip-Schmuggel. Anthropic empfiehlt die Schließung von Schlupflöchern, defensive Gesetzgebung und die Förderung amerikanischer KI-Exporte.

🟡 ⚖️ Regulierung 13. Mai 2026 · 2 Min. Lesezeit

AWS: Fine-Tuning FLOPs Meter für SageMaker automatisiert EU-KI-Gesetz-Compliance-Schwellenwert-Tracking

Das Fine-Tuning FLOPs Meter Toolkit ist eine neue AWS SageMaker AI-Erweiterung vom 12. Mai 2026, die während des Fine-Tunings von LLMs automatisch die Compute-Schwellenwerte des Europäischen KI-Gesetzes (3,3×10²² FLOPs, 3,3×10²⁴ für systemisches Risiko) verfolgt. Es wird mit einem einzigen Flag compute_flops=true im Recipe-YAML aktiviert und generiert automatisch Audit-Dokumentation in S3 und DynamoDB.

🔴 ⚖️ Regulierung 8. Mai 2026 · 2 Min. Lesezeit

EU AI Office: Kommission eröffnet Konsultation zu KI-Transparenzpflichten

Die Europäische Kommission hat einen Entwurf der Leitlinien zu den Transparenzpflichten des KI-Gesetzes veröffentlicht und eine öffentliche Konsultation eröffnet. Die Konsultation läuft bis 3. Juni 2026, die Pflichten treten am 2. August 2026 in Kraft. Anbieter müssen KI-generierte Inhalte mit maschinenlesbaren Markern kennzeichnen und Nutzer über die Interaktion mit KI-Systemen informieren.

🔴 ⚖️ Regulierung 7. Mai 2026 · 2 Min. Lesezeit

EU AI Office: Politische Einigung zur Vereinfachung des AI Act und Verbot von Nudification-Apps

Die Europäische Kommission, das Parlament und der Rat haben eine politische Einigung über das Digital-Omnibus-Paket erzielt, das den AI Act vereinfacht und ein ausdrückliches Verbot von Nudification-Apps einführt. Hochrisiko-KI-Systeme gelten ab 02.12.2027, KI in Produkten ab 02.08.2028.

🟡 ⚖️ Regulierung 6. Mai 2026 · 2 Min. Lesezeit

arXiv:2605.04039: Sicherheit und Genauigkeit klinischer KI-Modelle folgen unterschiedlichen Skalierungsgesetzen

Ein neues Paper zeigt, dass die Sicherheit klinischer KI-Modelle nicht denselben Skalierungsgesetzen folgt wie ihre Genauigkeit — sauberere Belege im RAG heben die Genauigkeit von 73,5 % auf 94,1 % und senken Hochrisiko-Fehler von 12 % auf 2,6 %, mehr als jeder Modellskalierungseffekt.

🟡 ⚖️ Regulierung 6. Mai 2026 · 2 Min. Lesezeit

UK AISI: neues MoU mit Microsoft für Frontier-KI-Sicherheit in 3 Bereichen

Das UK AI Security Institute hat am 5. Mai eine Partnerschaft mit Microsoft zur Frontier-KI-Sicherheit bekannt gegeben. Die Zusammenarbeit umfasst drei Forschungsbereiche: Bewertung hochriskanter Fähigkeiten, Testen von Schutzmaßnahmen und Erforschung gesellschaftlicher Resilienz gegenüber konversationeller KI.

🔴 ⚖️ Regulierung 5. Mai 2026 · 3 Min. Lesezeit

NIST CAISI weitet Frontier-KI-Sicherheitstests auf Google DeepMind, Microsoft und xAI aus

Am 5. Mai 2026 schloss das NIST Center for AI Standards and Innovation (CAISI) erweiterte Vereinbarungen mit Google DeepMind, Microsoft und xAI für Pre- und Post-Deployment-Tests von Frontier-Modellen ab. CAISI hat bislang mehr als 40 Evaluierungen durchgeführt, darunter unveröffentlichte Spitzenmodelle, und führt Tests routinemäßig in klassifizierten Umgebungen mit entfernten Schutzmaßnahmen durch.

🟡 ⚖️ Regulierung 28. April 2026 · 4 Min. Lesezeit

LangChain und LangSmith zielen auf den EU AI Act: Compliance-Tools zu Artikeln 9, 10, 12-15 und 72 vor der Frist am 2. August 2026

LangChain hat veröffentlicht, wie LangSmith und LangChain OSS wichtige Artikel des EU AI Acts abdecken — von Risk Management (Art. 9) bis Post-Market Monitoring (Art. 72). Die Frist für Hochrisiko-KI-Systeme ist der 2. August 2026, und Bußgelder können 15 Millionen Euro oder 3 % des globalen Jahresumsatzes erreichen.

🟡 ⚖️ Regulierung 28. April 2026 · 3 Min. Lesezeit

OpenAI erhält FedRAMP Moderate-Autorisierung: ChatGPT Enterprise und API für sichere Einführung in US-Bundesbehörden geöffnet

OpenAI gab am 27. April 2026 die FedRAMP Moderate-Autorisierung für ChatGPT Enterprise und die OpenAI API bekannt. Damit öffnet sich der Weg zur sicheren Einführung generativer KI-Technologie in US-Bundesbehörden auf einer Compliance-Ebene, die sensible, aber nicht klassifizierte Daten abdeckt.

🟡 ⚖️ Regulierung 27. April 2026 · 3 Min. Lesezeit

arXiv:2604.21571 'Separable Expert': Architektur für LLM-Personalisierung, die DSGVO-Recht auf Vergessenwerden ohne Retraining ermöglicht

Chris Schneider, Philipp Schoenegger und Ben Bariach veröffentlichten am 23. April 2026 das Paper 'Separable Expert Architecture', das eines der größten DSGVO-Probleme personalisierter KI-Modelle löst: wie Daten einzelner Nutzer ohne Retraining des gesamten Modells gelöscht werden können. Die dreischichtige Architektur (statische Basis, zusammensetzbare LoRA-Adapter, benutzerspezifische Proxy-Artefakte) macht Unlearning zu einer deterministischen Löschoperation. Evaluiert auf Phi-3.5-mini und Llama-3.1-8B.

🟢 ⚖️ Regulierung 27. April 2026 · 4 Min. Lesezeit

Google DeepMind und Südkorea gründen AI Campus in Seoul — zehn Jahre nach dem AlphaGo-Match

Google DeepMind und das koreanische Ministerium für Wissenschaft und IKT (MSIT) haben am 27. April 2026 eine Partnerschaft zur Beschleunigung wissenschaftlicher Entdeckungen und KI-Innovationen bekannt gegeben. Die Zusammenarbeit umfasst die Gründung eines AI Campus in Seoul, den Zugang akademischer Einrichtungen zu fortgeschrittenen KI-Tools wie AlphaFold und AlphaGenome sowie eine Kooperation mit dem koreanischen AI Safety Institute zu Sicherheitsfragen.

🟡 ⚖️ Regulierung 22. April 2026 · 3 Min. Lesezeit

EU eröffnet Ausschreibung für KI-Desinformation und Deepfake-Einflusskampagnen

Die Europäische Kommission hat die Ausschreibung DIGITAL-2026-BESTUSE-AWARENESS im Wert von 6 Millionen Euro eröffnet, um einen gemeinsamen Forschungsrahmen gegen manipulative KI-Inhalte aufzubauen. Die Ausschreibung setzt den im November 2025 angekündigten Europäischen Demokratischen Schild um und nimmt Anträge bis 1. Oktober 2026 entgegen.

🟡 ⚖️ Regulierung 21. April 2026 · 3 Min. Lesezeit

Europäische Kommission stellt 63,2 Millionen Euro für KI im Gesundheitswesen und Kinderschutz bereit — sieben Ausschreibungen im Digital-Europe-Programm

Die Europäische Kommission hat sieben Ausschreibungen mit einem Gesamtvolumen von 63,2 Millionen Euro im Rahmen des Digital-Europe-Programms eröffnet. Die Mittel sind für KI-Innovationen im Gesundheitswesen (Krebs, Herzerkrankungen), Online-Kinderschutz und Regulierungswerkzeuge vorgesehen und sind Teil des umfassenderen KI-Kontinent-Aktionsplans.

🟡 ⚖️ Regulierung 16. April 2026 · 2 Min. Lesezeit

ArXiv: Katalog von 195 KI-Safety-Benchmarks offenbart Fragmentierung und schwache Messstandards

AISafetyBenchExplorer ist ein strukturierter Katalog, der 195 KI-Safety-Benchmarks aus den Jahren 2018 bis 2026 dokumentiert. Die Forschung deckt eine alarmierende Fragmentierung im Feld auf — Begriffe wie 'accuracy' und 'safety score' verbergen völlig unterschiedliche Methodologien. Von den 195 Benchmarks evaluieren 165 ausschließlich die englische Sprache, und 137 haben inaktive GitHub-Repositories, was auf mangelnde Pflege nach der Veröffentlichung hindeutet.

🟢 ⚖️ Regulierung 15. April 2026 · 2 Min. Lesezeit

OECD: Großbritannien setzt globalen Standard für Transparenz staatlicher Algorithmen

Die OECD analysiert den britischen Algorithmic Transparency Recording Standard (ATRS), der seit 2025 für die Zentralregierung verpflichtend ist. Bis März 2025 wurden 125 Einträge zur Algorithmennutzung veröffentlicht. Estland hat den Standard bereits übernommen, und die OECD bezeichnet ihn als 'weltweit führend'.

🟡 ⚖️ Regulierung 14. April 2026 · 2 Min. Lesezeit

Anthropic: LTBT Trust haelt nun die Mehrheit im Verwaltungsrat — ehemaliger Novartis-CEO ernannt

Anthropic hat die Ernennung von Vas Narasimhan, CEO von Novartis, in den Verwaltungsrat ueber den Long-Term Benefit Trust bekannt gegeben. Die LTBT-Direktoren bilden nun die Mehrheit im Verwaltungsrat, wodurch die Aufsicht ueber die Sicherheitsmission des Unternehmens gestaerkt wird.

🟡 ⚖️ Regulierung 12. April 2026 · 2 Min. Lesezeit

ArXiv: Mathematischer Beweis der Unmöglichkeit vollständiger Verantwortlichkeit in Mensch-KI-Kollektiven

Der Forscher Tibebu beweist ein formales Unmöglichkeitsresultat: Oberhalb einer bestimmten Autonomieschwelle von KI-Agenten können in Systemen, die Menschen und KI kombinieren, nicht alle vier Eigenschaften der Verantwortlichkeit gleichzeitig gelten.

🔴 ⚖️ Regulierung 10. April 2026 · 2 Min. Lesezeit

EU AI Office veröffentlicht ersten Jahresbericht: 19 KI-Fabriken und eine Milliarde Euro für KI-Einführung

Die Europäische Kommission hat den ersten Jahrestag des AI Continent Action Plans mit der Veröffentlichung der Ergebnisse begangen: 19 KI-Fabriken wurden über europäische Supercomputer bereitgestellt, 13 regionale AI-Factory-Antennen bieten lokalen Zugang, und eine Milliarde Euro wurde für Apply-AI-Strategy-Initiativen gesichert.