45 Nachrichten
OpenAI hat formell einen Satz von Grundsätzen veröffentlicht, der definiert, unter welchen Bedingungen und Grenzen das Unternehmen mit staatlichen Stellen und Organisationen der nationalen Sicherheit zusammenarbeitet, und dabei demokratische Aufsicht sowie Gemeinschaftsschutz betont.
Die Europäische Kommission hat heute einen gemeinsamen Aktionsplan für Cybersicherheit und KI vorgestellt, der auf dem bestehenden EU-Rechtsrahmen aufbaut, Mitgliedstaaten und Industrie koordiniert und KI gleichzeitig als Angriffsvektor und als Abwehrwerkzeug adressiert.
NVIDIAs AI-Nations-Initiative zeigt, wie Frankreich, Indien und Brasilien heimische KI-Kapazitäten nach einem Fünf-Komponenten-Rahmen für nationale Strategie aufbauen. Kernthese: KI-Rechenzentren sind heute souveräne Infrastruktur – ebenso wie Straßen und Stromnetze.
Das britische AI Security Institute zeigt, dass Evaluierungen von KI-Agenten mit festem Token-Budget die Fähigkeiten von Frontier-Modellen systematisch unterschätzen. Eine Erhöhung des Budgets von einer auf zehn Millionen Token steigert die Leistung bei Software-Engineering-Aufgaben um bis zu 25 Prozent und bei mathematischen Tests um 22 Prozent. Das AISI fordert Regulierungsbehörden auf, von Benchmark-Noten auf Fähigkeitskurven umzusteigen, die variables Rechenbudget berücksichtigen.
Mapping Europe's AI Workforce ist OpenAIs Bericht, der analysiert, wie KI-Technologien Berufe und Arbeitsplätze in der gesamten Europäischen Union umgestalten können — mit Schwerpunkt auf Chancen für die europäische Arbeitnehmerschaft statt ausschließlich auf Automatisierungsrisiken.
Die Europäische Kommission hat eine vorläufige Entscheidung getroffen, dass AWS und Microsoft Azure als Gatekeeper gemäß dem Digital Markets Act (DMA) eingestuft werden sollen — mit strengen Regulierungspflichten für einen fairen Wettbewerb in der EU.
GitHub, Black Forest Labs, Hugging Face und Mozilla haben eine Koalition gebildet, die Änderungen am California AI Transparency Act (SB 942/SB 1000) fordert. Die umstrittene Klausel zwingt Open-Source-Projekte zur Lizenzentzug wegen Verstößen nachgelagerter Nutzer — unvereinbar mit dem Modell der ewigen Lizenz.
OpenAI ist der Appia Foundation beigetreten, einem neuen internationalen Gremium, das gemeinsame Standards für die Bewertung und Sicherheitspraktiken fortgeschrittener KI entwickelt. Ziel ist eine globale Branchenzusammenarbeit anstelle fragmentierter nationaler Rahmenwerke; die Ankündigung erfolgte am 23. Juni 2026.
EUROPA ist ein Konsortium, das die Europäische Kommission am 19. Juni 2026 als Gewinner des Frontier AI Grande Challenge ausgewählt hat. Geführt vom italienischen Unternehmen Domyn, wird das Konsortium ein offenes europäisches Frontier-Modell mit mehr als 400 Milliarden Parametern aufbauen, das alle 24 Amtssprachen der EU unterstützt und Unternehmen, Forschern und öffentlichen Einrichtungen zur Verfügung stehen wird.
Die Europäische Kommission hat ihren vierten jährlichen Bericht zum Stand des Digitalen Jahrzehnts veröffentlicht, der die Fortschritte der EU bei den digitalen Zielen für 2030 in den Bereichen Infrastruktur, Wirtschaft, Kompetenzen und öffentliche Dienste bewertet. Der Bericht erkennt KI, Halbleiter, Cloud und Open Source als Säulen der europäischen technologischen Souveränität an und nennt die Lieferung von Ergebnissen in Umfang, Tempo und Konsistenz als zentrale Herausforderung. Laut Eurobarometer stuft eine große Mehrheit der Europäer die Digitalpolitik als oberste EU-Priorität ein.
CNCF veröffentlichte einen Leitfaden zu Architekturmustern für die digitale Souveränität cloud-nativer Plattformen, da der EU Data Act seit dem 11. Januar 2025 vollständig anwendbar ist. Regulatoren erwarten vier Eigenschaften: Jurisdiktionsbegrenzung, operative Autonomie, kryptografische Zugangskontrolle und Portabilität. Ein einzelner Kubernetes-Cluster reicht nicht aus, da ein gemeinsamer Control Plane gemeinsames Risiko bedeutet; das vorgeschlagene Muster gibt jeder Jurisdiktion einen eigenen Control Plane (vCluster), mit GitOps-Deklaration der Grenzen.
AgentFairBench ist das erste Benchmark, das demografische Ungleichheit in den tatsächlichen Aktionen von LLM-Agenten misst — nicht nur in ihren Antworten — in den Bereichen Beschäftigung, Kreditvergabe und medizinische Triage. Es verwendet die Metriken Counterfactual Flip Rate und Action-Rate Disparity und testet vier Agenten-Scaffolds. In einem Pilot mit 864 Entscheidungen zeigte Claude Haiku keinen demografischen Effekt über dem Rauschen; die Studie warnt, dass naiver Vergleich von sechs Gruppen Ungleichheit um den Faktor 2,4 überschätzen kann.
Die Studie stellt einen Bayesschen Auditrahmen vor, der zeigt, dass ein einzelner finaler Bestenlisten-Schnappschuss mit 1.000 Systemen mehreren unvereinbaren historischen Entwicklungspfaden entsprechen kann, mit Konvergenzzeiten von 23 bis 75 Schritten. Gestützt auf archivierte Daten von LiveBench, Open LLM Leaderboard v2, LMArena, GAIA und tau-bench schlägt der Autor ein Archive-and-Adjudication-Protokoll zur Rekonstruktion der Bewertungshistorie vor.
Anthropic hat einen detaillierten Vorschlag für einen Regulierungsrahmen für Frontier-KI veröffentlicht, der schwellenwertbasierte Anforderungen an Rechenleistung und Unternehmenseinnahmen, vier Kategorien katastrophaler Risiken sowie Anforderungen an unabhängige Evaluierung und Modellschutz einführt.
Die OECD analysiert, wie künstliche Intelligenz globale Ernährungssysteme stärken kann, die unter dem Druck von Klima, fragilen Lieferketten und Arbeitskräftemangel stehen. Der Text hebt drei Hürden hervor — isolierte Daten, schlechte Zugänglichkeit für Kleinbauern und Hürden beim Skalieren. Er empfiehlt eine stärkere internationale Zusammenarbeit über die OECD und GPAI.
Die OECD hat die erste Version des AI Policy Toolkit veröffentlicht, eines praktischen und nicht-präskriptiven Leitfadens, der politischen Entscheidungsträgern hilft, die OECD-KI-Prinzipien in konkretes Handeln umzusetzen. Die interaktive Plattform mit KI-gestützter semantischer Suche begleitet den gesamten KI-Politikzyklus und entstand durch Ko-Kreation in mehreren Regionen unter Beteiligung Italiens, Frankreichs, Koreas, Japans, des UK und der Europäischen Union.
OpenAI hat zu globalem Handeln für die Sicherheit junger Menschen im Kontext künstlicher Intelligenz aufgerufen. Das Unternehmen schlägt die Gründung eines internationalen Instituts vor, das Schutzmechanismen, Standards und Chancen für junge Menschen stärken würde, ein Policy-Vorschlag an Regulierer und Partner.
OpenAI veröffentlichte ein gemeinsames Handbuch für externe Evaluierungen von KI-Modellen. Das Dokument beschreibt, wie unabhängige Prüfer die Fähigkeiten von Modellen zuverlässig messen, Sicherheitsmechanismen testen und die Gültigkeit der Ergebnisse für fortschrittliche Frontier-Systeme bestätigen können.
Das Frontier Governance Framework ist ein am 28. Mai 2026 von OpenAI veröffentlichtes Dokument, das beschreibt, wie seine Praktiken für AI Safety, Security und Risikomanagement mit den entstehenden Regulierungen der Europäischen Union und des US-Bundesstaats Kalifornien in Einklang gebracht werden. Ziel ist es, die Übereinstimmung interner Governance mit externen regulatorischen Anforderungen zu zeigen.
Das britische AI Safety Institute (UK AISI) und das australische AI Safety Institute unterzeichneten am 25. Mai 2026 ein Kooperationsabkommen über bewährte KI-Evaluierungspraktiken und den Austausch von Forschungsergebnissen. Die Partnerschaft erweitert das Netzwerk internationaler KI-Sicherheitsinstitutionen und stärkt einen koordinierten Ansatz zur Risikobewertung fortgeschrittener KI-Systeme.
UK AI Safety Institute (AISI) veröffentlichte am 21. Mai 2026 einen Bericht zur Zukunft der Aufsicht über fortgeschrittene KI-Systeme, gestützt auf 25 Experteninterviews aus Industrie, Regierung und Wissenschaft. Kernbefund: Die bestehende Aufsicht gründet auf Fundamenten, die voraussichtlich erodieren werden. Mehr als 20 verschiedene Degradierungspfade für Aufsichtsmechanismen wurden identifiziert — mit besonderem Fokus auf latentes Reasoning, Capability Masking, externe KI-Aktionen und KI-zu-KI-Kommunikation.
Die Europäische Kommission eröffnete am 13. Mai 2026 eine gezielte öffentliche Konsultation zum Entwurf von Leitlinien für die Einstufung von KI-Systemen als hochriskant gemäß EU-KI-Gesetz. Die Frist endet am 22. Mai um 18 Uhr MEZ. Die Leitlinien entscheiden, welche Organisationen in Gesundheit, Bildung, Infrastruktur und HR die strengsten Anforderungen erfüllen müssen.
Google DeepMind hat eine nationale KI-Partnerschaft mit der singapurischen Regierung unterzeichnet, die Gesundheit, Bildung und Nachhaltigkeit abdeckt. Bis 2040 könnte KI der singapurischen Wirtschaft durch beschleunigten F&E-Zyklus zusätzliche 2,5 Milliarden Dollar bringen.
OpenAI tritt in die zweite Phase der Initiative „Education for Countries" ein — weitet Partnerschaften mit Regierungen aus, führt das OpenAI-Luminaries-Programm für Lehrkräfte ein und bietet Zertifikate über die OpenAI Academy an. Ziel ist die systematische Integration von KI-Werkzeugen in nationale Bildungssysteme mit messbaren Ergebnissen.
OECD.AI und das EU-KI-Büro haben einen Analysebericht veröffentlicht, der dokumentiert, wie Europa KI in vier strategischen Sektoren einsetzt — Landwirtschaft, Gesundheit, Industrie und Mobilität — mit konkreten aktiven Projekten und identifizierten Hindernissen.
Die Europäische Kommission hat eine öffentliche Konsultation zu Leitlinienentwürfen eröffnet, die definieren, wann ein KI-System unter die Hochrisiko-Kategorie des KI-Akts fällt. Interessierte — von Entwicklern bis zur Zivilgesellschaft — können bis 23. Juni 2026 um 22:00 Uhr MEZ Rückmeldungen einreichen.
How fast is autonomous AI cyber capability advancing? ist ein neuer Bericht des UK AI Safety Institute (AISI), der am 13. Mai 2026 veröffentlicht wurde. Durch Messung von Cyber-Time-Horizons-Benchmarks (2,5-M-Token-Budget, 80-%-Erfolgsschwellenwert) stellte AISI fest, dass sich die Länge der Cyber-Aufgaben, die KI-Modelle autonom lösen, alle 4,7 Monate verdoppelt. Claude Mythos Preview ist das erste Modell, das beide Cyber-Ranges gelöst hat (The Last Ones 60 %, Cooling Tower 30 %); GPT-5.5 löste The Last Ones mit 30 %.
Anthropic Research 2028 AI Leadership Scenarios ist ein neues Policy-Paper vom 14. Mai 2026, das zwei geopolitische Szenarien für KI-Dominanz bis 2028 beschreibt. Szenario 1: US-Demokratien halten 12-24 Monate Vorsprung durch Exportkontrollen und Modellverteidigung. Szenario 2: China erreicht Parität durch Destillationsangriffe und $2,5 Mrd. Supermicro-artigen Chip-Schmuggel. Anthropic empfiehlt die Schließung von Schlupflöchern, defensive Gesetzgebung und die Förderung amerikanischer KI-Exporte.
Das Fine-Tuning FLOPs Meter Toolkit ist eine neue AWS SageMaker AI-Erweiterung vom 12. Mai 2026, die während des Fine-Tunings von LLMs automatisch die Compute-Schwellenwerte des Europäischen KI-Gesetzes (3,3×10²² FLOPs, 3,3×10²⁴ für systemisches Risiko) verfolgt. Es wird mit einem einzigen Flag compute_flops=true im Recipe-YAML aktiviert und generiert automatisch Audit-Dokumentation in S3 und DynamoDB.
Die Europäische Kommission hat einen Entwurf der Leitlinien zu den Transparenzpflichten des KI-Gesetzes veröffentlicht und eine öffentliche Konsultation eröffnet. Die Konsultation läuft bis 3. Juni 2026, die Pflichten treten am 2. August 2026 in Kraft. Anbieter müssen KI-generierte Inhalte mit maschinenlesbaren Markern kennzeichnen und Nutzer über die Interaktion mit KI-Systemen informieren.
Die Europäische Kommission, das Parlament und der Rat haben eine politische Einigung über das Digital-Omnibus-Paket erzielt, das den AI Act vereinfacht und ein ausdrückliches Verbot von Nudification-Apps einführt. Hochrisiko-KI-Systeme gelten ab 02.12.2027, KI in Produkten ab 02.08.2028.
Ein neues Paper zeigt, dass die Sicherheit klinischer KI-Modelle nicht denselben Skalierungsgesetzen folgt wie ihre Genauigkeit — sauberere Belege im RAG heben die Genauigkeit von 73,5 % auf 94,1 % und senken Hochrisiko-Fehler von 12 % auf 2,6 %, mehr als jeder Modellskalierungseffekt.
Das UK AI Security Institute hat am 5. Mai eine Partnerschaft mit Microsoft zur Frontier-KI-Sicherheit bekannt gegeben. Die Zusammenarbeit umfasst drei Forschungsbereiche: Bewertung hochriskanter Fähigkeiten, Testen von Schutzmaßnahmen und Erforschung gesellschaftlicher Resilienz gegenüber konversationeller KI.
Am 5. Mai 2026 schloss das NIST Center for AI Standards and Innovation (CAISI) erweiterte Vereinbarungen mit Google DeepMind, Microsoft und xAI für Pre- und Post-Deployment-Tests von Frontier-Modellen ab. CAISI hat bislang mehr als 40 Evaluierungen durchgeführt, darunter unveröffentlichte Spitzenmodelle, und führt Tests routinemäßig in klassifizierten Umgebungen mit entfernten Schutzmaßnahmen durch.
LangChain hat veröffentlicht, wie LangSmith und LangChain OSS wichtige Artikel des EU AI Acts abdecken — von Risk Management (Art. 9) bis Post-Market Monitoring (Art. 72). Die Frist für Hochrisiko-KI-Systeme ist der 2. August 2026, und Bußgelder können 15 Millionen Euro oder 3 % des globalen Jahresumsatzes erreichen.
OpenAI gab am 27. April 2026 die FedRAMP Moderate-Autorisierung für ChatGPT Enterprise und die OpenAI API bekannt. Damit öffnet sich der Weg zur sicheren Einführung generativer KI-Technologie in US-Bundesbehörden auf einer Compliance-Ebene, die sensible, aber nicht klassifizierte Daten abdeckt.
Chris Schneider, Philipp Schoenegger und Ben Bariach veröffentlichten am 23. April 2026 das Paper 'Separable Expert Architecture', das eines der größten DSGVO-Probleme personalisierter KI-Modelle löst: wie Daten einzelner Nutzer ohne Retraining des gesamten Modells gelöscht werden können. Die dreischichtige Architektur (statische Basis, zusammensetzbare LoRA-Adapter, benutzerspezifische Proxy-Artefakte) macht Unlearning zu einer deterministischen Löschoperation. Evaluiert auf Phi-3.5-mini und Llama-3.1-8B.
Google DeepMind und das koreanische Ministerium für Wissenschaft und IKT (MSIT) haben am 27. April 2026 eine Partnerschaft zur Beschleunigung wissenschaftlicher Entdeckungen und KI-Innovationen bekannt gegeben. Die Zusammenarbeit umfasst die Gründung eines AI Campus in Seoul, den Zugang akademischer Einrichtungen zu fortgeschrittenen KI-Tools wie AlphaFold und AlphaGenome sowie eine Kooperation mit dem koreanischen AI Safety Institute zu Sicherheitsfragen.
Die Europäische Kommission hat die Ausschreibung DIGITAL-2026-BESTUSE-AWARENESS im Wert von 6 Millionen Euro eröffnet, um einen gemeinsamen Forschungsrahmen gegen manipulative KI-Inhalte aufzubauen. Die Ausschreibung setzt den im November 2025 angekündigten Europäischen Demokratischen Schild um und nimmt Anträge bis 1. Oktober 2026 entgegen.
Die Europäische Kommission hat sieben Ausschreibungen mit einem Gesamtvolumen von 63,2 Millionen Euro im Rahmen des Digital-Europe-Programms eröffnet. Die Mittel sind für KI-Innovationen im Gesundheitswesen (Krebs, Herzerkrankungen), Online-Kinderschutz und Regulierungswerkzeuge vorgesehen und sind Teil des umfassenderen KI-Kontinent-Aktionsplans.
AISafetyBenchExplorer ist ein strukturierter Katalog, der 195 KI-Safety-Benchmarks aus den Jahren 2018 bis 2026 dokumentiert. Die Forschung deckt eine alarmierende Fragmentierung im Feld auf — Begriffe wie 'accuracy' und 'safety score' verbergen völlig unterschiedliche Methodologien. Von den 195 Benchmarks evaluieren 165 ausschließlich die englische Sprache, und 137 haben inaktive GitHub-Repositories, was auf mangelnde Pflege nach der Veröffentlichung hindeutet.
Die OECD analysiert den britischen Algorithmic Transparency Recording Standard (ATRS), der seit 2025 für die Zentralregierung verpflichtend ist. Bis März 2025 wurden 125 Einträge zur Algorithmennutzung veröffentlicht. Estland hat den Standard bereits übernommen, und die OECD bezeichnet ihn als 'weltweit führend'.
Anthropic hat die Ernennung von Vas Narasimhan, CEO von Novartis, in den Verwaltungsrat ueber den Long-Term Benefit Trust bekannt gegeben. Die LTBT-Direktoren bilden nun die Mehrheit im Verwaltungsrat, wodurch die Aufsicht ueber die Sicherheitsmission des Unternehmens gestaerkt wird.
Der Forscher Tibebu beweist ein formales Unmöglichkeitsresultat: Oberhalb einer bestimmten Autonomieschwelle von KI-Agenten können in Systemen, die Menschen und KI kombinieren, nicht alle vier Eigenschaften der Verantwortlichkeit gleichzeitig gelten.
Die Europäische Kommission hat den ersten Jahrestag des AI Continent Action Plans mit der Veröffentlichung der Ergebnisse begangen: 19 KI-Fabriken wurden über europäische Supercomputer bereitgestellt, 13 regionale AI-Factory-Antennen bieten lokalen Zugang, und eine Milliarde Euro wurde für Apply-AI-Strategy-Initiativen gesichert.