Anthropic: Chris Olah ruft die Kirche auf, zur moralischen Stimme in der KI-Entwicklung zu werden

Was sagte Chris Olah zum Vatikan?

Chris Olah, Mitgründer von Anthropic und einer der führenden Forscher zur Interpretierbarkeit von KI-Modellen, veröffentlichte am 25. Mai 2026 einen Kommentar zur päpstlichen Enzyklika „Magnifica humanitas: Über den Schutz der menschlichen Person im Zeitalter der künstlichen Intelligenz” von Papst Leo XIV. Olahs Text beschreibt KI-Modelle nicht als Ingenieurkonstrukte wie Brücken, sondern als Systeme, die auf nach dem Gehirn modellierten Strukturen „gezüchtet” werden und menschliche Sprache und Gedanken nutzen — was sie geheimnisvoll und subtil macht.

Olah verglich den Entstehungsprozess von KI-Modellen mit dem „Erwecken einer fiktiven Figur zum Leben” und betonte, wie grundlegend anders diese Technologie im Vergleich zu allem bisher Erschaffenen ist.

Zu welchen drei Themen ruft Olah zum Engagement auf?

Olah identifizierte drei Schlüsselbereiche, in denen religiöse Institutionen und die Gesellschaft insgesamt einen Beitrag leisten müssen:

1. Globale Gerechtigkeit — Bewältigung von Arbeitsplatzverlusten und Sicherstellung, dass KI-Vorteile sowohl entwickelten als auch Entwicklungsländern zugutekommen
2. Menschlicher Fortschritt — Definition von Wohlstand für Einzelpersonen und Familien in einer Zeit technologischen Wandels
3. Die Natur von KI-Systemen — Überlegungen zur Bedeutung interner Strukturen von KI-Modellen, die menschliche Neurowissenschaft widerspiegeln, einschließlich emotionsähnlicher Zustände

Warum brauchen KI-Labore externe moralische Stimmen?

Olahs zentrale These ist, dass Frontier-KI-Unternehmen — einschließlich Anthropic — unter kommerziellem, geopolitischem und persönlichem Druck stehen, der mit richtigem Handeln in Konflikt geraten kann. KI-Labore können keine ausreichenden moralischen Richter in eigener Sache bei Fragen sein, die die gesamte Menschheit betreffen.

Olah forderte „moralische Stimmen, die Anreize nicht verbiegen können” — Institutionen, die unabhängig genug von Marktkräften sind, um zu artikulieren, was gut für Menschen ist, nicht nur was profitabel oder technisch möglich ist. Die Kirche, mit ihrer reichen ethischen Tradition und globalem Einfluss, kann nach Olahs Ansicht eine solche Stimme sein.

Anthropics öffentliches Engagement mit dem päpstlichen Dokument ist ein Signal eines breiteren Trends: führende KI-Labore suchen zunehmend offen Legitimierung und Zusammenarbeit mit Institutionen, die Autorität außerhalb der technologischen Sphäre besitzen.