Analyst: Papst nutzte KI, um vor den Gefahren der KI zu warnen

Laut dem Analysten Linch Zhang wurden "erhebliche Teile" der jüngsten Enzyklika von Papst Leo XIV. über die Gefahren künstlicher Intelligenz (KI) tatsächlich selbst von künstlicher Intelligenz verfasst.

In der 42.000 Wörter umfassenden Enzyklika "Magnifica Humanitas" (Die glorreiche Menschheit) warnte der Papst vor der wachsenden, staatsähnlichen Macht des Silicon Valley, der Unmoral autonomer Waffensysteme und den Gefahren, die entstehen, wenn KI "einen neuen Turm zu Babel" errichtet und den Menschen zu einer "ausbeutbaren Ressource" degradiert.

Analyse

Tödliches Geschäft: Ukraine als Testgelände für Silicon Valleys militärische KI

Trotz des Appells, KI zu regulieren und zu "entwaffnen", wiesen große Teile von Magnifica Humanitas deutliche Anzeichen dafür auf, von KI geschrieben worden zu sein, behauptete Zhang in einem Blogbeitrag am Dienstag.

"Formulierungen und Satzzeichen, die von KI viel häufiger verwendet werden, sind in dieser päpstlichen Enzyklika deutlich präsenter als in früheren Enzykliken", schrieb Zhang und verwies auf die Verwendung von Gedankenstrichen (127 Mal, verglichen mit 26 in den vier Enzykliken von Papst Franziskus) und "Trikolons: drei parallele Wörter, Phrasen oder Satzteile, die rhetorischen Zwecken dienen."

Zhang analysierte den Text mit dem KI-Detektor Pangram und stellte fest, dass einige Absätze "praktisch zu 0 Prozent von KI" stammten, andere hingegen zu 40 bis 100 Prozent. Alle vier Enzykliken von Franziskus sowie die Schriften der Päpste Benedikt XVI. und Johannes Paul II. wurden hingegen als vollständig von Menschen verfasst eingestuft. Pangram identifizierte auch die italienische Version der Enzyklika als KI-generiert, was darauf hindeutet, dass künstliche Intelligenz nicht nur zur Übersetzung des Dokuments eingesetzt wurde.

Als Zhangs Experiment von The Verge wiederholt wurde, stellte sich heraus, dass etwa 46 Prozent der Enzyklika von einer KI verfasst worden waren.

Das verwendete Sprachmodell (LLM) war laut Zhang wahrscheinlich das Claude-Sprachmodell von Anthropic. Er begründete dies mit seiner Vertrautheit mit diesem Modell und dessen häufigem Gebrauch bestimmter Wörter wie "echt".

Die Tatsache, dass bestimmte Abschnitte scheinbar völlig frei von KI sind, deute laut Zhang darauf hin, dass "einige hochrangige Vatikanbeamte bei dieser Enzyklika stark auf KI-Unterstützung zurückgriffen, viele andere (vermutlich auch Papst Leo selbst) jedoch nicht."

"Meine vorläufige Hypothese ist, dass Papst Leo den Einsatz von KI in Enzykliken nicht gutheißt und möglicherweise gar nichts von dem umfangreichen KI-Einsatz in seiner eigenen Enzyklika wusste", schloss Zhang.

Der Vatikan hat sich zu Zhangs Behauptungen nicht geäußert. Auch Anthropic, dessen Mitbegründer Christopher Olah am Montag gemeinsam mit dem Papst eine Rede hielt, hat nicht Stellung bezogen.

Mehr zum Thema - Papst Leo XIV. kritisiert Europas Aufrüstung als "Verrat" an der Diplomatie