Papst fordert Richtlinien für KI – und bittet um Entschuldigung wegen Sklaverei
Papst Leo XIV. hat in seiner ersten eigenen Enzyklika strenge Richtlinien für den Umgang mit Künstlicher Intelligenz (KI) verlangt. Nach einem Jahr im Amt warnte das Oberhaupt von weltweit 1,4 Milliarden Katholiken in dem Schreiben vor zahlreichen Gefahren, die die neue Technologie für das menschliche Zusammenleben bedeute. Er sieht aber auch Chancen. Die mehr als 100 Seiten lange Abhandlung trägt den Titel Magnifica Humanitas (Grossartige Menschheit).
Das erste Lehrschreiben in der Amtszeit eines neuen Papstes gilt vielfach als eine Art Regierungserklärung für dessen Pontifikat. Solche «Rundschreiben» – so die wörtliche Bedeutung – sollen Gläubigen in aller Welt einen moralischen Kompass geben. Als Nachfolger des verstorbenen Papstes Franziskus ist Leo seit Mai vergangenen Jahres im Amt. Er ist der erste US-Amerikaner an der Spitze der katholischen Weltkirche.
«Über die Bewahrung des Menschen im Zeitalter der KI»
Der Titel der Enzyklika kann zwei Sachen bedeuten: Humanitas lässt sich sowohl mit Menschheit als auch mit Menschlichkeit übersetzen – für Leo der grosse Unterschied zu KI und Maschinen. Die Unterzeile lautet: «Über die Bewahrung des Menschen im Zeitalter der Künstlichen Intelligenz». In dem Text geht es auch um Themen wie Krieg und Frieden sowie die Arbeitswelt.
Leo betont, dass KI vielfach eine «wertvolle Hilfe» sein könne. Vor allem warnt er jedoch vor deren Risiken – beispielsweise, dass nur wenige Mächtige mit jetzt schon viel Besitz davon profitieren. «Kleine, sehr einflussreiche Gruppen können Informationen und Konsum lenken, demokratische Prozesse bestimmen und die wirtschaftliche Dynamik beeinflussen.»
Leo äusserte sich in Zusammenhang mit der Frage, was Künstliche Intelligenz (KI) für die Arbeitswelt bedeutet. In seinem Text ist von «neuen Formen der Sklaverei» die Rede – beispielsweise in KI-Rechenzentren oder bei der Herstellung von Mikrochips beziehungsweise technischen Geräten wie Computer oder Smartphones, in denen KI zum Einsatz kommt. In einigen Weltregionen der Welt arbeiteten auch Kinder und Jugendliche unter gefährlichen Bedingungen. «Körper werden verletzt, verstümmelt und verbraucht, damit der Datenfluss nicht zum Stillstand kommt», so der Papst. «Diese Wirklichkeit stellt das moralische Gewissen unserer Zeit vor eine grosse Herausforderung.» (sda/dpa)
Kritik an Tech-Milliardären aus den USA
Deshalb sei es «unerlässlich, dass der Einsatz von KI – insbesondere, wenn es um öffentliche Güter und Grundrechte geht – von klaren Kriterien und wirksamen Kontrollen begleitet wird». Leo schlägt einen «Ethik-Kodex» vor. Auch der Umgang mit Nutzerdaten müsse geregelt werden. Allerdings nütze auch das nichts, «wenn diese Moral von einigen wenigen bestimmt wird». Vielfach wird das als Kritik an Tech-Milliardären aus den USA verstanden.
Besonders kritisch äusserte sich der Pontifex über die Auswirkungen von Künstlicher Intelligenz auf Konflikte. Mit KI-gestützten autonomen Waffensystemen seien Kriege «durchführbarer» gemacht worden, heisst es in dem Schreiben. Die KI müsse «entwaffnet» werden. Keinesfalls dürften Maschinen allein über Leben und Tod entscheiden.
«Bleiben wir der Wahrheit treu»
Bei der Vorstellung der Enzyklika im Vatikan war Leo selbst dabei – ein Novum für die Kirche. In einer kurzen Stellungnahme mahnte er, angesichts der rasanten Entwicklung wachsam zu sein. Anwesend war auch der Mitgründer des KI-Konzerns Anthropic, der Tech-Milliardär Chris Olah. Das Unternehmen liegt im Streit mit US-Präsident Donald Trump, weil es seine KI-Modelle nicht für autonome Waffensysteme zur Verfügung stellen will. Trump hatte sowohl Anthropic als auch den Papst zuletzt mehrfach kritisiert.
In dem Schreiben warnte Leo auch davor, auf KI-Lügen und -Fälschungen hereinzufallen: «Bleiben wir der Wahrheit treu!» Bei den «unaufhörlichen Flüssen von Informationen, Meinungen und Bildern» würden viele Fake News verbreitet. Zum Beispiel hatte Trump auf dem Höhepunkt seines Streits mit dem Papst ein KI-generiertes Bild veröffentlicht, das ihn selbst als Jesus zeigte. Erwähnt wird der US-Präsident in der Enzyklika nicht.
Papst nimmt Bezug auf Vorgänger Leo XIII.
Die Enzyklika trägt das Datum 15. Mai. An diesem Tag war es genau 135 Jahre her, dass Leos Namensvetter Leo XIII. seine Enzyklika «Rerum novarum» («Über die neuen Dinge») veröffentlichte. Damit legte der «Arbeiterpapst» die Grundlagen für die katholische Soziallehre infolge der industriellen Revolution. Manche Experten bezeichnen das neue Schreiben jetzt schon als «KI-Sozialenzyklika».
Solche Lehrschreiben von Päpsten gibt es seit dem 18. Jahrhundert. Benannt sind sie in der Regel nach ihren ersten zwei oder drei Wörtern. Leos «Magnifica Humanitas» beginnt mit dem Satz: «Die grossartige Menschheit, geschaffen von Gott, steht heute vor einer entscheidenden Wahl: Entweder errichtet sie einen neuen Turm zu Babel oder sie erbaut die Stadt, in der Gott und die Menschheit gemeinsam wohnen.» Das biblische Gleichnis vom Turmbau zu Babel gilt als Sinnbild für menschlichen Hochmut und Grössenwahn.
Der Namensvetter des heutigen Papstes, Leo XIII., veröffentlichte in seiner Amtszeit mehr als 90 Enzykliken. Auf ihn beruft sich der Pontifex aus den USA immer wieder. Viele erwarten deshalb, dass er ebenfalls viele solche Lehrschreiben verfassen wird – auch, weil erwartet wird, dass Leo lange im Amt sein wird. Papst Franziskus, sein unmittelbarer Vorgänger, brachte in zwölf Amtsjahren vier Enzykliken heraus. (sda/dpa)
